Yapay zekâ teknolojileri, üretken araçlarla akıllı telefonlarımızda bile kullanabileceğimiz hâle gelmiş ve milyarlarca kişinin hizmetine sunulmuş olsa da aslında yıllardır hayatımızda büyük bir hisseye da sahipler. Birçok kesimde bu teknolojiler, güvenlik, öngörü, işleyiş ve kolaylaştırma amaçlı kullanılıyor.
Tabii birtakım kullanımlar, vakit zaman tartışmalara yol açabiliyor; ABD’de polis güçlerinin bu sistemleri yüz tanıma için kullanması üzere. Daha evvel bu teknoloji yüzünden haksız yere suçlanan vatandaşlar görmüştük. Bunlar ortasına yakın vakitte bir yenisi daha katıldı.
Yanlış gözaltıyla yaşananlar:
İki çocuk sahibi ve üçüncü çocuğuna 8 aylık gebe olan 32 yaşındaki siyahi bayan Porcha Woodruff, meskeninde çocuklarını okula göndermeye hazırlanırken kapısını polisler çaldı. Grup, Woodruff’ı otomobil hırsızlığı suçlamasıyla konutundan aldı.
Woodruff, bu müsabaka sırasında “Şaka mı yapıyorsunuz?” sorusunu sorup karnına işaret ederek cürüm işleyecek durumda bile olmadığını anlatmaya çalışsa da işe yaramadı. Detroit Gözaltı Merkezi’ne götürüldü ve burada 11 saat tutuldu.
Gözaltı sırasında telefonu aranmak üzere elinden alındı, kendisi de işlemediği bir kabahat için sorguya çekildi. Üstelik gözaltında kaldığı hücre içinde sırt ağrısı çekti, kasılmalar yaşadı. Daha da üstüne, özgür kalabilmesi için 100 bin dolarlık kefalet öngörüldü.
Tabii iş burada bitmedi. Gözaltından çıkan Woodruff, direkt hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yoluyla sıvı desteği yapıldı.
Bir sonraki gün polis departmanına giderek telefonunu aldı, ilerleyen vakitlerde iki defa Zoom üzerinden mahkemeye çıktı. Lakin yargıç, yetersiz kanıt gerekçesiyle davayı düşürdü.
Fakat tüm bunlar, yalnızca yanlış çalışan bir yüz tanıma sistemi nedeniyle gerçekleşti ve geçtiğimiz şubat ayında yaşandı.
Yapay zekâ, altıncı sefer yanlış kişinin gözaltına alınmasına/tutuklanmasına yol açtı: Hepsinin bir ortak noktası var!
Woodruff, ABD’de yapay zekâ nedeniyle gözaltına alındığı bilinen altıncı kişi ve birinci bayan oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Vaka, Detroit Polis Departmanı içinse üçüncü olay oldu.
Şehir polisi, DataWorks Plus tarafından sağlanan bir yüz tanıma sistemini kullanıyor.
Woodruff, bu hafta Detroit kentine dava açtı:
Yaşanan olayların üzerine Woodruff, salı günü Detroit kentine karşı dava açtı. Davanın açılmasıyla birlikte Detroit polisinden de açıklama geldi. Şef James E. White, The New York Times’a yaptığı açıklamada durumu ciddiye aldıklarını tabir etti:
Yüz tanıma sisteminin yanlış çalışma mantığı:
- Woodruff’ın yanlış eşleştirilmesine yol açan fotoğrafı (sol) ve şimdiki hali (sağ).
Woodruff’ın yüzünün asıl suçluyla eşleştirilmesinin nedeni, yapay zekâ için geliştirilen sistemdeki açık verebilecek uygulamaydı. Sistem, bireyleri daha evvel kriminal aktiviteleri olan bireylerle karşılaştırıyordu. Sistemden gelen eşleştirmelerin son onayı ise bir insan tarafından veriliyordu.
Woodruff’ın gözaltına alınmasına neden olan olayı inceleyen analist de eşleşmeyi gerçek buldu ve Woodruff’ın ismini dedektife gönderdi. Woodruff’ın bu sistemde yüzünün olma nedeni ise 2015 yılında ehliyetsiz araç kullanmaktan göz altına alınmasıydı.
Ancak tek kabahat sistemde de değil:
Eşleştirmeyi hakikat bulan analistin yanı sıra araç hırsızlığının mağduru olan kişi de ortalarında Woodruff’ın yer aldığı 6 kişiyi kendi gözüyle gördü, hatalı olarak Woodruff’a işaret etti. Bayanın gözaltına alınmasını sağlayan son faktör de aslında buydu.
Detroit polisi, 2020’de yine gündemdeydi:
Sadece Detroit değil, ABD’nin farklı bir yerinde daha emsal bir olay yaşanmıştı:
Kaynak: WebTekno
