Günümüz dünyasının yükselen trendi olan yapay zekâ sistemleri, sağladığı faydaların yanında taşıdığı risklerle de gündeme geliyor. Son dönemde ABD'de polis, aralarında 8 aylık hamile Porcha Woodruff'un da olduğu 6 kişiyi yapay zekâlı yüz tanıma araçlarına güvenerek haksız yere gözaltına aldı. Mahkeme belgelerine göre, Woodruff'un haksız yere gözaltına alınması, Detroit polisine bir benzin istasyonunun silahla soyulduğunun bildirilmesinin ardından yaşandı.
YANLIŞ TEŞHİS
İddiaya göre, polis olaya karışan bir kadının kamera kayıtlarını bulunca zanlının yüzünü DataWorks Plus adlı bir yüz tanıma aracına yükledi. Yazılım programı, aramayı tamamlayınca Woodruff'un adını verdi. Üstelik Woodruff'un sisteme kayıtlı fotoğrafının henüz 8 yaşındayken çekildiği, yapay zekânın bu fotoğrafı kullanarak suçsuz kadının adını verdiği anlaşıldı. Nihayetinde Woodruff'un bu suçları işlemediği ve polis teşkilatının kullandığı yüz tanıma yazılımının onu yanlışlıkla teşhis ettiği ortaya çıktı.
DAVA AÇACAK
Mağdur olan ve yetkililere dava açmaya hazırlanan Woodruff, şubat ayında çocuklarını okula göndereceği bir gün kapıya gelen Detroit polisi tarafından evinden alındığını söyledi. Woodruff, gözaltı sırasında hırsızlık ve araba çalmakla suçlandığını, hamileliğinin son döneminde olduğu için karakolda sancılandığını ama nezarette birkaç saat beklemek zorunda kaldığını ifade etti. Bu arada yapay zekâ teşhisiyle suçsuz yere gözaltına alınan 6 kişinin tamamının siyahi olduğu belirtiliyor.
