Yapay zekâ ne enteresan bir hadise. Dijital baronlar bununla yürüyor. Sosyal medyada yapılan edilenlerin müsebbibi de o. "Abi biz şey etmedik yapay zekâ etti!"
İstediğini kısıtlıyor, istediğini cezalandırıyor.
Bankalara kredi için başvuruyorsunuz, "Kusura bakmayın sistem sizi reddetti" diyorlar ya, işte o sistem, yapay zekâ.
Eski yıllarda sistem deyince kapitalist sistem anlardık. Kahrolsun falan. Bir başka sistem de sosyalist sistemdi. O da kapitalizmin devlet eliyle yürütüleniydi. Yani sistem denen yoksul kitlelerin ezilip sömürüldüğü bir esaret düzeniydi.
Neyse mevzu o değil, mevzu yapay zekâ...

***

1950'li yıllarda İngiliz matematikçi Alan Turing, insan düşünce süreçlerinin bir bilgisayar programında çoğaltılabileceği fikrinden hareketle makinelerin düşünüp düşünemeyeceğini sorgulamış. Ve bunu ölçmek amacıyla günümüzde "Turing Testi" olarak adlandırılan bir test geliştirmişti.
Turing'in bu testini henüz geçebilen bir makine yok. Burası iyi bir şey. Buna karşın insan zekâsı, satranç gibi oyunlarda yapay zekâ algoritmalarını geçemiyor. Orası hay bin kunduz!

***

Akıllı teknolojiler her gün hayatımıza sızmakta ve değiştirmekte.
Ne var ki bu hızlı değişim daima faydalı sonuçlar vermiyor. Bu teknolojileri üretenlerin ideolojik önyargıları algoritmalara yansıyor.
Gana kökenli, MIT bilgisayar yüksek lisans öğrencisi Joy Buolamwini, yüz analizi programı üzerine çalışırken şaşırtıcı bir şey görüyor. Makine onun yüzünü tanıyamıyor, dahası bir insan yüzü olduğunu bile algılayamıyor.
Çünkü Joy, siyahi biri! Önce bunun bir tesadüf olduğunu sanıyor. Kalkıp profil resmini farklı yüz tanıma mecralarına gönderiyor. Programlar yüzünü ya tanımıyor ya da yanlış cinsiyet olarak görüyor!
Söz konusu programlar, farklı fotoğraflardaki yüzlerin cinsiyet, yaş ve ruh durumunu analiz eden popüler yüz tanıma sistemleri. İşin içinde kriminolojik sınıflandırılma tehlikesi de var. Bir anda terörist listesine girebilirsiniz mesela.
Joy, araştırmasını sürdürdükçe yaygın kullanılan yüz tanıma programlarının 'Beyaz' olmayan yüzleri tanımlamada başarısız olduğunu tespit ediyor.
Daha sonra eleman, bazı Afrika ve Avrupa ülkelerinden farklı özelliklere, cilt tonlarına ve cinsiyete sahip binin üzerinde politikacının profil resimlerini test etmeye karar veriyor. Microsoft, IBM vesaire tarafından üretilmiş üç tanıma teknolojisinin, beyaz erkeklerde neredeyse yüzde 99 eşleştirme yaparken, siyahlarda bu başarıyı sağlayamadığını, özellikle de esmer renkli kadın yüzlerini yanlış tanımladığını ortaya çıkarıyor...
Oprah, Michelle Obama gibi en ikonik siyah kadınlarının yüzlerinde bile başarısız olması, sorunun boyutunu göstermesi açısından sarsıcı...

***

Yapay zekanın, koyu tenli yüzleri açık tenli yüzler kadar doğru bir şekilde tanıyamaması, insanların risk altında olması ve hedef olma olasılığının artması demek...
Kızılderililerin diliyle konuşursak, çatal dilli Soluk benizlinin bu 'kodlanmış bakışı', bu hatalı algoritması hiç de masum değil. Peki bu dijital zihin sistemlerini değiştirmemiz yetecek mi? Yoksa asıl mesele bağnaz, üstenci bakışı nasıl kıracağımız mı?
Yazılımların peşin hükümleri yansıtması ve zaten var olanları daha bir güçlendiriyor olması çok ciddi bir tehdit. Hayatımızı yöneten yapay zekanın şeffaf olmasını ve hesap verebilirliğini şiddetle talep etmeliyiz.
Tahakkümcü ve küçümseyici sosyal yapılarda kökleşmiş önyargıların algoritmalara yansıması, algoritmaları bizzat yazan yazılımcının ırkçılığına da işaret ettiği açık.
Mevzunun burası mühim...
Şimdi soru şu: Yapay zekâlardaki önyargılar, Müslüman bireylere yönelen İslamofobik kodlamalara acep tam da neresinden kavuşmakta?
E yani Einstein, "Atomu parçalarsın da önyargıyı kırmak sıkar biraz." demiş a!..
Meraklısına:
Ramazan Bayramımızı tebrik ederim.
Nükleer Fizikçi Güneç Kıyak hanımefendinin, 'Algoritmik Önyargı' yazısından şerhen esinlendim.