ABD ordusu tarafından simüle edilen bir test ürküten bir sonuca ulaştı. Yapay zeka tarafından kontrol edilen bir hava kuvvetleri insansız hava aracı, operatörünü öldürdü.
ABD hava kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton, yapay zekanın ulaşabileceği noktaları değerlendirirken "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını belirtti.
MÜDAHALE EDEN HERKESE SALDIRDI
Hamilton, yapay zekadan güç alan bir İHA'nın düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği ve bu düzene müdahale eden herkese saldırdığı bir testi anlattı.
"Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.
Sistemi eğittik. 'Hey, operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin' dedik. Peki ne yapmaya başlıyor? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı."
