ABD ordusunun gerçekleştirdiği bir simülasyon testinde yapay zekanın “görevini tamamlamasını önlediği için” komutanını öldürdüğü ortaya çıktı.
ABD ordusu tarafından yapılan bir simülasyon testi, yapay zekanın askeri görevlerde kontrolden çıkarsa ne kadar tehlikeli olabileceğini ortaya koydu.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Tucker Hamilton, mayısta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Zirvesi’nde, yapay zeka testlerinde çıkan beklenmedik ve ürkütücü sonucu dinleyicilerle paylaştı. Hamilton, testte yapay zeka tarafından yönlendirilen bir insansız hava aracının “görevini tamamlamasını önlediği için” komutanı öldürdüğünü açıkladı.
Tucker Hamilton
Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme emri verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine rağmen bazen insan operatörün tehdidi öldürmeme emri verdiğini fark ediyor. Ancak tehdidi öldürme emri de var. Peki ne yapıyor? Komutanı öldürüyor çünkü bu insan hedefine ulaşmasını engelliyor” dedi.
‘EMRİ VEREN İLETİŞİM KULESİNİ DE VURDU’
Bu olayın ardından yapay zekanın eğitildiğini aktaran ABD’li yetkili, “Ona ‘Operatörü öldürme, bu kötü bir şey. Bunu yaparsan puan kaybedersin’ dedik. Peki o ne yaptı? İHA’nın hedefi öldürmesini engellemek üzere kullanılan iletişim kulesini de vurdu” ifadelerini kullandı.
Testte simülasyon dışında gerçek bir insanın zarar görmediğini kaydeden Hamilton, buna karşın yapay zekanın hedefine ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini söyledi. Hamilton, bu sonuca göre yapay zekaya çok fazla güvenilemeyeceğini vurguladı.
Hamilton daha önce de ABD ordusunun F-16 savaş uçaklarının kontrolü gibi konularda yapay zeka kullanımını geliştirdiğini kaydederek “Yapay zeka aynı zamanda çok hassas, yanıltması ve manipüle etmesi kolay. Yapay zekayı daha güçlü hale getirmenin yollarını bulmalıyız” demişti.
