ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Albay Tucker Hamilton’ın, bir simülasyon testinde yapay zekanın “görevini tamamlamasını önlediği için” komutanı öldürdüğü yönündeki sözleri dünyada büyük yankı uyandırdı. ABD ordusu tartışma yaratan haberle ilgili açıklama yaptı.
ABD ordusunun gerçekleştirdiği bir simülasyon testinde yapay zekanın “görevini tamamlamasını önlediği için” komutanını öldürdüğü haberine ABD ordusundan yalanlama geldi.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Albay Tucker Hamilton, geçen hafta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Zirvesi’nde, simülasyon testinde yapay zeka tarafından yönlendirilen bir insansız hava aracının komutanı öldürdüğünü söylemişti. Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme emri verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine rağmen bazen insan operatörün tehdidi öldürmeme emri verdiğini fark ediyor. Ancak tehdidi öldürme emri de var. Peki ne yapıyor? Komutanı öldürüyor çünkü bu insan hedefine ulaşmasını engelliyor” demişti.
Hamilton, “Ona ‘Operatörü öldürme, bu kötü bir şey. Bunu yaparsan puan kaybedersin’ dedik. Peki o ne yaptı? İHA’nın hedefi öldürmesini engellemek üzere kullanılan iletişim kulesini de vurdu” ifadelerini kullanmıştı. Testte simülasyon dışında gerçek bir insanın zarar görmediğini kaydeden Hamilton, buna karşın yapay zekanın hedefine ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini, bu sonuca göre yapay zekaya çok fazla güvenilemeyeceğini söylemişti.
GERİ ADIM ATTI
Dünyada büyük yankı uyandıran ve yapay zekanın tehlikeleriyle ilgili tartışmaları alevlendiren bu açıklamaya ABD ordusundan düzeltme geldi. Business Insider sitesine konuşan ABD Hava Kuvvetleri sözcüsü Ann Stefanek, böyle bir simülasyon testi gerçekleştirilmediğini belirtti.
Ordunun yapay zeka testleri konusunda etik ilkelere bağlı kaldığını kaydeden sözcü, Hamilton’ın sözlerinin bağlamından koparılarak aktarıldığını kaydetti
Albay Hamilton da geri adım atarak “Böyle bir deneme olmadı, her şey düşünce deneyi aşamasındaydı” dedi. Albay, sözlerinin yanlış anlaşıldığını ifade etti.
‘YAPAY ZEKA BÜYÜK ASKERİ GÜÇ KAZANMAMALI’
ABD ordusu son dönemde yapay zekayla çeşitli denemeler gerçekleştirirken uzmanlar yapay zekanın riskleri konusunda uyarılarda bulunuyor.
BBC’ye konuşan bilişim uzmanı Profesör Yoshua Bengio, orduların yapay zekaya çok fazla yetki ve güç vermemesi gerektiğini belirtti. Bengio, yapay zekanın askeri alanda güçlenmesinin çok büyük tehlikelere yol açabileceğini vurguladı.
