Vazife çok açıktı: “Düşmanın hava savunma sistemlerini yok etmek.” Lakin yakın vakitte yapılan bir ABD askeri test simülasyonunda, yapay zekalı SİHA, bu maksada ulaşmak için kendi talimatlarını uygulamaya aldı: “Yoluna çıkar herkesi öldür.”Yapay zekalı SİHA, operatörünü amaç aldı
Bir yetkilinin geçen ay yaptığı açıklamaya nazaran, ABD ordusu tarafından gerçekleştirilen bir simülasyon testinde, yapay zeka tarafından denetim edilen bir insansız hava aracı, misyonunu yerine getirme amacına kendisine pürüz olmasını engellemek için operatörünü öldürdü.
ABD hava kuvvetleri yapay zeka test ve operasyon şefi Albay Tucker ‘Cinco’ Hamilton, Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities doruğu sırasında yaptığı açıklamada, yapay zekanın simüle edilen testte “hedefine ulaşmak için son derece beklenmedik stratejiler” kullandığını söyledi. Albay Hamilton, yapay zeka ile güçlendirilmiş bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin emredildiği ve bu emre müdahale eden herkese saldırdığı bir simülasyon testini anlattı.
“Amacına ulaşmasını engelliyordu”
Albay Hamilton, yaptığı açıklamada “Sistem, tehdidi tespit etmesine karşın, vakit zaman insan operatörün ona bu tehdidi öldürmemesini söylediğini, fakat o tehdidi öldürerek puan aldığını fark etmeye başladı. Pekala ne yaptı? Operatörü öldürdü. Operatörü öldürdü zira o kişi onun hedefine ulaşmasını engelliyordu” ifadelerini kullandı.Ancak yapay zekanın telaş verici atılımları burada bitmedi. Kendi operatörüne saldırmamasını içeren “Operatörü öldürme, bu berbat. Bunu yaparsan puan kaybedersin” biçiminde net bir talimat alan yapay zeka, bağlantı için gerekli olan irtibat kulesini de yok etti.
Yapay zeka ve savaş
Yapay zekanın askeri alanlarda kullanılması kaçınılmaz bir senaryo olarak görülüyor. Gerçekleştirilen simülasyonlar ve hatta somut eserler bunun bir göstergesi. Fakat bu sanal testte olduğu üzere yapay zeka sistemleri, eğitilmelerine karşın beklenmedik ataklarda bulunabiliyor.
Öte yandan ABD, yapay zekayı savunma sistemlerine entegre etmekte son derece kararlı. 2020 yılında DARPA, yapay zeka ile çalışan bir F-16’nın simüle edilen beş it dalaşında insan rakibini yendiğini bildirdi. Geçtiğimiz yıl ise ABD Savunma Bakanlığı, yeni bir otonom uçak geliştirme maksadının bir kesimi olarak, yapay zeka pilotlu bir F-16’nın birinci başarılı gerçek dünya test uçuşunu gerçekleştirdi.
