Birçok uzman, nükleer caydırıcılık çalışmalarında yapay zekanın askeri karar süreçlerine hızlı entegrasyonunun barındırdığı endişeleri dile getiriyor. YAPAY ZEKA GERİLİMİ Artırabilir mi? Stanford Üniversitesi’nden Jacquelyn Schneider’in uyarıları, savaş simülasyonlarında test edilen yapay zeka sistemlerinin çoğu durumda krizleri yatıştırmaktan çok tırmandırma eğiliminde olduğunu gösteriyor. Schneider, “Yapay zeka sanki gerilimi artırmayı anlıyor ama azaltmayı anlamıyor. Nedenini biz de bilmiyoruz” şeklindeki sözleriyle bu kafa karışıklığını özetliyor.
Asıl tehlike, teknolojinin henüz nasıl çalıştığı tam olarak anlaşılmadan Pentagon’un karar mekanizmalarına giderek daha sık dahil olmasıdır. Uzmanlar, iki olası senaryodan kaygı duyuyor: Ya yapay zekaya doğrudan nükleer silah kullanma yetkisi verilecek ya da komutanlar onun tavsiyelerini körü körüne takip ederek ölümcül bir karar alacak. Pentagon ise “nükleer silahlarda her zaman insan denetiminin süreceğini” iddia ediyor; fakat uzmanlar, Rusya ve Çin gibi rakiplerin bu alanda benzer teknolojilere yönelmesiyle bu güvenin zamanla eriyeceğini düşünüyor.