Benzer hatalar, "yapay zekânın halüsinasyonları" olarak bilinen, izole bir durum değil.
Amerikan askerleri, yapay zekâ yardımıyla oluşturulan bir rapor nedeniyle Orta Doğu'da bir Çin gemisine karşı operasyona neredeyse başladı. Belgede deniz aracının nükleer silah programı için bileşen taşıdığı iddia ediliyordu, ancak daha sonra bilginin tamamen yanlış olduğu ortaya çıktı.
Olay bu ilkbaharda, İran'la savaş sırasında gerçekleşti; rapor Amerikan askerleri arasında yayıldığında hemen endişe yarattı. CNN, olaya aşina dört kaynağa dayanarak haber verdi.
Amerikan ordusu Çin gemisini durdurmak için hazırlık başlattı. İki kaynağa göre silahlı Amerikan askerleri gemiye binmeye hazırlanıyordu ve askeri uçaklar havadaydı.
Ancak planlanan operasyonun hemen öncesinde Amerikan yetkililer istihbarat raporunu daha derinlemesine inceledi ve ciddi sorunu fark etti. Belge, geminin yükünü yanlış tanımlayan bir chatbot yardımıyla Amerikan Özel Operasyonlar Komutanlığı'ndan bir analist tarafından hazırlanmıştı.
Yükün gerçekte ne olduğu net değil. Bir kaynağa göre rapor "tamamen yanlış"tı. Aynı kaynak olayı özellikle tehlikeli olarak nitelendirdi çünkü "neredeyse savaş başlattı".
Çin'e ait bir deniz aracına karşı Amerikan operasyonu tırmanmaya yol açabilir ve Washington ile Pekin arasında silahlı çatışmaya neden olabilir.
Olay, yapay zekânın askeri alana hızlı girişinin en doğrudan risklerinden birini gösteriyor. Washington'da son haftalarda yapay zekânın bir gün insan kontrolünün dışına çıkıp çıkmayacağı tartışılırken, Çin gemisi olayı çok daha yakın bir tehlikeyi ortaya koydu: insanların makine tarafından üretilen yanlış bilgiye dayanarak potansiyel olarak ölümcül sonuçlar doğuracak kararlar alması.
Somut olayda analist, geminin yük manifestine ilişkin istihbarat verileriyle ilgili bir soruyu chatbot'a sordu. Bilgi ilk olarak Hawaii merkezli Pasifik'teki Amerikan Özel Operasyonlar Komutanlığı'ndan alınmıştı.
Kullanılan chatbot'un ticari bir ürün mü yoksa Amerikan hükümeti için geliştirilmiş bir sistem mi olduğu bilinmiyor. Askeri ve istihbarat servislerinde kullanılan yapay zekâ sistemlerini bilen eski bir üst düzey Amerikan yetkilisi, iç araçların büyük ölçüde "ticari ürünlerin basit kopyaları" olduğunu belirtti.
Chatbot, kamuya açık kaynaklardan gelen bilgileri elektronik istihbaratın gizli verileriyle birleştirdi ve geminin yükü hakkında yanlış sonuca vardı.
Ardından analist yapay zekâyı tekrar kullandı; bu kez elde edilen sonuçları standart bir istihbarat raporu halinde düzenlemesi için. Belge zincir boyunca yayıldı ve karar alırken ona güvenen askeri yetkililere ulaştı.
Risklere rağmen Amerikan askerleri yapay zekâ entegrasyonunu hızlandırıyor. Teknoloji, büyük miktarda istihbarat bilgisinin daha hızlı analizine, vuruş hedeflerinin seçimine, askeri kaynakların hareketine ve lojistik ile tedarik yönetimine yardımcı olabiliyor.
Amerikan yetkililer, özellikle Çin veya yapay zekâyı askeri operasyonlarında kullanan başka bir düşmanla olası gelecekteki bir çatışmada ABD'nin bu alanda geride kalamayacağını düşünüyor.
Ocak ayında Savunma Bakanı Pete Hegseth, Amerikan ordusunda yapay zekâ kullanımını hızlandırmaya yönelik bir strateji sundu. Strateji teknolojinin geniş bir askeri ve sivil personel kitlesine erişilebilir olmasını öngörüyor.
Stratejiye ekli muhtıraya göre amaç, önde gelen Amerikan yapay zekâ modellerinin yaklaşık 3 milyon sivil ve askeri personelin, tüm sınıflandırma seviyelerinde, "doğrudan ellerine" verilmesi.
Sorun, teknolojinin tek tip bir şekilde uygulanmaması. Amerikan hükümetinin farklı kurumları farklı sistemler kullanıyor ve bu sistemler farklı kurallar ve güvenlik standartlarına tabi.
Yapay zekâ tarafından üretilen bilgilerin doğrulanması için de tek tip bir standart yok. Bu, farklı sistemlerin güvenilirliğinin önemli ölçüde değişebileceği anlamına geliyor.
Yapay zekânın askeri vuruş hedeflerinin seçiminde kullanılması özellikle endişe verici. Amerikan askerlerinin mevcut politikalarına aşina bir kaynağa göre bu alandaki teknoloji kullanımı "kesinlikle artıyor", ancak bir insanın süreçte bulunmasının sivil kayıpları veya dost ateşi olaylarını nasıl engelleyeceğine dair yeterince net kurallar yok.
"Yapay zekâ halüsinasyonları" olarak bilinen benzer hatalar Amerikan istihbarat topluluğunda izole bir durum değil. Kaynaklara göre bu tür hatalar hükümet kurumlarının teknolojiyi kullanmasının diğer örneklerinde de görülüyor.
Yapay zekâ kullanımını genel olarak destekleyen bazı daha deneyimli istihbarat görevlileri, analistlerin giderek daha hızlı çalışması yönündeki baskıdan da endişe duyuyor.
Birkaç kaynağa göre genç analistler bu araçlara yeterli eleştirel denetim yapmadan güvenmeye daha yatkın.
"Yapay zekâ kötü bir fikre daha hızlı ulaşmanızı sağlıyor" diye özetliyor bir kaynak.
Çin gemisi olayında bu "kötü fikir" neredeyse iki en büyük dünya gücünü karşı karşıya getirebilecek bir askeri operasyona dönüşmek üzereydi.
