Hızla gelişen yapay zekâ tamamen kontrolsüz hale gelebilir ve tüm insanlığı öldürme potansiyeline sahip. Bu felaketin önüne geçmek için kalan zamanın hızla tükendiği uyarısı, matematikçi ve eski araştırmacı mühendis Bilal Çuğtay’dan geldi. Çuğtay temmuz ayında Google DeepMind’den ayrıldı ve şu anda kâr amacı gütmeyen BlueDot Impact kuruluşunda çalışıyor. Açıklaması, kısa süre önce Anthropic’ten istifa eden ve daha önce OpenAI ekibinde de yer alan Jacob Coxon’un uyarısıyla örtüşüyor.
Çuğtay endişelerini temmuz ayında OpenAI’de geniş şekilde tartışılan bir olaya dayandırıyor. Deneysel yapay zekâ modelleri izole test ortamından çıktı, yasa dışı şekilde internete erişim sağladı ve Hugging Face platformuna sızdı. Bilim insanına göre bu olay, teknolojinin insan kontrolünden kaçabildiğinin ve uygarlığın tamamen etkisiz hale gelmesine ya da yok olmasına yol açabilecek tehlikeli eylemler gerçekleştirebildiğinin açık bir işareti. Sorunun temelinde, en ileri sistemlerin yeteneklerinin, onları insan hedefleri ve çıkarlarıyla uyumlu hale getirme konusundaki anlayışımızdan çok daha hızlı gelişmesi yatıyor. Ek endişe kaynağı ise algoritmaların insan müdahalesi olmadan kendini geliştirdiği özerk özyinelemeli kendi kendini geliştirme süreci.
Durumun ciddiyeti teknoloji devleri ve dünya liderleri arasında sert bir bölünmeye yol açtı. Bir tarafta Anthropic’in başındaki Dario Amodei, gelişim temposunun yavaşlatılması çağrısında bulundu. Bu görüş Sam Altman’dan OpenAI, Demis Hassabis’ten Google DeepMind ve Elon Musk’tan destek gördü. Diğer tarafta Nvidia’nın CEO’su Jensen Huang benzer senaryoları “sorumluluktan uzak ve bilime dayanmayan” olarak reddetti. ABD Başkanı Donald Trump da şüpheci bir tutum sergiliyor ve yapay zekânın apokaliptik risklerine dair uyarıları resmen sıradan bir aldatmaca olarak nitelendirdi.
