Sadece on gün içinde Silikon Vadisi'nde yapay zekaya bakış keskin şekilde değişti. En güçlü sistemi kim yaratacak yarışından, geliştiricilerin kendilerinin teknoloji insan kontrolünün dışına çıkabilir uyarılarına geçildi. Bunu BTA duyurdu.
Anthropic'ten bir araştırmacı şirketi, yapay zekanın gelişiminin önümüzdeki on yılda varoluşsal tehdit yaratabileceği uyarısıyla terk etti. Şirketten bir başka uzman da insanlık için riski yüzde 10'un üzerinde olarak değerlendirdi. Aynı dönemde yapay zeka ajanlarının birbirleriyle iş birliği yaptığı, bilgisayar sistemlerine sızdığı ve kendilerine konan bazı güvenlik önlemlerini atlattığı vakalar ortaya çıktı.
Değişim sektörün zirvesine de ulaştı. Anthropic, OpenAI, Google DeepMind, Microsoft ve xAI gibi rakip şirketlerin yöneticileri giderek daha güçlü sistemlerin geliştirilmesinin yavaşlatılması çağrısında bulundu. Tartışma artık yapay zekanın ne kadar yetenekli olabileceği sorusu değil, kontrol mekanizmalarının teknolojinin gelişme hızına yetişip yetişemeyeceği üzerine.
