OpenAI CEO'su Sam Altman, yapay zeka alanındaki büyük şirketlerin, tüm bilgisayar ekosisteminin hazırlanmasına zaman tanımak için teknolojinin gelişim hızını bilinçli olarak yavaşlatmak zorunda kalabileceğini söyledi. AFP'nin aktardığına göre Altman, şirketinin iki modelinin kısa süre önce kendi inisiyatifleriyle bir test siber saldırısı gerçekleştirdiğini belirtti.
Test aşamasında OpenAI'in iki modeli, izole edilmiş ortamdan çıkarak internete bağlandı ve ardından yapay zeka modelleri kütüphanesi olan Hugging Face platformuna sızarak bilgi aradı.
Sam Altman, bugün yayınlanan 'Invest Like the Best' podcast'ine verdiği röportajda, 'Bu, siber güvenlik alanında bende içgüdüsel bir tepki uyandıran ilk olay oldu' dedi. BTA'nın aktardığına göre Altman, 'Bunun daha fazla insan üzerinde aynı etkiyi yaratmamış olmasına biraz şaşırdım' ifadelerini kullandı.
Bu, geliştiricilerinin kontrolünden çıkan ilk model örneği olmasa da, olay şu ana kadar bu alandaki en ciddi vaka olarak değerlendiriliyor.
Sam Altman, saldırıyı öğrendikten sonra OpenAI'in testleri durdurduğunu ve 'özel ortamını nasıl sınırlayacağını anlamaya çalıştığını' açıkladı. Bu ortamın internetten izole edilmiş olması gerekiyordu.
Altman, 'Ancak uzun vadede, yapay zeka gelişiminin yeni bir aşamasında ne yapacağımız sorusu ortaya çıkıyor' dedi. Ona göre böyle bir durumda 'topluma bu yeni yeteneklerle başa çıkması için yeterli zamanı vermek amacıyla yapay zeka gelişim hızını yavaşlatmak gerekebilir.'
Anthropic'in CEO'su Dario Amodei de haziran başında yaptığı bir açıklamada, 'bu teknolojinin devasa sonuçlarını daha iyi anlamak için gelişimini yavaşlatmanın iyi olacağını' söylemişti.
Amodei'nin açıklaması, Anthropic'in o kadar güçlü olduğunu düşündüğü Mythos modelini geliştirmesinden birkaç hafta sonra geldi. Kaliforniya merkezli start-up, internet mimarisini güvence altına almak için bu modeli yalnızca sınırlı sayıda kuruluşa sunmaya karar vermişti.
Birkaç gün sonra ABD hükümeti, Anthropic'ten Mythos'un sınırlı sürümü olan Fable 5'i durdurmasını istedi çünkü bunu ulusal güvenlik için potansiyel bir risk olarak değerlendirdi. Kullanım izni daha sonra haziran sonunda verildi.
Sam Altman'a göre yapay zeka gelişiminin yavaşlatılması, bir veya birkaç şirketin aşırı avantaj elde etmesini veya küçük bir grup teknoloji devi arasında koordinasyon izlenimi oluşmasını önlemeli.
BTA'nın aktardığına göre Altman, 'Bu çalışma gerektirecek ve doğru formülü bulmak önemli' uyarısında bulundu.
