OpenAI'nin baş yöneticisi Sam Altman, toplumdan yapay zekayı geliştiren şirketlere daha fazla güven duymasını istedi ve sektörün teknolojinin güvenli gelişimini garanti edebilecek kapasitede olduğunu söyledi.
"Dünya doğru olanı yapacağımıza inanmalı, çünkü bu doğru olan şey" dedi Altman. Salı günü San Francisco'da yazılım şirketi Salesforce'un düzenlediği konferansta konuştu. Haberi BBC aktardı.
Aynı zamanda toplumun endişelerinin yapay zekanın yeteneklerinin hızlı gelişmesi karşısında tamamen yerinde olduğunu kabul etti.
"Dünyanın bundan korkmak için nedeni var" dedi Altman. Ona göre artık teknolojinin tehlikeli şekilde kullanılabileceği veya tehlikeli biçimde gelişebileceği senaryoları hayal etmek çok daha kolay.
Açıklaması, AI şirketi Anthropic'ten eski bir araştırmacının, kontrolsüz bırakıldığında yapay zekanın bu on yılın sonuna kadar insanlığın yok olmasına yol açabileceği yönünde geniş yankı bulan uyarısını yayınlamasından günler sonra geldi.
Yapay zeka alanında birkaç yönetici ve uzman benzer endişeleri paylaştıklarını söyledi, ancak böyle bir senaryonun nasıl gerçekleşeceğine dair somut kanıt veya ayrıntılı mekanizma sunmadılar.
Tartışma teknoloji sektöründeki baskıyı artırdı. Anthropic'in baş yöneticisi Dario Amodei, AI teknolojilerinin geliştirme temposunun yavaşlatılması ve hükümetlerin düzenlemelerle daha aktif müdahale etmesi çağrısında bulundu.
Sam Altman, Google DeepMind'in kurucu ortağı Demis Hassabis ve Elon Musk uyarıyı kamuoyunda memnuniyetle karşıladı.
Aynı zamanda sektör liderlerinin bir kısmı ek devlet kısıtlamaları yerine öz düzenlemeden giderek daha sık söz ediyor.
Altman, risklerin üstesinden gelme konusunda hem OpenAI'nin hem de tüm sektörün yetkin olduğuna inandığını söyledi.
Altman'ın yorumlarının ardından Meta'nın başkanı Mark Zuckerberg X'te, her yapay zeka laboratuvarının güvenlik gözetimiyle tasarlanmış AI araçları ve modelleri oluşturmaya yönelik "kendi eylemlerini" alma yeteneğine ve motivasyonuna sahip olduğunu yazdı.
"İnsan değerleri ve hedefleriyle uyumlanmaya odaklanmayan her laboratuvar geride kalacak" diye yazdı Zuckerberg. "Laboratuvarlar modelleri zarar verirse önemli hukuki sorumlulukla karşı karşıya, bu yüzden bunu önlemede güçlü bir teşvikleri var."
Nvidia'nın yöneticisi Jensen Huang da salı günü konferansta yeni sürümlerin piyasaya sürülüp sürülmemesine karar vermenin AI şirketlerinin kendilerine ait olması gerektiğini, bunun dış faktörler tarafından yönetilmemesi gerektiğini söyledi.
"Yeni yasalara veya düzenlemelere ihtiyacımız yok" dedi Huang ve inovasyonun hızı ile AI ürünlerinin güvenliği arasında "sahte bir seçim" olmaması gerektiğini ekledi.
Nvidia, piyasa değerine göre dünyanın en büyük şirketi. Ürettiği AI çiplerine olan büyük talep nedeniyle kârı keskin şekilde arttı.
"Güvenlik en öncelikli konu. Bununla birlikte güvenlik mühendislik sorunudur" dedi Huang.
Teyit etti ki eğer bir noktada bir AI şirketinin yöneticisi ürününe güvenmiyorsa, piyasaya sürmemeyi seçmesi gerekiyor.
