12 aya kadar yapay zekâ tüm interneti kontrol edebilecek.
Dünyanın en büyük yapay zekâ şirketlerinin liderleri, en modern ve en kazançlı AI modellerinin geliştirme temposunun yavaşlatılması gerektiği konusunda birleşti. Batı yayın organlarının aktardığına göre bunun nedeni teknolojiye bağlı artan riskler.
“Bu yazdan bu yana yapay zekâ, özellikle bir sonraki nesil yapay zekâyı inşa etme yeteneğinin artmasıyla birlikte dramatik şekilde daha hızlı gelişiyor. AI modellerinin yeteneklerini geliştirdiğimiz tempoyu yavaşlatmalıyız” diye uyardı Anthropic’in yöneticisi Dario Amodei. O, mevcut ilerleme temposunda yapay zekânın altı ila on iki ay içinde interneti ele geçirebilecek bir AI ajanları sürüsünü komuta etmeye hazır hale gelebileceği endişesini dile getirdi.
Claude yapay zekâ asistanını geliştiren şirketin kurucusu, Anthropic’in sektörde denetimleri güçlendirme planı olduğunu da açıkladı. Amodei, yapay zekâ şirketlerinin güvenlik uygulamalarını denetleyecek ve olayları raporlayacak üçüncü taraflara erişim sağlaması önerisini getirdi.
Amodei, yapay zekânın çok hızlı inşasını “sorumsuz” olarak nitelendirdi. Ancak gelişimin tamamen durdurulmasının faydalarından mahrum bırakabileceği ya da teknolojiyi otoriter hükümetlerin eline bırakabileceği uyarısında bulundu.
OpenAI’nin CEO’su Sam Altman, “çalışanlarla benzer erişime sahip bağımsız değerlendiriciler” önerisini destekledi.
“Dario ile aynı fikirdeyim, yeni teknolojilerin önüne geçmeliyiz. Bu, son haftalarda OpenAI’de yürüttüğümüz tartışmaların ana konusu oldu” dedi Altman. Altman, ChatGPT’yi yönetiyor.
Dünyanın en zengin insanı ve Grok sohbet botunun yaratıcısı xAI’nin sahibi Elon Musk, “Dario haklı” diye yazdı.
Günler önce Anthropic, modellerinin siber saldırılar, gözetim ve biyolojik silahların yaratılmasına yol açabilecek araştırmalar gibi kötü niyetli faaliyetlerde kullanılmasına yönelik girişimleri engellediğini duyurdu. Temmuz ayında OpenAI, yapay zekâsının başka bir şirketi bağımsız olarak hacklediği “eşi benzeri görülmemiş bir siber olay” açıklamasıyla sektörü sarstı.
Teknoloji liderlerinin bir araya gelmesi, Anthropic’te önde gelen bir araştırmacının, şirketin ve rakiplerinin insanlığı yok edebilecek yapay zekâ modellerini sorumlu şekilde geliştirmemesi endişesiyle istifa ettiğini açıklamasından günler sonra geldi. Anthropic’in rakibi OpenAI’de de çalışmış olan Jacob Coxon, şirketlerin ürünlerinin güvenliğinden çok birbirleriyle yarışmaya odaklandığını suçladı. BBC’ye konuşan Coxon, teknolojide çalışan insanların ilerleme hızından ve bunun insanlık için ne anlama gelebileceğinden “içten korktuklarını” söyledi.
Geçen hafta Anthropic araştırmacısı Evan Hubinger ise önümüzdeki on yıl içinde yapay zekânın insanlığı yok edebileceği ihtimalinin yüzde 10’un üzerinde olduğunu belirtti.
Birleşmiş Milletler insan hakları başkanı Volker Türk yakın zamanda devletleri, çok geç olmadan yapay zekânın güvenliği ve emniyeti konusunda “demir garantiler” uygulamaya çağırmıştı.
Bazı eleştirmenler ise Anthropic’i, düzenleyici bir itici güç yaratıp rekabeti dışlayarak Anthropic ve OpenAI’ye sektörde tekel bırakma umuduyla panik yaratmakla suçladı.
“İnsanların yapay zekâ üzerinde kontrolü kaybetme olasılığı büyük. Sonra ne olacağı kimse bilmiyor. Ama bunun felaket olabilmesi mümkün mü? Evet, mümkün” diye uyardı ABD’li senatör Bernie Sanders.
Aynı zamanda Nvidia’nın CEO’su Jensen Huang, yapay zekânın “insanlığın sonu olacağı” fikrinin “tam bir saçmalık” olduğunu açıkladı. Şirketi, AI sistemlerini besleyen çipleri üretiyor.
