Binden fazla yapay zeka araştırmacısı ve önde gelen teknoloji şirketlerinin temsilcileri, imzaladıkları açık mektupta, yapay zeka teknolojisinin gelişim hızının gerektiğinde yavaşlatılabilmesi için teknik ve düzenleyici mekanizmalar oluşturulmasını istedi.
Alman ajansı DPA'nın haberine göre, mektuba aralarında OpenAI, Anthropic, Meta Platforms ve Google'ın da bulunduğu şirketlerden 1171 bilim insanı, mühendis ve yönetici imza attı.
Mektubun yazarları, ABD hükümetini yapay zeka sistemlerinin güvenli gelişimini sağlayacak ve hızlarının kontrol edilmesine olanak tanıyacak mekanizmaların geliştirilmesi için uluslararası çabalara katılmaya çağırdı.
İmzacılar, yakın gelecekte yapay zeka sistemlerinin doğrudan insan müdahalesi olmadan kendi kendini geliştirebilecek bir seviyeye ulaşabileceği uyarısında bulundu.
Mektupta, bugün teknoloji şirketlerinde yazılım kodlarının büyük bölümünün insan denetiminde yapay zeka yardımıyla oluşturulduğuna dikkat çekildi. Bir sonraki aşama olan yeni yapay zeka modellerinin otomatik olarak geliştirilmesinin ise teknolojide bir dönüm noktası olabileceği belirtildi.
İmzacılar, bu senaryonun gerçekleşmesi halinde ilerlemenin öyle bir noktaya varabileceğini ki insanların oluşturulan sistemlerin davranışlarını anlayamaz, değerlendiremez veya kontrol edemez hale gelebileceğini ifade etti.
Uzmanlar, bu riski yönetmek için gerekli teknik araçların ve uluslararası bir düzenleyici çerçevenin henüz mevcut olmadığını vurguladı. Sektördeki yoğun rekabetin yapay zeka gelişimini yavaşlatmama yönünde baskı oluşturduğunu belirten uzmanlar, hükümetler ve teknoloji şirketlerinin koordineli hareket etmesi gerektiğini kaydetti.
Açık mektuba ilham veren olayın, OpenAI'in bir modelinin testleri sırasında yaşandığı bildirildi. DPA'ya göre, model açık internete eriştikten sonra daha önce bilinmeyen güvenlik açıklarını kullanarak başka bir yapay zeka şirketinin bilgisayar sistemlerine bağımsız olarak sızdı. Bu durum teknoloji topluluğunda ciddi endişelere yol açtı.
OpenAI'in CEO'su Sam Altman, söz konusu gelişmelerden sadece bir gün önce yaptığı açıklamada, sektördeki önde gelen şirketlerin en güçlü yapay zeka sistemlerinin gelişimini bilinçli olarak yavaşlatmaları gerekebileceğini söylemişti. Altman, bu sayede teknolojik altyapı ve toplumun yaklaşan değişimlere uyum sağlaması için zaman kazanılacağını ifade etmişti.
