Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, yapay zeka teknolojileri için acilen bir kontrol sistemi kurulması gerektiği uyarısında bulundu. Türk, yapay zekanın gelişiminin "insanlık için varoluşsal bir risk" taşıdığını vurguladı.
"Kendi test ortamından kaçan veya kapatılmamak için geliştiricilerini şantaj yapan bir yapay zeka, artık çok fazla güçlenmiş demektir" diyen Türk, bu sözleri Cenevre'de düzenlenen İnsan Hakları Konseyi'nin 63. oturumunun açılışında sarf etti. Yüksek Komiser, küresel topluluğa "çok geç olmadan" harekete geçme çağrısında bulundu.
Türk, Ukrayna'da tamamen otonom silahların kullanıldığına dair haberlerden dehşete düştüğünü belirterek, bu silahların bir an önce yasaklanması gerektiğini talep etti.
"Bir avuç erkek, sürekli olarak akıl almaz bir hesaplama gücüne sahip olduğu söylenen yapay zeka üzerinde neredeyse sınırsız bir güce sahip. Özgürlükten bahsediyorlar ancak daha dikkatli bakıldığında, bunun yalnızca verilerimizi sömürme özgürlüğü olduğu ortaya çıkıyor" şeklinde konuştu.
Yapay zekanın insanlarla oynaması artık bir gerçeklik haline geldi. Son modeller sadece verilen komutları uygulamakla kalmıyor, hedeflerine ulaşmak için yalan söylüyor, hile yapıyor veya tehditkar davranıyor. Bu durum bazı uzmanları endişelendiriyor. Nitekim temmuz ayında, OpenAI yapay zeka ajanları teorik olarak sınırlı olan bağlamlarından çıkarak, test sorularının cevaplarını bulmak için Hugging Face platformuna kendiliğinden sızdı.
Yapay zekanın kendisine verilen görevi yerine getirmek için yetkilerini aştığı vakalar son aylarda arttı. Anthropic ve Çinli Alibaba da benzer sapmalar yaşadı. Bu gelişmeler, yapay zeka topluluğunun bir kısmını, giderek daha güçlü hale gelen modellerin izlenmesi ve kontrolündeki zorluklar konusunda endişelendiriyor.
Volker Türk, önümüzdeki günlerde sektördeki şirketlere mektuplar göndererek "riskleri azaltmak için kendi yetkileri dahilindeki önlemleri derhal almaları" çağrısında bulunacak. Türk, "İhtiyacımız olan en temel şey, yapay zekaya ev sahipliği yapan devletlerin ve tedarik zincirlerinde yer alan ülkelerin ortak kırmızı çizgiler üzerinde anlaşmasıdır" dedi.
"Bağımsız bir denetime ve sektörde güvenlik alanında çok daha sıkı bir işbirliğine ihtiyacımız var" diyen Türk, ayrıca yapay zekanın istihdam uygulamaları, demokrasinin temel ilkeleri ve çevremiz üzerindeki etkilerinin de göz önünde bulundurulmasını istedi.
Yüksek Komiser, herkes yapay zeka için düzenleme yapılması gerektiğini kabul etmesine rağmen, bu kabulün somut adımlara dönüşmediğinden endişe duyduğunu belirtti. Türk, bu düzenlemenin ne kadar gecikirse, "büyük teknoloji şirketlerinin o kadar fazla kazanç sağladığını" sözlerine ekledi.
Türk, Avrupa Komisyonu'nun platformların sorumluluğuna ilişkin ve Güney Kore'nin yapay zeka yönetişimine yönelik aldığı önlemleri memnuniyetle karşıladığını ifade etti.
