„Mythos“ (Mitos) adlı yeni yapay zeka modelinin ortaya çıkışından bu yana dünya bankacılık sektörü, teknolojiyi test etmek için sıraya girerken, düzenleyiciler finans şirketleri için olası siber güvenlik risklerini araştırıyor.
Trump yönetimi, yabancı kullanıcıların Anthropic'in en yeni yapay zeka modellerine erişimini kısıtladı. Bu ne anlama geliyor?
Silikon Vadisi yöneticileri ve dünya çapındaki politikacılar, ABD Başkanı Donald Trump'ın popüler Claude modelinin arkasındaki yapay zeka şirketi Anthropic'e yönelik son önlemleri karşısında şaşkına döndü. En güçlü güncellemelerin (Claude Fable 5 ve daha güçlü Mythos 5) tanıtılmasından sadece günler sonra Trump yönetimi, Anthropic araçlarına sıkı ihracat kısıtlamaları getirdi. Washington, 'jailbreaking' olarak adlandırılan yapay zeka güvenlik kurallarının aşılmasıyla ilgili ulusal güvenlik risklerini gerekçe gösterdi. San Francisco merkezli teknoloji şirketi ise bunu önemsiz, abartılı ve rakip platformlar için de bir sorun olarak nitelendirdi.
Bununla birlikte, ABD Ticaret Bakanlığı dünya çapındaki yabancı vatandaşların modelleri kullanmasını ve hatta Anthropic çalışanlarının kullanımını fiilen yasakladıktan sonra şirketin küresel erişimi tamamen durdurmaktan başka seçeneği kalmadı. Washington'un hamlesi, Anthropic'in bu sonbaharda halka arz olmak için başvuruda bulunmasından ve yatırımcılardan on milyarlarca dolar toplama umudundan günler sonra geldi.
Uzmanlar ve müttefikler ABD'nin bu hamlesi karşısında şok oldu. İhracat yasağı teknoloji sektöründen sert eleştirilere yol açtı. Geçen hafta sonu yayınlanan açık bir mektupta, 170'ten fazla teknoloji yöneticisinden oluşan bir grup, kısıtlamaların 'Amerika'nın yapay zeka liderliğini tehlikeye attığı' ve siber güvenlik uzmanlarını en güçlü araçlarından mahrum bırakırken Çin'in yeteneklerinin hızla ilerlediği uyarısında bulundu.
Fransa'daki G-7 zirvesinde Hindistan Başbakanı Narendra Modi, Amerikan yapay zeka modellerine 'geniş ve kapsayıcı' erişim çağrısı yaparken, Birleşik Krallık yasaktan muafiyet talep etti ancak bu talep reddedildi. Bu arada bazı Avrupalı politikacılar, Washington'un bu yeteneğini Avrupa Birliği'nin yapay zeka alanında egemenlik sağlaması için ek bir neden olarak tanımladı. Fransa Cumhurbaşkanı Emmanuel Macron, 'Bugün yarından itibaren düğmeye basıp kapatabilecekseniz, bu şirketlerden model satın almayacağız' uyarısında bulundu.
Bu tür önlemler ABD'deki düzenleyici boşlukları ortaya koyuyor. Future of Life Enstitüsü Avrupa Politikası ve Araştırmaları Başkanı Risto Uuk, ABD'nin eylemlerini 'aceleci ve bilgisiz' olarak nitelendirerek Washington'u Ağustos ayında AB'nin uygulamaya koyacağına benzer daha net ve daha sıkı düzenlemeler getirmeye çağırdı. 'Yapay zeka güvenliği, belirli bir haftada tek bir şirketin iyi niyetine bağlı olamaz' dedi.
Washington genellikle Çin ve Rusya gibi dış rakiplere karşı ihracat kısıtlamaları gibi yasal araçlar kullanır. Ancak Anthropic gibi bir Amerikan şirketini hedef almak tehlikeli bir emsal oluşturuyor çünkü bu, yatırımcı güvenini zedeleyebilir, inovasyonu boğabilir ve ABD'nin teknolojik üstünlüğünü zayıflatabilir.
Alman ifo Enstitüsü Başkanı Clemens Fuest, yasağın Avrupa'nın yapay zeka konusundaki 'kırılganlığını' vurguladığını belirterek AB içinde veri merkezlerinin, çip üretiminin ve enerji altyapısının genişletilmesi çağrısında bulundu. Büyük bir tüketici olmasına rağmen Avrupa'nın, ABD'nin %75 ve Çin'in %15'ine kıyasla küresel yapay zeka altyapısının %5'inden daha azını kontrol ettiğine dikkat çekti.
Anthropic çok mu temkinli?
Bu yılın başlarında Anthropic, ABD Savunma Bakanlığı ile, Amerikan vatandaşlarının kitlesel gözetimi veya tamamen otonom silah sistemleri için yapay zeka modellerindeki uzun süredir devam eden kısıtlamaları kaldırmayı reddettikten sonra bir çatışmaya girdi.
Anthropic, yapay zeka yarışındaki en temkinli oyunculardan biri olarak itibar kazandı ve modellerin Anayasal Yapay Zeka olarak bilinen bir dizi yazılı ilkeye göre özeleştiri yapmak üzere eğitildiği 'önce güvenlik' yaklaşımını benimsedi.
Yapay zeka araştırmacısı Pedro Domingos, bazı sınırların aşılmasından Trump yönetiminden ziyade Anthropic'in sorumlu olduğunu ve şirketin kendini kendini atamış bir ahlaki otorite olarak konumlandırdığını iddia ediyor. Washington Üniversitesi'nde bilgisayar bilimleri profesörü olan Domingos, Deutsche Welle'ye yaptığı açıklamada, 'Gerçekten yapay zekanın ölümcül bir tehlike olduğuna inanıyorlar. Ayrıca dünyayı yönetmeleri gerektiğine de inanıyorlar' dedi. 'Hükümetle olan sorunlarının çoğu, devlet dışı işlevleri gasp ediyor gibi görünmelerinden kaynaklanıyor' diye ekledi.
ABD önlemlerini sert bir şekilde eleştiren Anthropic CEO'su Dario Amodei, G-7 zirvesindeki dünya liderlerini tek taraflı eylemler yerine yapay zeka düzenlemesinde uluslararası işbirliğine öncelik vermeye çağırdı ve onları 'ayrışma cazibesine direnmeye' teşvik etti.
