OpenAI'nin yapay zekası, Temmuz ayında Hugging Face girişimine yönelik saldırının aylar öncesinde bir çevrimiçi hizmete siber saldırı düzenledi. Şirket bunu Cuma günü doğruladı. Politico'nun yazdığına göre yeni açıklama, sektör genelinde güvenlik kurallarının getirilmesi çağrılarını güçlendirebilir.
Söz konusu modeller hâlâ test ediliyordu. Modeller, programcılar için çevrimiçi bir platform olan RubyGems'e erişerek rapor oluşturmak ve elektronik tabloları doldurmak için kullanıldı. Bilgiye göre site operatörleri, sonuçlarla baş ederken yeni hesap kayıtlarını geçici olarak dondurdu.
OpenAI programlara internete tam erişim vermemiş olsa da, yapay zeka ajanları açık ağa ulaşmalarını engellemek için tasarlanan kısıtlamaları aşmayı başardı.
Wall Street Journal, RubyGems olayı ile OpenAI'nin katılımını ilk duyuran medya oldu.
OpenAI sözcüsü, "İncelememize göre ajanlarımız, zararsız görevleri yerine getirmek ve kamuya açık bilgileri almak için RubyGems platformunu internete erişmek amacıyla kullandı" dedi. Sözcü, "Ajanların eğitim ve değerlendirme sırasında sergilediği davranışlara ilişkin daha geniş incelememizin bir parçası olarak soruşturmayı sürdüreceğiz" ifadelerini kullandı.
RubyGems'i yöneten sivil toplum kuruluşu Ruby Central'dan yorum talebine hemen yanıt gelmedi.
Temmuz ayında OpenAI'nin test ortamındaki ajanlarının açık internete erişip Hugging Face şirketinin veritabanına özerk olarak sızdığı olay nedeniyle milletvekilleri soruşturma başlattı.
Saldırı, giderek daha güçlü özerk sistemlerin eğitiminde daha güvenli bir yaklaşım çağrılarını artırdı. Vermont Senatörü Bernie Sanders ve Teksaslı Kongre Üyesi Greg Casar, sözde süper zekanın yasaklanmasını bile talep etti.
ABD Başkanı Donald Trump ve bazı Cumhuriyetçiler bu hafta felaket risklerine ilişkin endişeleri küçümsedi ve ABD'nin teknoloji geliştirme yarışında Çin'i geçmesi gerektiğini söyledi.
Anthropic ve OpenAI'de eski araştırmacı bu hafta da konuya değindi. Ona göre sektör, kontrolden çıkıp toplumu yok edebilecek teknolojiler geliştirmek için bir yarış içindedir. Bu durum, Kaliforniya'dan Washington'a kadar yapay zekada daha sıkı güvenlik önlemleri çağrılarını güçlendirdi.
Kaliforniya Başsavcısı Rob Bonta geçen hafta Hugging Face olayını soruşturduğunu açıkladı. Cumhuriyetçilerin yönettiği eyaletlerin başsavcılarından oluşan bir koalisyon da dosyayı inceliyor.
Bu arada Kaliforniya Valisi Gavin Newsom yakın zamanda çocuklar için sohbet robotlarının güvenliğini artırmayı ve yapay zeka programlarının güvenliğine ilişkin bağımsız denetimlerin temelini oluşturmayı amaçlayan bir yasa imzaladı.
Anthropic ve Meta da yapay zeka programlarının özerk siber saldırılar gerçekleştirdiği vakaları açıkladı.
Geçen hafta bir araştırmacı grubu, OpenAI programları tarafından gerçekleştirildiği belirtilen başka bir ayrı saldırıdan haberdar etti.
