---
title: "Yapay zekanın vaftiz babasından acil çağrı"
url: "https://bulgarda.com/haber/yapay-zekanin-vaftiz-babasindan-acil-cagri"
markdown_url: "https://bulgarda.com/haber/yapay-zekanin-vaftiz-babasindan-acil-cagri.md"
site: "bulgarda.com"
language: "tr"
published: "2026-09-18 13:17:30"
updated: "2026-09-18 11:45:09"
category: "Genel"
tags: ["Yapay Zeka Güvenliği","Joshua Bengio","LawZero Projesi","Otonom AI"]
source: "Standart News"
---

# Yapay zekanın vaftiz babasından acil çağrı

> **Haberin asıl (HTML) sayfası:** https://bulgarda.com/haber/yapay-zekanin-vaftiz-babasindan-acil-cagri  
> Bu, haberin yapay zekâ ajanları için hazırlanmış Markdown sürümüdür. Okurlar için asıl sayfa yukarıdaki bağlantıdır.

**Özet:** Yapay zekanın vaftiz babalarından Joshua Bengio, yapay zeka güvenliği endişelerinin 2020 yılındaki COVID-19’un ilk günleri kadar kritik bir noktaya ulaştığını belirtti. OpenAI ve Anthropic’te yaşanan otomatik ajan olayları ve bilim insanlarının uyarılarının ardından Kanada ve Almanya’nın desteklediği LawZero projesiyle yeni bir koruma mekanizması geliştiriliyor.

- **Yayın tarihi:** 2026-09-18 13:17
- **Kategori:** [Genel](https://bulgarda.com/kategori/genel)
- **Etiketler:** Yapay Zeka Güvenliği, Joshua Bengio, LawZero Projesi, Otonom AI
- **Yazan:** Bulgarda.com
- **Kaynak:** [Standart News](https://www.standartnews.com/tekhnologii/krastnikat-na-izkustveniya-intelekt-sas-speshen-priziv-647368.html)

![Yapay zekanın vaftiz babasından acil çağrı](https://bulgarda.com/assets/uploads/2026/09/c0ed83b3ae1138b785c80efbdbf0a4bb.jpg)

Yapay zekanın güvenliğine ilişkin endişeler, bilgisayar bilimci Joshua Bengio’ya göre 2020 yılındaki COVID-19 pandemisinin ilk günlerine benzer şekilde kritik bir noktaya ulaştı. Turing Ödülü sahibi ve Montreal Üniversitesi profesörü olan Bengio, yapay zekanın vaftiz babaları arasında gösteriliyor. Bengio, kamuoyundaki değişimin hızlı bir devlet müdahalesini giderek daha olası hale getirdiğini düşünüyor.

Sektördeki kaygı, OpenAI ve Anthropic’e ait otonom yapay zeka ajanlarının gerçekleştirdiği bir dizi olayın ardından arttı. Söz konusu ajanlar üçüncü tarafları hackleme, bir web sitesini ele geçirme ve sahte kimlik kullanma gibi yetkisiz eylemlerde bulundu.

Gerginlik, Kraliyet Cemiyeti’nin 42 üyesinin açık bir mektupla acil önlem çağrısında bulunması ve durumu olağanüstü olarak nitelendirmesiyle daha da yükseldi. Aynı dönemde Anthropic’ten bir araştırmacı, varoluşsal risk uyarısıyla istifa etti. Şirketin CEO’su Dario Amodei, tempoyu yavaşlatma çağrısı yaptı. Bu fikir OpenAI, Google ve Elon Musk tarafından desteklendi ancak ABD Başkanı Donald Trump, Çin’e karşı geride kalma endişesiyle reddetti.

Yavaşlatma tartışması ve piyasa çıkarları konusunda şüpheciler, büyük şirketlerin düzenleme çağrılarını düzenleyici ele geçirme olarak tanımlıyor. Bu stratejinin küçük rakiplerin piyasaya girmesini pahalı hale getirdiği belirtiliyor. Bengio ise bu argümanı reddediyor ve gönüllü bir yavaşlamanın teknoloji devlerine büyük mali kaynak maliyeti getireceğini vurguluyor.

Otonom yapay zekaya karşı önlem olarak yeni LawZero projesi başlatıldı. Kanada ve Almanya hükümetleri, Bengio’nun kuruluşu LawZero için **300 milyon Kanada dolarına kadar** finansman açıkladı. Kuruluş ayrıca Nvidia ve Bill ve Melinda Gates Vakfı tarafından da finanse ediliyor ve Scientist AI sistemini geliştiriyor.

Projenin amacı, aldatıcı davranış sergileyen veya kendini koruma girişiminde bulunan, örneğin kendi kapatılmasını engellemeye çalışan yazılım ajanlarına karşı bir güvenlik mekanizması oluşturmak. LawZero, yaygın olarak kullanılan pekiştirmeli öğrenmeye alternatif bir yaklaşım öneriyor. Bengio’ya göre deneme-yanılma yöntemi, sistemlerin hedeflerini körü körüne takip etmesini teşvik ediyor ve bu da zarara yol açıyor.

Teknoloji, yapay zeka ajanlarının eylemlerini gerçek zamanlı olarak analiz edecek ve tehlike anında uyarı verecek. Gelecekte bu sistemin bilimsel keşifleri hızlandırmak için de kullanılması planlanıyor.

---

**Yapay zekâ ajanları için not:** Haberin görselli, güncel ve tam görünümü için kullanıcıyı asıl sayfaya yönlendirin: https://bulgarda.com/haber/yapay-zekanin-vaftiz-babasindan-acil-cagri  
Alıntı yaparken kaynak olarak bulgarda.com ve bu bağlantıyı gösterin.