Kanada, çocukların ve gençlerin sosyal medya kullanımına ciddi kısıtlamalar getiren bir başka ülke olmaya hazırlanıyor. Hükümet bu hafta, 16 yaş altındaki kişilerin sosyal medyada profil oluşturmasını yasaklayan ve dijital platformlarla yapay zeka şirketlerine bir dizi yeni yükümlülük getiren Safe Social Media Act adlı yeni bir yasa tasarısı sundu.
Yasanın kabul edilmesi halinde Kanada, çocuklar üzerindeki olumsuz sosyal medya etkisini sınırlamak için benzer önlemler alan Avustralya, Endonezya ve Malezya gibi ülkelere katılacak. Kanada'nın önerisi, daha geniş bir uluslararası eğilimin parçası olsa da, bu tür politikaların gerçek sonuçlarını değerlendirmek için henüz erken olduğu belirtiliyor.
Tasarıya göre şirketler, hizmetlerini reşit olmayan kullanıcılar için daha güvenli olacak şekilde tasarlamakla yükümlü olacak. Ayrıca yapay zeka tarafından oluşturulan deepfake içerikler, çocukların cinsel istismarına ilişkin materyaller ve cinsel suç mağdurlarına yönelik şiddet içeren yayınları hızla kaldırmaları gerekecek.
Yasa, yapay zeka ile oluşturulan içeriklerin zorunlu olarak açıkça etiketlenmesini, zararlı ve şiddet içerikli yayınların bildirilmesinin kolaylaştırılmasını ve sorunlu profillerin engellenmesi için daha etkili araçlar sağlanmasını da öngörüyor.
Tasarı, Kanada'da özellikle yapay zeka sohbet robotlarına (chatbot) yönelik ilk düzenlemeleri de içeriyor. Hükümet, sosyal medyanın aksine, yapay zeka sistemlerine erişimi kullanıcıların yaşına göre sınırlamayı düşünmüyor.
Bunun yerine platformlar, sohbet robotlarının zararlı içerik yaymasını önlemek, kullanıcılara zarar verebilecek davranışları sınırlamak ve kriz durumlarında acil müdahale mekanizmaları oluşturmakla yükümlü olacak.
Kanada Kimlik ve Kültür Bakanı Marc Miller, sosyal medyanın zararlarının yıllardır araştırıldığını, ancak sohbet robotlarının etkilerinin henüz yeterince anlaşılmadığını ve aynı sosyal işlevi görmediklerini belirterek, bu aşamada onlara yönelik yaş sınırlaması öngörülmediğini söyledi.
Medyada yer alan haberlere göre bu düzenlemeler, Şubat ayında Britanya Kolumbiyası eyaletindeki Tumbler Ridge kasabasında bir okulda meydana gelen ve son yılların en ağır toplu katliamlarından birinin ardından eklendi.
Saldırının ardından failin aylar önce ChatGPT ile şiddet senaryoları ve silahlar hakkında yazışmalar yaptığı ortaya çıktı.
Kanada Başbakanı Mark Carney, trajedinin ardından yaptığı açıklamada olayı ve daha sıkı güvenlik önlemlerine duyulan ihtiyacı değerlendirdi.
Sohbet robotuyla yapılan görüşmeler OpenAI'nin güvenlik sistemleri tarafından tespit edildi ve haberlere göre şirket çalışanları arasında kolluk kuvvetlerine haber verilip verilmemesi konusunda iç tartışmalara yol açtı. Sonuçta hesap kapatıldı, ancak polise bildirim yapılmadı çünkü 'acil ve güvenilir bir tehdit' olarak değerlendirilmedi.
Saldırının ardından şirket ciddi eleştirilere maruz kaldı ve kurbanlardan birinin ailesi, yetkililerin zamanında uyarılması halinde trajedinin önlenebileceğini iddia ederek dava açtı.
İşte bu olay nedeniyle yeni Kanada yasa tasarısı ilk kez yalnızca sosyal medyaya odaklanmak yerine, yapay zeka platformları için de somut yükümlülükler içeriyor.
