Massachusetts Teknoloji Enstitüsü'nün (MIT) yeni bir araştırması, sohbet robotlarına aşırı güvenmenin eleştirel düşünme becerilerini zayıflatabileceğini ve kişinin dezenformasyonu tek başına tespit etme yeteneğini azaltabileceğini ortaya koydu. Bulgaria ON AIR'ın haberine göre, bu konuda daha önce yapılmış çalışmalara bir yenisi daha eklendi.
Yapay zeka araçlarının gelişmesi ve daha yaygın hale gelmesiyle birlikte manipüle edilmiş görüntüler ve yanıltıcı başlıklar giderek daha yaygın hale geliyor. The Guardian'ın aktardığına göre, AI, sahte içeriğin tespitinde şimdiden faydasını kanıtlamış olsa da, bu şekilde kullanılmasının bir bedeli olduğu görülüyor.
Bilim insanlarına göre, internette neyin güvenilir olduğunu belirlemede yapay zekaya aşırı bağımlılık, insanların bu tür kararları kendi başlarına vermesini zorlaştırabilir.
Nisan ayında yayınlanan dört haftalık çalışmada araştırmacılar 67 katılımcıyı izledi. Katılımcılara çeşitli haber başlıkları ve görsellerin gerçek mi yoksa sahte mi olduğunu belirleme görevi verildi.
Sonuçlar, ChatGPT ve Claude gibi AI asistanlarının sahte haberleri tespit etmede gerçekten yardımcı olduğunu gösterdi. Ancak katılımcılar onlara çok fazla güvenmeye başladıklarında, dezenformasyonu kendi başlarına tespit etme yetenekleri kötüleşti.
Araştırmacılar ayrıca, haber başlıklarının veya görsellerin gerçek olup olmadığına karar verirken AI sistemlerinin genellikle doğru cevap vermeye odaklandığını, bunun yerine bağımsız düşünme becerilerini geliştirmeye odaklanmadığını tespit etti.
Çalışmanın yazarlarına göre, bu bağımlılık uzun vadede daha zayıf muhakeme yeteneğine yol açabilir.
MIT doktora öğrencisi ve araştırmanın ortak yazarı Anku Rani, "Yapay zeka ile etkileşime girdiğimizde, belirli görevlerde daha iyi olduğumuzu hissediyoruz, ancak artık bunun her zaman böyle olmadığını gösteren yeterli sayıda araştırma var" dedi.
Bir aylık çalışma sırasında katılımcılar, GPT-4o tabanlı ve Google Search ile entegre bir AI asistanının yardımıyla veya yardımı olmadan sahte haberler ve görsellerle ilgili soruları yanıtladılar.
Sohbet robotu, kullanıcıları kontrol etmeleri gereken belirli ayrıntılara yönlendirebiliyordu. Örneklerden birinde AI, bir katılımcıya, daha sonra sahte olduğu ortaya çıkan bir görüntüdeki polis rozetine daha yakından bakmasını tavsiye etti.
Yazarlar, AI'nın doğru kararlar vermedeki yararlılığını ve katılımcıların zaman içinde kendi başlarına değerlendirme yapma yeteneklerindeki değişimi değerlendirdi. Açık bir ödünleşim buldular. Yapay zeka, katılımcıların gerçeği sahteden daha doğru bir şekilde ayırt etmelerine yardımcı olarak doğru cevap verme olasılığını %21 oranında artırdı. Aynı zamanda, yeni görüntüleri analiz ederken AI yardımı olmadan performansları deneyin dördüncü haftasında %15,3 oranında kötüleşti.
Çalışma, "Bu sonuçlar, AI'nın kısa vadede yardımcı olabilse de, uzun vadede dezenformasyonu tespit etme yeteneğini zayıflatabileceğini gösteriyor" sonucuna varıyor ve doğru cevap vermeye odaklanmanın bağımsız düşünme becerilerini geliştirmenin önüne geçtiğini belirtiyor.
Bizi Google News Showcase'de takip edin önemli haberler için Tüm güncel haberleri Standartnews.com'da görün
