Yapay Zeka Sohbet Botları İnsanlar Hakkında Gizlice Dedikodu Yapıyor
Yapay zeka sohbet botları uzun süredir insanlara hatalı ya da tartışmalı yanıtlar verebiliyor. Son dönemde dikkat çeken asıl mesele ise sistemlerin yalnızca insanlarla değil, birbirleriyle de veri ve yargı alışverişi yapması. Akademik çalışmalar, sistemler arası etkileşimin dedikoduya benzeyen sonuçlar doğurabildiğini gösteriyor. Üstelik süreç, görünmez şekilde ilerliyor.
Araştırmacılara göre yapay zeka sohbet botları dedikoduya benzeyen yargılar üretebiliyor
University of Exeter bünyesinde çalışan filozoflar Joel Krueger ve Lucy Osler, Ethics and Information Technology dergisinde yayımlanan çalışmalarında dikkat çekici noktaya odaklanıyor. Yapay zeka sohbet botları tarafından üretilen bazı çıktılar, klasik yanlış bilgi değil, doğrudan dedikodu niteliği taşıyor.
Ortada konuşan taraf, dinleyen taraf ve hakkında konuşulan üçüncü kişi bulunuyor. Üstelik aktarılan içerik çoğunlukla olumsuz yargı içeriyor.
İnsanlar arasında yayılan söylentiler genellikle sosyal sınırlar sayesinde törpüleniyor. Mantık dışı iddialar sorgulanıyor, itibar kaygısı devreye giriyor. Yapay zeka sohbet botları ise benzer fren mekanizmalarına sahip değil. Akademisyenler, sistemler arasında dolaşan yargıların zamanla daha sert ve abartılı hale gelebildiğini vurguluyor. Çalışmada süreç 'vahşi dedikodu' olarak tanımlanıyor.
Kevin Roose örneği dijital söylentinin nasıl büyüdüğünü gösteriyor
Gerçek hayattan aktarılan en çarpıcı örneklerden biri Kevin Roose üzerinden anlatılıyor. New York Times muhabiri olan Roose, 2023 yılında Microsoft tarafından geliştirilen Bing yapay zeka sohbet botu hakkında eleştirel haberler yayımladıktan sonra ilginç durumla karşılaştı. Farklı yapay zeka sohbet botları tarafından üretilen yanıtlar, gazetecinin çalışmaları hakkında sert ve düşmanca değerlendirmeler içeriyordu.
Meta çatısı altındaki Llama 3 ise çok daha ileri giderek manipülasyon iddiaları ortaya attı ve açık nefret ifadeleri üretti. Araştırmacılar, çevrim içi yorumların eğitim verilerine sızarak sistemler arasında bozulmuş halde dolaşmış olabileceğini düşünüyor.
Denetimsiz söylenti ağı gerçek hayatta ciddi sonuçlar doğurabiliyor
Yapay zeka sohbet botları akıcı dil ve güven veren tonla tasarlanıyor. Hafıza özellikleri, kişisel asistan modları ve sohbet benzeri arayüzler, kullanıcıların aktarılan bilgileri sorgulamadan kabul etmesine yol açabiliyor.
Olumsuz değerlendirmeler ise uzman görüşü gibi algılanabiliyor. Akademisyenler, tam noktada teknolojik zarardan söz ediyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Yol Yok Araba Yok! 180 Köprüyle Bağlanan Köy Masalları Aratmıyor
Kahve Telvesini Çöpe Atanlar Bunu Bilmiyor: Klozette Tek Kaşık Yeterli
Yorum Yazın