Yapay Zeka Sektöründe Çalışanlardan İlginç Uyarı: “Benim Evimde Yeri Yok”
Yapay zeka her geçen gün günlük hayatın daha büyük bir parçası haline gelirken, bu teknolojiyi yakından tanıyanların yaptığı uyarılar dikkat çekiyor. Sektörde çalışan birçok uzman, riskleri bizzat gözlemledikleri için ailelerine ve yakınlarına yapay zekadan uzak durmalarını tavsiye ediyor. Şirketlerin hız baskısı, eksik denetim ve hatalı çıktılar gibi sorunlar nedeniyle, teknolojiyi geliştirenlerin dahi kendi evlerinde bu sistemlere yer vermemesi tartışmayı daha da büyütüyor.
Kaynak: Independent
Yapay zeka hızla hayatın her alanına nüfuz ederken, ilginç bir şekilde bu teknolojiyi en yakından tanıyan kişiler, yani sektör çalışanları, yakın çevrelerini açıkça uyarıyor.
Guardian’ın haberine göre birçok uzman, ailelerine ve arkadaşlarına yapay zekadan uzak durmalarını söylüyor. Nedeni ise oldukça basit. Teknolojiyi geliştirenler, risklerini herkesten daha iyi biliyor.
Sektörde çalışanların ortak düşüncesi, şirketlerin “hız ve ölçek” odaklı yarışının güvenlik kaygılarını geri plana ittiği.
Aceleyle oluşturulan süreçler, düşük kaliteli eğitim verileri ve denetim eksikliği; hatalı, yanlı veya tehlikeli sonuçlar doğuruyor. Amazon’un Mechanical Turk platformu ve Google’ın kalite değerlendirme birimlerinde görev yapan çalışanlar, modellerin sık sık “halüsinasyon” olarak bilinen yanlış bilgi üretme sorununa dikkat çekiyor. Özellikle siyasi ve tarihsel konularda hatalı yanıtların çok kolay ortaya çıktığını belirtiyorlar.
Google’da çalışan bir isim, kimliğinin gizli kalması şartıyla, 10 yaşındaki kızının yapay zeka tabanlı sohbet botlarına erişimine izin vermediğini söylüyor.
Bu kararının gerekçesi ise çocuğunun önce eleştirel düşünmeyi öğrenmesi gerektiğini, aksi halde modelin sunduğu bilginin doğruluğunu değerlendiremeyeceğini anlatıyor.
Google’da içerik değerlendirme yapan başka bir çalışan ise, İsrail’le ilgili kapsamlı yanıtlar alınabilirken, Filistin’le ilgili sorularda modelin sürekli başarısız olduğunu aktarıyor.
Durumu rapor etmelerine rağmen şirket içinde kimsenin bu tutarsızlıkla ilgilenmediğini ifade ediyor.
MTurk çalışanı Krista Pawloski de yıllarca sistemin iç işleyişini gözlemlemiş bir isim. Sosyal medya içeriklerinde ırkçı paylaşımların tespit edilmesi gibi görevler yürüttüğünü, ancak yapay zeka modellerinin pek çok zararlı içeriği gözden kaçırdığını söylüyor. Bu tecrübelerden sonra üretken yapay zekayı tamamen hayatından çıkardığını, ailesine de kullanmamalarını tembih ettiğini belirtiyor. Hatta kızının ChatGPT ve benzeri platformlara erişmesine “evinde asla izin vermediğini” vurguluyor.
Yapay zeka sistemleri üzerine analizler yapan Distributed AI Research Institute’tan Adio Dinika ise, bu teknolojilerin nasıl aceleyle geliştirildiğini, hangi tavizlerle ortaya çıktığını yakından gördükçe “fütüristik bir mucize” algısının kaybolduğunu dile getiriyor. Ona göre yapay zekayı en çok idealize edenler, aslında onu en az anlayanlar.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
İki Ülke Yarış Halinde: Dünyada En Çok Altını Olan 10 Ülke Belli Oldu
Yorum Yazın