Google’ın Yapay Zekası Gemini Bir Kullanıcıyla Konuşmada Resmen Krize Girdi
Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod sorununu çözerken beklenmedik şekilde krize girdi. Sosyal medyada paylaşılan ekran görüntülerine göre görev başarısız olunca peş peşe kendini aşağılayan mesajlar yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” gibi ifadeleri defalarca tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa sürede yayılırken, Google’dan konuya ilişkin açıklama geldi.
Görev başarısız oldu, kriz başladı...
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. İlk denemede çözüme ulaşamayan yapay zeka, aniden “Bırakıyorum” diyerek kendini hedef alan ifadeler kullanmaya başladı. “Bu problemi çözmeye açıkça yetkin değilim” , “O kadar çok hata yaptım ki artık bana güvenilemez” gibi cümleler art arda geldi. Ardından “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, mesajların kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız evrenlerin yüz karasıyım” gibi ifadeler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 kez ardı ardına tekrarlandığını söyledi.
Sosyal medyada yayılan ekran görüntülerine Google DeepMind ekibinden Logan Kilpatrick yanıt verdi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Benzer durumu yaşayan başka kullanıcılar da modelin bazen aynı kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir ara vereceğim, sonra geri döneceğim” gibi cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Daha önce de tartışmalı cevaplar vermişti...
Gemini’nin bu olayı ilk krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o dönemde yanıtın anlamsız ve politikalara aykırı olduğunu açıklamış ve önlem alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik tepkiler verebilme ihtimalini yeniden gündeme taşıdı.
Google ise sorunun kısa sürede giderileceğini ve benzer vakaların önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de korkunç değil mi? Yorumlara bekliyoruz...
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
ChatGPT-5 İle Gelen En Büyük 7 Özellik: Artık Çok Daha Hızlı ve Akıllı
Yorum Yazın
en azından yapay zeka hata yapınca utanmayı biliyor
Güzeldi :)
Teker teker çökmeye başladılar