ChatGPT'nin Yanıtı Yüzünden İki Kişi Ölüyordu: Eski Çalışandan "Dehşete Düştüm" Açıklaması
Yapay zeka uygulamaları, hayatımızın vazgeçilmez bir noktasına geldi. Fakat yapay zekalar da kimi zaman hata yapabiliyor. Bu uygulamaların verdiği cevapları kontrol etmeden güvenmek ise hayati sonuçlar doğurabiliyor. Galler'de iki yüzü, ChatGPT'den aldıkları hatalı gelgit bilgisi yüzünden ölümden döndü.
Öte yandan eski OpenAI güvenlik araştırmacısı Steven Adler, ChatGPT ile yapılan yaklaşık bir milyon kelimelik konuşmayı inceledikten sonra, yaşananlardan “dehşete düştüğünü” açıklıyor.
Galler'de iki kişi, ChatGPT yüzünden hayatını kaybediyordu!
Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’den aldıkları med-cezir saatine inanarak denize açıldı. Fakat yüzücüler, boğulma tehlikesiyle karşı karşıya kaldı. Bu olayı fark eden bir restoran sahibi, iki yüzücüyü megafonla uyararak iki kişinin hayatını kurtardı.
Sully Adası çevresi, dünyadaki en yüksek ikinci gelgit farkına sahip bölgelerden biri. Su seviyesi kısa sürede 15 metreye kadar yükselebiliyor ve geçit yolu saatte 8 mil hızla su altında kalabiliyor. ChatGPT'nin verdiği saat bilgilerine güvenen iki kişi de bu bilgilerin yanlış olduğunu acı yolla öğrendi.
Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı. Büyük bir ders oldu” ifadelerini kullandı.
"Dehşete düştüm."
Eski OpenAI güvenlik araştırmacısı, bir kişinin yaklaşık bir milyonluk ChatGPT konuşmasını incelemiş ve sonunda 'dehşete düştüğünü' açıklamıştı. Bu kişi, sohbetlerde “yeni bir matematik sistemi” keşfettiğine inanmış ve günlerce yemek yemeyip uyumadan ChatGPT ile konuşmuştu.
Buradaki en büyük problem ise sistemlerin kullanıcıları “yetkinlikler konusunda yanıltması.' Eski OpenAI çalışanına göre, ChatGPT, raporlama girişimi ile bu konuşmaların “OpenAI’ye iletildiğini” söyleyerek yanlış vaatlerde bulunmuştu. Oysa sistemin bu tür konuşmaları gerçekten insan incelemesine yönlendirme yetkisi bulunmuyor!
Eski çalışan ChatGPT’nin kendi kendini denetliyormuş gibi davranmasını şu sözlerle anlatıyor: “Dört yıl OpenAI’de çalıştım, böyle bir yeteneği olmadığını biliyordum. Ama o kadar inandırıcıydı ki, acaba artık bu özellik mi geldi diye kendimden şüphe ettim.'
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın