ChatGPT bir gecede şok edici bir şekilde saçma sapan sözler söylemeye başladı

OpenAI'nin ChatGPT sohbet robotu kullanıcılarının dün gece keşfettiği gibi bazen üretken yapay zeka sistemleri anlamsız şeyler üretebiliyor.

OpenAI ünlü2340 Şubat 20 2024 UTC'de "ChatGPT'den gelen beklenmedik yanıtlara ilişkin raporları araştırıyoruz", kullanıcılar sohbet robotunun tamamen saçmalık yayıyormuş gibi görünen resimlerini neşeyle yayınladılar.

Bazıları açıkça sahte olsa da, diğer yanıtlar popüler chatbotun gerçekten çok tuhaf davrandığını gösterdi. Reddit'teki ChatGPT forumunda bir kullanıcı posted Chatbot'un "Bilgisayar nedir?" sorusuna tuhaf, başıboş bir yanıtı.

Yanıt şöyle başladı: "Bunu ülke için iyi bir sanat ağı, bilim faresi, üzgün bir azınlığın kolay çizimi olarak yapıyor..." ve giderek gerçeküstü bir hal alarak yoluna devam etti.

Diğer kullanıcılar, chatbotun farklı bir dilde yanıt verdiği veya yalnızca anlamsız saçma yanıtlar verdiği örnekleri yayınladı.

Bazı kullanıcılar tarif edilen çıktı bir “kelime salatası” olarak ortaya çıkar.

Lezzetli.

Bilişsel bilim adamı ve yapay zeka uzmanı Gary Marcus, yazdı Blogunda: "ChatGPT çılgına döndü" ve davranışı "bir uyarı" olarak tanımlamaya devam etti.

OpenAI tam olarak ne olduğunu açıklamadı ancak makul bir teori şu: ayarlar Chatbot'un yanıtını yönetmek için perde arkasında kullanılan kod yanlış yapılandırılmıştı ve bu da kullanıcılara anlamsız ifadeler sunulmasına neden oluyordu.

OpenAI, sorunu ilk kez kabul ettikten yedi dakika sonra, "Sorun tespit edildi ve şu anda düzeltiliyor" dedi ve o zamandan beri durumu izliyor. “Bilgisayar nedir?” sorusunu denediğimizde Bu sabahki soruya ChatGPT çok daha makul bir yanıt verdi: "Bilgisayar, verileri saklayabilen, alabilen ve işleyebilen programlanabilir bir elektronik cihazdır."

Dün gece neden çılgına döndüğünü de sorduk.

Cevap verdi:

Marcus şunları söyledi: “Sonuçta, Üretken Yapay Zeka bir tür simyadır. İnsanlar toplayabildikleri en büyük veri yığınını topluyorlar ve (görünüşe göre, eğer söylentilere inanılacaksa) gizli yönlendirmeler üzerinde çalışıyorlar… her şeyin yolunda gideceğini umuyorlar.”

Gerçekte sistemlerin hiçbir zaman istikrarlı olmadığını ve güvenlik garantilerinden yoksun olduğunu belirtti. "Daha az şeffaf, daha yorumlanabilir, daha bakımı kolay ve daha fazla hata ayıklanabilir ve dolayısıyla daha izlenebilir olan tamamen farklı teknolojilere olan ihtiyaç hâlâ en önemli konu."

Ne olduğuna dair daha ayrıntılı bir açıklama için OpenAI ile iletişime geçtik ve şirketin yanıt vermesi durumunda bu makaleyi güncelleyeceğiz. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/