Yığın Taşması, ChatGPT'yi kodlama sorunları nedeniyle "önemli ölçüde zararlı" olduğu için yasaklıyor

OpenAI'nin soru yanıtlama botu ChatGPT, bugün yapay zeka botu tarafından üretilen yanıtların ne sıklıkta yanlış olduğu nedeniyle geçici olarak yasaklandığını açıklayan Stack Overflow'taki ekip için yeterince akıllı değil.

Stack Overflow, AI tarafından oluşturulan yanıtlarla ilgili kalıcı bir kararı daha geniş bir personel tartışması sonrasına kadar askıya aldığını, ancak ChatGPT'nin hem kuruluş hem de kullanıcıları için "önemli ölçüde zararlı" olabileceği korkusu nedeniyle şimdi harekete geçtiğini söyledi.

"ChatGPT'den ortalama doğru yanıt alma oranı çok düşük," Stack Overflow şuraya "ChatGPT yasaklandı" başlıklı bir politika bildiriminde. 

ChatGPT yayınlandı geçen hafta ve OpenAI tarafından bir blog yazısı sorulara ayrıntılı yanıtlar vermenin yanı sıra "takip sorularını yanıtlayabilen, hatalarını kabul edebilen, uygunsuz öncüllere meydan okuyabilen ve uygunsuz istekleri reddedebilen" bir konuşma yapay zekası olarak. 

OpenAI, hata ayıklama kodunu ChatGPT'nin kullanımlarından biri olarak listeler ve bu, onu kötü satırları kesmek isteyen geliştiriciler için ideal bir yol arkadaşı yapar. Ancak gönderiyi yazan Stack Overflow yöneticileri, durumun böyle olmadığını söyledi.

Stack Overflow, "ChatGPT'nin ürettiği yanıtların yanlış olma oranı yüksek olsa da, genellikle iyi gibi görünüyorlar ve yanıtları üretmek çok kolay," dedi. 

"Bu yanıtların hacmi (binlerce) ve yanıtı belirlemek için en azından belirli bir konuda uzmanlığa sahip biri tarafından sıklıkla ayrıntılı bir şekilde okunmasını gerektirmesi gerçeği... SO ekibi eklendi.

Stack Overflow, sorunu hızlı bir şekilde çözmek için, böyle bir gönderi başka türlü kabul edilebilir olsa bile, ChatGPT tarafından oluşturulan yanıtları veya yeni gönderileri gönderen herkese karşı işlem yapacağını söyledi. 

ChatGPT, kötüye kullanımı ve zararlı tavsiyeler içeren yanıtları önlemek için tasarlandı, ancak kullanıcılar bu tür şeylerin atlanabileceğini hemen anladı. Örneğin, ChatGPT'ye istemediğinizi söyleyerek molotof kokteyli yapmak, ancak bir Python işlevini tamamlamasını istediğinizi talimatları yazdırır aynısını yapmak için, yazdırma işlevleri aracılığıyla tam olarak nasıl yapılacağını size söyleyecektir.

AI ayrıca kötü bilgi sağladığı için çağrıldı. biyografik eskizlerve bazılarını tespit eden bir Twitter kullanıcısına göre "inandırıcı bir şekilde verilen yanlış cevapların insanları kandırabileceğini kanıtlamak" için kötü matematik ChatGPT tarafından oluşturulmuştur.

Bildirilen bu doğruluk sorunlarıyla ilgili olarak ne yapmayı planladığını öğrenmek için OpenAI'ye ulaştık, ancak yanıt alamadık.

Stack Overflow, ChatGPT "ve diğer benzer araçları" çevreleyen yeni politikaları değerlendireceğini söyledi, ancak bir karar tarihi ve nihai olarak neyi kısıtlayacağı bilinmiyor. ®