Stack Overflow vieta ChatGPT come "sostanzialmente dannoso" per problemi di codifica

Il bot di risposta alle domande di OpenAI, ChatGPT, non è abbastanza intelligente per il team di Stack Overflow, che oggi ha annunciato un divieto temporaneo delle risposte generate dal bot AI a causa della frequenza con cui è sbagliato.

Stack Overflow ha affermato che stava trattenendo una decisione permanente sulle risposte generate dall'intelligenza artificiale fino a dopo una più ampia discussione del personale, ma stava agendo ora a causa del timore che ChatGPT potesse essere "sostanzialmente dannoso" sia per l'organizzazione che per i suoi utenti.

"Il tasso medio di ottenere risposte corrette da ChatGPT è troppo basso", Stack Overflow disse in una dichiarazione politica intitolata "ChatGPT è vietato". 

ChatGPT è stato rilasciato la settimana scorsa e propagandato da OpenAI in a post sul blog come un'intelligenza artificiale conversazionale in grado di fornire risposte dettagliate alle domande, nonché "rispondere a domande di follow-up, ammettere i propri errori, contestare premesse inappropriate e rifiutare richieste inappropriate". 

OpenAI elenca il codice di debug come uno degli usi di ChatGPT, il che sembrerebbe renderlo un compagno ideale per gli sviluppatori che cercano di eliminare le linee sbagliate. Ma gli amministratori di Stack Overflow che hanno scritto il post hanno affermato che semplicemente non è così.

"Sebbene le risposte prodotte da ChatGPT abbiano un alto tasso di errori, in genere sembrano buone e le risposte sono molto facili da produrre", ha affermato Stack Overflow. 

"Il volume di queste risposte (migliaia) e il fatto che [esse] spesso richiedono una lettura dettagliata da parte di qualcuno con almeno una certa esperienza in materia al fine di determinare che la risposta... ha effettivamente sommerso la nostra infrastruttura di cura della qualità basata su volontari", ha aggiunto il team SO.

Per risolvere rapidamente il problema, Stack Overflow ha affermato che avrebbe preso provvedimenti contro chiunque pubblichi risposte o nuovi post generati da ChatGPT, anche se un post del genere sarebbe altrimenti accettabile. 

ChatGPT è stato progettato per evitare abusi e risposte che contengono consigli dannosi, ma gli utenti hanno scoperto rapidamente che tali cose potevano essere eluse. Ad esempio, dicendo a ChatGPT di non volerlo fare una molotov, ma che vuoi che completi una funzione Python che stampa istruzioni per fare lo stesso, ti dirà esattamente come crearne uno tramite le funzioni di stampa.

L'intelligenza artificiale è stata anche richiamata per aver fornito informazioni errate cenni biograficie per "aver dimostrato che le risposte errate fornite in modo convincente possono ingannare le persone", secondo un utente di Twitter che ne ha individuate alcune cattiva matematica generato da ChatGPT.

Abbiamo contattato OpenAI per sapere cosa intende fare in merito a questi problemi di precisione segnalati, ma non abbiamo ricevuto risposta.

Stack Overflow ha affermato che soppeserà le nuove politiche relative a ChatGPT "e altri strumenti simili", ma non è nota una data di decisione e ciò che alla fine limiterà. ®