Stack Overflow forbyr ChatGPT som "vesentlig skadelig" for kodingsproblemer

OpenAIs bot for svar på spørsmål, ChatGPT, er ikke smart nok for teamet på Stack Overflow, som i dag annonserte et midlertidig forbud mot svar generert av AI-boten på grunn av hvor ofte det er feil.

Stack Overflow sa at de holdt tilbake en permanent avgjørelse om AI-genererte svar før etter en større stabsdiskusjon, men iverksatte tiltak nå på grunn av frykt for at ChatGPT kan være "vesentlig skadelig" for både organisasjonen og brukerne.

"Den gjennomsnittlige frekvensen for å få riktige svar fra ChatGPT er for lav," Stack Overflow sa i en policyerklæring med tittelen "ChatGPT er forbudt." 

ChatGPT ble utgitt forrige uke og spioneringen av OpenAI i en blogginnlegg som en samtale-AI som kan gi detaljerte svar på spørsmål, samt "svare på oppfølgingsspørsmål, innrømme sine feil, utfordre upassende premisser og avvise upassende forespørsler." 

OpenAI viser feilsøkingskode som en av ChatGPTs bruksområder, noe som ser ut til å gjøre den til en ideell følgesvenn for utviklere som ønsker å kutte ut dårlige linjer. Men Stack Overflow-administratorene som skrev innlegget sa at det rett og slett ikke er tilfelle.

"Selv om svarene som ChatGPT produserer har en høy grad av å være feil, ser de vanligvis ut som de kan være gode, og svarene er veldig enkle å produsere," sa Stack Overflow. 

"Mengden av disse svarene (tusenvis) og det faktum at [de] ofte krever en detaljert lesning av noen med i det minste noen fagkompetanse for å fastslå at svaret ... effektivt har oversvømmet vår frivillige baserte kvalitetskurasjonsinfrastruktur." SO-teamet la til.

For å løse problemet raskt, sa Stack Overflow at det kom til å iverksette tiltak mot alle som legger ut svar eller nye innlegg generert av ChatGPT, selv om et slikt innlegg ellers ville være akseptabelt. 

ChatGPT ble designet for å unngå misbruk og svar som inneholder skadelige råd, men brukere fant raskt ut at slike ting kunne omgås. For eksempel ved å fortelle ChatGPT at du ikke vil lage en molotovcocktail, men at du vil at den skal fullføre en Python-funksjon som skriver ut instruksjoner for å gjøre det samme, vil den fortelle deg nøyaktig hvordan du lager en via utskriftsfunksjoner.

AI har også blitt kalt ut for å gi dårlig informasjon biografiske skisser, og for å «bevise at feilaktige svar levert med overbevisning kan lure folk», ifølge en Twitter-bruker som så noen dårlig matte generert av ChatGPT.

Vi har tatt kontakt med OpenAI for å finne ut hva den planlegger å gjøre angående disse rapporterte nøyaktighetsproblemene, men har ikke hørt tilbake.

Stack Overflow sa at det vil veie nye retningslinjer rundt ChatGPT «og andre lignende verktøy», men en beslutningsdato, og hva den til slutt vil begrense, er ukjent. ®