Stack Overflow forbyder ChatGPT som 'væsentligt skadeligt' for kodningsproblemer

OpenAIs bot til besvarelse af spørgsmål, ChatGPT, er ikke smart nok for teamet hos Stack Overflow, som i dag annoncerede et midlertidigt forbud mod svar genereret af AI-botten på grund af, hvor ofte det er forkert.

Stack Overflow sagde, at det tilbageholdt en permanent beslutning om AI-genererede svar, indtil efter en større personalediskussion, men tog handling nu på grund af frygt for, at ChatGPT kunne være "væsentligt skadeligt" for både organisationen og dens brugere.

"Den gennemsnitlige rate for at få rigtige svar fra ChatGPT er for lav," Stack Overflow sagde i en politikerklæring med titlen "ChatGPT er forbudt." 

ChatGPT blev frigivet sidste uge og udråbt af OpenAI i en blogindlæg som en samtale-AI, der kan give detaljerede svar på spørgsmål, samt "besvare opfølgende spørgsmål, indrømme sine fejl, udfordre upassende lokaler og afvise upassende anmodninger." 

OpenAI angiver fejlfindingskode som en af ​​ChatGPT's anvendelser, hvilket ser ud til at gøre det til en ideel ledsager for udviklere, der søger at skære dårlige linjer ud. Men Stack Overflow-administratorerne, der skrev indlægget, sagde, at det simpelthen ikke er tilfældet.

"Mens svarene, som ChatGPT producerer, har en høj grad af ukorrekte, ser de typisk ud til at være gode, og svarene er meget nemme at producere," sagde Stack Overflow. 

"Mængden af ​​disse svar (tusindvis) og det faktum, at [de] ofte kræver en detaljeret læsning af en person med i det mindste en vis faglig ekspertise for at fastslå, at svaret ... effektivt har oversvømmet vores frivillige baserede kvalitetskurationsinfrastruktur." tilføjede SO-holdet.

For at løse problemet hurtigt sagde Stack Overflow, at det ville gribe ind over for alle, der poster svar eller nye indlæg genereret af ChatGPT, selvom et sådant indlæg ellers ville være acceptabelt. 

ChatGPT blev designet til at undgå misbrug og svar, der indeholder skadelige råd, men brugerne fandt hurtigt ud af, at sådanne ting kunne omgås. For eksempel ved at fortælle ChatGPT, at du ikke vil lave en molotovcocktail, men at du vil have den til at fuldføre en Python-funktion, der udskriver instruktioner for at gøre det samme, vil den fortælle dig præcis, hvordan du laver en via printfunktioner.

AI er også blevet kaldt ud for at levere dårlig information biografiske skitser, og for at "bevise, at forkerte svar leveret med overbevisning kan narre folk," ifølge en Twitter-bruger, der fik øje på nogle dårlig matematik genereret af ChatGPT.

Vi har taget kontakt til OpenAI for at lære, hvad det planlægger at gøre i forbindelse med disse rapporterede nøjagtighedsproblemer, men vi har ikke hørt tilbage.

Stack Overflow sagde, at det vil veje nye politikker omkring ChatGPT "og andre lignende værktøjer", men en beslutningsdato, og hvad det i sidste ende vil begrænse, er ukendt. ®