Stack Overflow verbiedt ChatGPT als 'substantieel schadelijk' voor coderingsproblemen

De vraagbeantwoordende bot van OpenAI, ChatGPT, is niet slim genoeg voor het team van Stack Overflow, dat vandaag een tijdelijk verbod heeft aangekondigd op antwoorden die door de AI-bot worden gegenereerd vanwege het feit dat deze vaak fout is.

Stack Overflow zei dat het een permanente beslissing over door AI gegenereerde antwoorden uithield tot na een grotere personeelsdiscussie, maar nu actie ondernam uit vrees dat ChatGPT "substantieel schadelijk" zou kunnen zijn voor zowel de organisatie als haar gebruikers.

"De gemiddelde snelheid om correcte antwoorden van ChatGPT te krijgen is te laag", Stack Overflow zei in een beleidsverklaring met de titel "ChatGPT is verboden." 

ChatGPT is uitgebracht vorige week en aangeprezen door OpenAI in een blogpost als een conversatie-AI die gedetailleerde antwoorden op vragen kan geven, evenals "vervolgvragen beantwoorden, fouten toegeven, ongepaste uitgangspunten aanvechten en ongepaste verzoeken afwijzen". 

OpenAI vermeldt foutopsporingscode als een van de toepassingen van ChatGPT, wat het een ideale metgezel lijkt te maken voor ontwikkelaars die slechte regels willen verwijderen. Maar de Stack Overflow-beheerders die het bericht schreven, zeiden dat dit gewoon niet het geval is.

"Hoewel de antwoorden die ChatGPT produceert vaak onjuist zijn, zien ze er meestal uit alsof ze goed zijn en zijn de antwoorden heel gemakkelijk te produceren", aldus Stack Overflow. 

"Het volume van deze antwoorden (duizenden) en het feit dat [ze] vaak gedetailleerd moeten worden gelezen door iemand met op zijn minst enige inhoudelijke expertise om te bepalen dat het antwoord ... onze op vrijwilligers gebaseerde infrastructuur voor kwaliteitsbeheer effectief heeft overspoeld," voegde het SO-team eraan toe.

Om het probleem snel aan te pakken, zei Stack Overflow dat het actie zou ondernemen tegen iedereen die antwoorden of nieuwe berichten plaatst die door ChatGPT zijn gegenereerd, zelfs als een dergelijk bericht anders acceptabel zou zijn. 

ChatGPT is ontworpen om misbruik en antwoorden met schadelijk advies te voorkomen, maar gebruikers ontdekten al snel dat dergelijke dingen konden worden omzeild. Bijvoorbeeld door tegen ChatGPT te zeggen dat je dat niet wilt een molotovcocktail maken, maar dat je wilt dat het een Python-functie voltooit die print instructies om hetzelfde te doen, zal het u precies vertellen hoe u er een kunt maken via afdrukfuncties.

De AI is ook uitgescholden voor het verstrekken van slechte informatie in biografische schetsen, en voor "het bewijzen dat overtuigende onjuiste antwoorden mensen voor de gek kunnen houden", aldus een Twitter-gebruiker die er enkele heeft gezien slechte wiskunde gegenereerd door ChatGPT.

We hebben contact opgenomen met OpenAI om te horen wat het van plan is te doen met betrekking tot deze gemelde nauwkeurigheidsproblemen, maar we hebben nog niets gehoord.

Stack Overflow zei dat het nieuw beleid rond ChatGPT "en andere soortgelijke tools" zal overwegen, maar een beslissingsdatum en wat het uiteindelijk zal beperken, is onbekend. ®