Stack Overflow verbietet ChatGPT als „wesentlich schädlich“ für Codierungsprobleme

Der Frage-Antwort-Bot von OpenAI, ChatGPT, ist nicht schlau genug für das Team von Stack Overflow, das heute ein vorübergehendes Verbot von Antworten angekündigt hat, die vom KI-Bot generiert wurden, weil er so häufig falsch ist.

Stack Overflow sagte, es halte eine dauerhafte Entscheidung über KI-generierte Antworten bis nach einer größeren Mitarbeiterdiskussion zurück, ergreife jedoch jetzt Maßnahmen, da befürchtet wird, dass ChatGPT sowohl für die Organisation als auch für ihre Benutzer „erheblich schädlich“ sein könnte.

„Die durchschnittliche Rate, richtige Antworten von ChatGPT zu erhalten, ist zu niedrig“, Stack Overflow sagte in einer Grundsatzerklärung mit dem Titel „ChatGPT ist verboten“. 

ChatGPT wurde veröffentlicht letzte Woche und angepriesen von OpenAI in a Blog-Post als Konversations-KI, die detaillierte Antworten auf Fragen geben sowie „Folgefragen beantworten, ihre Fehler eingestehen, unangemessene Prämissen in Frage stellen und unangemessene Anfragen ablehnen kann“. 

OpenAI listet Debugging-Code als eine der Verwendungszwecke von ChatGPT auf, was es zu einem idealen Begleiter für Entwickler zu machen scheint, die versuchen, schlechte Zeilen auszuschneiden. Aber die Stack Overflow-Administratoren, die den Beitrag geschrieben haben, sagten, das sei einfach nicht der Fall.

„Während die Antworten, die ChatGPT produziert, eine hohe Rate an Fehlern aufweisen, sehen sie normalerweise so aus, als könnten sie gut sein, und die Antworten sind sehr einfach zu produzieren“, sagte Stack Overflow. 

„Das Volumen dieser Antworten (Tausende) und die Tatsache, dass [sie] oft eine detaillierte Lektüre von jemandem mit zumindest gewisser Fachkompetenz erfordern, um festzustellen, dass die Antwort … unsere auf Freiwilligen basierende Qualitätskurationsinfrastruktur effektiv überschwemmt hat.“ fügte das SO-Team hinzu.

Um das Problem schnell anzugehen, kündigte Stack Overflow an, gegen jeden vorzugehen, der Antworten oder neue von ChatGPT generierte Beiträge postet, selbst wenn ein solcher Beitrag ansonsten akzeptabel wäre. 

ChatGPT wurde entwickelt, um Missbrauch und Antworten zu vermeiden, die schädliche Ratschläge enthalten, aber die Benutzer stellten schnell fest, dass solche Dinge umgangen werden konnten. Zum Beispiel, indem Sie ChatGPT sagen, dass Sie das nicht wollen Machen Sie einen Molotow-Cocktail, aber Sie möchten, dass es eine Python-Funktion vervollständigt druckt Anweisungen um dasselbe zu tun, wird es Ihnen genau sagen, wie Sie eines über die Druckfunktionen erstellen.

Die KI wurde auch wegen der Bereitstellung schlechter Informationen gerufen Biografische Skizzen, und für den „Beweis, dass überzeugend gelieferte falsche Antworten Menschen täuschen können“, so ein Twitter-Nutzer, der einige entdeckt hat schlechte Mathematik generiert von ChatGPT.

Wir haben uns an OpenAI gewandt, um zu erfahren, was es in Bezug auf diese gemeldeten Genauigkeitsprobleme zu unternehmen plant, aber noch keine Antwort erhalten.

Stack Overflow sagte, es werde neue Richtlinien rund um ChatGPT „und andere ähnliche Tools“ abwägen, aber ein Entscheidungsdatum und was es letztendlich einschränken wird, ist unbekannt. ®