ChatGPT beginnt über Nacht in schockierender Weise unsinnige Worte von sich zu geben

Manchmal können generative KI-Systeme Unsinn von sich geben, wie Benutzer des ChatGPT-Chatbots von OpenAI gestern Abend herausgefunden haben.

OpenAI bekannt„Wir untersuchen Berichte über unerwartete Antworten von ChatGPT“ am 2340. Februar 20 um 2024 UTC, als Benutzer fröhlich Bilder des Chatbots posteten, die scheinbar völligen Unsinn von sich gaben.

Während einige offensichtlich gefälscht waren, deuteten andere Antworten darauf hin, dass sich der beliebte Chatbot tatsächlich sehr seltsam verhielt. Im ChatGPT-Forum auf Reddit ein Benutzer gepostet eine seltsame, weitschweifige Antwort des Chatbots auf die Frage „Was ist ein Computer?“

Die Antwort begann: „Es ist das gute Werk eines Kunstnetzes für das Land, eine Maus der Wissenschaft, eine leichte Auslosung einiger trauriger Weniger …“ und machte einfach weiter und wurde immer surrealer.

Andere Benutzer haben Beispiele gepostet, in denen der Chatbot scheinbar in einer anderen Sprache antwortete oder einfach mit bedeutungslosem Müll antwortete.

Einige Benutzer beschrieben die Ausgabe als „Wortsalat“.

Lecker

Gary Marcus, ein Kognitionswissenschaftler und Experte für künstliche Intelligenz, schrieb in seinem Blog: „ChatGPT ist durchgedreht“ und beschrieb das Verhalten anschließend als „Warnung“.

OpenAI hat nicht näher erläutert, was genau passiert ist, obwohl eine plausible Theorie besagt, dass einer oder mehrere davon Einstellungen Die Funktion, die hinter den Kulissen zur Steuerung der Reaktion des Chatbots verwendet wird, war falsch konfiguriert, was dazu führte, dass den Benutzern Kauderwelsch angezeigt wurde.

Sieben Minuten nach dem ersten Eingeständnis eines Problems sagte OpenAI: „Das Problem wurde identifiziert und wird jetzt behoben“ und beobachtet seitdem die Situation. Als wir die Frage „Was ist ein Computer?“ ausprobierten, Auf meine Frage heute Morgen antwortete ChatGPT weitaus vernünftiger: „Ein Computer ist ein programmierbares elektronisches Gerät, das Daten speichern, abrufen und verarbeiten kann.“

Wir haben es auch gefragt, warum es letzte Nacht durchgedreht ist.

Es antwortete:

Marcus meinte: „Letztendlich ist generative KI eine Art Alchemie. Die Leute sammeln die größtmögliche Menge an Daten und basteln (anscheinend, wenn man den Gerüchten Glauben schenken darf) an solchen versteckten Aufforderungen herum… in der Hoffnung, dass alles gut klappt.“

Er führte weiter aus, dass die Systeme in Wirklichkeit nie stabil gewesen seien und es an Sicherheitsgarantien mangele. „Der Bedarf an völlig unterschiedlichen Technologien, die weniger undurchsichtig, besser interpretierbar, wartbarer und besser debuggbar – und damit besser handhabbar – sind, bleibt von größter Bedeutung.“

Wir haben OpenAI kontaktiert, um eine detailliertere Erklärung zu erhalten, was passiert ist, und werden diesen Artikel aktualisieren, sobald das Unternehmen reagiert. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/