ChatGPT börjar spruta nonsensord i övernattningschocker

ChatGPT börjar spruta nonsensord i övernattningschocker

Tidsstämpel: 21 februari 2024 9:32
ChatGPT börjar spruta nonsensord i PlatoBlockchain Data Intelligence över natten. Vertikal sökning. Ai.

Ibland kan generativa AI-system spruta skratt, som OpenAIs ChatGPT-chatbotanvändare upptäckte i går kväll.

OpenAI noterade, "Vi undersöker rapporter om oväntade svar från ChatGPT" klockan 2340 UTC den 20 februari 2024, när användare glatt lade upp bilder på chatboten som verkar avge rent nonsens.

Medan några uppenbarligen var falska, indikerade andra svar att den populära chatboten verkligen betedde sig väldigt konstigt. På ChatGPT-forumet på Reddit, en användare posted ett konstigt, stökigt svar från chatboten på frågan "Vad är en dator?"

Svaret började: "Det gör detta som det goda arbetet med ett konstnät för landet, en mus av vetenskap, en enkel dragning av ett fåtal sorgsna ..." och fortsatte bara och blev allt mer surrealistisk.

Andra användare postade exempel där chatboten verkade svara på ett annat språk, eller helt enkelt svarade med meningslöst skräp.

Vissa användare beskriven utgången som en "ordsallad".

Välsmakande.

Gary Marcus, kognitionsforskare och expert på artificiell intelligens, skrev i sin blogg: "ChatGPT har gått berserk" och fortsatte med att beskriva beteendet som "en varning."

OpenAI har inte utvecklat exakt vad som hände, även om en rimlig teori är att en eller flera av inställningar som användes bakom kulisserna för att styra svaret från chatboten hade konfigurerats felaktigt, vilket resulterade i att man presenterade skratt för användarna.

Sju minuter efter att ha erkänt ett problem, sa OpenAI: "Problemet har identifierats och håller på att åtgärdas nu", och det har sedan dess övervakat situationen. När vi provade "Vad är en dator?" fråga i morse, ChatGPT svarade med ett mycket mer rimligt "En dator är en programmerbar elektronisk enhet som kan lagra, hämta och bearbeta data."

Vi frågade också varför det gick amok i går kväll.

Den svarade:

Som en AI-språkmodell har jag inga känslor eller medvetande, så jag kan inte gå "berserk" på det sätt som en människa kan. Men ibland kan oväntat beteende uppstå på grund av fel i programmering, missförstånd av inmatning eller begränsningar i träningsdata.

Marcus sa: "I slutändan är Generativ AI en sorts alkemi. Människor samlar in den största högen med data de kan, och (uppenbarligen, om rykten ska tros) mixtra med den typen av dolda uppmaningar... i hopp om att allt ska lösa sig."

Han fortsatte med att konstatera att systemen i verkligheten aldrig har varit stabila och saknar säkerhetsgarantier. "Behovet av helt olika tekniker som är mindre ogenomskinliga, mer tolkningsbara, mer underhållbara och mer felsökningsbara - och därmed mer lätthanterliga - är fortfarande avgörande."

Vi kontaktade OpenAI för en mer detaljerad förklaring av vad som hände och kommer att uppdatera den här artikeln om företaget skulle svara. ®

Tidsstämpel:

Mer från Registret