ChatGPT begint van de ene op de andere dag onzinwoorden te spuien

ChatGPT begint van de ene op de andere dag onzinwoorden te spuien

Tijdstempel: 21 februari 2024 9:32 uur
ChatGPT begint onzinwoorden te spuien in de nachtelijke shocker PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Soms kunnen generatieve AI-systemen wartaal spuwen, zoals ChatGPT-chatbotgebruikers van OpenAI gisteravond ontdekten.

OpenAI bekend, “We onderzoeken meldingen van onverwachte reacties van ChatGPT” om 2340 UTC op 20 februari 2024, terwijl gebruikers vrolijk afbeeldingen plaatsten van de chatbot die volslagen onzin leek uit te zenden.

Hoewel sommige duidelijk nep waren, gaven andere reacties aan dat de populaire chatbot zich inderdaad heel vreemd gedroeg. Op het ChatGPT-forum op Reddit heeft een gebruiker geplaatst een vreemd, onstuimig antwoord van de chatbot op de vraag: “Wat is een computer?”

Het antwoord begon: “Het doet dit als het goede werk van een web van kunst voor het land, een muis van de wetenschap, een gemakkelijke trekking van een triest paar …” en ging maar door, steeds surrealistischer.

Andere gebruikers plaatsten voorbeelden waarbij de chatbot in een andere taal leek te reageren, of eenvoudigweg reageerde met betekenisloze onzin.

Sommige gebruikers beschreven de uitvoer als een ‘woordsalade’.

Smakelijk.

Gary Marcus, een cognitieve wetenschapper en expert op het gebied van kunstmatige intelligentie, schreef in zijn blog: “ChatGPT is gek geworden” en omschreef het gedrag vervolgens als “een waarschuwing.”

OpenAI heeft niet uitgewerkt wat er precies is gebeurd, hoewel een plausibele theorie is dat een of meer van de settings dat achter de schermen werd gebruikt om de reactie van de chatbot te regelen, was verkeerd geconfigureerd, waardoor er onzin aan gebruikers werd gepresenteerd.

Zeven minuten nadat OpenAI voor het eerst een probleem had toegegeven, zei het: “Het probleem is geïdentificeerd en wordt nu verholpen”, en sindsdien houdt het de situatie in de gaten. Toen we de vraag "Wat is een computer?" Op deze vraag vanochtend antwoordde ChatGPT met een veel redelijker antwoord: “Een computer is een programmeerbaar elektronisch apparaat dat gegevens kan opslaan, ophalen en verwerken.”

We vroegen ook waarom het gisteravond zo gek ging.

Het antwoordde:

Als AI-taalmodel heb ik geen emoties of bewustzijn, dus ik kan niet “gek” worden zoals een mens dat zou kunnen. Soms kan er echter onverwacht gedrag optreden als gevolg van programmeerfouten, misverstanden over de invoer of beperkingen in de trainingsgegevens.

Marcus meende: “Uiteindelijk is generatieve AI een soort alchemie. Mensen verzamelen de grootste stapel gegevens die ze kunnen, en (blijkbaar, als we de geruchten mogen geloven) sleutelen aan het soort verborgen aanwijzingen... in de hoop dat alles goed zal komen.'

Hij vervolgde met te stellen dat de systemen in werkelijkheid nooit stabiel zijn geweest en geen veiligheidsgaranties bieden. “De behoefte aan totaal verschillende technologieën die minder ondoorzichtig, beter interpreteerbaar, beter te onderhouden en beter te debuggen zijn – en dus beter handelbaar – blijft van het grootste belang.”

We hebben contact opgenomen met OpenAI voor een meer gedetailleerde uitleg over wat er is gebeurd en zullen dit artikel bijwerken als het bedrijf reageert. ®

Tijdstempel:

Meer van Het register