ChatGPT inizia a pronunciare parole senza senso in modo scioccante durante la notte

ChatGPT inizia a pronunciare parole senza senso in modo scioccante durante la notte

Timestamp: 21 febbraio 2024 9:32
ChatGPT inizia a pronunciare parole senza senso nello scioccante PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

A volte i sistemi di intelligenza artificiale generativa possono dire cose senza senso, come hanno scoperto ieri sera gli utenti del chatbot ChatGPT di OpenAI.

OpenAI noto, "Stiamo indagando sulle segnalazioni di risposte inaspettate da ChatGPT" alle 2340:20 UTC del 2024 febbraio XNUMX, mentre gli utenti pubblicavano allegramente immagini del chatbot che sembrava emettere assurdità assolute.

Mentre alcune erano ovviamente false, altre risposte indicavano che il popolare chatbot si stava effettivamente comportando in modo molto strano. Sul forum ChatGPT su Reddit, un utente postato una risposta strana e sconclusionata da parte del chatbot alla domanda: "Cos'è un computer?"

La risposta iniziava: "Lo fa come un buon lavoro di una rete d'arte per il paese, un topo di scienza, un facile disegno di pochi tristi..." e continuava ad andare avanti, diventando sempre più surreale.

Altri utenti hanno pubblicato esempi in cui il chatbot sembrava rispondere in una lingua diversa o semplicemente rispondeva con spazzatura senza senso.

Alcuni utenti descritta l’output come “insalata di parole”.

Gustoso.

Gary Marcus, scienziato cognitivo ed esperto di intelligenza artificiale, ha scritto nel suo blog: "ChatGPT è impazzito" e ha continuato descrivendo il comportamento come "un avvertimento".

OpenAI non ha elaborato cosa sia successo esattamente, anche se una teoria plausibile è che uno o più dei impostazioni utilizzato dietro le quinte per governare la risposta del chatbot era stato configurato in modo errato, con il risultato che agli utenti venivano presentate parole senza senso.

Sette minuti dopo aver ammesso per la prima volta il problema, OpenAI ha dichiarato: "Il problema è stato identificato e ora viene risolto" e da allora ha monitorato la situazione. Quando abbiamo provato la domanda "Cos'è un computer?" Alla domanda di questa mattina, ChatGPT ha risposto con una risposta molto più ragionevole: "Un computer è un dispositivo elettronico programmabile in grado di archiviare, recuperare ed elaborare dati".

Gli abbiamo anche chiesto perché ieri sera è impazzito.

Ha risposto:

Essendo un modello linguistico di intelligenza artificiale, non ho emozioni o coscienza, quindi non posso impazzire come potrebbe fare un essere umano. Tuttavia, a volte può verificarsi un comportamento imprevisto a causa di errori di programmazione, incomprensione dell'input o limitazioni nei dati di training.

Marcus ha affermato: “Alla fine, l’intelligenza artificiale generativa è una sorta di alchimia. Le persone raccolgono la più grande quantità di dati possibile e (a quanto pare, se si deve credere alle voci) armeggiano con i tipi di suggerimenti nascosti... sperando che tutto funzioni per il meglio.

Ha poi affermato che, in realtà, i sistemi non sono mai stati stabili e mancano di garanzie di sicurezza. “La necessità di tecnologie completamente diverse che siano meno opache, più interpretabili, più manutenibili e più debuggabili – e quindi più trattabili – rimane fondamentale”.

Abbiamo contattato OpenAI per una spiegazione più dettagliata di quanto accaduto e aggiorneremo questo articolo qualora l'azienda rispondesse. ®

Timestamp:

Di più da Il registro