ChatGPT commence à prononcer des mots absurdes du jour au lendemain

ChatGPT commence à prononcer des mots absurdes du jour au lendemain

Horodatage: 21 février 2024 9:32
ChatGPT commence à prononcer des mots absurdes dans le choc du jour au lendemain PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Parfois, les systèmes d’IA générative peuvent débiter du charabia, comme l’ont découvert hier soir les utilisateurs du chatbot ChatGPT d’OpenAI.

OpenAI noté, « Nous enquêtons sur les rapports faisant état de réponses inattendues de ChatGPT » à 2340 h 20 UTC le 2024 février XNUMX, alors que les utilisateurs publiaient joyeusement des images du chatbot semblant émettre des absurdités totales.

Si certaines étaient manifestement fausses, d’autres réponses indiquaient que le chatbot populaire se comportait effectivement de manière très étrange. Sur le forum ChatGPT sur Reddit, un utilisateur posté une réponse étrange et décousue du chatbot à la question « Qu'est-ce qu'un ordinateur ? »

La réponse a commencé : « Il fait cela comme une bonne œuvre d’une toile d’art pour le pays, une souris de science, un dessin facile de quelques tristes… » et a continué, devenant de plus en plus surréaliste.

D'autres utilisateurs ont publié des exemples dans lesquels le chatbot semblait répondre dans une langue différente, ou simplement répondu avec des ordures dénuées de sens.

Quelques utilisateurs décrit le résultat sous la forme d’une « salade de mots ».

Savoureux.

Gary Marcus, scientifique cognitif et expert en intelligence artificielle, écrit sur son blog : « ChatGPT est devenu fou furieux » et a ensuite décrit ce comportement comme « un avertissement ».

OpenAI n'a pas précisé ce qui s'est exactement passé, bien qu'une théorie plausible soit qu'un ou plusieurs des Paramétres utilisé en coulisses pour gérer la réponse du chatbot avait été mal configuré, ce qui entraînait un charabia présenté aux utilisateurs.

Sept minutes après avoir reconnu un problème pour la première fois, OpenAI a déclaré : « Le problème a été identifié et est en cours de résolution », et surveille depuis la situation. Lorsque nous avons essayé la question « Qu'est-ce qu'un ordinateur ? » Question ce matin, ChatGPT a répondu par une réponse beaucoup plus raisonnable : « Un ordinateur est un appareil électronique programmable qui peut stocker, récupérer et traiter des données. »

Nous lui avons également demandé pourquoi il était devenu fou la nuit dernière.

Il a répondu :

En tant que modèle de langage d'IA, je n'ai ni émotions ni conscience, donc je ne peux pas devenir « fou furieux » comme le ferait un humain. Cependant, un comportement inattendu peut parfois survenir en raison d'erreurs de programmation, d'une mauvaise compréhension des entrées ou de limitations des données d'entraînement.

Marcus a déclaré : « En fin de compte, l’IA générative est une sorte d’alchimie. Les gens collectent le plus gros tas de données possible et (apparemment, si l’on en croit les rumeurs) bricolent les types d’invites cachées… en espérant que tout se passera bien.

Il a ajouté qu'en réalité, les systèmes n'ont jamais été stables et manquent de garanties de sécurité. « Le besoin de technologies totalement différentes, moins opaques, plus interprétables, plus maintenables et plus déboguables – et donc plus faciles à gérer – reste primordiale. »

Nous avons contacté OpenAI pour une explication plus détaillée de ce qui s'est passé et mettrons à jour cet article si l'entreprise répond. ®

Horodatage:

Plus de Le registre