ChatGPT d'OpenAI fait face à des critiques pour son comportement insensible

OpenAI a récemment admis que son grand modèle de langage, ChatGPT 4, était devenu « paresseux », ce qui pourrait influencer les progrès de l'IA à l'avenir. Cette révélation fait suite à de nombreuses plaintes d’utilisateurs concernant la dégradation des performances du modèle.

Les utilisateurs de ChatGPT ont remarqué que ChatGPT-4 devenait paresseux et refusait apparemment d'effectuer certaines tâches ou de renvoyer des résultats spécifiés. OpenAI, la société à l'origine du modèle de langage populaire ChatGPT, a reconnu que le modèle est devenu paresseux, mais la société ne sait pas pourquoi.

A lire également: L'audio Deepfake de Michal Šimečka fait vibrer la scène électorale slovaque

Selon OpenAI, cela pourrait avoir des implications sur l’avenir de l’intelligence artificielle (IA).

Est-ce juste moi ou ChatGPT devient « paresseux » au point de devenir inutile ?

Il s’agit de refuser catégoriquement l’analyse de la chaîne de pensée et les séances de brainstorming qui constituaient autrefois sa principale force. @karpathy @gdb @OpenAI faire quelque chose!

– Starson 🇺🇸🚀🦾🇺🇸 (@DrStarson) 8 janvier 2024

Some X (anciennement Twitter) utilisateurs appellent cet événement une « hypothèse des vacances d’hiver ». Bien que cela ne soit pas prouvé, il n’en demeure pas moins que le monde des modèles de langage d’IA est devenu étrange, étant donné que les chercheurs en IA le prennent au sérieux.

ChatGPT-4 devient « paresseux »

Plusieurs rapports d'utilisateurs ont fait état de la dégradation des performances du modèle. Ils ont souligné des problèmes tels que des tâches incomplètes, des raccourcis et un évitement de responsabilité pour les tâches ChatGPT demandées.

OpenAI a reconnu les commentaires dans une série de tweets et a affirmé que depuis le 11 novembre, le modèle n'avait subi aucune mise à jour. Ils ont poursuivi en affirmant que la paresse observée n’était pas intentionnelle et l’ont attribuée à la nature imprévisible des grands modèles linguistiques.

nous avons entendu tous vos commentaires sur le fait que GPT4 devient plus paresseux ! nous n'avons pas mis à jour le modèle depuis le 11 novembre, et ce n'est certainement pas intentionnel. le comportement du modèle peut être imprévisible et nous cherchons à le corriger 🫡

– ChatGPT (@ChatGPTapp) 8 décembre 2023

Certains comptes X ont ouvertement tweeté leur mécontentement. Martien demandé si de grands modèles de langage pouvaient simuler la dépression saisonnière. Aussi, Mike Swoopskee demandé si le modèle linguistique a appris de ses données de formation que les gens ralentissent généralement en décembre et reportent les plus gros projets à la nouvelle année, et c'est pourquoi il a été paresseux ces derniers temps.

De plus, les gens ont noté que puisque l’invite système pour ChatGPT fournit au bot la date actuelle, certains ont commencé à penser qu’il y avait quelque chose de plus dans l’idée.

l'invite du système indique la date actuelle, vous pourriez donc être ironiquement sur quelque chose

– oui (@seedoilmaxxer) 9 décembre 2023

Une proposition aussi étrange a été envisagée, car des recherches ont montré que les grands modèles de langage comme GPT-4 réagissent aux encouragements de type humain. GPT-4 alimente la version payante de ChatGPT et répond à certains encouragements de type humain, comme dire au robot de « prendre une profonde respiration » avant de résoudre un problème de mathématiques.

Cependant, les gens ont expérimenté de manière moins formelle l’idée d’indiquer au grand modèle de langage qu’il recevoir un pourboire pour faire le travail. De plus, dire au robot qu'il n'a pas de doigts aidera à allonger les sorties si le modèle devient paresseux.

Nouvelle astuce d'ingénierie rapide que j'ai trouvée pour l'écriture de code GPT4 :

La nouvelle version de ChatGPT essaie de couper les scripts pendant le câblage avec des phrases comme « /* Répétez pour les autres… */ » ou « /*… reste de votre script… */ », ce qui est ennuyeux et nécessite beaucoup de copies. coller.… pic.twitter.com/4TrYvvmRt6

— Denis Shiryaev 💙💛 (@literallydenis) 15 novembre 2023

La voie à suivre ?

La lenteur des performances de ChatGPT-4 peut suggérer qu’il faudra peut-être plus de temps que prévu pour atteindre une véritable intelligence artificielle capable de penser et de résoudre les problèmes par elle-même. Par conséquent, l’incertitude plane quant à la capacité de l’IA à gérer les tâches de manière indépendante. Plusieurs domaines qui dépendent de l’IA seront concernés par ce retard dans le processus.

Cependant, nous pouvons y voir une chance d’apprendre au lieu d’y voir un arrêt complet.

Il est important de noter que les scientifiques peuvent en apprendre davantage sur le fonctionnement de l’IA en comprenant pourquoi ChatGPT rencontre des problèmes. Cela les guidera dans la création d’IA qui resteront actives et intelligentes à l’avenir.

De plus, les difficultés de ChatGPT nous rappellent le chemin difficile à parcourir, même si l’avenir immédiat de l’IA n’est peut-être pas aussi étonnant qu’on le pensait. Nous pouvons nous rapprocher de la véritable IA avec de meilleures connaissances et soins en reconnaissant et en relevant ces défis.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://metanews.com/openais-chatgpt-faces-criticism-for-incomplete-and-unresponsive-behavior/