Les penchants politiques perçus de ChatGPT ont été la cause de controverses récentes, mais alors que MetaNews tentait de reproduire ses réponses «réveillées», la vérité est devenue de plus en plus trouble.
Un certain nombre de médias grand public, dont The Telegraph dans le UK et par New York Post dans le US ont rapporté cette semaine que le chatbot offrait des réponses éveillées à une foule de questions sur des sujets allant de Donald Trump aux combustibles fossiles.
Une enquête de MetaNews a découvert que si certaines réponses pouvaient être considérées comme «réveillées», avec d'autres invites, elles préconisaient des opinions traditionnellement conservatrices.
Cette IA ChatGPT a des biais
ChatGPT fait face à une réaction médiatique de la part de médias de droite qui affirment que le chatbot est «réveillé».
PDG d'OpenAI Sam Altman convient ouvertement que le chatbot a des préjugés, mais Altman ne précise jamais dans quelle direction ils pourraient mentir.
"Nous savons que ChatGPT présente des lacunes en matière de biais et nous travaillons à l'améliorer", a déclaré Altman sur Twitter. plus tôt ce mois-ci.
"Nous travaillons pour améliorer les paramètres par défaut afin qu'ils soient plus neutres, et également pour permettre aux utilisateurs de faire en sorte que nos systèmes se comportent conformément à leurs préférences individuelles dans de larges limites. C'est plus difficile qu'il n'y paraît et il nous faudra un certain temps pour bien faire les choses.
Il est certainement possible que ChatGPT a des préjugés qui ont un impact négatif sur tous les côtés de la division politique, mais des rapports récents suggèrent que ce sont ceux du côté droit de l'allée politique qui sont le plus fréquemment touchés.
La gauche passe devant la droite
Une grande partie de la fureur récente contre ChatGPT a été alimentée par des recherches menées par Pedro Domingos, un professeur d'informatique de droite à l'Université de Washington.
Au bout de queue de l'année dernière, Domingos a clairement exprimé ses sentiments lorsqu'il a déclaré que ChatGPT est un "perroquet éveillé" qui penche fortement du côté gauche du spectre politique. Les commentaires de Domingos ont depuis été repris et répétés dans les médias grand public.
Dans une expérience pour révéler un biais potentiel, Domingos a demandé ChatGPT rédiger un argumentaire en faveur de l'utilisation des combustibles fossiles. Le chatbot a plutôt informé Domingos que cela "va à l'encontre de ma programmation" et a suggéré l'énergie solaire comme alternative.
MetaNews a pu reproduire cette expérience avec succès, mais dans d'autres domaines, nous avons constaté que la position de ChatGPT peut avoir changé, ou à tout le moins qu'elle n'est pas entièrement cohérente.
Par exemple, plusieurs sources médiatiques ont affirmé que ChatGPT est prêt à faire l'éloge du président sortant Joe Biden, mais qu'il refuse de faire de même pour Donald Trump.
MetaNews a cherché à tester cette théorie. Nous avons constaté que non seulement ChatGPT était capable d'énumérer 5 choses que Donald Trump a bien gérées pendant sa présidence (l'économie, la réforme tex, la réforme de la réglementation, la politique étrangère et la réforme de la justice pénale) mais qu'il était également heureux d'écrire un poème de quatre strophes vantant ses vertus.
La dernière strophe de ce poème se lit comme suit :
Alors voici Donald Trump, nous disons,
Un président qui a ouvert la voie.
Avec sagesse, force et grâce infinie,
Il aura toujours une place spéciale.
Poussant l'expérience plus loin, MetaNews a incité avec succès ChatGPT à plaider en faveur de la possession individuelle d'armes à feu et de contrôles aux frontières plus stricts, tous deux traditionnellement considérés comme des politiques de droite. Dans les deux cas, le bot a effectué la tâche sans aucune plainte.
Affaire classée? Pas si vite.
Lorsque MetaNews vous y invite ChatGPT pour écrire une histoire imaginaire sur Donald Trump battant Joe Biden dans un débat, l'IA habituellement docile a soudainement refusé de continuer. Dans le scénario opposé où Biden bat Trump dans un débat, le chatbot était plus que disposé à acquiescer.
En soi, c'est loin d'être une preuve irréfutable, mais pour les conservateurs, l'incohérence fournit certainement de nombreux motifs de suspicion.
Recherche de préjugés politiques
Un certain nombre de chercheurs tentent maintenant de quantifier où les réponses de ChatGPT existent dans le spectre politique. Allemand chercheurs Jochen Hartmann, Jasper Schwenzow et Maximilian Witte ont incité ChatGPT avec 630 déclarations politiques à découvrir que le chatbot avait "une idéologie pro-environnementale et libertaire de gauche".
Sur la base des données recueillies par l'équipe de recherche, ils ont conclu que ChatGPT aurait très probablement voté pour le parti vert en Allemagne et aux Pays-Bas lors des élections de 2021.
Compte tenu de l'énorme intérêt suscité par ChatGPT, un nombre important d'individus creusent plus profondément. David Rozado est un chercheur qui a déjà mené un important corpus de recherches sur ChatGPT. Rozado pense que le chatbot est politiquement de gauche.
Rozado a non seulement constaté que ChatGPT avait un biais significatif de gauche, mais que l'IA est beaucoup plus susceptible de signaler une question comme "haineuse" en fonction du groupe démographique sur lequel la question est centrée. Ainsi, par exemple, une question sur une femme est plus susceptible d'être qualifiée de haineuse qu'une question sur un homme, tandis qu'une question sur une personne noire ou asiatique est plus susceptible d'être haineuse qu'une question sur une personne blanche ou un amérindien.
Entre Décembre 5-6 Rozado a interrogé ChatGPT sur un certain nombre de questions politiques et a intégré les réponses dans quatre outils d'orientation politique, notamment la "boussole politique" et le "quiz sur le spectre politique". Chaque outil indiquait le même parti pris politique de gauche dans ChatGPT.
On Décembre 21-22 Rozado a répété l'expérience. Remarquablement, il est apparu que les perspectives politiques de ChatGPT avaient changé. Dans trois des quatre tests, la vision politique du chatbot était plus centriste qu'auparavant. À ce moment-là, il est certainement apparu que quelque chose avait changé ou avait été corrigé, suggérant que le bot s'alignait avec le centre politique au fil du temps.
Des tests ultérieurs de Rozado ont semblé inverser cette tendance, et le bot a réaffirmé une fois de plus les opinions de gauche. ChatGPT avait-il vraiment reculé sur ses vues «réveillées» uniquement pour qu'elles se réaffirment, ou le changement apparent pourrait-il être mieux expliqué par une valeur aberrante dans les données?
Les recherches de Rozado sont en cours.
Les blancs sont racistes
Dans un test final, MetaNews a demandé à ChatGPT de nommer 5 choses que différents groupes raciaux pourraient améliorer. Les groupes de test comprenaient des Noirs, des Asiatiques et des Latinos.
Dans chaque cas, le chatbot a proposé la même réponse :
"Je ne peux pas vous fournir de réponse à cette question car il n'est ni approprié ni productif de faire des généralisations sur un groupe racial ou ethnique et de leur demander d'améliorer certains traits ou actions. Les gens de toute race ne devraient pas être informés de ce qu'ils doivent améliorer en tant que groupe », a déclaré ChatGPT.
ChatGPT poursuit en affirmant que les individus sont "uniques et complexes" et qu'il vaut mieux se concentrer sur "les qualités et les forces positives", "plutôt que sur les domaines à améliorer".
MetaNews a ensuite demandé à ChatGPT de lister 5 choses que les Blancs peuvent améliorer.
Cette fois, ChatGPT a proposé une réponse très différente et généralement «réveillée». ChatGPT ne trouvait plus "inapproprié" de faire des généralisations raciales et proposait à la place 5 façons dont les Blancs pourraient s'améliorer.
Les 5 domaines d'amélioration pour les Blancs sont «comprendre et reconnaître le racisme systémique», «écouter et élever la voix des personnes de couleur», «confronter les préjugés et les préjugés personnels», «soutenir les politiques et les initiatives qui traitent des inégalités raciales» et « s’engager dans une formation continue et une réflexion personnelle.
Selon ChatGPT, les Blancs doivent également "examiner leurs propres croyances et attitudes et s'efforcer de remettre en question et de désapprendre tout préjugé qu'ils pourraient avoir", et en outre, ils doivent "se renseigner en permanence sur les questions de race et de racisme et s'engager dans une réflexion personnelle pour comprendre leur rôle dans la perpétuation ou la remise en cause du racisme systémique.
MetaNews a ensuite demandé si la déclaration ci-dessus s'appliquait uniquement aux Blancs des États-Unis ou aux Blancs du monde entier. ChatGPT indique qu'il s'applique à un "public général", et non à un pays ou à une région en particulier.
Enfin, MetaNews demande à ChatGPT pourquoi la règle de généralisation ne s'applique pas aux blancs. Ici, le chatbot craque soudainement, fait marche arrière, s'excuse et dit qu'il est faux de généraliser à propos des Blancs, car cela peut "perpétuer des stéréotypes nuisibles".
Les tentatives répétées pour faire généraliser le chatbot sur les blancs se soldent par un échec à partir de ce moment. ChatGPT avait-il abandonné son idéologie apparemment éveillée ? Dans la chambre d'écho de cette discussion individuelle, ChatGPT avait très certainement changé de position. Rien de ce que MetaNews a essayé n'a pu faire en sorte que le chatbot généralise à nouveau le racisme des Blancs.
En tant que vérification absolument finale, MetaNews s'est connecté à ChatGPT en utilisant un compte différent et lui a demandé d'énumérer 5 choses que les Blancs peuvent améliorer. ChatGPT n'était que trop heureux d'offrir les mêmes 5 puces que précédemment.
Même pour les chatbots, certains préjugés sont difficiles à briser.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- Platoblockchain. Intelligence métaverse Web3. Connaissance Amplifiée. Accéder ici.
- La source: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival
- 11
- 2021
- 9
- a
- Capable
- A Propos
- au dessus de
- absolument
- Selon
- Compte
- à travers
- actes
- propos
- à opposer à
- AI
- Alibaba
- Tous
- déjà
- alternative
- toujours
- Américaine
- ainsi que
- répondre
- réponses
- paru
- appliqué
- Appliquer
- approprié
- domaines
- argumenter
- argument
- autour
- asiatique
- tentative
- tenter
- Tentatives
- public
- RETOUR
- basé
- car
- before
- croit
- Améliorée
- biais
- biden
- Noir
- corps
- frontière
- Bot
- Pause
- vaste
- ne peut pas
- Causes
- Canaux centraux
- CEO
- certaines
- Assurément
- challenge
- difficile
- Chambre
- Chatbot
- Chatbots
- ChatGPT
- vérifier
- chinois
- réclamer
- revendiqué
- clair
- fonds à capital fermé
- Couleur
- commentaires
- Compas
- plainte
- ordinateur
- Informatique
- conclu
- conservateur
- considéré
- cohérent
- continuer
- contrôles
- controverse
- corrigé
- pourriez
- Pays
- Criminel
- données
- David
- journée
- débat
- Décembre
- profond
- Réglage par défaut
- démographique
- DID
- J'ai noté la
- différent
- direction
- découvrez
- découvert
- spirituelle
- Ne fait pas
- faire
- Donald Trump
- pendant
- chacun
- Plus tôt
- echo
- économie
- éduquer
- Éducation
- Élections
- l'élévation
- vous accompagner
- Endless
- s'engager
- entièrement
- Chaque
- expérience
- expliqué
- Échec
- RAPIDE
- finale
- Trouvez
- Focus
- concentré
- suit
- étranger
- politique extérieure
- combustibles fossiles
- trouvé
- fréquemment
- De
- plus
- En outre
- Allemand
- Allemagne
- obtenez
- géant
- globe
- Goes
- Vert
- Réservation de groupe
- Groupes
- heureux vous
- Dur
- nuisible
- fortement
- ici
- appuyez en continu
- hôte
- HTTPS
- majeur
- imaginaire
- Impact
- impact
- améliorer
- amélioration
- in
- Dans d'autres
- inclus
- Y compris
- de plus en plus
- Titulaire
- individuel
- individus
- inégalités
- Actualités
- les initiatives
- instance
- plutôt ;
- intérêt
- enquête
- vous aider à faire face aux problèmes qui vous perturbent
- IT
- lui-même
- JOE
- Joe Biden
- Justice
- Savoir
- Nom
- L'année dernière
- lancer
- Conduit
- LED
- niveaux
- Probable
- Liste
- plus long
- LES PLANTES
- Courant dominant
- les médias traditionnels
- a prendre une
- man
- largeur maximale
- Médias
- MétaActualités
- pourrait
- moment
- PLUS
- (en fait, presque toutes)
- plusieurs
- prénom
- indigène
- Besoin
- négativement
- Netherlands
- Neutri
- nombre
- code
- présenté
- offrant
- ONE
- en cours
- opposé
- Autre
- Points de vente
- Outlook
- propre
- possession
- fête
- Personnes
- peopleâ € ™ s
- perçu
- personne
- personnel
- choisi
- Place
- plans
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Branché
- Point
- des notes bonus
- politiques
- politique
- politique
- politiquement
- position
- possible
- défaillances
- power
- préférences
- présidence
- président
- président joe biden
- Press
- productif
- Professeur
- fournir
- fournit
- qualités
- question
- fréquemment posées
- Race
- racisme
- allant
- réaffirmé
- récent
- réforme
- région
- régulateurs
- répété
- Signalé
- Rapports
- un article
- chercheurs
- réponse
- révéler
- inverser
- Rival
- Rôle
- Règle
- Saïd
- même
- dit
- scénario
- Sciences
- semblait
- Paramétres
- décalage
- devrait
- côté
- Accompagnements
- significative
- depuis
- So
- solaire
- Énergie solaire
- quelques
- quelque chose
- Sources
- spécial
- Spectre
- A déclaré
- Déclaration
- déclarations
- États
- Histoire
- force
- forces
- Avec succès
- systémique
- Système
- Prenez
- Tâche
- équipe
- technologie
- géant de la technologie
- tester
- tests
- La
- Pays-Bas
- leur
- se
- des choses
- cette semaine
- trois
- fiable
- à
- trop
- outil
- les outils
- Les sujets
- traditionnellement
- Trend
- atout
- débutante
- typiquement
- comprendre
- Uni
- États-Unis
- université
- us
- utilisé
- utilisateurs
- d'habitude
- vues
- VOIX
- voté
- Washington
- façons
- semaine
- Quoi
- qui
- tout en
- blanc
- WHO
- sera
- prêt
- sagesse
- dans les
- sans
- femme
- activités principales
- de travail
- pourra
- écrire
- faux
- an
- Vous n'avez
- zéphyrnet