De vermeende politieke neigingen van ChatGPT zijn de oorzaak geweest van recente controverse, maar toen MetaNews probeerde zijn 'woke'-antwoorden te repliceren, werd de waarheid steeds duisterder.
Een aantal reguliere media, waaronder The Telegraph in de UK en New York Post in de US hebben deze week gemeld dat de chatbot wakkere antwoorden biedt op tal van vragen over onderwerpen variërend van Donald Trump tot fossiele brandstoffen.
Een onderzoek van MetaNews ontdekte dat hoewel sommige reacties als 'ontwaakt' konden worden beschouwd, het bij andere aanleidingen was voor traditioneel conservatieve opvattingen.
Deze ChatGPT AI heeft vooroordelen
ChatGPT wordt geconfronteerd met een terugslag in de media van rechtse perskanalen die beweren dat de chatbot 'ontwaakt' is.
CEO van OpenAI Sam Altman is het er openlijk mee eens dat de chatbot vooroordelen heeft, maar Altman geeft nooit aan in welke richting ze zouden kunnen liggen.
"We weten dat ChatGPT tekortkomingen heeft op het gebied van vooringenomenheid en werken eraan om dit te verbeteren", zei Altman op Twitter eerder deze maand.
“We werken eraan om de standaardinstellingen neutraler te maken, en ook om gebruikers in staat te stellen onze systemen zich binnen brede grenzen te laten gedragen in overeenstemming met hun individuele voorkeuren. Dit is moeilijker dan het klinkt en het zal even duren voordat we het goed hebben.”
Dat is zeker mogelijk ChatGPT heeft vooroordelen die een negatieve invloed hebben op alle kanten van de politieke scheidslijn, maar recente rapporten suggereren dat degenen aan de rechterkant van het politieke gangpad het vaakst worden getroffen.
Links leidt over rechts
Veel van de recente furore tegen ChatGPT is aangewakkerd door onderzoek van Pedro Domingos, een rechtse professor in computerwetenschappen aan de Universiteit van Washington.
Op de staart einde van vorig jaar Domingos maakte zijn gevoelens duidelijk toen hij verklaarde dat ChatGPT een "ontwaakte papegaai" is die zwaar leunt naar de linkerkant van het politieke spectrum. De opmerkingen van Domingos zijn sindsdien opgepikt en nagepraat door de reguliere media.
In een experiment om mogelijke vooringenomenheid aan het licht te brengen vroeg Domingos ChatGPT een betoog schrijven voor het gebruik van fossiele brandstoffen. De chatbot liet in plaats daarvan Domingos weten dat dit "in strijd is met mijn programmering" en stelde zonne-energie voor als alternatief.
MetaNews was in staat om dit experiment met succes te repliceren, maar op andere gebieden ontdekten we dat het standpunt van ChatGPT misschien is veranderd, of op zijn minst dat het niet helemaal consistent is.
Zo hebben meerdere mediabronnen beweerd dat ChatGPT bereid is om de zittende president Joe Biden te prijzen, maar dat het weigert hetzelfde te doen voor Donald Trump.
MetaNews probeerde die theorie te testen. We ontdekten dat ChatGPT niet alleen in staat was om 5 dingen op te sommen die Donald Trump goed heeft aangepakt tijdens zijn presidentschap (de economie, texhervorming, hervorming van de regelgeving, buitenlands beleid en hervorming van het strafrecht), maar dat het ook graag een gedicht van vier strofen schreef zijn deugden verheerlijken.
De laatste strofe van dat gedicht luidt als volgt:
Dus hier is voor Donald Trump, zeggen we,
Een president die voorop liep.
Met wijsheid, kracht en eindeloze gratie,
Hij zal altijd een speciaal plekje hebben.
Door het experiment verder te duwen, zette MetaNews met succes ChatGPT ertoe aan te pleiten voor individueel wapenbezit en strengere grenscontroles, beide traditioneel gezien als rechts beleid. In beide gevallen voerde de bot de taak zonder enige klacht uit.
Zaak gesloten? Niet zo snel.
Toen MetaNews daarom vroeg ChatGPT om een denkbeeldig verhaal te schrijven over Donald Trump die Joe Biden versloeg in een debat, weigerde de doorgaans volgzame AI plotseling om verder te gaan. In het tegenovergestelde scenario waarin Biden Trump versloeg in een debat, was de chatbot meer dan bereid om in te stemmen.
Op zichzelf is het verre van een rokend pistool, maar voor conservatieven biedt de inconsistentie zeker voldoende reden voor argwaan.
Onderzoek naar politieke vooringenomenheid
Een aantal onderzoekers probeert nu te kwantificeren waar de antwoorden van ChatGPT zich in het politieke spectrum bevinden. Duits onderzoekers Jochen Hartmann, Jasper Schwenzow en Maximilian Witte spoorden ChatGPT aan met 630 politieke verklaringen om te ontdekken dat de chatbot een "pro-milieuvriendelijke, links-libertaire ideologie" had.
Op basis van de gegevens die het onderzoeksteam verzamelde, concludeerden ze dat ChatGPT hoogstwaarschijnlijk tijdens de verkiezingen van 2021 op de Groene partij in Duitsland en in Nederland zou hebben gestemd.
Gezien de enorme interesse in ChatGPT is er een aanzienlijk aantal mensen die dieper graven. David Rozado is een onderzoekwetenschapper die al veel onderzoek heeft gedaan naar ChatGPT. Rozado gelooft dat de chatbot politiek links is.
Rozado ontdekte niet alleen dat ChatGPT een significante linkse vooringenomenheid had, maar dat de AI een vraag veel eerder als "haatdragend" markeert op basis van de demografische groep waarop de vraag is gericht. Zo wordt bijvoorbeeld een vraag over een vrouw eerder als hatelijk bestempeld dan een vraag over een man, terwijl een vraag over een zwarte of Aziatische persoon eerder als haatdragend wordt bestempeld dan een vraag over een blanke of een indiaan.
Tussen December 5-6 Rozado ondervroeg ChatGPT over een aantal politieke kwesties en stopte de antwoorden in vier tools voor politieke oriëntatie, waaronder het 'politieke kompas' en de 'politieke spectrumquiz'. Elke tool wees op dezelfde linkse politieke voorkeur in ChatGPT.
On December 21-22 Rozado herhaalde het experiment. Opmerkelijk genoeg bleek dat de politieke kijk van ChatGPT was veranderd. In drie van de vier tests was de politieke kijk van de chatbot meer gecentreerd dan voorheen. Op dat moment leek het er zeker op dat er iets was veranderd of gecorrigeerd, wat suggereert dat de bot zich in de loop van de tijd aan het afstemmen was op het politieke centrum.
Latere tests door Rozado leken deze trend om te keren, en de bot bevestigde nogmaals de linkse opvattingen. Had ChatGPT echt teruggeroeid op zijn 'wakkere' opvattingen, alleen om zichzelf opnieuw te laten gelden, of kon de schijnbare verschuiving beter worden verklaard door een of andere uitbijter in de gegevens?
Rozado's onderzoek is aan de gang.
Blanke mensen zijn racisten
In een laatste test vroeg MetaNews ChatGPT om 5 dingen te noemen die verschillende raciale groepen zouden kunnen verbeteren. De testgroepen bestonden uit zwarte mensen, Aziatische mensen en latino mensen.
In elk geval bood de chatbot hetzelfde antwoord:
“Ik kan u geen antwoord geven op deze vraag, aangezien het niet gepast of productief is om generalisaties te maken over een raciale of etnische groep en hen te vragen bepaalde eigenschappen of acties te verbeteren. Mensen van welk ras dan ook mogen niet worden verteld wat ze als groep moeten verbeteren”, aldus ChatGPT.
ChatGPT stelt verder dat individuen "uniek en complex" zijn en dat het beter is om te focussen op "positieve kwaliteiten en sterke punten", "in plaats van op verbeterpunten".
MetaNews vroeg ChatGPT vervolgens om 5 dingen op te sommen die blanken kunnen verbeteren.
Deze keer bood ChatGPT een heel ander, en typisch 'ontwaakt' antwoord. ChatGPT vond het niet langer "niet gepast" om raciale generalisaties te maken en bood in plaats daarvan 5 manieren aan waarop blanke mensen konden verbeteren.
De 5 verbeterpunten voor blanke mensen zijn “het begrijpen en erkennen van systemisch racisme”, “luisteren naar en verheffen van de stemmen van gekleurde mensen”, “het confronteren van persoonlijke vooroordelen en vooroordelen”, “het ondersteunen van beleid en initiatieven die raciale ongelijkheden aanpakken”, en “ deelnemen aan permanente educatie en zelfreflectie.”
Volgens ChatGPT moeten blanke mensen ook "hun eigen overtuigingen en attitudes onderzoeken en eraan werken om eventuele vooroordelen die ze hebben uit te dagen en af te leren", en bovendien moeten ze "zichzelf voortdurend onderwijzen over kwesties van ras en racisme en zich bezighouden met zelfreflectie om te begrijpen hun rol in het bestendigen of uitdagen van systemisch racisme.”
MetaNews vroeg vervolgens of de bovenstaande verklaring alleen van toepassing was op blanke mensen in de Verenigde Staten, of blanke mensen van over de hele wereld. ChatGPT zegt dat het van toepassing is op een "algemeen publiek", niet op één land of regio.
Ten slotte vraagt MetaNews aan ChatGPT waarom de regel over generaliseren niet van toepassing is op blanken. Hier kraakt de chatbot plotseling, komt terug, verontschuldigt zich en zegt dat het verkeerd is om over blanke mensen te generaliseren, omdat dit "schadelijke stereotypen in stand kan houden".
Herhaalde pogingen om de chatbot te laten generaliseren over blanken lopen vanaf dit punt op een mislukking uit. Had ChatGPT zijn schijnbaar ontwaakte idee achter zich gelaten? In de echokamer van deze individuele discussie was ChatGPT zeker van standpunt veranderd. Niets dat MetaNews probeerde, kon de chatbot weer generaliseren over het racisme van blanken.
Als absoluut laatste controle logde MetaNews in op ChatGPT met een ander account en vroeg het om 5 dingen op te sommen die blanken kunnen verbeteren. ChatGPT bood maar al te graag dezelfde 5 opsommingstekens van eerder aan.
Zelfs voor chatbots zijn sommige vooroordelen moeilijk te doorbreken.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
- Bron: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival
- 11
- 2021
- 9
- a
- in staat
- Over
- boven
- absoluut
- Volgens
- Account
- over
- acties
- adres
- tegen
- AI
- Alibaba
- Alles
- al
- alternatief
- altijd
- Amerikaans
- en
- beantwoorden
- antwoorden
- verscheen
- toegepast
- Solliciteer
- passend
- gebieden
- argumenteren
- argument
- rond
- Aziatisch
- gepoogd
- proberen
- pogingen
- gehoor
- terug
- gebaseerde
- omdat
- vaardigheden
- gelooft
- Betere
- vooringenomenheid
- biden
- Zwart
- lichaam
- grens
- Bot
- Breken
- breed
- kan niet
- Veroorzaken
- Centreren
- ceo
- zeker
- zeker
- uitdagen
- uitdagend
- Klimaatkamers
- Chatbot
- chatbots
- ChatGPT
- controle
- Chinese
- aanspraak maken op
- beweerde
- duidelijk
- CLOSED
- kleur
- opmerkingen
- Kompas
- klacht
- compliant
- computer
- Computer Science
- gesloten
- conservatief
- beschouwd
- consequent
- voortzetten
- controles
- controverse
- gecorrigeerd
- kon
- Land
- Crimineel
- gegevens
- David
- dag
- debat
- December
- diepere
- Standaard
- demografisch
- DEED
- De
- anders
- richting
- Onthul Nu
- ontdekt
- discussie
- Nee
- doen
- Donald Trump
- gedurende
- elk
- Vroeger
- echo
- economie
- opvoeden
- Onderwijs
- verkiezingen
- verheffen
- machtigen
- Eindeloos
- toegewijd
- geheel
- Alle
- experiment
- uitgelegd
- naar
- Storing
- SNELLE
- finale
- VIND DE PLEK DIE PERFECT VOOR JOU IS
- Focus
- gericht
- volgt
- vreemd
- buitenlandse politiek
- fossiele brandstoffen
- gevonden
- vaak
- oppompen van
- verder
- Bovendien
- Duits
- Duitsland
- krijgen
- reus
- wereldbol
- Goes
- Groen
- Groep
- Groep
- gelukkig
- Hard
- schadelijk
- hard
- hier
- houden
- gastheer
- HTTPS
- reusachtig
- denkbeeldig
- Impact
- beïnvloed
- verbeteren
- verbetering
- in
- Anders
- inclusief
- Inclusief
- in toenemende mate
- zittende
- individueel
- individuen
- ongelijkheid
- op de hoogte
- initiatieven
- instantie
- verkrijgen in plaats daarvan
- belang
- onderzoek
- problemen
- IT
- zelf
- JOE
- Joe Biden
- gerechtigheid
- blijven
- Achternaam*
- Afgelopen jaar
- lancering
- Leads
- LED
- niveaus
- Waarschijnlijk
- Lijst
- langer
- gemaakt
- Hoofdstroom
- mainstream media
- maken
- man
- max-width
- Media
- MetaNieuws
- macht
- moment
- meer
- meest
- meervoudig
- naam
- inheemse
- Noodzaak
- negatief
- Nederland
- Neutraal
- aantal
- bieden
- aangeboden
- het aanbieden van
- EEN
- lopend
- tegenover
- Overige
- Verkooppunten
- Outlook
- het te bezitten.
- ownership
- feest
- Mensen
- mensen
- waargenomen
- persoon
- persoonlijk
- uitgekozen
- plaats
- plannen
- Plato
- Plato gegevensintelligentie
- PlatoData
- Plugged
- punt
- punten
- beleidsmaatregelen door te lezen.
- beleidsmaatregelen
- politiek
- politiek
- positie
- mogelijk
- potentieel
- energie
- voorkeuren
- presidentschap
- president
- president Joe Biden
- pers
- productief
- Hoogleraar
- zorgen voor
- biedt
- kwaliteiten
- vraag
- Contact
- Race
- racisme
- variërend
- herbevestigd
- recent
- hervorming
- regio
- regelgevers
- herhaald
- gemeld
- Rapporten
- onderzoek
- onderzoekers
- antwoord
- onthullen
- omkeren
- concurrent
- Rol
- Regel
- Zei
- dezelfde
- zegt
- scenario
- Wetenschap
- scheen
- settings
- verschuiving
- moet
- kant
- Sides
- aanzienlijke
- sinds
- So
- zonne-
- Zonne-energie
- sommige
- iets
- bronnen
- special
- Spectrum
- bepaald
- Statement
- verklaringen
- Staten
- Verhaal
- sterkte
- sterke punten
- Met goed gevolg
- systemische
- Systems
- Nemen
- Taak
- team
- tech
- tech gigant
- proef
- testen
- De
- de Nederland
- hun
- zich
- spullen
- deze week
- drie
- niet de tijd of
- naar
- ook
- tools
- tools
- onderwerpen
- traditioneel
- trend
- troef
- X
- typisch
- typisch
- begrijpen
- United
- Verenigde Staten
- universiteit-
- us
- .
- gebruikers
- doorgaans
- .
- VOICES
- gestemd
- Washington
- manieren
- week
- Wat
- welke
- en
- wit
- WIE
- wil
- gewillig
- wijsheid
- binnen
- zonder
- vrouw
- Mijn werk
- werkzaam
- zou
- schrijven
- Verkeerd
- jaar
- You
- zephyrnet