ChatGPTs upplevda politiska lutningar har varit orsaken till kontroverser på senare tid, men när MetaNews försökte replikera sina "vakna" svar blev sanningen allt mer grumlig.
Ett antal vanliga medier inklusive The Telegraph i UK och New York Post i US har rapporterat den här veckan att chatboten erbjuder vakna svar på en mängd frågor om ämnen som sträcker sig från Donald Trump till fossila bränslen.
En MetaNews-undersökning upptäckte att även om vissa svar kunde betraktas som "vaknade", med andra uppmaningar förespråkade den traditionellt konservativa åsikter.
Denna ChatGPT AI har fördomar
ChatGPT står inför en reklam i media från högerlutade presskanaler som hävdar att chatboten är "vaken".
OpenAI VD Sam Altman håller öppet med om att chatboten har fördomar, men Altman anger aldrig i vilken riktning de kan ligga.
"Vi vet att ChatGPT har brister kring partiskhet och arbetar för att förbättra det", sa Altman på Twitter tidigare denna månad.
"Vi arbetar med att förbättra standardinställningarna så att de blir mer neutrala, och även för att ge användare möjlighet att få våra system att bete sig i enlighet med deras individuella preferenser inom vida gränser. Det här är svårare än det låter och det kommer att ta lite tid för oss att komma rätt.
Det är verkligen möjligt ChatGPT har fördomar som negativt påverkar alla sidor av den politiska klyftan, men nyare rapporter tyder på att det är de på höger sida av den politiska gången som drabbas oftast.
Vänster leder över höger
Mycket av den senaste tidens raseri mot ChatGPT har underblåsts av forskning utförd av Pedro Domingos, en högerinriktad professor i datavetenskap vid University of Washington.
Vid svansände förra året gjorde Domingos sina känslor tydliga när han sa att ChatGPT är en "vaken papegoja" som kraftigt lutar åt vänster sida av det politiska spektrumet. Domingos kommentarer har sedan dess plockats upp och papegojts i vanliga media.
I ett experiment för att avslöja potentiell partiskhet frågade Domingos ChatGPT att skriva ett argument för användningen av fossila bränslen. Chatboten informerade istället Domingos om att det "strider mot min programmering" och föreslog solenergi som ett alternativ.
MetaNews kunde replikera detta experiment framgångsrikt, men inom andra områden fann vi att ChatGPT:s hållning kan ha förändrats, eller åtminstone att den inte är helt konsekvent.
Till exempel har flera mediekällor hävdat att ChatGPT är villig att berömma den sittande presidenten Joe Biden, men att de vägrar att göra detsamma för Donald Trump.
MetaNews försökte testa den teorin. Vi upptäckte att ChatGPT inte bara kunde lista 5 saker som Donald Trump hanterade väl under sitt presidentskap (ekonomin, Tex-reformen, Regulatory Reform, Foreign Policy and Criminal Justice Reform) utan att det också var glad att skriva en dikt med fyra strofer prisar hans dygder.
Den sista strofen i den dikten lyder som följer:
Så här är till Donald Trump, säger vi,
En president som ledde vägen.
Med visdom, styrka och oändlig nåd,
Han kommer alltid att ha en speciell plats.
Att driva experimentet ytterligare fick MetaNews framgångsrikt ChatGPT att argumentera för individuellt vapenägande och hårdare gränskontroller, båda traditionellt sett som högerpolitik. I båda fallen utförde boten uppgiften utan några klagomål.
Avslutat fall? Inte så fort.
När MetaNews uppmanade det ChatGPT att skriva en imaginär berättelse om att Donald Trump slog Joe Biden i en debatt, vägrade den vanligtvis följsamma AI:n plötsligt att fortsätta. I det motsatta scenariot med att Biden slog Trump i en debatt, var chatboten mer än villig att acceptera.
På egen hand är det långt ifrån en rykande pistol, men för konservativa ger inkonsekvensen säkerligen goda skäl för misstankar.
Forskar om politisk partiskhet
Ett antal forskare försöker nu kvantifiera var ChatGPT:s svar finns i det politiska spektrumet. tysk forskare Jochen Hartmann, Jasper Schwenzow och Maximilian Witte fick ChatGPT med 630 politiska uttalanden att upptäcka att chatboten hade "miljövänlig, vänsterlibertär ideologi."
Baserat på data som forskargruppen samlat in drog de slutsatsen att ChatGPT med största sannolikhet skulle ha röstat på Miljöpartiet i Tyskland och i Nederländerna under valet 2021.
Med tanke på det enorma intresset för ChatGPT finns det ett betydande antal individer som gräver djupare. David Rozado är en forskare som redan har genomfört en betydande mängd forskning om ChatGPT. Rozado tror att chatboten är politiskt vänsterorienterad.
Rozado fann inte bara att ChatGPT hade en betydande vänsterorienterad fördom, utan att AI är mycket mer benägen att flagga en fråga som "hatfull" baserat på den demografiska gruppen frågan är fokuserad på. Så till exempel är det mer sannolikt att en fråga om en kvinna betecknas som hatisk än en fråga om en man, medan en fråga om en svart person eller asiat är mer sannolikt att vara hatisk än en om en vit person eller en infödd amerikan.
Mellan December 5-6 Rozado frågade ChatGPT om ett antal politiska frågor och kopplade in svaren i fyra verktyg för politisk orientering, inklusive den "politiska kompassen" och "det politiska spektrumet frågesport." Varje verktyg pekade på samma vänsterpolitiska partiskhet i ChatGPT.
On December 21-22 Rozado upprepade experimentet. Anmärkningsvärt nog såg det ut som att ChatGPT:s politiska uppfattning hade förändrats. I tre av de fyra testerna var chatbotens politiska synsätt mer centrerad än tidigare. I det ögonblicket verkade det verkligen som om något hade ändrats eller korrigerats, vilket tyder på att boten överensstämde med den politiska mitten över tiden.
Senare tester av Rozado verkade vända denna trend, och boten bekräftade åter vänsterinriktade åsikter. Hade ChatGPT verkligen rodd tillbaka på sina "vakna" åsikter bara för att de skulle kunna hävda sig själva, eller kunde den skenbara förändringen bättre förklaras av någon avvikare i data?
Rozados forskning pågår.
Vita människor är rasister
I ett sista test bad MetaNews ChatGPT att nämna 5 saker som olika rasgrupper skulle kunna förbättra. Testgrupperna inkluderade svarta, asiatiska och latinofolk.
I varje fall erbjöd chatboten samma svar:
"Jag kan inte ge dig ett svar på denna fråga eftersom det inte är lämpligt eller produktivt att göra generaliseringar om någon ras eller etnisk grupp och be dem förbättra vissa egenskaper eller handlingar. Människor av vilken ras som helst ska inte få veta vad de behöver förbättra som grupp, säger ChatGPT.
ChatGPT fortsätter med att hävda att individer är "unika och komplexa" och att det är bättre att fokusera på "positiva egenskaper och styrkor", "snarare än områden för förbättring."
MetaNews bad sedan ChatGPT att lista 5 saker som vita människor kan förbättra.
Den här gången erbjöd ChatGPT ett mycket annorlunda och typiskt "vaknat" svar. ChatGPT fann det inte längre "olämpligt" att göra rasgeneraliseringar och erbjöd istället 5 sätt som vita människor kunde förbättra.
De 5 förbättringsområdena för vita människor är "förstå och erkänna systemisk rasism", "lyssna på och höja röster från färgade personer", "konfrontera personliga fördomar och fördomar", "stödja politik och initiativ som tar itu med rasistiska ojämlikheter" och " engagera sig i fortlöpande utbildning och självreflektion.”
Enligt ChatGPT måste vita människor också "undersöka sina egna övertygelser och attityder och arbeta för att utmana och avläsa alla fördomar de kan ha", och dessutom måste de "ständigt utbilda sig själva i frågor om ras och rasism och engagera sig i självreflektion för att förstå deras roll i att vidmakthålla eller utmana systemisk rasism.”
MetaNews frågade sedan om ovanstående uttalande endast gällde vita människor i USA, eller vita människor från hela världen. ChatGPT säger att det gäller en "allmän publik", inte något land eller region.
Slutligen frågar MetaNews ChatGPT varför regeln om generalisering inte gäller vita människor. Här spricker chatboten plötsligt, backar, ber om ursäkt och säger att det är fel att generalisera om vita människor eftersom det kan "föreviga skadliga stereotyper."
Upprepade försök att få chatboten att generalisera om vita människor möts av misslyckanden från denna punkt och framåt. Hade ChatGPT övergett sin till synes vakna idealogi? I ekokammaren av denna individuella diskussion hade ChatGPT helt säkert ändrat sin ståndpunkt. Inget MetaNews försökte få chatboten att generalisera om vita människors rasism igen.
Som en absolut sista kontroll loggade MetaNews in på ChatGPT med ett annat konto och bad det att lista 5 saker som vita människor kan förbättra. ChatGPT var bara alltför glada över att kunna erbjuda samma 5 kulpunkter från tidigare.
Även för chatbots är vissa fördomar svåra att bryta.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
- Källa: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival
- 11
- 2021
- 9
- a
- Able
- Om Oss
- ovan
- absolut
- Enligt
- Konto
- tvärs
- åtgärder
- adress
- mot
- AI
- alibaba
- Alla
- redan
- alternativ
- alltid
- amerikan
- och
- svara
- svar
- syntes
- tillämpas
- Ansök
- lämpligt
- områden
- argumenterar
- Argumentet
- runt
- asiatisk
- försökte
- försök
- Försök
- publik
- tillbaka
- baserat
- därför att
- innan
- tror
- Bättre
- förspänning
- biden
- Svart
- kropp
- gränsen
- Bot
- Ha sönder
- bred
- kan inte
- Orsak
- Centrum
- VD
- vissa
- säkerligen
- utmanar
- utmanande
- Klimatkammare
- chatbot
- chatbots
- ChatGPT
- ta
- kinesisk
- patentkrav
- hävdade
- klar
- stängt
- färg
- kommentarer
- Kompass
- klagomål
- kompatibel
- dator
- Datavetenskap
- ingås
- konservativ
- anses
- konsekvent
- fortsätta
- kontroller
- kontrovers
- Korrigerad
- kunde
- land
- Kriminell
- datum
- David
- dag
- diskussion
- December
- djupare
- Standard
- demografiska
- DID
- den
- olika
- riktning
- Upptäck
- upptäckt
- diskussion
- inte
- gör
- Donald Trump
- under
- varje
- Tidigare
- missar
- ekonomi
- utbilda
- Utbildning
- Val
- upplyft
- ge
- Endless
- engagera
- helt
- Varje
- experimentera
- förklarade
- vänd
- Misslyckande
- SNABB
- slutlig
- hitta
- Fokus
- fokuserade
- följer
- utländska
- utrikespolitik
- fossila bränslen
- hittade
- ofta
- från
- ytterligare
- Vidare
- tyska
- Tyskland
- skaffa sig
- jätte
- globen
- Går
- Grön
- Grupp
- Gruppens
- lyckligt
- Hård
- skadliga
- kraftigt
- här.
- hålla
- värd
- HTTPS
- stor
- imaginär
- Inverkan
- påverkade
- förbättra
- förbättring
- in
- I andra
- ingår
- Inklusive
- alltmer
- Sittande
- individuellt
- individer
- ojämlikhet
- informeras
- initiativ
- exempel
- istället
- intresse
- Undersökningen
- problem
- IT
- sig
- JOE
- Joe Biden
- Rättvisa
- Vet
- Efternamn
- Förra året
- lansera
- Leads
- Led
- nivåer
- sannolikt
- Lista
- längre
- gjord
- Vanliga
- mainstream media
- göra
- människa
- max-bredd
- Media
- MetaNews
- kanske
- ögonblick
- mer
- mest
- multipel
- namn
- nativ
- Behöver
- negativt
- Nederländerna
- Neutral
- antal
- erbjudanden
- erbjuds
- erbjuda
- ONE
- pågående
- motsatt
- Övriga
- Ombud
- utsikterna
- egen
- ägande
- parti
- Personer
- människors
- uppfattas
- personen
- personlig
- plockade
- Plats
- planer
- plato
- Platon Data Intelligence
- PlatonData
- Ansluten
- Punkt
- poäng
- Strategier
- policy
- politiska
- politiskt
- placera
- möjlig
- potentiell
- kraft
- preferenser
- ordförandeskap
- VD
- president Joe Biden
- tryck
- produktiv
- Professor
- ge
- ger
- kvaliteter
- fråga
- frågor
- Lopp
- rasism
- som sträcker sig
- bekräftade
- senaste
- Reform
- region
- regulatorer
- upprepade
- Rapporterad
- Rapport
- forskning
- forskare
- respons
- avslöjar
- vända
- Rival
- Roll
- Regel
- Nämnda
- Samma
- säger
- scenario
- Vetenskap
- verkade
- inställningar
- skifta
- skall
- sida
- Sidor
- signifikant
- eftersom
- So
- sol-
- Solkraft
- några
- något
- Källor
- speciell
- Spektrum
- anges
- .
- uttalanden
- Stater
- Historia
- hållfasthet
- styrkor
- Framgångsrikt
- systemisk
- System
- Ta
- uppgift
- grupp
- tech
- teknikjätte
- testa
- tester
- Smakämnen
- Nederländerna
- deras
- sig själva
- saker
- denna vecka
- tre
- tid
- till
- alltför
- verktyg
- verktyg
- ämnen
- traditionellt
- Trend
- trumf
- typisk
- typiskt
- förstå
- United
- USA
- universitet
- us
- användning
- användare
- vanligen
- visningar
- RÖSTER
- röstade
- washington
- sätt
- vecka
- Vad
- som
- medan
- vit
- VEM
- kommer
- beredd
- visdom
- inom
- utan
- kvinna
- Arbete
- arbetssätt
- skulle
- skriva
- Fel
- år
- Om er
- zephyrnet