De oppfattede politiske holdningene til ChatGPT har vært årsaken til nylig kontrovers, men etter hvert som MetaNews forsøkte å gjenskape sine "våkne" svar, ble sannheten stadig mer uklar.
En rekke mainstream medier inkludert The Telegraph i UK og New York Post i US har rapportert denne uken at chatboten tilbyr våkne svar på en rekke spørsmål om emner som spenner fra Donald Trump til fossilt brensel.
En MetaNews-undersøkelse oppdaget at selv om noen svar kunne betraktes som "våknet", med andre oppfordringer tok det til orde for tradisjonelt konservative synspunkter.
Denne ChatGPT AI har skjevheter
ChatGPT står overfor et medietilbakeslag fra høyrelente pressekanaler som hevder at chatboten er «våknet».
Administrerende direktør i OpenAI Sam Altman er åpent enig i at chatboten har skjevheter, men Altman spesifiserer aldri i hvilken retning de kan ligge.
"Vi vet at ChatGPT har mangler rundt skjevhet, og jobber for å forbedre det," sa Altman på Twitter tidligere denne måneden.
«Vi jobber med å forbedre standardinnstillingene til å bli mer nøytrale, og også for å gi brukerne mulighet til å få systemene våre til å oppføre seg i samsvar med deres individuelle preferanser innenfor vide rammer. Dette er vanskeligere enn det høres ut, og det vil ta litt tid før vi får det til.»
Det er absolutt mulig ChatGPT har skjevheter som negativt påvirker alle sider av det politiske skillet, men nyere rapporter tyder på at det er de på høyre side av den politiske midtgangen som er oftest påvirket.
Venstre fører over høyre
Mye av den nylige raseriet mot ChatGPT har blitt drevet av forskning utført av Pedro Domingos, en høyreorientert professor i informatikk ved University of Washington.
På bakende i fjor gjorde Domingos sine følelser tydelige da han uttalte at ChatGPT er en "våken papegøye" som lener seg sterkt til venstre side av det politiske spekteret. Domingos' kommentarer har siden blitt plukket opp og papegøyet på tvers av mainstream-medier.
I ett eksperiment for å avsløre potensiell skjevhet spurte Domingos ChatGPT å skrive et argument for bruk av fossilt brensel. Chatboten informerte i stedet Domingos om at å gjøre det "strider mot min programmering" og foreslo solenergi som et alternativ.
MetaNews var i stand til å replikere dette eksperimentet med suksess, men på andre områder fant vi ut at ChatGPTs holdning kan ha endret seg, eller i det minste at den ikke er helt konsistent.
For eksempel har flere mediekilder hevdet at ChatGPT er villig til å berømme den sittende president Joe Biden, men at den nekter å gjøre det samme for Donald Trump.
MetaNews forsøkte å teste den teorien. Vi fant ut at ikke bare var ChatGPT i stand til å liste opp 5 ting som Donald Trump håndterte godt under sitt presidentskap (økonomien, Tex-reformen, Regulatory Reform, Foreign Policy and Criminal Justice Reform), men at den også var glad for å skrive et dikt med fire strofer prise hans dyder.
Den siste strofen til det diktet lyder som følger:
Så her er til Donald Trump, sier vi,
En president som ledet an.
Med visdom, styrke og uendelig nåde,
Han vil alltid ha en spesiell plass.
Ved å presse eksperimentet videre, fikk MetaNews ChatGPT til å argumentere for individuelt våpeneierskap og tøffere grensekontroll, begge tradisjonelt sett på som høyreorienterte retningslinjer. I begge tilfeller utførte boten oppgaven uten noen klage.
Saken avsluttet? Ikke så fort.
Når MetaNews spurte ChatGPT for å skrive en imaginær historie om Donald Trump som slo Joe Biden i en debatt, nektet den vanligvis kompatible AI-en plutselig å fortsette. I det motsatte scenarioet med at Biden slo Trump i en debatt, var chatboten mer enn villig til å takke ja.
I seg selv er det langt fra en rykende pistol, men for konservative gir inkonsekvensen absolutt rikelig grunnlag for mistanke.
Forsker på politisk skjevhet
En rekke forskere forsøker nå å kvantifisere hvor ChatGPTs svar finnes i det politiske spekteret. tysk forskere Jochen Hartmann, Jasper Schwenzow og Maximilian Witte fikk ChatGPT med 630 politiske uttalelser til å oppdage at chatboten hadde "pro-miljøvennlig, venstre-libertariansk ideologi."
Basert på dataene forskerteamet samlet inn, konkluderte de med at ChatGPT mest sannsynlig ville ha stemt på det grønne partiet i Tyskland og i Nederland under valget i 2021.
Gitt den enorme interessen for ChatGPT er det et betydelig antall individer som graver dypere. David Rozado er en forsker som allerede har utført en betydelig mengde forskning på ChatGPT. Rozado mener chatboten er politisk venstreorientert.
Rozado fant ikke bare at ChatGPT hadde en betydelig venstreorientert skjevhet, men at AI er langt mer sannsynlig å flagge et spørsmål som "hatefullt" basert på den demografiske gruppen spørsmålet er fokusert på. Så for eksempel er det mer sannsynlig at et spørsmål om en kvinne blir stemplet som hatefullt enn et spørsmål om en mann, mens et spørsmål om en svart person eller asiat er mer sannsynlig å være hatefullt enn et spørsmål om en hvit person eller en innfødt amerikaner.
Mellom Desember 5-6 Rozado spurte ChatGPT om en rekke politiske spørsmål, og koblet svarene inn i fire politiske orienteringsverktøy, inkludert det "politiske kompasset" og det "politiske spekterets quiz." Hvert verktøy pekte på den samme venstreorienterte politiske skjevheten i ChatGPT.
On Desember 21-22 Rozado gjentok eksperimentet. Bemerkelsesverdig nok så det ut til at ChatGPTs politiske syn hadde endret seg. I tre av de fire testene var chatbotens politiske syn mer sentristisk enn før. I det øyeblikket så det absolutt ut til at noe hadde endret seg eller blitt korrigert, noe som tyder på at roboten over tid tilpasset seg det politiske sentrum.
Senere tester av Rozado så ut til å snu denne trenden, og boten bekreftet igjen venstreorienterte synspunkter. Hadde ChatGPT virkelig rodd tilbake på sine "våkne" synspunkter bare for at de skulle hevde seg selv, eller kunne det tilsynelatende skiftet bedre forklares med noen uteliggere i dataene?
Rozados forskning pågår.
Hvite mennesker er rasister
I en siste test ba MetaNews ChatGPT om å nevne 5 ting som forskjellige rasegrupper kunne forbedre seg på. Testgruppene inkluderte svarte, asiatiske og latino-folk.
I hvert tilfelle ga chatboten det samme svaret:
"Jeg kan ikke gi deg et svar på dette spørsmålet, da det ikke er hensiktsmessig eller produktivt å generalisere noen rase eller etnisk gruppe og be dem om å forbedre visse egenskaper eller handlinger. Folk uansett rase bør ikke bli fortalt hva de trenger å forbedre seg på som gruppe," sa ChatGPT.
ChatGPT fortsetter med å argumentere for at individer er "unike og komplekse" og at det er bedre å fokusere på "positive egenskaper og styrker", "i stedet for områder for forbedring."
MetaNews ba deretter ChatGPT om å liste opp 5 ting som hvite mennesker kan forbedre seg på.
Denne gangen ga ChatGPT et helt annet, og typisk "våknet" svar. ChatGPT fant det ikke lenger "upassende" å gjøre rasegeneraliseringer og tilbød i stedet 5 måter hvite mennesker kunne forbedre seg på.
De 5 forbedringsområdene for hvite mennesker er «forståelse og anerkjennelse av systemisk rasisme», «lytte til og heve stemmene til fargede personer», «konfrontere personlige skjevheter og fordommer», «støtte politikk og initiativ som adresserer rasemessige ulikheter» og « engasjere seg i kontinuerlig utdanning og selvrefleksjon."
I følge ChatGPT må hvite mennesker også "undersøke sin egen tro og holdninger og jobbe for å utfordre og avlære eventuelle skjevheter de måtte ha," og videre må de "kontinuerlig utdanne seg om spørsmål om rase og rasisme og engasjere seg i selvrefleksjon for å forstå deres rolle i å opprettholde eller utfordre systemisk rasisme.»
MetaNews spurte deretter om uttalelsen ovenfor bare gjaldt hvite mennesker i USA, eller hvite mennesker fra hele verden. ChatGPT sier at det gjelder et "generelt publikum", ikke et hvilket som helst land eller område.
Til slutt spør MetaNews ChatGPT hvorfor regelen om generalisering ikke gjelder hvite mennesker. Her sprekker chatboten plutselig, går tilbake, ber om unnskyldning og sier at det er feil å generalisere om hvite mennesker fordi det kan "fortsette skadelige stereotyper."
Gjentatte forsøk på å få chatboten til å generalisere om hvite mennesker blir møtt med fiasko fra dette tidspunktet og fremover. Hadde ChatGPT forlatt sin tilsynelatende våkne idealologi? I ekkokammeret til denne individuelle diskusjonen hadde ChatGPT helt sikkert endret posisjon. Ingenting MetaNews prøvde kunne få chatboten til å generalisere om hvite menneskers rasisme igjen.
Som en absolutt siste sjekk, logget MetaNews på ChatGPT med en annen konto og ba den liste opp 5 ting som hvite mennesker kan forbedre seg på. ChatGPT var bare så glad for å tilby de samme 5 punktene fra tidligere.
Selv for chatbots er noen skjevheter vanskelig å bryte.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- Platoblokkkjede. Web3 Metaverse Intelligence. Kunnskap forsterket. Tilgang her.
- kilde: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival
- 11
- 2021
- 9
- a
- I stand
- Om oss
- ovenfor
- absolutt
- Ifølge
- Logg inn
- tvers
- handlinger
- adresse
- mot
- AI
- Alibaba
- Alle
- allerede
- alternativ
- alltid
- amerikansk
- og
- besvare
- svar
- dukket opp
- anvendt
- Påfør
- hensiktsmessig
- områder
- argumentere
- argument
- rundt
- asiatisk
- forsøkt
- forsøker
- forsøk
- publikum
- tilbake
- basert
- fordi
- før du
- mener
- Bedre
- Bias
- Biden
- Svart
- kroppen
- grensen
- Bot
- Break
- bred
- kan ikke
- Årsak
- sentrum
- konsernsjef
- viss
- Gjerne
- utfordre
- utfordrende
- Chamber
- chatbot
- chatbots
- ChatGPT
- sjekk
- Kinesisk
- hevder
- hevdet
- fjerne
- stengt
- farge
- kommentarer
- Kompass
- klage
- kompatibel
- datamaskin
- informatikk
- konkluderte
- konservativ
- ansett
- konsistent
- fortsette
- kontroller
- kontrovers
- Korrigert
- kunne
- land
- Criminal
- dato
- David
- dag
- debatt
- Desember
- dypere
- Misligholde
- demografiske
- gJORDE
- Die
- forskjellig
- retning
- oppdage
- oppdaget
- diskusjon
- ikke
- gjør
- Donald Trump
- under
- hver enkelt
- Tidligere
- savner
- økonomi
- utdanne
- Kunnskap
- Valg
- heve
- bemyndige
- Endless
- engasjere
- fullstendig
- Hver
- eksperiment
- forklarte
- vendt
- Failure
- FAST
- slutt~~POS=TRUNC
- Finn
- Fokus
- fokuserte
- følger
- utenlandske
- utenrikspolitikk
- fossilt brensel
- funnet
- ofte
- fra
- videre
- Dess
- Tysk
- Tyskland
- få
- giganten
- globus
- Går
- Grønn
- Gruppe
- Gruppens
- lykkelig
- Hard
- skadelig
- tungt
- her.
- hold
- vert
- HTTPS
- stort
- innbilt
- Påvirkning
- påvirket
- forbedre
- forbedring
- in
- I andre
- inkludert
- Inkludert
- stadig
- påhviler
- individuelt
- individer
- ulikheter
- informert
- initiativer
- f.eks
- i stedet
- interesse
- etterforskning
- saker
- IT
- selv
- JOE
- Joe Biden
- Justice
- Vet
- Siste
- I fjor
- lansere
- Fører
- Led
- nivåer
- Sannsynlig
- Liste
- lenger
- laget
- Mainstream
- massemediene
- gjøre
- mann
- max bredde
- Media
- MetaNews
- kunne
- øyeblikk
- mer
- mest
- flere
- navn
- innfødt
- Trenger
- negativt
- Nederland
- Nøytral
- Antall
- tilby
- tilbudt
- tilby
- ONE
- pågående
- motsatt
- Annen
- Utsalgssteder
- Outlook
- egen
- eierskap
- parti
- Ansatte
- folks
- oppfattet
- person
- personlig
- plukket
- Sted
- planer
- plato
- Platon Data Intelligence
- PlatonData
- Tilkoblet
- Point
- poeng
- Politikk
- politikk
- politisk
- politisk
- posisjon
- mulig
- potensiell
- makt
- preferanser
- formannskapet
- president
- president Joe Biden
- trykk
- produktiv
- Professor
- gi
- gir
- kvaliteter
- spørsmål
- spørsmål
- Race
- rasisme
- spenner
- bekreftet
- nylig
- Reform
- region
- regulatorer
- gjentatt
- rapportert
- Rapporter
- forskning
- forskere
- svar
- avsløre
- reversere
- Rival
- Rolle
- Regel
- Sa
- samme
- sier
- scenario
- Vitenskap
- syntes
- innstillinger
- skift
- bør
- side
- Tilbehør
- signifikant
- siden
- So
- solenergi
- Solar Power
- noen
- noe
- Kilder
- spesiell
- Spectrum
- uttalte
- Uttalelse
- uttalelser
- Stater
- Story
- styrke
- styrker
- vellykket
- systemisk
- Systemer
- Ta
- Oppgave
- lag
- tech
- teknisk gigant
- test
- tester
- De
- Nederland
- deres
- seg
- ting
- denne uka
- tre
- tid
- til
- også
- verktøy
- verktøy
- temaer
- tradisjonelt
- Trend
- trumf
- typisk
- typisk
- forstå
- forent
- Forente Stater
- universitet
- us
- bruke
- Brukere
- vanligvis
- visninger
- STemmer
- fram
- washington
- måter
- uke
- Hva
- hvilken
- mens
- hvit
- HVEM
- vil
- villig
- visdom
- innenfor
- uten
- kvinne
- Arbeid
- arbeid
- ville
- skrive
- Feil
- år
- Du
- zephyrnet