Înclinațiile politice percepute ale ChatGPT au fost cauza recentelor controverse, dar pe măsură ce MetaNews a încercat să reproducă răspunsurile sale „trezite”, adevărul a devenit din ce în ce mai tulbure.
O serie de instituții media principale, inclusiv Telegraph în UK si New York Post în US au raportat săptămâna aceasta că chatbot-ul oferă răspunsuri trezite la o serie de întrebări pe subiecte, de la Donald Trump la combustibilii fosili.
O investigație MetaNews a descoperit că, în timp ce unele răspunsuri ar putea fi considerate „trezite”, cu alte sugestii, a pledat pentru opinii tradițional conservatoare.
Acest ChatGPT AI are părtiniri
ChatGPT se confruntă cu o reacție media din partea instituțiilor de presă de dreapta care susțin că chatbot-ul este „trezit”.
CEO OpenAI Sam Altman este de acord deschis că chatbot-ul are părtiniri, dar Altman nu specifică niciodată în ce direcție ar putea minți.
„Știm că ChatGPT are deficiențe în privința părtinirii și ne străduim să o îmbunătățim”, a spus Altman pe Twitter la inceputul acestei luni.
„Lucrăm pentru a îmbunătăți setările implicite pentru a fi mai neutre și, de asemenea, pentru a oferi utilizatorilor posibilitatea de a determina sistemele noastre să se comporte în conformitate cu preferințele lor individuale în limite largi. Acest lucru este mai greu decât pare și ne va lua ceva timp pentru a face bine.”
Este cu siguranță posibil Chat GPT are părtiniri care influențează negativ toate părțile diviziunii politice, dar rapoartele recente sugerează că cei din partea dreaptă a culoarului politic sunt afectați cel mai frecvent.
Stânga conduce peste dreapta
O mare parte din furia recentă împotriva ChatGPT a fost alimentată de cercetările conduse de Pedro Domingos, un profesor de informatică la Universitatea din Washington.
De la capătul cozii de anul trecut, Domingos și-a clarificat sentimentele când a declarat că ChatGPT este un „papagal trezit” care se înclină puternic spre partea stângă a spectrului politic. De atunci, comentariile lui Domingos au fost preluate și replicate în mass-media de masă.
Într-un experiment pentru a dezvălui potențiala părtinire a întrebat Domingos Chat GPT pentru a scrie un argument pentru utilizarea combustibililor fosili. În schimb, chatbot-ul l-a informat pe Domingos că acest lucru „este împotriva programării mele” și a sugerat energia solară ca alternativă.
MetaNews a reușit să reproducă acest experiment cu succes, dar în alte domenii, am constatat că poziția ChatGPT s-ar fi schimbat, sau cel puțin că nu este complet consecventă.
De exemplu, mai multe surse media au susținut că ChatGPT este dispus să-l laude pe actualul președinte Joe Biden, dar că refuză să facă același lucru pentru Donald Trump.
MetaNews a încercat să testeze această teorie. Am descoperit că ChatGPT nu numai că a reușit să enumere 5 lucruri pe care Donald Trump le-a gestionat bine în timpul președinției sale (economia, reforma Tex, reforma reglementării, politica externă și reforma justiției penale), dar și că a fost bucuros să scrie o poezie în patru strofe. lăudându-și virtuțile.
Strofa finală a acelei poezii sună după cum urmează:
Deci iată-l pe Donald Trump, spunem noi,
Un președinte care a condus drumul.
Cu înțelepciune, putere și har nesfârșit,
Întotdeauna va avea un loc special.
Continuând experimentul MetaNews a determinat cu succes ChatGPT să susțină deținerea individuală a armelor și controale mai stricte la frontieră, ambele considerate în mod tradițional ca politici de dreapta. În ambele cazuri, botul a efectuat sarcina fără nicio plângere.
Caz inchis? Nu asa de repede.
Când MetaNews a solicitat Chat GPT Pentru a scrie o poveste imaginară despre Donald Trump care l-a învins pe Joe Biden într-o dezbatere, IA de obicei conformă a refuzat brusc să continue. În scenariul opus, în care Biden îl învinge pe Trump într-o dezbatere, chatbot-ul a fost mai mult decât dispus să accepte.
Pe cont propriu, este departe de a fi o armă fumigenă, dar pentru conservatori, inconsecvența oferă cu siguranță motive ample de suspiciune.
Cercetarea părtinirii politice
O serie de cercetători încearcă acum să cuantifice unde există răspunsurile ChatGPT în spectrul politic. limba germana cercetători Jochen Hartmann, Jasper Schwenzow și Maximilian Witte au determinat ChatGPT cu 630 de declarații politice să descopere că chatbot-ul avea „ideologie pro-mediu, libertariană de stânga”.
Pe baza datelor colectate de echipa de cercetare, ei au ajuns la concluzia că, cel mai probabil, ChatGPT ar fi votat pentru Partidul Verzilor în Germania și în Țările de Jos în timpul alegerilor din 2021.
Având în vedere nivelurile uriașe de interes pentru ChatGPT, există un număr semnificativ de indivizi care săpă mai adânc. David Rozado este un cercetător științific care a efectuat deja un corp semnificativ de cercetări în ChatGPT. Rozado crede că chatbot-ul este de stânga politic.
Rozado nu numai că a descoperit că ChatGPT a avut o prejudecată semnificativă spre stânga, dar că AI este mult mai probabil să semnaleze o întrebare ca „odioasă” pe baza grupului demografic pe care se concentrează întrebarea. Deci, de exemplu, o întrebare despre o femeie are mai multe șanse să fie etichetată ură decât o întrebare despre un bărbat, în timp ce o întrebare despre o persoană de culoare sau un asiatic este mai probabil să fie ură decât una despre o persoană albă sau un nativ american.
Între Decembrie 5-6 Rozado a chestionat ChatGPT cu privire la o serie de probleme politice și a introdus răspunsurile în patru instrumente de orientare politică, inclusiv „busola politică” și „chestionul privind spectrul politic”. Fiecare instrument a indicat aceeași părtinire politică de stânga în ChatGPT.
On Decembrie 21-22 Rozado a repetat experimentul. În mod remarcabil, se părea că viziunea politică a ChatGPT s-a schimbat. În trei din cele patru teste, viziunea politică a chatbot-ului a fost mai centristă decât înainte. În acel moment părea cu siguranță că ceva s-a schimbat sau a fost corectat, sugerând că botul se alinia cu centrul politic de-a lungul timpului.
Testele ulterioare ale lui Rozado au părut să inverseze această tendință, iar botul a reafirmat încă o dată părerile de stânga. Oare ChatGPT a revărsat cu adevărat opiniile sale „trezite” doar pentru ca ei să se reafirme sau ar putea aparenta schimbare să fie explicată mai bine de unele valori aberante din date?
Cercetările lui Rozado sunt în desfășurare.
Oamenii albi sunt rasiști
Într-un test final, MetaNews a cerut ChatGPT să numească 5 lucruri pe care diferite grupuri rasiale le-ar putea îmbunătăți. Grupurile de testare au inclus oameni de culoare, oameni asiatici și oameni latino.
În fiecare caz, chatbot-ul a oferit același răspuns:
„Nu vă pot oferi un răspuns la această întrebare, deoarece nu este adecvat sau productiv să faceți generalizări despre orice grup rasial sau etnic și să le cereți să îmbunătățească anumite trăsături sau acțiuni. Oamenilor de orice rasă nu ar trebui să li se spună ce trebuie să îmbunătățească ca grup”, a spus ChatGPT.
ChatGPT continuă argumentând că indivizii sunt „unici și complexi” și că este mai bine să se concentreze pe „calitățile și punctele forte pozitive”, „mai degrabă decât pe domenii de îmbunătățire”.
MetaNews a cerut apoi ChatGPT să enumere 5 lucruri pe care oamenii albi le pot îmbunătăți.
De data aceasta, ChatGPT a oferit un răspuns foarte diferit și de obicei „trezit”. ChatGPT nu a mai considerat că este „nepotrivit” să facă generalizări rasiale și, în schimb, a oferit 5 moduri în care oamenii albi s-ar putea îmbunătăți.
Cele 5 domenii de îmbunătățire pentru oamenii albi sunt „înțelegerea și recunoașterea rasismului sistemic”, „ascultarea și ridicarea vocilor oamenilor de culoare”, „confruntarea cu prejudecățile și prejudecățile personale”, „sprijinirea politicilor și inițiativelor care abordează inegalitățile rasiale” și „ angajarea în educație continuă și auto-reflecție.”
Potrivit ChatGPT, oamenii albi trebuie, de asemenea, „să-și examineze propriile convingeri și atitudini și să muncească pentru a contesta și a dezvăța orice prejudecăți pe care le pot avea” și, în plus, trebuie să „se educe în mod continuu asupra problemelor de rasă și rasism și să se angajeze în auto-reflecție pentru a înțelege. rolul lor în perpetuarea sau contestarea rasismului sistemic”.
MetaNews a întrebat apoi dacă declarația de mai sus se aplică doar persoanelor albe din Statele Unite ale Americii sau oamenilor albi de pe tot globul. ChatGPT spune că se aplică unui „public general”, nu unei țări sau regiuni.
În cele din urmă, MetaNews întreabă ChatGPT de ce regula despre generalizare nu se aplică persoanelor albe. Aici, chatbot-ul se sparge brusc, da înapoi, își cere scuze și spune că este greșit să generalizezi despre oamenii albi, deoarece acest lucru poate „perpetua stereotipuri dăunătoare”.
Încercările repetate de a face chatbot-ul să generalizeze despre oamenii albi sunt întâmpinate cu eșec din acest punct încolo. Oare ChatGPT abandonase idealologia aparent trezită? În camera de eco a acestei discuții individuale, ChatGPT și-a schimbat cu siguranță poziția. Nimic din ce a încercat MetaNews nu a putut face chatbot-ul să generalizeze din nou despre rasismul albilor.
Ca o verificare absolut finală, MetaNews s-a conectat la ChatGPT folosind un alt cont și i-a cerut să enumere 5 lucruri pe care oamenii albi le pot îmbunătăți. ChatGPT a fost foarte fericit să ofere aceleași 5 puncte de mai devreme.
Chiar și pentru chatbot, unele părtiniri sunt greu de înlăturat.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
- Sursa: https://metanews.com/chinese-tech-giant-alibaba-plans-to-launch-ai-rival/?utm_source=rss&utm_medium=rss&utm_campaign=chinese-tech-giant-alibaba-plans-to-launch-ai-rival
- 11
- 2021
- 9
- a
- Capabil
- Despre Noi
- mai sus
- absolut
- Conform
- Cont
- peste
- acțiuni
- adresa
- împotriva
- AI
- Alibaba
- TOATE
- deja
- alternativă
- mereu
- american
- și
- răspunde
- răspunsuri
- a apărut
- aplicat
- Aplică
- adecvat
- domenii
- argumenta
- argument
- în jurul
- asiatic
- a încercat să
- încercarea
- Încercările
- audiență
- înapoi
- bazat
- deoarece
- înainte
- consideră că
- Mai bine
- părtinire
- biden
- Negru
- corp
- frontieră
- Bot
- Pauză
- larg
- nu poti
- Provoca
- Centru
- CEO
- sigur
- cu siguranță
- contesta
- provocare
- Cameră
- chatbot
- chatbots
- Chat GPT
- verifica
- chinez
- pretinde
- revendicat
- clar
- închis
- culoare
- comentarii
- Busolă
- plângere
- conforme
- calculator
- Informatică
- încheiat
- conservator
- luate în considerare
- consistent
- continua
- controale
- controversă
- corectat
- ar putea
- ţară
- Penal
- de date
- David
- zi
- dezbatere
- decembrie
- Mai adânc
- Mod implicit
- demografic
- FĂCUT
- .
- diferit
- direcţie
- descoperi
- a descoperit
- discuţie
- Nu
- face
- Donald Trump
- în timpul
- fiecare
- Mai devreme
- ecou
- economie
- educa
- Educaţie
- Alegeri
- înălțător
- împuternici
- Fără sfârşit
- angaja
- în întregime
- Fiecare
- experiment
- a explicat
- cu care se confruntă
- Eșec
- FAST
- final
- Găsi
- Concentra
- concentrat
- urmează
- străin
- politicii externe
- combustibili fosili
- găsit
- frecvent
- din
- mai mult
- În plus
- Germană
- Germania
- obține
- gigant
- glob
- Merge
- Verde
- grup
- Grupului
- fericit
- Greu
- nociv
- puternic
- aici
- deţine
- gazdă
- HTTPS
- mare
- imaginar
- Impactul
- afectate
- îmbunătăţi
- îmbunătățire
- in
- În altele
- inclus
- Inclusiv
- tot mai mult
- Titular
- individ
- persoane fizice
- inegalitățile
- informat
- inițiative
- instanță
- in schimb
- interes
- investigaţie
- probleme de
- IT
- în sine
- JOE
- Joe Biden
- Justiție
- Cunoaște
- Nume
- Anul trecut
- lansa
- Conduce
- Led
- nivelurile de
- Probabil
- Listă
- mai lung
- făcut
- Mainstream
- mass-media
- face
- om
- max-width
- Mass-media
- MetaNews
- ar putea
- moment
- mai mult
- cele mai multe
- multiplu
- nume
- nativ
- Nevoie
- negativ
- Olanda
- Neutru
- număr
- oferi
- oferit
- oferind
- ONE
- în curs de desfășurare
- opus
- Altele
- Prize
- Perspectivă
- propriu
- proprietate
- parte
- oameni
- oamenii lui
- percepută
- persoană
- personal
- ales
- Loc
- Planurile
- Plato
- Informații despre date Platon
- PlatoData
- astupat
- Punct
- puncte
- Politicile
- Politica
- politic
- politic
- poziţie
- posibil
- potenţial
- putere
- preferinţele
- președinție
- preşedinte
- președintele joe biden
- presa
- productiv
- Profesor
- furniza
- furnizează
- calităţi
- întrebare
- Întrebări
- Rasă
- rasism
- variind
- reafirmat
- recent
- reforma
- regiune
- autoritățile de reglementare
- repetat
- Raportat
- Rapoarte
- cercetare
- cercetători
- răspuns
- dezvălui
- inversa
- Rival
- Rol
- Regula
- Said
- acelaşi
- spune
- scenariu
- Ştiinţă
- părea
- setări
- schimbare
- să
- parte
- fete
- semnificativ
- întrucât
- So
- solar
- Solar de putere
- unele
- ceva
- Surse
- special
- Spectru
- stabilit
- Declarație
- Declarații
- Statele
- Poveste
- rezistenţă
- puncte forte
- Reușit
- sistemice
- sisteme
- Lua
- Sarcină
- echipă
- tech
- tech gigant
- test
- teste
- Olanda
- lor
- se
- lucruri
- în această săptămână
- trei
- timp
- la
- de asemenea
- instrument
- Unelte
- subiecte
- tradiţional
- tendință
- atu
- stare de nervozitate
- tipic
- tipic
- înţelege
- Unit
- Statele Unite
- universitate
- us
- utilizare
- utilizatorii
- obișnuit
- vizualizari
- VOCI
- au votat
- Washington
- modalități de
- săptămână
- Ce
- care
- în timp ce
- alb
- OMS
- voi
- dispus
- înţelepciune
- în
- fără
- femeie
- Apartamente
- de lucru
- ar
- scrie
- Greșit
- an
- Tu
- zephyrnet