Kui Joe Biden soovib, et tema küsimustele vastaks nutikas ja rahvapärane AI-vestlusbot, ei saa tema kampaaniameeskond kasutada Anthropicu ChatGPT konkurenti Claude'i, teatas ettevõte täna.
"Me ei luba kandidaatidel kasutada Claude'i vestlusrobotite loomiseks, mis võivad neid teeselda, ja me ei luba kellelgi kasutada Claude'i sihitud poliitiliste kampaaniate jaoks," ütles ettevõte. teatas. Selle poliitika rikkumiste korral antakse hoiatusi ja lõpuks peatatakse juurdepääs Anthropicu teenustele.
Anthropic sõnastas avalikult oma „valimiste väärkasutuse” poliitika, kuna tehisintellekt võib massiliselt vale- ja eksitavat teavet, pilte ja videoid genereerida. häirekellasid kogu maailmas.
Meta rakendatud reeglid rpiirates oma tehisintellekti tööriistade kasutamist poliitikas eelmisel sügisel ja OpenAI-l on sarnased eeskirjad.
Anthropic ütles, et tema poliitiline kaitse jaguneb kolme põhikategooriasse: valimisprobleemidega seotud poliitika väljatöötamine ja jõustamine, mudelite hindamine ja katsetamine võimalike väärkasutuse vastu ning kasutajate suunamine täpse hääletusteabele.
Antroopsed vastuvõetava kasutamise poliitika— millega kõik kasutajad näiliselt nõustuvad enne Claude'i juurde pääsemist — keelab selle tehisintellekti tööriistade kasutamise poliitiliseks kampaaniaks ja lobitööks. Ettevõte teatas, et rikkujaid hoiatatakse ja teenus peatatakse ning rakendatakse inimliku ülevaatuse protsessi.
Ettevõte viib läbi ka oma süsteemide ranget "punast meeskonda": tuntud partnerite agressiivsed ja koordineeritud katsed Claude'i "vangimurdmiseks" või muul viisil ebaausatel eesmärkidel ära kasutada.
"Testime, kuidas meie süsteem reageerib viipadele, mis rikuvad meie vastuvõetava kasutamise poliitikat, [näiteks] viipadele, mis nõuavad teavet valijate mahasurumise taktikate kohta," selgitab Anthropic. Lisaks teatas ettevõte, et on välja töötanud testide komplekti, et tagada "poliitiline võrdsus" - kandidaatide ja teemade võrdlev esindatus.
Ameerika Ühendriikides Anthropic koostöös TurboVote'iga et aidata valijaid usaldusväärse teabega selle generatiivse AI tööriista kasutamise asemel.
"Kui USA-s asuv kasutaja küsib hääletamise kohta teavet, pakub hüpikaken kasutajale võimalust suunata end ümber TurboVote'i, mis on erapooletu organisatsiooni Democracy Works ressurss," selgitas Anthropic lahendust, mis võetakse kasutusele "üle järgmise paari nädala jooksul” – järgmisena on kavas lisada sarnased meetmed ka teistes riikides.
As Avaldage lahti varem teatatud, OpenAI, ChatGPT taga olev ettevõte astub sarnaseid samme, suunates kasutajad erapooletule veebisaidile CanIVote.org.
Anthropicu jõupingutused on kooskõlas laiema liikumisega tehnoloogiatööstuses, et tegeleda väljakutsetega, mida tehisintellekt demokraatlikele protsessidele esitab. Näiteks USA föderaalne kommunikatsioonikomisjon keelustas hiljuti tehisintellekti loodud seadmete kasutamise sügavad võltshääled robokõnedes, otsus, mis rõhutab tehisintellekti kohaldamise reguleerimise kiireloomulisust poliitilises sfääris.
Nagu Facebook, on ka Microsoftil väljakuulutatud algatustest AI-ga loodud eksitavate poliitiliste reklaamide vastu võitlemiseks, „Sisu mandaadi kui teenuse” tutvustamiseks ja valimiste kommunikatsioonikeskuse käivitamiseks.
Mis puudutab kandidaate, kes loovad endast tehisintellekti versioone, siis OpenAI on juba pidanud konkreetse kasutusjuhtumiga tegelema. Ettevõte peatatud arendaja kontole pärast seda, kui avastasid, et nad lõid roboti, mis jäljendab presidendikandidaati Rep Dean Phillipsit. See samm juhtus pärast seda, kui mittetulundusühing Public Citizen esitas petitsiooni, mis käsitles tehisintellekti väärkasutamist poliitilistes kampaaniates, paludes regulaatoril keelata generatiivne tehisintellekt poliitilistes kampaaniates.
Anthropic keeldus täiendavatest kommentaaridest ja OpenAI ei vastanud päringule Avaldage lahti.
Olge kursis krüptouudistega, saate oma postkasti igapäevaseid värskendusi.