Hvis Joe Biden vil ha en smart og folkelig AI-chatbot til å svare på spørsmål for ham, vil ikke kampanjeteamet hans kunne bruke Claude, ChatGPT-konkurrenten fra Anthropic, kunngjorde selskapet i dag.
"Vi tillater ikke kandidater å bruke Claude til å bygge chatboter som kan utgi seg for å være dem, og vi tillater ingen å bruke Claude til målrettede politiske kampanjer," selskapet annonsert. Brudd på disse retningslinjene vil bli møtt med advarsler og til slutt suspensjon av tilgang til Anthropics tjenester.
Anthropics offentlige artikulering av politikken for "valgmisbruk" kommer ettersom AIs potensial til å massegenerere falsk og villedende informasjon, bilder og videoer er utløser alarmklokker over hele verden.
Meta-implementerte regler rbegrense bruken av AI-verktøyene i politikken i fjor høst, og OpenAI har lignende retningslinjer.
Anthropic sa at dens politiske beskyttelse faller inn i tre hovedkategorier: utvikle og håndheve retningslinjer knyttet til valgspørsmål, evaluere og teste modeller mot potensielt misbruk, og lede brukere til nøyaktig stemmeinformasjon.
Antropisk retningslinjer for akseptabel bruk– som alle brukere tilsynelatende godtar før de får tilgang til Claude – hindrer bruken av AI-verktøyene for politisk kampanje og lobbyarbeid. Selskapet sa at det vil være advarsler og tjenestesuspensjoner for overtredere, med en menneskelig vurderingsprosess på plass.
Selskapet gjennomfører også streng "red-teaming" av systemene sine: aggressive, koordinerte forsøk fra kjente partnere for å "jailbreak" eller på annen måte bruke Claude til ondsinnede formål.
"Vi tester hvordan systemet vårt reagerer på meldinger som bryter med våre retningslinjer for akseptabel bruk, [for eksempel] meldinger som ber om informasjon om taktikk for velgerundertrykkelse," forklarer Anthropic. I tillegg sa selskapet at det har utviklet en serie med tester for å sikre "politisk paritet" - sammenlignende representasjon på tvers av kandidater og emner.
I USA, Anthropic samarbeidet med TurboVote å hjelpe velgerne med pålitelig informasjon i stedet for å bruke dets generative AI-verktøy.
"Hvis en USA-basert bruker ber om stemmeinformasjon, vil en popup-vindu gi brukeren muligheten til å bli omdirigert til TurboVote, en ressurs fra den partipolitiske organisasjonen Democracy Works," forklarte Anthropic, en løsning som vil bli distribuert "over de neste ukene» - med planer om å legge til lignende tiltak i andre land neste gang.
As dekryptere tidligere rapportert, OpenAI, selskapet bak ChatGPT tar lignende skritt, og omdirigerer brukere til det partipolitiske nettstedet CanIVote.org.
Anthropics innsats er på linje med en bredere bevegelse innen teknologiindustrien for å møte utfordringene AI utgjør for demokratiske prosesser. For eksempel har USAs føderale kommunikasjonskommisjon nylig forbudt bruken av AI-generert dypfalske stemmer i robocall, en avgjørelse som understreker at det haster med å regulere AIs anvendelse i den politiske sfæren.
I likhet med Facebook har Microsoft annonserte initiativ for å bekjempe villedende AI-genererte politiske annonser, introdusere «Content Credentials as a Service» og lansere en valgkommunikasjonshub.
Når det gjelder kandidater som lager AI-versjoner av seg selv, har OpenAI allerede måttet takle den spesifikke brukssaken. Firmaet suspendert kontoen til en utvikler etter å ha funnet ut at de opprettet en robot som etterligner presidentens håpefulle rep. Dean Phillips. Flyttingen skjedde etter at en begjæring om AI-misbruk i politiske kampanjer ble introdusert av den ideelle organisasjonen Public Citizen, og ba regulatoren om å forby generativ AI i politiske kampanjer.
Anthropic avslo ytterligere kommentar, og OpenAI svarte ikke på en henvendelse fra dekryptere.
Hold deg oppdatert på kryptonyheter, få daglige oppdateringer i innboksen din.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules