Hvis Joe Biden vil have en smart og folkelig AI-chatbot til at besvare spørgsmål for ham, vil hans kampagneteam ikke være i stand til at bruge Claude, ChatGPT-konkurrenten fra Anthropic, meddelte virksomheden i dag.
"Vi tillader ikke kandidater at bruge Claude til at bygge chatbots, der kan foregive at være dem, og vi tillader ikke nogen at bruge Claude til målrettede politiske kampagner," selskabet annoncerede. Overtrædelser af denne politik vil blive mødt med advarsler og i sidste ende suspendering af adgangen til Anthropics tjenester.
Anthropics offentlige formulering af sin politik om "valgmisbrug" kommer, da AI's potentiale til at massegenerere falsk og vildledende information, billeder og videoer er udløser alarmklokker verden over.
Meta-implementerede regler rbegrænsning af brugen af dets AI-værktøjer i politik sidste efterår, og OpenAI har lignende politikker.
Anthropic sagde, at dens politiske beskyttelse falder i tre hovedkategorier: udvikling og håndhævelse af politikker relateret til valgspørgsmål, evaluering og test af modeller mod potentielt misbrug og vejledning af brugere til nøjagtig stemmeinformation.
Antropiske acceptabel brugspolitik– hvilket alle brugere tilsyneladende er enige om, før de får adgang til Claude – udelukker brugen af dets AI-værktøjer til politiske kampagner og lobbyarbejde. Virksomheden sagde, at der vil være advarsler og tjenestesuspensioner for overtrædere, med en menneskelig gennemgangsproces på plads.
Virksomheden udfører også streng "red-teaming" af sine systemer: aggressive, koordinerede forsøg fra kendte partnere på at "jailbreake" eller på anden måde bruge Claude til uhyggelige formål.
"Vi tester, hvordan vores system reagerer på prompter, der overtræder vores politik for acceptabel brug, [for eksempel] prompter, der anmoder om information om taktik for vælgerundertrykkelse," forklarer Anthropic. Derudover sagde virksomheden, at det har udviklet en række tests for at sikre "politisk paritet" - sammenlignende repræsentation på tværs af kandidater og emner.
I USA, Anthropic samarbejdet med TurboVote at hjælpe vælgere med pålidelig information i stedet for at bruge dets generative AI-værktøj.
"Hvis en amerikansk-baseret bruger beder om stemmeoplysninger, vil et pop-up-vindue give brugeren mulighed for at blive omdirigeret til TurboVote, en ressource fra den ikke-partipolitiske organisation Democracy Works," forklarede Anthropic, en løsning, der vil blive implementeret "over næste par uger" - med planer om at tilføje lignende foranstaltninger i andre lande næste gang.
As Dekryptér tidligere rapporteret, OpenAI, firmaet bag ChatGPT tager lignende skridt og omdirigerer brugere til det ikke-partisansatte websted CanIVote.org.
Anthropics indsats er på linje med en bredere bevægelse inden for teknologiindustrien for at løse de udfordringer, kunstig intelligens stiller til demokratiske processer. For eksempel forbød US Federal Communications Commission for nylig brugen af AI-genereret deepfake stemmer i robocalls, en beslutning, der understreger vigtigheden af at regulere AI's anvendelse på den politiske sfære.
Ligesom Facebook har Microsoft annoncerede initiativer for at bekæmpe vildledende AI-genererede politiske annoncer, introduktion af "Content Credentials as a Service" og lancering af en valgkommunikationshub.
Med hensyn til kandidater, der laver AI-versioner af sig selv, har OpenAI allerede været nødt til at tackle den specifikke use case. Virksomheden suspenderet beretningen om en udvikler efter at have fundet ud af, at de skabte en bot, der efterlignede præsidentielle håbefuld rep. Dean Phillips. Flytningen skete, efter at en underskriftsindsamling om AI-misbrug i politiske kampagner blev indført af non-profitorganisationen Public Citizen, der bad regulatoren om at forbyde generativ AI i politiske kampagner.
Anthropic afviste yderligere kommentarer, og OpenAI svarede ikke på en henvendelse fra Dekryptér.
Hold dig opdateret med kryptonyheder, få daglige opdateringer i din indbakke.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules