Om Joe Biden vill ha en smart och folklig AI-chattbot för att svara på frågor åt honom, kommer hans kampanjteam inte att kunna använda Claude, ChatGPT-konkurrenten från Anthropic, meddelade företaget idag.
"Vi tillåter inte kandidater att använda Claude för att bygga chatbotar som kan låtsas vara dem, och vi tillåter inte att någon använder Claude för riktade politiska kampanjer," företaget meddelade. Brott mot denna policy kommer att bemötas med varningar och i slutändan avstängning av åtkomst till Anthropics tjänster.
Anthropics offentliga formulering av sin policy för "valmissbruk" kommer eftersom AIs potential att massgenerera falsk och vilseledande information, bilder och videor är utlöser varningsklockor över hela världen.
Metaimplementerade regler rbegränsa användningen av dess AI-verktyg i politiken förra hösten, och OpenAI har liknande policyer.
Anthropic sa att dess politiska skydd delas in i tre huvudkategorier: att utveckla och genomdriva policyer relaterade till valfrågor, utvärdera och testa modeller mot potentiellt missbruk och att styra användare till korrekt röstningsinformation.
Antropisk policy för acceptabel användning– vilket alla användare skenbart samtycker till innan de kommer åt Claude – hindrar användningen av dess AI-verktyg för politiska kampanjer och lobbyinsatser. Företaget sa att det kommer att finnas varningar och serviceavstängningar för överträdare, med en mänsklig granskningsprocess på plats.
Företaget genomför också en rigorös "red-teaming" av sina system: aggressiva, koordinerade försök från kända partners att "jailbreaka" eller på annat sätt använda Claude för skändliga syften.
"Vi testar hur vårt system reagerar på uppmaningar som bryter mot vår policy för acceptabel användning, [till exempel] uppmaningar som begär information om taktik för väljarundertryckning", förklarar Anthropic. Dessutom sa företaget att det har utvecklat en serie tester för att säkerställa "politisk paritet" - jämförande representation mellan kandidater och ämnen.
I USA, Anthropic samarbetat med TurboVote att hjälpa väljarna med tillförlitlig information istället för att använda dess generativa AI-verktyg.
"Om en USA-baserad användare ber om röstinformation, kommer ett popup-fönster att erbjuda användaren möjligheten att omdirigeras till TurboVote, en resurs från den partipolitiska organisationen Democracy Works," förklarade Anthropic, en lösning som kommer att distribueras "över de närmaste veckorna” — med planer på att lägga till liknande åtgärder i andra länder härnäst.
As Avkryptera tidigare rapporterad, OpenAI, företaget bakom ChatGPT tar liknande steg och omdirigerar användare till den partipolitiska webbplatsen CanIVote.org.
Anthropics ansträngningar är i linje med en bredare rörelse inom teknikindustrin för att ta itu med de utmaningar som AI innebär för demokratiska processer. Till exempel förbjöd US Federal Communications Commission nyligen användningen av AI-genererad djupfalska röster i robocall, ett beslut som understryker hur brådskande det är att reglera AI:s tillämpning inom den politiska sfären.
Precis som Facebook har Microsoft aviserade initiativ för att bekämpa vilseledande AI-genererade politiska annonser, introducera "Content Credentials as a Service" och lansera en valkommunikationshubb.
När det gäller kandidater som skapar AI-versioner av sig själva, har OpenAI redan varit tvungen att ta itu med det specifika användningsfallet. Företaget suspenderades kontot av en utvecklare efter att ha fått reda på att de skapade en bot som härmar presidentens hoppfulla rep. Dean Phillips. Flytten skedde efter att en petition som behandlar AI-missbruk i politiska kampanjer infördes av den ideella organisationen Public Citizen, och bad tillsynsmyndigheten att förbjuda generativ AI i politiska kampanjer.
Anthropic avböjde ytterligare kommentarer och OpenAI svarade inte på en förfrågan från Avkryptera.
Håll dig uppdaterad om kryptonyheter, få dagliga uppdateringar i din inkorg.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules