Dacă Joe Biden dorește un chatbot AI inteligent și popular care să răspundă la întrebări pentru el, echipa sa de campanie nu va putea să-l folosească pe Claude, concurentul ChatGPT de la Anthropic, a anunțat astăzi compania.
„Nu le permitem candidaților să-l folosească pe Claude pentru a construi chatbot-uri care se pot pretinde a fi ei și nu permitem nimănui să-l folosească pe Claude pentru campanii politice specifice”, a spus compania. a anunțat. Încălcările acestei politici vor fi întâmpinate cu avertismente și, în cele din urmă, suspendarea accesului la serviciile Anthropic.
Articularea publică de către Anthropic a politicii sale de „utilizare greșită a alegerilor” vine în contextul în care potențialul AI de a genera în masă informații, imagini și videoclipuri false și înșelătoare este declanșând semnale de alarmă în întreaga lume.
Reguli meta implementate rrestricționarea utilizării instrumentelor sale de inteligență artificială în politică toamna trecută, iar OpenAI are politici similare.
Anthropic a spus că protecțiile sale politice se încadrează în trei categorii principale: dezvoltarea și aplicarea politicilor legate de problemele electorale, evaluarea și testarea modelelor împotriva potențialelor utilizări greșite și direcționarea utilizatorilor către informații corecte de vot.
ale antropicei politica de utilizare acceptabilă— cu care toți utilizatorii sunt aparent de acord înainte de a accesa Claude — interzice utilizarea instrumentelor sale de inteligență artificială pentru campania politică și eforturile de lobby. Compania a spus că vor exista avertismente și suspendări ale serviciului pentru contravenienți, cu un proces de revizuire umană în vigoare.
Compania desfășoară, de asemenea, o „echipă roșie” riguroasă a sistemelor sale: încercări agresive și coordonate ale partenerilor cunoscuți de a „echipa jailbreak” sau de a folosi în alt mod Claude în scopuri nefaste.
„Testăm modul în care sistemul nostru răspunde la solicitările care încalcă politica noastră de utilizare acceptabilă, [de exemplu] solicitări care solicită informații despre tacticile de suprimare a alegătorilor”, explică Anthropic. În plus, compania a spus că a dezvoltat o suită de teste pentru a asigura „paritatea politică” – reprezentare comparativă între candidați și subiecte.
În Statele Unite, Antropic a colaborat cu TurboVote pentru a ajuta alegătorii cu informații fiabile în loc să folosească instrumentul său generativ AI.
„Dacă un utilizator din SUA solicită informații despre vot, o fereastră pop-up îi va oferi utilizatorului opțiunea de a fi redirecționat către TurboVote, o resursă de la organizația nepartizană Democracy Works”, a explicat Anthropic, o soluție care va fi implementată „de-a lungul următoarele câteva săptămâni”—cu planuri de a adăuga măsuri similare în alte țări în continuare.
As decriptaţi raportate anterior, OpenAI, compania din spatele ChatGPT, face pași similari, redirecționând utilizatorii către site-ul web non-partizan CanIVote.org.
Eforturile Anthropic se aliniază cu o mișcare mai largă din industria tehnologiei pentru a aborda provocările pe care IA le pune proceselor democratice. De exemplu, Comisia Federală de Comunicații din SUA a interzis recent utilizarea AI generată voci deepfake în apeluri automate, o decizie care subliniază urgența reglementării aplicării AI în sfera politică.
La fel ca Facebook, Microsoft are inițiative anunțate pentru a combate reclamele politice înșelătoare generate de inteligență artificială, introducând „Acreditările de conținut ca serviciu” și lansând un centru de comunicare electorală.
În ceea ce privește candidații care creează versiuni AI ale lor, OpenAI a trebuit deja să abordeze cazul specific de utilizare. Compania suspendată contul unui dezvoltator după ce a aflat că au creat un bot care imită reprezentantul de speranță prezidențial Dean Phillips. Mișcarea a avut loc după ce organizația non-profit Public Citizen a introdus o petiție privind utilizarea abuzivă a IA în campaniile politice, cerând autorității de reglementare să interzică IA generativă în campaniile politice.
Anthropic a refuzat să mai comenteze, iar OpenAI nu a răspuns la o întrebare din partea decriptaţi.
Fiți la curent cu știrile cripto, primiți actualizări zilnice în căsuța dvs. de e-mail.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules