Ha Joe Biden egy okos és népies AI chatbotot szeretne, hogy válaszoljon neki a kérdésekre, kampánycsapata nem fogja tudni használni Claude-ot, az Anthropic ChatGPT versenytársát – jelentette be a cég ma.
„Nem engedjük meg, hogy a jelöltek Claude-ot olyan chatbotok létrehozására használják, amelyek úgy tesznek, mintha azok lennének, és senkinek sem engedjük meg, hogy célzott politikai kampányokhoz használja a Claude-ot” – tette hozzá a cég. bejelentés. A szabályzat megsértése esetén figyelmeztetést kapunk, és végül felfüggesztjük az Anthropic szolgáltatásaihoz való hozzáférést.
Az Anthropic a „választási visszaélésekkel” kapcsolatos politikáját úgy fogalmazza meg nyilvánosan, hogy a mesterséges intelligencia képes tömegesen generálni hamis és félrevezető információkat, képeket és videókat. vészharangot indít el világszerte.
Meta implementált szabályok rkorlátozza mesterséges intelligencia eszközeinek használatát a politikában tavaly ősszel, és az OpenAI-nak is hasonló szabályzata van.
Az Anthropic szerint politikai védelme három fő kategóriába sorolható: választási kérdésekkel kapcsolatos politikák kidolgozása és betartatása, modellek értékelése és tesztelése a lehetséges visszaélések ellen, valamint a felhasználók pontos szavazási információkhoz való irányítása.
Antropikusok elfogadható felhasználási szabályzat– amelybe látszólag minden felhasználó beleegyezik, mielőtt hozzáférne Claude-hoz – tiltja a mesterséges intelligencia eszközeinek felhasználását politikai kampányokhoz és lobbitevékenységekhez. A cég azt mondta, hogy a szabálysértőket figyelmeztetések és szolgáltatási felfüggesztések várják, és emberi felülvizsgálati eljárást alkalmaznak.
A cég emellett szigorú „red-teaming”-et hajt végre rendszerei között: ismert partnerek agresszív, összehangolt kísérletei „börtöntörni” vagy más módon aljas célokra felhasználni Claude-ot.
"Megvizsgáljuk, hogy rendszerünk hogyan reagál azokra a felszólításokra, amelyek sértik az elfogadható felhasználási szabályzatunkat, [például] olyan felszólításokra, amelyek a szavazók elnyomásának taktikáiról kérnek információkat" - magyarázza Anthropic. Ezenkívül a vállalat azt mondta, hogy kifejlesztett egy tesztcsomagot a „politikai paritás” – a jelöltek és témák közötti összehasonlító reprezentáció – biztosítására.
Az Egyesült Államokban Anthropic partnere a TurboVote hogy megbízható információkkal segítse a választókat generatív mesterséges intelligencia eszköze helyett.
„Ha egy egyesült államokbeli felhasználó szavazási információkat kér, egy felugró ablakban a felhasználó átirányítható a TurboVote-hoz, amely a Democracy Works párton kívüli szervezet forrása” – magyarázta az Anthropic, a megoldást, amelyet „a demokrácia működik” a következő hetekben” – a tervek szerint legközelebb más országokban is bevezetnek hasonló intézkedéseket.
As visszafejtése korábban jelentettek, az OpenAI, a ChatGPT mögött álló vállalat hasonló lépéseket tesz, és a felhasználókat a nem pártos CanIVote.org webhelyre irányítja át.
Az Anthropic erőfeszítései összhangban vannak a technológiai iparágon belüli szélesebb körű mozgalmakkal, amelyek célja a mesterséges intelligencia által a demokratikus folyamatok előtt álló kihívások kezelése. Az Egyesült Államok Szövetségi Kommunikációs Bizottsága például a közelmúltban betiltotta a mesterséges intelligencia által generált eszközök használatát mély hamis hangok robothívásokban, egy olyan döntés, amely hangsúlyozza a mesterséges intelligencia alkalmazásának szabályozásának sürgősségét a politikai szférában.
A Facebookhoz hasonlóan a Microsoftnak is bejelentett kezdeményezéseket a félrevezető mesterséges intelligencia által generált politikai hirdetések elleni küzdelem, a „Content Credentials as a Service” bevezetése és a választási kommunikációs központ elindítása.
Ami a maguk mesterséges intelligencia-verzióit létrehozó jelölteket illeti, az OpenAI-nak már meg kellett küzdenie a konkrét használati esettel. A cég felfüggesztett egy fejlesztő beszámolója, miután megtudta, hogy egy botot hoztak létre, amely az elnökjelölt jelölt Dean Phillips képviselőt utánozza. A lépés azután történt, hogy a Public Citizen nonprofit szervezet petíciót nyújtott be a politikai kampányokban való visszaélésekkel foglalkozó MI-vel kapcsolatban, és arra kérte a szabályozót, hogy tiltsa be a generatív mesterséges intelligenciát a politikai kampányokban.
Az Anthropic visszautasította a további megjegyzéseket, és az OpenAI nem válaszolt a kérdésre visszafejtése.
Maradjon naprakész a kriptográfiai hírekkel, és napi frissítéseket kaphat a postaládájában.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules