Deepfake Audio från Michal Rocks slovakiska valscen

Deepfake Audio från Michal Rocks slovakiska valscen

Tidsstämpel: 15 januari 2024 2:16
Deepfake Audio of Michal Rocks slovakiska valscen PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Slovakien blev målet för ett allvarligt fall av politisk inblandning orsakad av AI. Internet svämmades över av djupt falska ljudinspelningar som visade kompromissande samtal mellan inflytelserika politiker strax före valet.

Två dagar före det slovakiska valet lades en inspelning ut på nätet. Valet skapade rungande historia, men inte av rätt skäl. En video med ett ljudklipp som påstås innehålla Monika Tódová och Michal Šimečka cirkulerade på sociala medier. Monika Tódová är en välkänd journalist från den oberoende nyhetsplattformen Denník N, och Michal Šimečka är ordförande för partiet Progressive Slovakia.

Båda politikerna verkade planera hur man skulle rigga valet genom att köpa röster från landets marginaliserade romska minoritet.

Fördömer inspelningen som falsk

Omedelbart, Šimečka och Denník N fördömde ljudet som falskt. Dessutom sa faktagranskningsavdelningen på nyhetsbyrån AFP att ljudet visade tecken på att vara manipulerat med AI.

Betecknande nog lades inspelningen ut på nätet under det 48 timmar långa moratoriet innan vallokalerna öppnade. Vid denna tidpunkt är det meningen att media och politiker ska hålla tyst.

Med detta var posten svår att avslöja under Slovakiens valregler. Inlägget utnyttjade ett kryphål i Metas manipulerade mediepolicy eftersom det var en ljudinspelning. Metas manipulerade mediepolicy upptäcker endast falska videor där en person har redigerats för att säga ord de aldrig sagt.

Läs också: Röstskådespelare upprörda över Sag-Aftras AI-avtal för spelröster

Dessutom var valet ett tufft mellan de två föregångarna. Otroligt nog hade båda aspiranterna motsatta visioner för Slovakien. I slutet av valet förlorade det progressiva partiet Slovakien.

Den djupa falska tros vara ett av de första exemplen i europeiska unionen (EU) av artificiell intelligens som används för att manipulera en journalists likhet. Missbruket av sådana verktyg kommer att vara farligt, eftersom det kommer att smeta och misskreditera media.

AI desinformation: ett hot mot demokratin

Vilseledande information från artificiell intelligens (AI) hotar att urholka demokratin och utgör den största risken för den globala ekonomin. Detta framgår av en rapport från World Economic Forum på onsdagen.

Falska nyheter och desinformation som drivs av AI dyker upp som en risk eftersom miljarder människor i ett stort antal länder kommer att ha sina val i år. Detta inkluderar stora ekonomier som USA, Storbritannien, Indonesien, Indien, Mexiko och Pakistan.

I rapporten tillade det internationella forumet att en rad miljörisker är en del av de långsiktiga hoten. Rapporten baserades på en undersökning av cirka 1,500 XNUMX experter, industrichefer och beslutsfattare. Den släpptes inför den årliga sammankomsten av vd:ar och världsledare i den schweiziska skidorten Davos.

Dessutom rankar rapporten falska nyheter och desinformation som de allvarligaste riskerna under de kommande åren. De lyfte också fram hur snabba tekniska framsteg kan skapa nya utmaningar eller förvärra redan befintliga.

Betecknande nog uttryckte författarna sin rädsla för uppkomsten av generativa AI-chatbotar som ChatGPT. Enligt rapporten kommer skapandet av sofistikerat syntetiskt innehåll som kan användas för att manipulera människor inte att begränsas till personer med speciell kompetens.

AI kommer dock att vara ett hett ämne vid Davos-mötet som hålls nästa vecka. Mötet förväntas inkludera ledare för teknikföretag, inklusive OpenAI:s vd Sam Altman, Microsofts vd Satya Nadella och viktiga branschaktörer. AI-industrin, som Metas Chief AI Scientist, Yann LeCun.

Tidsstämpel:

Mer från MetaNews