Election AI Deepfakes: Vil EU-regulatorer klare sig?

Deepfakes fra valg AI forventes at overvælde EU-regulatorer, da over 10 lande i regionen går til valg i 2024 på baggrund af dårligt forberedte regeringer.

I 2024 forventes kontinentet at se en tilstrømning af politisk motiverede deepfakes i form af videoer, lydoptagelser og billeder. Med værktøjer som Midjourney version 6, der skaber "utrolig fotorealisme", vil det være nemt at målrette mod rigtige mennesker eller scener med optøjer og migrantbevægelser.

Flere EU-valg

Ifølge Bruxelles signalerØstrig, Finland, Kroatien, Belgien, Litauen, Island, Portugal, Rumænien og Slovakiet afholder landsdækkende valg i det kommende år.

Andre steder har Tyskland, Irland, Malta og Polen lokalvalg, mens Spanien har to regionale valg.

På verdensplan bor omkring 25 % af verdens befolkning i et land, der afholder valg i 2024, for eksempel USA.

Valgperioden er også kommet på et tidspunkt, hvor verden ser et boom ind generativ AI efter succeshistorien om ChatGPT, som blev lanceret i november 2022.

Som sådan siger Henry Ajder, grundlægger af en generativ AI-startup i Cambridge, at året 2024 vil se "flest mennesker gå til valg, og samtidig ser vi en temmelig lynhurtig udvikling og implementering af AI. ”

Læs også: Den sydkoreanske regering siger ingen ophavsret til AI-indhold

Dårlig forberedelse

Sara Ibrahim, en advokat ved Londons Gatehouse Chambers, som arbejder og skriver ofte om AI, mener, at det kommende valg vil stå over for AI-trusler på grund af EU-regulatorernes dårlige parathed til at håndtere AI-brug i valgperioden.

Hun mener, at regionen i øjeblikket er præget af "en perfekt storm af dårligt forberedte regeringer og en storstilet mulighed for bedrageri og bedrageri, der spreder misinformation i høj fart."

Allerede nu har domstole i Europa fået en forsmag på virkningen af ​​generativ AI, og dette tjener som et tidligt advarselstegn.

Retssystemet, ifølge Ibrahim, "oplever allerede folk, der citerer opdigtede sager, hallucineret af ChatGPT, så et reelt stress for offentlige ressourcer på et tidspunkt, hvor økonomien næppe er robust."

At stoppe spredningen af ​​deepfakes ved hjælp af regulering kan være en op ad bakke opgave for EU nu.

"Regulatorer kan ikke stoppe en person på deres computer ved at bruge et utroligt tilgængeligt værktøj til at generere lyd eller video, dele det på Twitter på et passende tidspunkt eller sprede det på Discord-grupper," siger Ajder.

På trods af at have Lov om digital service i EU er dets effektivitet "endnu ikke bevist," ifølge Oxford Analytica.

Den vildledende AI

Selvom det er blevet udråbt som en game changer for sine transformative evner, har verden allerede været vidne til faldgruberne ved generativ AI. AI-genererede billeder, videoer og lyd bliver "perfekte" og svære at skelne fra de rigtige, hvilket efterlader brugerne i en rettelse.

I september, midt i valget i Bangladesh, udsendte et nyhedsmedie kendt som BD Politico en video på X-platformen med optagelser af optøjer, fordi amerikanske diplomater blandede sig i landets valg.

Men videoen er lavet vha Hej Gen, en AI-videogenerator. Nyhedsankeret i optagelserne, "Edward", er en af ​​de mange avatarer, som videogeneratoren tilbyder brugere til et abonnementsgebyr på $24 om måneden.

Et andet eksempel er en lydoptagelse med Sir Keir Starmer misbruger verbalt hans hjælpere under UK Labour Partys septemberkonference. Klippet havde 1.5 millioner visninger.

I løbet af samme måned, endnu et klip af Londons borgmester Sadiq Khan opfordring til en omlægning af våbenstilstandsdagen på grund af en pro-palæstinensisk march blev bredt cirkuleret.

Ifølge Brussels Signal beviste klippene, at de var AI-genereret.

[Indlejret indhold]

Udsatte politikere

På grund af de stillinger, de har, har politikere og højprofilerede personer været mål for AI-deepfakes, især med valg rundt om hjørnet over hele verden.

Ajder var enig i, at politikere "er særligt sårbare."

"Der er en masse træningsdata i optagelserne af dem, og at stå ved podier eller sidde ved skriveborde er noget, der er særligt nemt at forfalske," sagde Ajder.

For nylig Pakistans Imran Khan havde en AI-genereret stemme af sig selv, der opfordrede til støtte, mens han var i fængsel i et syv timer langt virtuelt stævne.

Videoklip fra konflikterne i Gaza og Ukraine har også afbildet blodige og forladte babyer, men disse var ikke ægte. Et nærmere kig afslørede fingrene krøllede i "anatomisk umulige måder eller unaturlige øjenfarver," ifølge Imran Ahmed, administrerende direktør for det Washington, DC-baserede Center for Countering Digital Hate.

Hvad kan der gøres?

Selvom det kan være dyrt at producere og udsende ekstremistisk materiale, er frekvensen, hvormed sådant indhold vises på platforme som X, høj.

Ifølge Ahmed vil ureguleret kunstig intelligens "turbolade had og desinformation."

Selvom der er lidt regulatorer kan gøre lige nu, er der behov for at sikre offentliggørelse af alt AI-genereret indhold af politikere, ifølge Ajder.

"Eller i det mindste kun tilladt at blive brugt uden afsløring, når det er utroligt klart for publikum, at det ikke er ægte og er parodi," siger han.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://metanews.com/election-ai-deepfakes-will-eu-regulators-cope/