Választási mesterséges intelligencia-hamisítások: Megbirkóznak-e az EU szabályozói?

Választási mesterséges intelligencia-hamisítások: Megbirkóznak-e az EU szabályozói?

Időbélyeg: 30. december 2023. 9:29
Választási mesterséges intelligencia-hamisítások: Megbirkóznak-e az EU szabályozói? PlatoBlockchain adatintelligencia. Függőleges keresés. Ai.

A választási mesterséges intelligencia hamisítása várhatóan túlterheli az EU szabályozóit, mivel 10-ben a régió több mint 2024 országában járulnak szavazni a rosszul felkészült kormányok hátterében.

2024-ben a kontinensen várhatóan politikailag motivált mélyhamisítások özönlenek majd videók, hanganyagok és képek formájában. Az olyan eszközökkel, mint a Midjourney 6-os verziója, amely „hihetetlen fotorealizmust” teremt, könnyű lesz valódi embereket vagy zavargások és migránsmozgalmak jeleneteit megcélozni.

Több uniós választás

Szerint Brüsszeli jelek, Ausztriában, Finnországban, Horvátországban, Belgiumban, Litvániában, Izlandon, Portugáliában, Romániában és Szlovákiában országos választásokat tartanak a következő évben.

Máshol Németországban, Írországban, Máltán és Lengyelországban helyi, míg Spanyolországban két regionális választás van.

Globálisan a világ lakosságának körülbelül 25%-a él olyan országban, ahol 2024-ben választásokat tartanak, például az Egyesült Államokban.

A választási időszak is olyan időszakban jött el, amikor a világ fellendülést lát generatív AI a ChatGPT 2022 novemberében indult sikertörténetét követően.

Henry Ajder, egy generatív mesterségesintelligencia-startup Cambridge-ben alapítója szerint 2024-ben „a legtöbb ember megy majd a választásokra, ugyanakkor az AI elég villámgyors fejlődését és elterjedését látjuk. ”

Lásd még: A dél-koreai kormány szerint nincs szerzői jog az AI-tartalomra

Gyenge felkészülés

Sara Ibrahim, a londoni Gatehouse Chambers ügyvédje, aki gyakran dolgozik és ír a mesterséges intelligenciával kapcsolatban, úgy véli, hogy a közelgő választások mesterséges intelligencia-fenyegetéssel néznek szembe, mivel az uniós szabályozó hatóságok nem voltak felkészülve a mesterséges intelligencia használatára a választási időszakban.

Úgy gondolja, hogy a régiót jelenleg „a rosszul felkészült kormányok tökéletes vihara, valamint a megtévesztés és csalás, a félretájékoztatás gyors terjesztésének nagy lehetőségei jellemzik”.

Az európai bíróságok már belekóstoltak a generatív mesterséges intelligencia hatásába, és ez korai figyelmeztető jelként szolgál.

Ibrahim szerint a jogrendszer „már megtapasztalja, hogy az emberek a ChatGPT által hallucinált kitalált esetekre hivatkoznak, ami valódi stresszt jelent az állami erőforrásokra egy olyan időszakban, amikor a gazdaság aligha robosztus”.

A mélyhamisítások elterjedésének szabályozással történő megállítása felfelé ívelő feladat lehet most az EU számára.

„A szabályozók nem tudják megakadályozni, hogy egy személy a számítógépén egy hihetetlenül hozzáférhető eszközzel hangot vagy videót generáljon, a megfelelő pillanatban megosszák a Twitteren, vagy terjesszék a Discord-csoportokon” – mondja Ajder.

Annak ellenére, hogy a Digitális szolgáltatási törvény az Oxford Analytica szerint az EU-ban hatékonysága „még nem bizonyított”.

A megtévesztő AI

Bár átalakító képességei miatt játékváltóként emlegették, a világ már szemtanúja volt a generatív AI buktatóinak. A mesterséges intelligencia által generált képek, videók és hangok „tökéletessé” válnak, és nehéz megkülönböztetni a valóditól, így a felhasználóknak megoldást kell találniuk.

Szeptemberben, a bangladesi választások közepette a BD Politico néven ismert hírügynökség videót sugárzott az X platformon, amelyen az amerikai diplomaták az ország választásaiba való beavatkozása miatti zavargásokról készült felvételek voltak.

De a videó felhasználásával készült Szia Gen, egy AI videó generátor. A felvételen szereplő híradó, „Edward” egyike annak a sok avatarnak, amelyet a videógenerátor havi 24 dolláros előfizetési díj ellenében kínál a felhasználóknak.

Egy másik példa egy olyan hangfelvétel, amelyen szerepel Sir Keir Starmer verbálisan bántalmaz segítői az Egyesült Királyság Munkáspártjának szeptemberi konferenciáján. A klipet 1.5 millióan nézték meg.

Ugyanebben a hónapban egy újabb klip a Sadiq Khan, London polgármestere széles körben terjesztették a fegyverszünet napjának átütemezését egy palesztin-barát felvonulás miatt.

A Brussels Signal szerint a klipek bebizonyították, hogy mesterséges intelligencia generálta őket.

[Beágyazott tartalmat]

Kiszolgáltatott politikusok

A betöltött pozícióik miatt a politikusok és a nagy horderejű személyek az AI mélyhamisítások célpontjaivá váltak, különösen a választások közeledtével szerte a világon.

Ajder egyetértett abban, hogy a politikusok „különösen kiszolgáltatottak”.

„Rengeteg edzési adat van a róluk készült felvételeken, és a pódiumoknál állva vagy az asztaloknál ülve különösen könnyű hamisítani” – mondta Ajder.

Nemrég Pakisztáné Imran Khan mesterséges intelligencia által generált hangja volt, amint támogatást kért, miközben börtönben volt egy hétórás virtuális gyűlésen.

A gázai és az ukrajnai konfliktusból készült videoklipek véres és elhagyott csecsemőket is ábrázoltak, de ezek nem voltak valóságosak. Imran Ahmed, a washingtoni székhelyű Center for Countering Digital Hate vezérigazgatója szerint közelebbről megvizsgálva kiderült, hogy az ujjak „anatómiailag lehetetlen módon vagy természetellenes szemszínben görbültek meg”.

Mit lehet tenni?

Míg a szélsőséges anyagok előállítása és sugárzása drága lehet, az ilyen tartalmak megjelenési gyakorisága az olyan platformokon, mint az X, magas.

Ahmed szerint a szabályozatlan mesterséges intelligencia „gyűlöletet és félretájékoztatást fog felturbózni”.

Bár a szabályozók jelenleg nem tehetnek semmit, Ajder szerint biztosítani kell, hogy a politikusok nyilvánosságra hozzák a mesterséges intelligencia által generált tartalmakat.

„Vagy legalábbis csak akkor szabad nyilvánosságra hozatal nélkül használni, ha a közönség számára hihetetlenül egyértelmű, hogy nem valódi, és paródia” – mondja.

Időbélyeg:

Még több MetaNews