Hamisított demokrácia: A mesterséges intelligencia technológia bonyolítja a választási biztonságot

A közelmúlt eseményei, köztük egy mesterséges intelligencia (AI) által generált mélyhamisítás Biden elnöknek kiadó robocall A New Hampshire-i szavazókat az előválasztástól való tartózkodásra buzdítva határozottan emlékeztet arra, hogy a rosszindulatú szereplők egyre inkább tekintik a modern generatív AI (GenAI) platformokat az amerikai választások megcélzásának hatékony fegyverének.

Az olyan platformok, mint a ChatGPT, a Google Gemini (korábbi nevén Bard) vagy a célirányosan felépített Dark Web nagy nyelvi modellek (LLM) szerepet játszhatnak a demokratikus folyamat megzavarásában, a tömegbefolyásolási kampányokat, az automatizált trollkodást és a mélyhamisított tartalom.

Valójában Christopher Wray, az FBI igazgatója nemrégiben aggodalmának adott hangot a mélyhamisításokat használó, folyamatban lévő információs háborúról, amely dezinformációt vethet el a közelgő elnökválasztási kampány során, mint pl. államilag támogatott szereplők megpróbálja megingatni a geopolitikai egyensúlyt.

A GenAI automatizálhatja a „koordinált inautentikus viselkedés” hálózatok, amelyek álhírcsatornákon, meggyőző közösségi médiaprofilokon és egyéb utakon próbálnak meg közönséget fejleszteni dezinformációs kampányaik számára – azzal a céllal, hogy viszályt szítsanak és aláássák a közvélemény választási folyamatba vetett bizalmát.

Választási befolyás: jelentős kockázatok és rémálmok forgatókönyvei

Padraic O'Reilly, a CyberSaint innovációs igazgatója szemszögéből nézve a kockázat „jelentős”, mivel a technológia olyan gyorsan fejlődik.

„Érdekesnek és talán egy kicsit riasztónak is ígérkezik, mivel a dezinformáció új változatait látjuk a mélyhamisítási technológiát kihasználva” – mondja.

Pontosabban, O'Reilly szerint a „rémálom forgatókönyve” az, hogy a MI által generált tartalommal történő mikrocélzás elterjed a közösségi média platformjain. Ez egy ismerős taktika Cambridge Analytica botrány, ahol a vállalat 230 millió amerikai szavazó pszichológiai profiladatait gyűjtötte össze, hogy a Facebookon keresztül magasan személyre szabott üzeneteket szolgáltasson az egyéneknek, ezzel próbálva befolyásolni meggyőződésüket – és szavazataikat. A GenAI azonban nagyarányúan automatizálhatja ezt a folyamatot, és rendkívül meggyőző tartalmat hozhat létre, amelynek kevés, ha egyáltalán van olyan „bot” tulajdonsága, amely kikapcsolhatja az embereket.

„Az ellopott célzási adatok [személyi pillanatfelvételek a felhasználó kilétéről és érdeklődési köreiről] valós kockázatot jelentenek, ha az AI által generált tartalommal egyesülnek” – magyarázza. „A 2013–2017-es orosz dezinformációs kampányok arra utalnak, hogy mi más történhet és fog megtörténni, és tudunk olyan mélyhamisításokról, amelyeket amerikai állampolgárok generáltak [például a Bident ábrázoló]. Elizabeth Warren. "

A közösségi média keveréke és könnyen elérhető deepfake technológia Hozzáteszi, hogy egy világvége fegyvere lehet az amerikai állampolgárok polarizációjának egy amúgy is mélyen megosztott országban.

„A demokrácia bizonyos közös hagyományokon és információkon alapul, és itt a veszély a polgárok közötti megnövekedett balkanizálódás, ami ahhoz vezet, amit a Stanford kutatója, Renée DiResta „testreszabott valóságnak” nevezett” – mondja O'Reilly, akik az „alternatív tényekben” hisznek.

Azok a platformok, amelyeket a fenyegető szereplők a megosztottság szítására használnak, valószínűleg nem sokat segítenek: Hozzáteszi, hogy például a korábban Twitter néven ismert X közösségi médiaplatform kibelezte a tartalom minőségbiztosítását (QA).

"A többi platform teljes körű biztosítékot nyújtott arra vonatkozóan, hogy foglalkozni fognak a dezinformációkkal, de a szólásszabadság védelme és a szabályozás hiánya továbbra is nyitva hagyja a terepet a rossz szereplők előtt" - figyelmeztet.

Az AI felerősíti a meglévő adathalász TTP-ket

Scott Small, a Tidal Cyber ​​kiberfenyegetések felderítéséért felelős igazgatója szerint a GenAI-t már most is használják hihetőbb, célzottabb adathalász kampányok kidolgozására, de a választási biztonság szempontjából ez a jelenség sokkal aggasztóbb.

„Arra számítunk, hogy a számítógépes ellenfelek generatív mesterséges intelligenciát alkalmaznak, hogy meggyőzőbbé tegyék az adathalász és a social engineering támadásokat – amelyek a választásokkal kapcsolatos támadások vezető formái az évek óta tartó konzisztens mennyiséget tekintve –, és így valószínűbb, hogy a célpontok rosszindulatú tartalommal lépnek kapcsolatba. " Magyarázza.

Small szerint a mesterséges intelligencia elfogadása csökkenti az ilyen támadások elindítása előtti belépési korlátot is. Ez a tényező valószínűleg növeli az idei kampányok számát, amelyek megpróbálnak beszivárogni a kampányokba vagy átvenni a jelöltek fiókjait mások személyi adataival való visszaélés céljából.

„A bûnözõk és a nemzetállami ellenfelek rendszeresen hozzáigazítják az adathalászat és a társadalomfejlesztési csábításokat az aktuális eseményekhez és a népszerû témákhoz, és ezek a szereplõk szinte biztosan megpróbálják majd kihasználni a választásokhoz kapcsolódó digitális tartalmak idei általános terjesztésének fellendülését, hogy megpróbáljanak rosszindulatú tartalmakat eljuttatni. tartalmat a gyanútlan felhasználóknak” – mondja.

A mesterséges intelligencia választási fenyegetései elleni védekezés

Az e fenyegetésekkel szembeni védekezés érdekében a választási tisztviselőknek és a kampányoknak tisztában kell lenniük a GenAI által támasztott kockázatokkal és az ellenük való védekezéssel.

„A választási tisztviselők és a jelöltek folyamatosan interjúkat és sajtótájékoztatókat adnak, amelyekből a fenyegetőző szereplők hangot vonhatnak ki az AI-alapú mélyhamisításokhoz” – mondja James Turgal, az Optiv kiberkockázati részlegének alelnöke. „Ezért nekik kell gondoskodniuk arról, hogy legyen egy személy vagy csapat, aki a tartalom feletti ellenőrzés biztosításáért felelős.”

Gondoskodniuk kell arról is, hogy az önkénteseket és a dolgozókat felkészítsék a mesterséges intelligencia által támasztott fenyegetésekre, például a továbbfejlesztett szociális tervezésre, a mögöttük álló fenyegetés szereplőire és arra, hogyan reagáljanak a gyanús tevékenységekre.

Ebből a célból a személyzetnek részt kell vennie a social engineering és a mélyhamisítású videó képzésen, amely információkat tartalmaz minden formáról és támadási vektorról, beleértve az elektronikus (e-mail, szöveges és közösségi média platformok), a személyes és telefonos kísérleteket is.

„Ez nagyon fontos – különösen az önkéntesek esetében –, mert nem mindenki rendelkezik jó kiberhigiéniával” – mondja Turgal.

Ezenkívül a kampány- és választási önkénteseket ki kell képezni arra vonatkozóan, hogyan nyújthatnak biztonságosan információkat online és külső szervezeteknek, beleértve a közösségi médiában közzétett bejegyzéseket, és óvatosan kell eljárni.

„A kiberfenyegetés szereplői összegyűjthetik ezeket az információkat, hogy a társadalmilag megtervezett csalikat konkrét célpontokra szabják” – figyelmeztet.

O'Reilly azt mondja, hosszú távú, szabályozás, amely magában foglalja vízjel audió és videó mélyhamisításokhoz fontos lesz, megjegyezve, hogy a szövetségi kormány együttműködik az LLM-ek tulajdonosaival a védelem bevezetésén.

Tény, hogy a A Szövetségi Kommunikációs Bizottság (FCC) most jelentette be A mesterséges intelligencia által generált beszédhívások a telefonos fogyasztóvédelmi törvény (TCPA) értelmében „mesterségesek”, illegálisan használják a hangklónozási technológiát, és országszerte új eszközöket biztosítanak az államügyészek számára az ilyen csaló tevékenységek leküzdésére.

"A mesterséges intelligencia olyan gyorsan halad, hogy fennáll annak a veszélye, hogy a javasolt szabályok hatástalanná válnak a technológia fejlődésével, és esetleg eltévesztik a célt" - mondja O'Reilly. „Bizonyos szempontból ez a vadnyugat, és a mesterséges intelligencia nagyon kevés biztosítékkal érkezik a piacra.”

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security