Játsszunk egy játékot: mélyhamis híradó vagy valódi személy?

A mesterséges intelligencia által generált, a kínai kormány propagandáját kiabáló hírvivőket bemutató mélyhamis online videók valószínűleg a Spamouflage névre keresztelt termékeny dezinformációs csapat alkotásai.

Ezek a videók „az első alkalom, hogy a Graphika megfigyelte az államhoz igazodó IO [befolyásolási műveletek] szereplőit, akik mesterséges intelligencia által generált fiktív emberekről készült videofelvételeket használnak működésük során” – számoltak be a közösségi média elemző cég kutatói, részletezve a Spamouflage mélyhamisításokat.PDF] ezen a héten.

A videók egy férfi és egy női műsorszolgáltatót mutatnak be, akik állítólag a Wolf News nevű médiavállalat riportjai. Az egyikben a híradó elítéli Amerikát, amiért nem sikerült megállítani a fegyveres erőszakot. A másik hangsúlyozza a kínai-amerikai együttműködés szükségességét a globális gazdaságélénkítési erőfeszítések terén.

„Első pillantásra a Wolf News műsorvezetői valódi emberekként jelennek meg” – mondta Graphika. "A kezdeti hipotézisünk az volt, hogy fizetett színészek voltak, akiket azért toboroztak, hogy szerepeljenek a videókban."

Ez összhangban lenne a Spamouflage szokásos működési módjával, a Graphika és a szerint más kutatók beleértve a Google-t is, akik Dragonbridge néven követik nyomon a gonosztevőket, és dokumentálták, hogy korábbi dezinformációs kampányaik során valódi embereket használtak a kamerába.

A legénység néhány egyéb befolyásolási művelete között szerepelt arra irányuló kísérlet is babrál a 2022-es amerikai félidős választásokon és trolling ritkaföldfém-bányászati ​​vállalatokat több ezer hamis közösségi médiafiók használatával, ami a Pentagon szigorú ujjmozdulatait váltotta ki.

"A további vizsgálatok azonban feltárták, hogy a Wolf News műsorvezetőit szinte bizonyosan a Synthesia nevű brit AI-videócég által biztosított technológiával hozták létre" - állították a Graphika kutatói. 

A fordított képkeresések rengeteg nem kapcsolódó videót tártak fel, amelyek ugyanazokat a férfi és női „híradókat” mutatták be, akik a Spamouflage Wolf News adásában szerepelnek. Az AI által generált emberek több nyelven beszélnek ezekben a videókban, például arabul, románul, spanyolul és angolul, mint pl. ezt árufuvarozási közvetítői szolgáltatások népszerűsítése.

Ebben a férfi horgony ezt mondja: „Helló, a nevem Mr. Cruise. És én avatar vagyok.”

A körút az egyik A Synthesia „100+” avatarja, és kiderül, hogy Jasonnak hívják. A Wolf News videóiból a női horgony Anna.

Szintézia etikai oldal azt mondja, hogy „nem kínálja [a] szoftverét nyilvános használatra. Minden tartalom explicit belső szűrési folyamaton megy keresztül, mielőtt megbízható ügyfeleink számára elérhetővé válik.”

Ezen felül, annak avatar GYIK oldal azt mondja, hogy vannak korlátok annak, amit az avatárok mondhatnak és mit nem: "A politikai, szexuális, személyes, büntetőjogi és diszkriminatív tartalmak nem tolerálhatók vagy jóváhagyhatók."

A Spamouflage álhírei mindkét irányelvet megsértenék. A Synthesia nem tudták kommentálni. Victor Riparbelli, a Synthesia társalapítója és vezérigazgatója, mondta a New York Times a hét elején a Spamouflage megszegte a Synthesia szolgáltatási feltételeit azáltal, hogy a technológiát használta videóinak elkészítéséhez.

Vagyis a Spamouflage valahogy megragadta és felhasználta a Synthesia technológiáját a tartalom előállításához, ellentétben a Synthesia szabályaival. Nincs utalás arra, hogy a Synthesia vétett volna.

Míg kormányzati szervek és a biztonsági kutatók Mindannyian megkongatták a vészharangot amiatt, hogy a nem túl távoli jövőben a mélyhamisításokat politikai befolyásolási műveletekben használják fel, mostanáig az AI által generált média nagyrészt hamis arcokra korlátozódott – a Graphika szerint nem teljesen hamis emberekre. 

Az avatarok használata ellenére azonban a Spamouflage többi videója „rossz minőségű politikai spamnek” tűnik – írták a kutatók. A Google értékelése a stáb YouTube-videói közül, amelyek 83 százalékát 100-nál kevesebben tekintették meg.

Ezenkívül a híradások mélyhamisítását „szinte bizonyosan kereskedelmi szolgáltatás segítségével hozták létre”, nem pedig házon belüli képességgel – zárta a jelentés. Ez azt sugallja, hogy a Spamouflage és mások nem rendelkeznek a rendkívül kifinomult mélyhamisítások elkészítéséhez szükséges technikai szakértelemmel, és továbbra is a rendelkezésre álló kereskedelmi eszközöket fogják használni.

Azonban, ahogy a Graphika megjegyzi, „ez kérdéseket vet fel azzal kapcsolatban is, hogyan lehet hatékonyan mérsékelni e termékek és szolgáltatások használatát”. ®

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/