Pelataan peliä: Deepfake uutisankkuri vai oikea henkilö?

Tekoälyn tuottamat uutisankkurit, jotka levittävät Kiinan-mielistä propagandaa, ovat verkossa tehdyt syvän väärennösvideot, jotka ovat todennäköisesti Spamouflageksi kutsutun tuottelias disinformaatioryhmän luomuksia.

Nämä videot ovat "ensimmäinen kerta, kun Graphika on havainnut valtion mukaisia ​​IO [vaikutusoperaatio" -toimijoita käyttämällä videomateriaalia tekoälyn luomista kuvitteellisista ihmisistä heidän toiminnassaan, sosiaalisen median analytiikkayrityksen tutkijat raportoivat ja kertovat yksityiskohtaisesti Spamouflage-deepfakesia raportissa.PDF] Tämä viikko.

Videoissa näkyy mies- ja naislähetystoiminnan harjoittaja, jotka molemmat väittävät raportoivan Wolf News -nimisestä mediayhtiöstä. Yhdessä uutisankkuri tuomitsee Amerikan sen epäonnistumisesta aseväkivallan lopettamisessa. Toinen painottaa Kiinan ja Yhdysvaltojen välisen yhteistyön tarvetta maailmanlaajuisissa talouden elvytyspyrkimyksissä.

"Ensi silmäyksellä Wolf News -ankkurit esittävät todellisia ihmisiä", Graphika sanoi. "Alkuhypoteesimme oli, että he olivat palkattuja näyttelijöitä, jotka oli värvätty esiintymään videoissa."

Tämä olisi linjassa Spamouflagen tavanomaisen toimintatavan kanssa Graphikan ja mukaan muut tutkijat mukaan lukien Google, joka jäljittää huijareita Dragonbridgenä ja on dokumentoinut käyttävänsä oikeita ihmisiä kameran edessä aikaisemmissa disinformaatiokampanjoissaan.

Joihinkin miehistön muihin vaikuttamistoimiin on sisältynyt yrityksiä mestaroida Yhdysvaltain vuoden 2022 välivaaleissa ja uistelu harvinaisten maametallien kaivosyhtiöt käyttämällä tuhansia vääriä sosiaalisen median tilejä, mikä saa Pentagonin jyrkän sormen heilutuksen.

"Mutta lisätutkimukset paljastivat, että Wolf News -juontajat luotiin lähes varmasti brittiläisen synthesia-nimisen AI-videoyhtiön tarjoamalla tekniikalla", Graphikan tutkijat väittivät. 

Käänteiset kuvahaut paljastivat joukon toisiinsa liittymättömiä videoita, joissa näytettiin samat miehen ja naisen "uutisankkurit", jotka esiintyvät Spamouflage Wolf News -lähetyksessä. Tekoälyn luomat ihmiset puhuvat näissä videoissa useilla kielillä, mukaan lukien arabia, romania, espanja ja englanti, kuten tämä rahdinvälityspalvelujen edistäminen.

Siinä miesankkuri sanoo: "Hei, nimeni on Mr Cruise. Ja minä olen avatar."

Risteily on yksi Synthesian "100+" avatarit, ja käy ilmi, että hänen nimensä on Jason. Wolf News -videoiden naisankkuri on Anna.

Synteesi eettinen sivu sanoo, että se "ei tarjoa ohjelmistoaan julkiseen käyttöön. Kaikki sisältö käy läpi nimenomaisen sisäisen seulontaprosessin ennen kuin se julkaistaan ​​luotetuille asiakkaillemme."

Lisäksi sen avatar UKK -sivu sanoo, että sille, mitä avatarit voivat sanoa, on rajansa: "Poliittista, seksuaalista, henkilökohtaista, rikollista ja syrjivää sisältöä ei suvaita tai hyväksytä."

Spamouflagen valeuutiset rikkoisivat molempia käytäntöjä. Synthesiaa ei tavoitettu kommentoimaan. Victor Riparbelli, Synthesian toinen perustaja ja toimitusjohtaja, kertoi New York Times aiemmin tällä viikolla Spamouflage rikkoi Synthesian käyttöehtoja käyttämällä tekniikkaa videoiden tekemiseen.

Toisin sanoen Spamouflage sai jotenkin käsiinsä ja käytti Synthesin teknologiaa sisällön tuottamiseen, vastoin Synthesin sääntöjä. Synthesia ei viittaa väärinkäytökseen.

Vaikka valtion virastot ja turvallisuustutkijat Yhtä lailla on hälytetty syväväärennösten käytöstä poliittisissa vaikuttamisoperaatioissa lähitulevaisuudessa, tähän asti tekoälyn tuottama media on rajoittunut suurelta osin valekasvoihin – ei täysin väärennettyihin ihmisiin Graphikan mukaan. 

Avatarien käytöstä huolimatta muut Spamouflage-videot näyttävät "heikkolaatuiselta poliittiselta roskapostilta", tutkijat kirjoittivat toistaen. Googlen arvio miehistön YouTube-videoista, joista 83 prosentilla oli alle 100 katselukertaa.

Lisäksi uutislähetysten deepfake-elementti "luodettiin melkein varmasti kaupallisen palvelun avulla" sen sijaan, että se ei pystyisi tekemään omasta valmiudesta, raportti totesi. Tämä viittaa siihen, että Spamouflagella ja muilla ei ole teknistä asiantuntemusta tehdäkseen erittäin kehittyneitä syväväärennöksiä, ja he jatkavat saatavilla olevien kaupallisten työkalujen käyttöä.

Kuitenkin, kuten Graphika huomauttaa, "tämä herättää myös kysymyksiä siitä, kuinka näiden tuotteiden ja palveluiden käyttöä voidaan tehokkaasti hillitä." ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/