Igrajmo se igro: voditelj Deepfake novic ali prava oseba?

Ponovno objavil Platon

Spremljevalci: 0

Spletni videoposnetki Deepfake, ki prikazujejo voditelje novic, ustvarjene z umetno inteligenco, ki širijo prokitajsko vladno propagando, so verjetno stvaritve plodne dezinformacijske ekipe, imenovane Spamouflage.

Ti videoposnetki predstavljajo "prvič, ko je Graphika opazila državno usklajene IO [operacije vpliva] akterje, ki uporabljajo videoposnetke fiktivnih ljudi, ki jih je ustvarila umetna inteligenca, pri svojih operacijah," so poročali raziskovalci podjetja za analitiko družbenih medijev in v poročilu podrobno opisali globoke ponaredke Spamouflage [PDF] ta teden.

Videoposnetki prikazujejo televizijskega voditelja, oba naj bi poročala za medijsko podjetje Wolf News. V enem voditelj informativnih oddaj obsoja Ameriko zaradi njenega neuspeha pri zaustavitvi nasilja z orožjem. Drugi poudarja potrebo po kitajsko-ameriškem sodelovanju pri prizadevanjih za okrevanje svetovnega gospodarstva.

"Na prvi pogled so voditelji Wolf News predstavljeni kot resnični ljudje," je dejal Graphika. "Naša začetna hipoteza je bila, da so bili plačani igralci, ki so bili zaposleni za nastop v videoposnetkih."

To bi bilo v skladu z običajnim načinom delovanja Spamouflage, glede na Graphika in drugi raziskovalci vključno z Googlom, ki nepridipravom sledi kot Dragonbridge in je dokumentiral njihovo uporabo resničnih ljudi pred kamero v svojih prejšnjih kampanjah dezinformiranja.

Nekatere druge operacije vplivanja posadke so vključevale poskuse vmešavati na ameriških vmesnih volitvah leta 2022 in panulo rudarska podjetja redkih zemelj z uporabo na tisoče lažnih računov v družbenih omrežjih, zaradi česar Pentagon ostro miga s prstom.

"Toda nadaljnja preiskava je pokazala, da so bili voditelji Wolf News skoraj zagotovo ustvarjeni s tehnologijo, ki jo je zagotovilo britansko video podjetje za umetno inteligenco, imenovano Synthesia," so trdili raziskovalci Graphike.

Iskanje povratnih slik je odkrilo tono nepovezanih videoposnetkov, ki prikazujejo istega moškega in žensko "voditelja novic", ki se pojavita v oddaji Spamouflage Wolf News. Ljudje, ki jih ustvari umetna inteligenca, v teh videih govorijo v več jezikih, vključno z arabščino, romunščino, španščino in angleščino, npr. tale promocija storitev posrednikov tovora.

V njem moški voditelj pravi: »Pozdravljeni, ime mi je gospod Cruise. In jaz sem avatar.”

Cruise je eden od Synthesia '100+' avatarjev, in izkaže se, da mu je ime Jason. Voditeljica videoposnetkov Wolf News je Anna.

Synthesia's etična stran pravi, da »[svoje] programske opreme ne bo ponudil v javno uporabo. Vsa vsebina bo šla skozi izrecni notranji postopek preverjanja, preden bo objavljena našim zaupanja vrednim strankam.«

Poleg tega je še stran s pogostimi vprašanji o avatarju pravi, da obstajajo omejitve glede tega, kaj lahko avatarji povedo in česa ne: "Politične, spolne, osebne, kriminalne in diskriminatorne vsebine niso tolerirane ali odobrene."

Lažne novice Spamouflage bi kršile obe politiki. Synthesia ni bila dosegljiva za komentar. Victor Riparbelli, soustanovitelj in izvršni direktor Synthesia, Rekel New York Times v začetku tega tedna je Spamouflage kršil pogoje storitve družbe Synthesia z uporabo tehnologije za izdelavo svojih videoposnetkov.

To pomeni, da je Spamouflage nekako pridobil in uporabil tehnologijo Synthesia za izdelavo svoje vsebine, v nasprotju s pravili Synthesia. Ni namigov, da bi Synthesia kršila.

Medtem ko je vladne agencije in varnostnih raziskovalcev Podobni so sprožili alarm glede uporabe globokih ponaredkov v operacijah političnega vpliva v ne tako oddaljeni prihodnosti, do zdaj pa so bili mediji, ustvarjeni z umetno inteligenco, v veliki meri omejeni na lažne obraze – ne povsem lažne ljudi, glede na Graphiko.

Toda kljub uporabi avatarjev so preostali videoposnetki Spamouflage videti kot "politična neželena pošta nizke kakovosti," so zapisali raziskovalci in ponovili Googlova ocena YouTubovih videoposnetkov posadke, od katerih jih je imelo 83 odstotkov manj kot 100 ogledov.

Poleg tega je bil element globokega ponarejanja novic "skoraj zagotovo ustvarjen z uporabo komercialne storitve" v nasprotju z lastnimi zmogljivostmi, zaključuje poročilo. To nakazuje, da Spamouflage in drugi nimajo tehničnega znanja in izkušenj za ustvarjanje zelo sofisticiranih globokih ponaredkov in bodo še naprej uporabljali razpoložljiva komercialna orodja.

Vendar, kot ugotavlja Graphika, "to postavlja tudi vprašanja o tem, kako učinkovito ublažiti uporabo teh izdelkov in storitev." ®