Let's Play A Game: Deepfake News Anchor Or A Real Person?

Republicat de Platon

Urmaritori: 0

Videoclipurile deepfake online care prezintă prezentari de știri generate de inteligență artificială care scot propagandă pro-chinez sunt probabil creațiile unui echipaj prolific de dezinformare numit Spamouflage.

Aceste videoclipuri reprezintă „prima dată când Graphika a observat actori IO [operațiuni de influență] aliniați la stat folosind înregistrări video cu persoane fictive generate de AI în operațiunile lor”, au raportat cercetătorii firmei de analiză a rețelelor sociale, detaliând deepfake-urile Spamouflage într-un raport [PDF] în această săptămână.

Videoclipurile arată un radiodifuzor bărbat și femeie, ambii pretinzând că raportează pentru o companie media numită Wolf News. Într-una, prezentatorul de știri condamnă America pentru eșecurile de a opri violența cu armele. Celălalt subliniază necesitatea cooperării China-SUA pentru eforturile de redresare economică globală.

„La prima vedere, prezentatorii Wolf News se prezintă ca oameni reali”, a spus Graphika. „Ipoteza noastră inițială a fost că erau actori plătiți care au fost recrutați pentru a apărea în videoclipuri.”

Acest lucru s-ar alinia cu modus operandi obișnuit al Spamouflage, potrivit Graphika și alți cercetători inclusiv Google care urmărește răufăcătorii ca Dragonbridge și a documentat utilizarea de către oameni reali în fața camerei în campaniile lor anterioare de dezinformare.

Unele dintre celelalte operațiuni de influență ale echipajului au inclus încercări de a se amesteca la alegerile americane intermediare din 2022 și trolling companiile miniere cu pământuri rare utilizând mii de conturi false de pe rețelele sociale, ceea ce a determinat Pentagonul să dea din degete sever.

„Dar investigațiile ulterioare au dezvăluit că prezentatorii Wolf News au fost aproape sigur creați folosind tehnologia furnizată de o companie britanică de video AI numită Synthesia”, au susținut cercetătorii Graphika.

Căutările inverse de imagini au scos la iveală o mulțime de videoclipuri care nu au legătură cu același bărbat și aceeași femeie „prezentatoare de știri” care apar în emisiunea Spamouflage Wolf News. Oamenii generați de inteligență artificială vorbesc în mai multe limbi în aceste videoclipuri, inclusiv arabă, română, spaniolă și engleză, cum ar fi acesta promovarea serviciilor de broker de marfă.

În ea, prezentatorul masculin spune: „Bună ziua, numele meu este domnul Cruise. Și eu sunt un avatar.”

Cruise este unul dintre Avatarele „100+” ale lui Synthesiași se dovedește că numele lui este Jason. Prezentatoarea din videoclipurile Wolf News este Anna.

Al sintezei pagina de etică spune că „nu va oferi software-ul pentru uz public. Tot conținutul va trece printr-un proces intern explicit de screening înainte de a fi distribuit clienților noștri de încredere.”

În plus, sale pagina de întrebări frecvente avatarului spune că există limite cu privire la ceea ce avatarurile pot și nu pot spune: „Conținutul politic, sexual, personal, criminal și discriminatoriu nu este tolerat sau aprobat”.

Știrile false ale Spamouflage ar încălca ambele politici. Synthesia nu a putut fi contactată pentru comentarii. Victor Riparbelli, co-fondator și director executiv al Synthesia, a spus The New York Times la începutul acestei săptămâni, Spamouflage a încălcat termenii și condițiile Synthesia utilizând tehnologia pentru a-și realiza videoclipurile.

Adică, Spamouflage cumva a pus mâna pe și a folosit tehnologia Synthesia pentru a-și produce conținutul, contrar regulilor Synthesia. Nu există nicio sugestie de abatere din partea Synthesia.

In timp ce agentii guvernamentale și cercetători de securitate deopotrivă au tras un semnal de alarmă cu privire la utilizarea deepfake-urilor în operațiunile de influență politică într-un viitor nu prea îndepărtat, până acum mass-media generată de inteligența artificială s-a limitat în mare parte la fețe false - nu în totalitate persoane false, potrivit Graphika.

Cu toate acestea, în ciuda utilizării avatarurilor, restul videoclipurilor Spamouflage arată ca „spam politic de calitate scăzută”, au scris cercetătorii, făcând ecou. Evaluarea Google dintre videoclipurile YouTube ale echipajului, dintre care 83% au avut mai puțin de 100 de vizualizări.

În plus, elementul deepfake al știrilor „a fost aproape sigur creat folosind un serviciu comercial”, spre deosebire de capacitatea internă, a concluzionat raportul. Acest lucru sugerează că Spamouflage și alții nu au expertiza tehnică pentru a realiza deepfake-uri extrem de sofisticate și vor continua să folosească instrumentele comerciale disponibile.

Cu toate acestea, după cum notează Graphika, „acest lucru ridică și întrebări despre cum să moderați eficient utilizarea acestor produse și servicii”. ®