Facciamo un gioco: conduttore di notizie Deepfake o una persona reale?

Ripubblicato da Platone

Seguaci: 0

I video deepfake online con conduttori di notizie generati dall'intelligenza artificiale che lanciano propaganda del governo filocinese sono probabilmente le creazioni di un prolifico gruppo di disinformazione soprannominato Spamouflage.

Questi video rappresentano "la prima volta che Graphika ha osservato attori IO [operazione di influenza] allineati allo stato che utilizzano riprese video di persone fittizie generate dall'intelligenza artificiale nelle loro operazioni", hanno riferito i ricercatori della società di analisi dei social media, descrivendo in dettaglio i deepfake di Spamouflage in un rapporto [PDF] questa settimana.

I video mostrano un'emittente televisiva maschile e femminile, che pretendono entrambi di riferire per una società di media chiamata Wolf News. In uno, il conduttore di notizie condanna l'America per i suoi fallimenti nel fermare la violenza armata. L'altro sottolinea la necessità della cooperazione Cina-USA sugli sforzi di ripresa economica globale.

"A prima vista, i conduttori di Wolf News si presentano come persone reali", ha detto Graphika. "La nostra ipotesi iniziale era che fossero attori pagati che erano stati reclutati per apparire nei video".

Ciò si allineerebbe con il solito modus operandi di Spamouflage, secondo Graphika e altri ricercatori incluso Google che traccia i miscredenti come Dragonbridge e ha documentato il loro uso di persone reali davanti alla telecamera nelle loro precedenti campagne di disinformazione.

Alcune delle altre operazioni di influenza dell'equipaggio hanno incluso tentativi di farlo immischiarsi nelle elezioni americane di medio termine del 2022 e trolling società minerarie di terre rare utilizzando migliaia di account di social media fasulli, provocando un severo scodinzolio da parte del Pentagono.

"Ma ulteriori indagini hanno rivelato che i presentatori di Wolf News sono stati quasi certamente creati utilizzando la tecnologia fornita da una società di video AI britannica chiamata Synthesia", hanno affermato i ricercatori di Graphika.

Le ricerche di immagini inverse hanno portato alla luce un sacco di video non correlati che mostrano lo stesso uomo e la stessa donna "conduttori di notizie" che appaiono nella trasmissione Spamouflage Wolf News. Le persone generate dall'intelligenza artificiale parlano in più lingue in questi video, tra cui arabo, rumeno, spagnolo e inglese, come questo promozione dei servizi di intermediazione merci.

In esso, l'ancora maschio dice: “Ciao, mi chiamo Mr Cruise. E io sono un avatar.

Cruise è uno di Gli avatar “100+” di Synthesia, e si scopre che il suo nome è Jason. L'ancora femminile dei video di Wolf News è Anna.

di Synthesia pagina di etica afferma che “non offrirà il [suo] software per uso pubblico. Tutti i contenuti passeranno attraverso un esplicito processo di screening interno prima di essere rilasciati ai nostri fidati clienti”.

Inoltre, è pagina delle domande frequenti sull'avatar dice che ci sono limiti a ciò che gli avatar possono e non possono dire: "I contenuti politici, sessuali, personali, criminali e discriminatori non sono tollerati o approvati".

Le notizie false di Spamouflage violerebbero entrambe le politiche. Non è stato possibile raggiungere Synthesia per un commento. Victor Riparbelli, co-fondatore e amministratore delegato di Synthesia, detto il New York Times all'inizio di questa settimana Spamouflage ha infranto i termini di servizio di Synthesia utilizzando la tecnologia per realizzare i suoi video.

Vale a dire, Spamouflage in qualche modo si è impadronito e ha utilizzato la tecnologia di Synthesia per produrre il suo contenuto, contrariamente alle regole di Synthesia. Non vi è alcun suggerimento di illeciti da parte di Synthesia.

Mentre agenzie governative ed ricercatori di sicurezza allo stesso modo hanno lanciato l'allarme sui deepfake utilizzati in operazioni di influenza politica in un futuro non troppo lontano, fino ad ora i media generati dall'intelligenza artificiale sono stati in gran parte limitati a volti falsi, non persone del tutto false, secondo Graphika.

Tuttavia, nonostante l'uso di avatar, il resto dei video di Spamouflage sembra "spam politico di bassa qualità", hanno scritto i ricercatori, facendo eco La valutazione di Google dei video di YouTube della troupe, l'83% dei quali ha avuto meno di 100 visualizzazioni.

Inoltre, l'elemento deepfake dei notiziari "è stato quasi certamente creato utilizzando un servizio commerciale" anziché capacità interne, ha concluso il rapporto. Ciò suggerisce che Spamouflage e altri non hanno le competenze tecniche per realizzare deepfake altamente sofisticati e continueranno a utilizzare gli strumenti commerciali disponibili.

Tuttavia, come osserva Graphika, "questo solleva anche interrogativi su come moderare efficacemente l'uso di questi prodotti e servizi". ®