Zagrajmy w grę: kotwica wiadomości Deepfake czy prawdziwa osoba?

Opublikowane ponownie przez Plato

Obserwuje: 0

Deepfake filmy online, w których prezenterzy wiadomości generowani przez sztuczną inteligencję rozpowszechniają prochińską propagandę rządową, są prawdopodobnie dziełem płodnej ekipy dezinformacyjnej o nazwie Spamouflage.

Te filmy przedstawiają „pierwszy raz, kiedy Graphika zaobserwowała aktorów IO [operacji wywierania wpływu] zorientowanych na stan, wykorzystujących nagrania wideo fikcyjnych osób generowanych przez sztuczną inteligencję w ich operacjach”, poinformowali badacze firmy zajmującej się analizą mediów społecznościowych, szczegółowo opisując deepfake Spamouflage w raporcie [PDF] w tym tygodniu.

Filmy przedstawiają nadawcę płci męskiej i żeńskiej, oboje rzekomo relacjonują dla firmy medialnej o nazwie Wolf News. W jednym z nich prezenter wiadomości potępia Amerykę za niepowodzenia w powstrzymaniu przemocy z użyciem broni palnej. Drugi podkreśla potrzebę współpracy chińsko-amerykańskiej w wysiłkach na rzecz odbudowy światowej gospodarki.

„Na pierwszy rzut oka kotwice Wolf News przedstawiają się jako prawdziwi ludzie” – powiedział Graphika. „Nasza wstępna hipoteza była taka, że byli to opłaceni aktorzy, których zrekrutowano do występów w filmach”.

Byłoby to zgodne ze zwykłym sposobem działania Spamouflage, według Graphika i inni badacze w tym Google, który śledzi złoczyńców jako Dragonbridge i udokumentował wykorzystywanie prawdziwych ludzi przed kamerą we wcześniejszych kampaniach dezinformacyjnych.

Niektóre inne operacje wpływu załogi obejmowały próby wtrącić się w amerykańskich wyborach śródokresowych w 2022 r trolling firm wydobywczych metali ziem rzadkich, korzystając z tysięcy fałszywych kont w mediach społecznościowych, co wywołało surowe wymachiwanie palcem przez Pentagon.

„Jednak dalsze dochodzenie wykazało, że prezenterzy Wolf News prawie na pewno zostali stworzeni przy użyciu technologii dostarczonej przez brytyjską firmę wideo AI o nazwie Synthesia” – stwierdzili badacze Graphika.

Odwrócona wyszukiwarka obrazów odkryła mnóstwo niepowiązanych filmów pokazujących tych samych „kotwiców wiadomości”, mężczyznę i kobietę, którzy pojawiają się w audycji Spamouflage Wolf News. Ludzie wygenerowani przez sztuczną inteligencję mówią w tych filmach wieloma językami, w tym arabskim, rumuńskim, hiszpańskim i angielskim ten promowanie usług brokera frachtowego.

Prezenter mówi w nim: „Cześć, nazywam się pan Cruise. A ja jestem awatarem”.

Rejs jest jednym z Awatary „100+” firmy Synthesiai okazuje się, że ma na imię Jason. Prezenterką z filmów Wolf News jest Anna.

firmy Synthesia strona etyczna mówi, że „nie będzie oferować [swojego] oprogramowania do użytku publicznego. Wszystkie treści przejdą jawny wewnętrzny proces kontroli, zanim zostaną udostępnione naszym zaufanym klientom”.

Dodatkowo jego strona z często zadawanymi pytaniami dotyczącymi awatarów mówi, że istnieją ograniczenia co do tego, co awatary mogą, a czego nie mogą powiedzieć: „Treści polityczne, seksualne, osobiste, kryminalne i dyskryminujące nie są tolerowane ani zatwierdzane”.

Fałszywe wiadomości Spamouflage naruszałyby obie zasady. Nie udało nam się skontaktować z firmą Synthesia w celu uzyskania komentarza. Victor Riparbelli, współzałożyciel i dyrektor naczelny Synthesia, powiedział New York Times na początku tego tygodnia Spamouflage złamał warunki korzystania z usługi Synthesii, używając tej technologii do tworzenia swoich filmów.

Oznacza to, że Spamouflage w jakiś sposób zdobył i wykorzystał technologię Synthesii do wytworzenia treści, wbrew zasadom Synthesii. Nie ma żadnych sugestii popełnienia wykroczenia przez firmę Synthesia.

Kompletujemy wszystkie dokumenty (wymagana jest kopia paszportu i XNUMX zdjęcia) potrzebne do agencje rządowe i badacze bezpieczeństwa podobnie alarmowali o wykorzystywaniu deepfake'ów w operacjach wywierania wpływu politycznego w niezbyt odległej przyszłości, do tej pory media generowane przez sztuczną inteligencję były w dużej mierze ograniczone do fałszywych twarzy - według Graphiki nie do końca fałszywych ludzi.

Jednak pomimo użycia awatarów, pozostałe filmy Spamouflage wyglądają jak „polityczny spam niskiej jakości”, napisali naukowcy, powtarzając ocena Google filmów ekipy na YouTube, z których 83 procent miało mniej niż 100 wyświetleń.

Ponadto, element deepfake w wiadomościach „prawie na pewno został stworzony przy użyciu usługi komercyjnej”, w przeciwieństwie do możliwości wewnętrznych, podsumowano w raporcie. Sugeruje to, że Spamouflage i inni nie mają wiedzy technicznej, aby wykonać wysoce wyrafinowane deepfake i będą nadal korzystać z dostępnych narzędzi komercyjnych.

Jednak, jak zauważa Graphika, „to również rodzi pytania o to, jak skutecznie moderować korzystanie z tych produktów i usług”. ®