Давайте пограємо в гру: ведучий новин Deepfake чи реальна людина?

Перевидано Платоном

читають: 0

Відео Deepfake в Інтернеті, на яких ведучі новин, створені штучним інтелектом, висвітлюють прокитайську урядову пропаганду, ймовірно, створені командою плідної дезінформації під назвою Spamouflage.

Ці відео вказують на те, що «Graphika вперше спостерігає, як державні суб’єкти IO [операції впливу] використовують відеоматеріали фіктивних людей, згенерованих штучним інтелектом, у своїх операціях», – повідомили дослідники аналітичної фірми соціальних медіа, деталізуючи глибокі фейки Spamouflage у звіті [PDF] цього тижня.

На відео показано чоловіка та жінку-ведучих, які нібито репортажі для медіакомпанії Wolf News. В одному ведучий новин засуджує Америку за її неспроможність зупинити насильство зі зброєю. Інший наголошує на необхідності співпраці Китаю та США щодо відновлення глобальної економіки.

«На перший погляд, ведучі Wolf News виглядають як реальні люди», — зазначає Graphika. «Нашою початковою гіпотезою було те, що вони були платними акторами, яких завербували для зйомок у відео».

Відповідно до Graphika та, це відповідало б звичайному способу роботи Spamouflage інші дослідники включно з Google, яка відслідковує злочинців як Dragonbridge і задокументувала використання ними реальних людей на камеру в своїх попередніх кампаніях з дезінформації.

Деякі з інших операцій впливу екіпажу включали спроби мішатися на проміжних виборах у США в 2022 році тролінг компанії з видобутку рідкоземельних елементів, використовуючи тисячі фальшивих облікових записів у соціальних мережах, що викликало суворе помахання Пентагоном пальцем.

«Але подальше розслідування показало, що ведучі Wolf News майже напевно були створені за допомогою технології, наданої британською відеокомпанією Synthesia, яка займається штучним інтелектом», — стверджують дослідники Graphika.

Зворотний пошук зображень виявив масу непов’язаних відео, на яких зображені ті самі чоловік і жінка «ведучі новин», які з’являються в ефірі Spamouflage Wolf News. Створені штучним інтелектом люди говорять на цих відео різними мовами, зокрема арабською, румунською, іспанською та англійською, наприклад цей просування послуг фрахтового брокера.

У ньому ведучий каже: «Привіт, мене звати містер Круз. А я аватар».

Круїз є одним із «100+» аватарів Synthesia, і виявилося, що його звати Джейсон. Ведучою у відео Wolf News є Анна.

Синтезії сторінка етики каже, що «не пропонуватиме [своє] програмне забезпечення для загального користування. Увесь вміст проходитиме чітку внутрішню перевірку перед тим, як буде опубліковано нашим довіреним клієнтам».

Крім того, його Сторінка поширених запитань про аватар каже, що є обмеження щодо того, що можуть і не можуть говорити аватари: «Політичний, сексуальний, особистий, кримінальний та дискримінаційний вміст не допускається та не схвалюється».

Фейкові новини Spamouflage порушували б обидві політики. Synthesia не вдалося отримати коментар. Віктор Ріпарбеллі, співзасновник і виконавчий директор Synthesia, сказав New York Times раніше цього тижня Spamouflage порушив умови обслуговування Synthesia, використовуючи цю технологію для створення своїх відео.

Тобто Spamouflage якимось чином заволодів і використав технологію Synthesia для створення свого контенту, всупереч правилам Synthesia. Немає припущень про правопорушення з боку Synthesia.

У той час як державні установи та дослідники безпеки однаково забили тривогу щодо використання дипфейків в операціях політичного впливу в недалекому майбутньому, досі медіа, створені ШІ, здебільшого обмежувалися фальшивими обличчями — не зовсім фальшивими людьми, згідно з Graphika.

Однак, незважаючи на використання аватарів, решта відео Spamouflage виглядає як «політичний спам низької якості», пишуть дослідники, повторюючи Оцінка Google відео екіпажу на YouTube, 83 відсотки з яких мали менше 100 переглядів.

Крім того, елемент глибокого фейку в випусках новин «майже напевно був створений за допомогою комерційних послуг», а не власних можливостей, йдеться у звіті. Це свідчить про те, що Spamouflage та інші не мають технічного досвіду, щоб створити дуже складні дипфейки, і продовжуватимуть використовувати доступні комерційні інструменти.

Однак, як зазначає Graphika, «це також викликає питання про те, як ефективно модерувати використання цих продуктів і послуг». ®