Давайте поиграем в игру: дипфейк-ведущий новостей или реальный человек?

Переиздано Платоном

Читают: 0

Онлайн-видеоролики Deepfake, в которых ведущие новостей, созданные искусственным интеллектом, распространяют прокитайскую правительственную пропаганду, вероятно, являются творениями плодовитой группы по дезинформации, получившей название Spamouflage.

Эти видеоролики представляют собой «первый случай, когда Graphika наблюдала, как связанные с государством IO [операции влияния] использовали видеозаписи вымышленных людей, созданных искусственным интеллектом, в своих операциях», — сообщили исследователи аналитической фирмы социальных сетей, подробно описав дипфейки Spamouflage в отчете [PDF] На этой неделе.

На видео показаны мужчина и женщина-телеведущие, якобы работающие в медиа-компании Wolf News. В одном из них ведущий новостей осуждает Америку за ее неспособность остановить насилие с применением огнестрельного оружия. Другой подчеркивает необходимость китайско-американского сотрудничества в усилиях по восстановлению мировой экономики.

«На первый взгляд ведущие Wolf News выглядят как настоящие люди, — говорит Графика. «Наша первоначальная гипотеза заключалась в том, что это были платные актеры, которых наняли для съемок в видео».

По словам Graphika и другие исследователи включая Google, который отслеживает злоумышленников как Dragonbridge и задокументировал использование ими реальных людей на камеру в своих более ранних кампаниях по дезинформации.

Некоторые из других операций по влиянию команды включали попытки мешаться на промежуточных выборах в США в 2022 г. троллинг компании по добыче редкоземельных металлов, используя тысячи фальшивых учетных записей в социальных сетях, что вызвало резкое покачивание пальцами со стороны Пентагона.

«Но дальнейшее расследование показало, что ведущие Wolf News почти наверняка были созданы с использованием технологии, предоставленной британской видеокомпанией искусственного интеллекта под названием Synthesia», — заявили исследователи Graphika.

Обратный поиск изображений обнаружил массу не связанных друг с другом видеороликов, показывающих одних и тех же мужчину и женщину «ведущих новостей», которые появляются в передаче Spamouflage Wolf News. Люди, созданные ИИ, говорят на нескольких языках в этих видеороликах, включая арабский, румынский, испанский и английский, например вот этот продвижение услуг фрахтового брокера.

В нем ведущий говорит: «Здравствуйте, меня зовут мистер Круз. А я аватар».

Круиз — один из Аватары Synthesia «100+», и оказалось, что его зовут Джейсон. Женский ведущий из видео Wolf News - Анна.

Синтезия этическая страница заявляет, что «не будет предлагать [свое] программное обеспечение для публичного использования. Весь контент будет проходить явный внутренний процесс проверки, прежде чем он будет передан нашим доверенным клиентам».

Кроме того, его Страница часто задаваемых вопросов по аватару говорит, что существуют ограничения на то, что аватары могут и не могут говорить: «Политический, сексуальный, личный, криминальный и дискриминационный контент не допускается и не одобряется».

Поддельные новости Spamouflage нарушают обе политики. Получить комментарий у Synthesia не удалось. Виктор Рипарбелли, соучредитель и исполнительный директор Synthesia, заявил The New York Times ранее на этой неделе Spamouflage нарушила условия предоставления услуг Synthesia, используя эту технологию для создания своих видеороликов.

Другими словами, Spamouflage каким-то образом завладел и использовал технологию Synthesia для производства своего контента, вопреки правилам Synthesia. Нет никаких предположений о правонарушениях со стороны Synthesia.

В то время как государственные учреждения и исследователи безопасности одинаково бьют тревогу по поводу того, что дипфейки будут использоваться в операциях политического влияния в недалеком будущем, до сих пор средства массовой информации, созданные ИИ, в основном ограничивались фальшивыми лицами — не совсем фальшивыми людьми, согласно Graphika.

Однако, несмотря на использование аватаров, остальные видеоролики Spamouflage выглядят как «политический спам низкого качества», пишут исследователи. оценка Google видео команды на YouTube, 83 процента из которых набрали менее 100 просмотров.

Кроме того, в отчете сделан вывод, что элемент дипфейка в выпусках новостей «почти наверняка был создан с использованием коммерческого сервиса», а не собственными силами. Это говорит о том, что Spamouflage и другие компании не обладают техническими знаниями для создания очень сложных дипфейков и будут продолжать использовать доступные коммерческие инструменты.

Однако, как отмечает Graphika, «это также вызывает вопросы о том, как эффективно модерировать использование этих продуктов и услуг». ®