Наблюдательный совет Меты пересматривает правила после фейкового видео Байдена

Наблюдательный совет Меты пересматривает правила после фейкового видео Байдена

Отметка времени: 10 октября 2023 г., 11:29
Наблюдательный совет Меты пересматривает правила после фальшивого видео Байдена PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Наблюдательный совет Meta расследует политику гиганта социальных сетей в отношении дипфейкового контента после того, как Facebook решил не удалять фальшивое видео, в котором президент США Джо Байден ложно назывался педофилом.

Фальшивое видео адаптировало кадры, на которых Байден размещает наклейку с надписью «Я проголосовал» над грудью своей внучки Натали Байден во время промежуточных выборов в Америке в 2022 году.

Семисекундное видео, опубликованное в мае этого года, было подделано и зациклено, чтобы создать впечатление, будто президент неуместно прикоснулся к своей внучке, а на заднем плане играли слова NSFW из песни «Simon Says» рэпера Pharoahe Monch. В подписи к видео ошибочно утверждалось, что Байден является «больным педофилом», а люди, голосовавшие за него на выборах, были «психически нездоровы».

Несмотря на жалобу пользователя, модераторы Меты не удалили клип. По данным надзорного совета, пользователь Facebook, написавший сообщение, обжаловал решение сохранить видео.

Мета снова решила не удалять фейковое видео, которое, по общему признанию, по состоянию на прошлый месяц было просмотрено менее 30 раз, поскольку оно не было создано с использованием искусственного интеллекта и не выдавалось за подлинное, а также не содержало никаких манипуляций с речью Байдена, чтобы заставить его выглядеть так, как будто он сказал то, чего никогда не произносил.

В конечном итоге заявитель поднял этот вопрос перед наблюдательным советом — независимой группой экспертов, нанятой Meta для проверки политики модерации контента.

«Правление выбрало это дело, чтобы оценить, адекватно ли политика Меты распространяется на измененные видео, которые могут ввести людей в заблуждение, заставив поверить в то, что политики предприняли действия, помимо высказываний, которых они не совершали», — группа писал в своем заявлении.

«Этот случай относится к выборам совета директоров и гражданскому пространству, а также к автоматическому обеспечению соблюдения политики и определению приоритетов контента».

Facebook в манипулировать СМИ политики гласят, что пользователи не должны публиковать синтетические видео, созданные с использованием «искусственного интеллекта или машинного обучения, включая методы глубокого обучения (например, технический дипфейк), которые объединяют, комбинируют, заменяют и/или накладывают контент на видео, создавая видео, которое появляется аутентичным» и не контентом, который «вероятно, мог бы ввести в заблуждение обычного человека, заставив его поверить в то, что участник видео сказал слова, которых он не говорил».

Рассматриваемое фейковое видео Байдена не нарушило ни одно из правил, и поэтому ему было разрешено оставаться в сети. Оно не было создано машиной и не вложено словами в уста президента.

Как бы то ни было, заявленные усилия Меты по борьбе с политической дезинформацией и ее сокращению могут быть ослаблены, если такому контенту будет позволено распространяться. В правилах может возникнуть дисбаланс, если вышеуказанному видео будет разрешено оставаться в силе, и все потому, что оно было неуклюже отредактировано человеком, в то время как существуют жесткие меры в отношении дипфейков. Если бы ИИ сделал подделанное видео, оно бы упало? Но если это сделано человеком, то это не обязательно?

Таким образом, правление приглашает общественность прокомментировать и высказать идеи по следующим вопросам в свете этого дела:

  • Исследование онлайн-тенденций использования измененного или манипулируемого видеоконтента для влияния на восприятие политических деятелей, особенно в Соединенных Штатах.
  • Пригодность политики Меты по дезинформации, в том числе в отношении манипулируемых СМИ, для реагирования на нынешние и будущие проблемы в этой области, особенно в контексте выборов.
  • Обязанности Меты в области прав человека, когда речь идет о видеоконтенте, который был изменен с целью создать обманчивое впечатление об общественном деятеле, и о том, как их следует понимать с учетом развития генеративного искусственного интеллекта.
  • Проблемы и лучшие практики аутентификации видеоконтента в больших масштабах, в том числе с использованием автоматизации.
  • Исследование эффективности альтернативных мер реагирования на политическую дезинформацию или дезинформацию помимо удаления контента, таких как программы проверки фактов или навешивание ярлыков (также известные как «информационное лечение»). Кроме того, проводятся исследования по предотвращению предвзятости в таких ответах.

Ожидается, что, вооружившись этой информацией, комиссия рассмотрит политику и внесет предложения в Meta – хотя из этого может получиться не так много.

«В рамках своих решений совет может давать Мете политические рекомендации. Хотя рекомендации не являются обязательными, Meta должна ответить на них в течение 60 дней», — признала комиссия. «Таким образом, совет приветствует публичные комментарии, предлагающие рекомендации, имеющие отношение к этому делу».

Тем временем эксперты и законодатели все больше обеспокоены дипфейками, манипулирующими политическим дискурсом в преддверии предстоящих президентских выборов в США в 2024 году.

На прошлой неделе сенатор США Эми Клобучар (демократ от Миннесоты) и представитель Палаты представителей Иветт Кларк (демократ от штата Нью-Йорк) направили письма генеральному директору Meta Марку Цукербергу и генеральному директору X Линде Яккарино с просьбой разъяснить их политику в отношении контента в отношении политических дипфейков.

«Поскольку выборы 2024 года быстро приближаются, отсутствие прозрачности в отношении такого типа контента в политической рекламе может привести к опасному потоку связанной с выборами дезинформации и дезинформации на ваших платформах, куда избиратели часто обращаются, чтобы узнать о кандидатах и ​​проблемах», — заявил в письме указано, АП переправу.

Регистр обратился к Мете за комментарием. ®

Отметка времени:

Больше от Регистр