Meta создает инструменты для обнаружения, идентификации и маркировки изображений, созданных искусственным интеллектом, которые публикуются через ее платформы социальных сетей. Он также тестирует большие языковые модели для автоматической модерации контента в Интернете.
Во вторник президент Meta по глобальным вопросам (и бывший заместитель премьер-министра Великобритании) Ник Клегг объявил о планах разместить в Facebook, Instagram и Threads материалы, созданные не только с помощью собственных моделей искусственного интеллекта американского гиганта для преобразования текста в изображение, но и другие материалы, созданные внешними приложениями машинного обучения. Идея состоит в том, чтобы предупредить пользователей сети о том, что контент в Интернете может быть не тем, чем кажется, и, возможно, был изобретен с использованием инструментов искусственного интеллекта, чтобы обмануть людей, независимо от его источника.
Клегг — сказал Инженеры Meta сейчас разрабатывают инструменты для пометки фотореалистичного контента, созданного искусственным интеллектом, в своих приложениях надписью «Воображается с помощью искусственного интеллекта» и будут показывать эту метку по мере необходимости в ближайшие месяцы.
Нам сообщили, что фотореалистичные изображения, созданные встроенным помощником Meta AI, уже автоматически помечаются как таковые с использованием видимых и невидимых маркеров. Это высококачественные материалы, созданные искусственным интеллектом, отправленные извне, которые также необходимо каким-то образом обнаружить и пометить как таковые в империи приложений гиганта Facebook.
В краткосрочной перспективе Facebook намерен использовать водяные знаки внутри отправленных файлов, которые объявляют источник контента (который опирается на внешние генераторы контента AI, включая эти маркировки или метаданные, без их удаления), а также просят людей честно объявлять материал как Создается искусственным интеллектом при обмене медиафайлами.
В долгосрочной перспективе Meta намерена использовать классификаторы, которые смогут автоматически определять, был ли материал создан нейронной сетью или нет, избегая таким образом зависимости от представленных пользователем маркировок и генераторов, включая поддерживаемые маркировки. Необходимость того, чтобы пользователи «признавались, когда они используют фальшивые медиафайлы» (если они вообще осознают, что это фальшивые материалы), а также полагались на то, что сторонние приложения правильно маркируют материалы как созданные на компьютере без того, чтобы их удаляли люди, как они скажем, в разработке программного обеспечения, хрупкий. Эти автоматические классификаторы, если они когда-нибудь будут работать так хорошо, как хотелось бы, нужны больше всего.
По крайней мере, на данный момент люди, загружающие аудио и видео, обязательно должны будут заявить, является ли этот материал фейковым или реальным, поскольку Мета говорит, что пока еще нет единого способа идентифицировать кадры и звук, созданные ИИ; и изображения либо автоматически помечаются Meta AI, включают водяные знаки, раскрывающие истинный источник, либо, предположительно, могут быть помечены людьми вручную. А позже это все может быть автоматизировано.
«Мы будем требовать от людей использовать этот инструмент раскрытия информации и маркировки, когда они публикуют органический контент с фотореалистичным видео или реалистично звучащим аудио, созданным или измененным в цифровом формате, и мы можем применить штрафы, если они этого не сделают», — Клегг сказал.
Что касается мета-поддержки водяных знаков, это включает в себя поддержку Коалиции за происхождение и подлинность контента (C2PA) и Международного совета по телекоммуникациям прессы (IPTC). Это отраслевые инициативы, поддерживаемые технологическими и медиа-группами, пытающиеся упростить идентификацию компьютерного контента. Они не являются надежными и их можно победить, как мы уже сообщали ранее.
Последние стратегии Meta по борьбе с искусственным контентом появились сразу после того, как ее Наблюдательный совет, группа независимых экспертов, тщательно изучающих политику модерации контента, пожаловался, что текущие правила в отношении манипулируемых медиа являются «непоследовательными». Совет запустил зонд в прошлом году о том, почему Meta решила разрешить фальшивому видео президента Байдена, которое было изменено в цифровом формате, чтобы утверждать, что он педофил, оставаться в своей империи социальных сетей.
В дополнение к инструментам, поддерживаемым C2PA и IPTC, Meta тестирует способность больших языковых моделей автоматически определять, нарушает ли публикация ее политику.
Бизнес в социальных сетях обучает эти системы на собственных данных и полагает, что программное обеспечение может сократить объем контента, который должен оцениваться людьми-рецензентами, позволяя им сосредоточиться на более сложных случаях.
«Поскольку разница между человеческим и синтетическим контентом стирается, люди хотят знать, где проходит граница», — сказал Клегг.
«Люди часто впервые сталкиваются с контентом, созданным искусственным интеллектом, и наши пользователи сказали нам, что они ценят прозрачность в отношении этой новой технологии. Мы будем придерживаться этого подхода в течение следующего года, в течение которого по всему миру пройдет ряд важных выборов». ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :является
- :нет
- :куда
- $UP
- 7
- a
- способность
- через
- дополнение
- Дела
- После
- AI
- Помощник АИ
- AI модели
- Все
- позволять
- Позволяющий
- уже
- причислены
- изменен
- и
- объявило
- Приложения
- Применить
- ценить
- подхода
- Программы
- МЫ
- около
- AS
- спрашивающий
- оценивается
- помощник
- At
- аудио
- подлинность
- Автоматизированный
- автоматически
- избегающий
- знать
- прочь
- со спинкой
- BE
- было
- не являетесь
- верить
- между
- Биден
- biz
- доска
- граница
- Строительство
- встроенный
- но
- by
- CAN
- случаев
- утверждать
- CO
- коалиция
- как
- приход
- последовательный
- содержание
- правильно
- может
- Совет
- проработаны
- создали
- Текущий
- Порез
- резки
- данным
- решенный
- заявляет,
- определенно
- заместитель
- желанный
- обнаруживать
- обнаруженный
- обнаружение
- Определять
- развивающийся
- разница
- цифровой
- усмотреть
- раскрытие
- do
- вниз
- в течение
- легче
- Edge
- или
- Выборы
- империя
- Проект и
- Инженеры
- Даже
- НИКОГДА
- эксперты
- и, что лучший способ
- что его цель
- FAIL
- не настоящие
- FB
- Файлы
- Во-первых,
- Впервые
- Помеченные
- Фокус
- Что касается
- Бывший
- от
- генераторы
- получает
- гигант
- Глобальный
- Группы
- было
- Есть
- he
- высококачественный
- Честно
- HTTPS
- человек
- идея
- определения
- if
- изображение
- изображений
- представить
- важную
- in
- включают
- включает в себя
- В том числе
- независимые
- промышленность
- инициативы
- внутри
- намерен
- Мультиязычность
- в
- Изобретенный
- невидимый
- мобильной
- IT
- ЕГО
- JPG
- всего
- Знать
- этикетка
- маркировка
- язык
- большой
- Фамилия
- В прошлом году
- новее
- последний
- запустили
- наименее
- лежит
- ll
- Длинное
- сделанный
- сделать
- манипулировать
- вручную
- с пометкой
- материала
- Май..
- Медиа
- Мета
- Метаданные
- Модели
- умеренному
- умеренность
- месяцев
- самых
- необходимо
- Необходимость
- необходимый
- потребности
- сеть
- нервный
- нейронной сети
- Новые
- следующий
- зарубка
- сейчас
- номер
- of
- .
- on
- онлайн
- только
- or
- органический
- наши
- внешний
- внешнюю
- за
- надзор
- собственный
- панель
- штрафов
- Люди
- Картинки
- Часть
- Планы
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- сборах
- После
- президент
- президент байден
- нажмите
- предварительно
- Простое число
- происхождение
- RE
- реальные
- Несмотря на
- опора
- полагаться
- опираясь
- Сообщается
- требовать
- показывать
- правую
- условиями,
- s
- Сказал
- сообщили
- говорит
- кажется
- общие
- разделение
- Короткое
- показывать
- So
- Соцсети
- социальные сети
- социальные медиа-платформы
- социальные сети
- Software
- разработка программного обеспечения
- некоторые
- Звук
- Источник
- оставаться
- стратегий
- представленный
- такие
- Поддержанный
- Поддержка
- синтетический
- системы
- Tackling
- TAG
- с
- Технологии
- связь
- срок
- Тестирование
- который
- Ассоциация
- Источник
- мир
- Их
- Там.
- Эти
- они
- этой
- те
- Через
- Таким образом
- время
- в
- заявил
- инструментом
- инструменты
- Обучение
- Прозрачность
- правда
- стараться
- пытается
- вторник
- Uk
- Загрузка
- us
- использование
- пользователей
- через
- Ve
- с помощью
- Видео
- видимый
- хотеть
- законопроект
- Водяные знаки
- водяные знаки
- Путь..
- we
- ЧТО Ж
- были
- Что
- когда
- будь то
- который
- зачем
- будете
- без
- Работа
- Мир
- год
- еще
- зефирнет