Изображения, создаваемые генеративными моделями OpenAI, будут включать метаданные, раскрывающие их происхождение, которые, в свою очередь, могут использоваться приложениями для предупреждения людей о машинной природе этого контента.
В частности, суперлаборатория, поддерживаемая Microsoft, как и ожидалось, принимает спецификацию Content Credentials, разработанную Коалицией за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity).C2PA), отраслевая организация, поддерживаемая Adobe, Arm, Microsoft, Intel и другими компаниями.
Учетные данные контента довольно просто и указано в полном объеме здесь: оно использует стандартные форматы данных хранить в медиафайлах информацию о том, кто и как создал материал. Эти метаданные не видны пользователю напрямую и защищены криптографически, поэтому любые несанкционированные изменения становятся очевидными.
Ожидается, что приложения, поддерживающие эти метаданные, когда они обнаруживают их в содержимом файла, будут отображать небольшой логотип «cr» над содержимым, чтобы указать, что в этом файле присутствует информация об учетных данных контента. При нажатии на этот логотип должно открыться всплывающее окно, содержащее эту информацию, включая любые сообщения о том, что этот материал был сделан ИИ.
Как логотип C2PA «cr» может отображаться на изображении, созданном OpenAI, в поддерживающем приложении. Источник: ОпенАИ
Идея заключается в том, что людям, просматривающим или редактирующим материалы в вспомогательных приложениях (в идеале, от редакторов изображений до веб-браузеров), должно быть сразу очевидно, создан ли контент на экране искусственным интеллектом.
Помощь людям в различении реальных и поддельных изображений, несомненно, будет становиться все более важной, поскольку контент, создаваемый ИИ, совершенствуется до такой степени, что он уже не является очевидным результатом работы машины. Эксперты опасаются, что такие синтетические СМИ введут пользователей сети в заблуждение и будут использоваться для распространения дезинформации или поддержки кампаний по дезинформации. Технологические компании активизируют усилия по минимизации рисков, поскольку, во-первых, приближаются президентские выборы в США 2024 года.
Тем не менее, стратегия Content Credentials не является надежной, как мы уже ранее сообщал. Метаданные можно легко удалить или экспортировать без них, либо обрезать «cr» на скриншотах, поэтому логотип «cr» не будет появляться на материале в будущем ни в каких приложениях. Он также опирается на приложения и сервисы для поддержки спецификации, независимо от того, создают или отображают мультимедиа.
Чтобы работать в масштабе и получить признание, ей также нужна какая-то облачная система, которую можно использовать для восстановления удаленных метаданных, что Adobe продвигает, а также маркетинговая кампания по распространению узнаваемости бренда. Если хотите, увеличьте популярность своего бренда.
OpenAI подтвердила это на этой неделе, объявив, что ChatGPT и API DALL-E 3 будут включать в свои выходные данные учетные данные контента C2PA.
«Метаданные, подобные C2PA, не являются панацеей для решения проблем происхождения», — OpenAI. признал. «Его можно легко удалить случайно или намеренно. Например, большинство социальных сетей сегодня удаляют метаданные из загруженных изображений, и такие действия, как создание снимка экрана, также могут удалить их. Следовательно, изображение, в котором отсутствуют эти метаданные, могло быть создано, а могло и не быть создано с помощью ChatGPT или нашего API».
Что касается влияния на размер файла, OpenAI настаивала на том, чтобы PNG-файл размером 3.1 МБ, созданный его API DALL-E, увеличивался примерно на три процента (или около 90 КБ) при включении метаданных. Между тем, файл WebP размером 287 КБ увеличится примерно на 32 процента с полезной нагрузкой в 90 КБ.
C2PA набирает обороты: по мере того, как все больше приложений и сервисов обещают его поддерживать, больше программного обеспечения может его использовать, больше людей должны его видеть, и поэтому он растет. Мета объявило На этой неделе она создавала инструменты для поддержки спецификации отраслевой группы.
«Мы считаем, что принятие этих методов для установления происхождения и поощрение пользователей к распознаванию этих сигналов является ключом к повышению надежности цифровой информации», — заявил OpenAI.
Нам сообщили, что ChatGPT через Интернет и модель DALL-E 3 через API теперь будут включать метаданные C2PA, а мобильные пользователи получат их к 12 февраля. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :является
- :нет
- $UP
- 12
- 2024
- 32
- 400
- 7
- a
- О нас
- признанный
- действия
- Добавить
- адрес
- саман
- Принятие
- Принятие
- AI
- Оповещение
- причислены
- an
- и
- объявляющий
- любой
- API
- приложение
- появиться
- Приложения
- прикладной
- Программы
- МЫ
- ARM
- AS
- At
- подлинность
- осведомленность
- со спинкой
- BE
- становиться
- было
- не являетесь
- верить
- между
- тело
- граница
- марка
- браузеры
- Строительство
- by
- Кампания
- Кампании
- CAN
- изменения
- ChatGPT
- облако
- CO
- коалиция
- Компании
- содержание
- содержание
- Создающий
- Полномочия
- криптографически
- дал-и
- данным
- объявленный
- подробнее
- обнаруживать
- Интернет
- непосредственно
- Раскрытие
- дезинформация
- Дисплей
- отображать
- выделить
- сомневаюсь
- легко
- редакторы
- усилия
- или
- выборы
- поощрение
- налаживание
- пример
- ожидаемый
- эксперты
- страх
- февраль
- Файл
- Файлы
- Что касается
- от
- полный
- будущее
- Gain
- получение
- генерируется
- генеративный
- получить
- группы
- Растет
- происходит
- Есть
- здесь
- Как
- HTML
- HTTPS
- идея
- Идеально
- if
- изображение
- изображений
- немедленно
- Влияние
- важную
- улучшается
- in
- включают
- В том числе
- Увеличение
- повышение
- все больше и больше
- указывать
- промышленность
- информация
- Intel
- намеренно
- мобильной
- вопросы
- IT
- ЕГО
- JPG
- Прыгать
- Основные
- Вид
- лаборатория
- недостающий
- последний
- такое как
- мало
- логотип
- машина
- сделанный
- отметка
- Маркетинг
- материала
- Май..
- Между тем
- Медиа
- Мета
- Метаданные
- методы
- Microsoft
- может быть
- дезинформация
- Мобильный телефон
- модель
- Модели
- БОЛЕЕ
- самых
- много
- природа
- потребности
- нет
- сейчас
- Очевидный
- of
- on
- ONE
- открытый
- OpenAI
- or
- происхождения
- наши
- внешний
- выходной
- за
- Люди
- процент
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Залог
- Точка
- сообщения
- представить
- президентский
- выборы президента
- защищенный
- происхождение
- Нажимать
- RE
- реальные
- признавать
- удаление
- удален
- восстановление
- рисках,
- s
- Шкала
- экран
- скриншоты
- посмотреть
- Услуги
- должен
- сигналы
- Серебро
- So
- Соцсети
- социальные сети
- социальные медиа-платформы
- Software
- некоторые
- Источник
- свиноматка
- Спецификация
- указанный
- распространение
- ступая
- магазин
- Стратегия
- такие
- супер
- поддержка
- поддержки
- синтетический
- система
- с
- технологии
- технологические компании
- terms
- который
- Ассоциация
- их
- Там.
- следовательно
- Эти
- они
- задача
- этой
- На этой неделе
- три
- в
- сегодня
- заявил
- инструменты
- тяга
- кредитоспособность
- ОЧЕРЕДЬ
- неразрешенный
- загружено
- us
- использование
- используемый
- Информация о пользователе
- пользователей
- использования
- Ve
- с помощью
- просмотр
- видимый
- законопроект
- we
- Web
- Веб-браузеры
- WebP
- неделя
- ЧТО Ж
- когда
- будь то
- который
- КТО
- будете
- в
- без
- Работа
- Ты
- зефирнет