Meta розробляє інструменти для виявлення, ідентифікації та позначення зображень, згенерованих штучним інтелектом, які публікуються через її платформи соціальних мереж. Він також тестує великі мовні моделі для автоматичної модерації онлайн-контенту.
У вівторок президент Meta з глобальних справ (і колишній заступник прем’єр-міністра Великої Британії) Нік Клегг оголосив про плани позначати у Facebook, Instagram і Threads матеріали, створені не лише за допомогою власних моделей ШІ для перетворення тексту в зображення, а й створених матеріалів. сторонніми програмами машинного навчання. Ідея полягає в тому, щоб попередити користувачів мережі про те, що онлайн-речі можуть бути не такими, як вони здаються, і, можливо, були винайдені за допомогою інструментів ШІ, щоб ввести в оману людей, незалежно від джерела.
Клегг сказав Зараз інженери Meta розробляють інструменти для позначення фотореалістичного штучного інтелекту вмісту підписом «Уявлено за допомогою штучного інтелекту» в додатках і відображатимуть цю позначку за потреби протягом наступних місяців.
Нам сказали, що фотореалістичні зображення, створені вбудованим помічником Meta AI, уже автоматично позначаються як такі за допомогою видимих і невидимих маркерів. Це високоякісний матеріал, створений штучним інтелектом, який надсилається ззовні, який також має бути певним чином виявлений і позначений як такий в імперії програм гіганта Facebook.
У короткостроковій перспективі Facebook має намір покладатися на водяні знаки всередині надісланих файлів, які заявляють про джерело вмісту (що покладається на зовнішні генератори контенту штучного інтелекту, включаючи ці позначки чи метадані, не видаляючи їх), а також просять людей чесно декларувати речі як Створено ШІ під час обміну медіафайлами.
У довгостроковій перспективі Meta має намір використовувати класифікатори, які можуть автоматично розпізнавати, чи був матеріал створений нейронною мережею чи ні, таким чином уникаючи цієї залежності від міток, наданих користувачем, і генераторів, включаючи підтримувані позначки. Ця потреба для користувачів зізнаватися, коли вони використовують фальшиві засоби масової інформації (якщо вони навіть знають, що вони фальшиві), а також покладатися на зовнішні програми, щоб правильно позначати речі як створені комп’ютером, не видаляючи їх іншими людьми. скажімо, в розробці програмного забезпечення, крихкий. Ці автоматичні класифікатори, якщо вони колись працюватимуть так добре, як хочеться, найбільше потрібні.
Принаймні на даний момент людям, які завантажують аудіо та відео, обов’язково потрібно буде декларувати, чи є цей матеріал дипфейком чи справжнім, оскільки Meta каже, що поки що немає послідовного способу ідентифікації кадрів і звуку, створених ШІ; і зображення або автоматично позначаються Meta AI, містять водяні знаки, які розкривають справжнє джерело, або, імовірно, можуть бути позначені людьми вручну. А пізніше все це може бути автоматизовано.
«Ми вимагатимемо, щоб люди використовували цей інструмент розголошення та позначення, коли вони публікують органічний вміст із фотореалістичним відео або реалістичним аудіо, створеним або зміненим цифровим способом, і ми можемо застосувати штрафи, якщо вони цього не зроблять», — Клегг. сказав.
Що стосується водяних знаків, які підтримує Meta, це включає ті, що надаються Коаліцією за походження та автентичність вмісту (C2PA) і Міжнародна рада з телекомунікацій преси (IPTC). Це галузеві ініціативи, підтримані технологічними та медіагрупами, які намагаються полегшити ідентифікацію створеного машиною контенту. Як ми повідомляли раніше, вони не надійні, і їх можна перемогти.
Останні стратегії Meta, спрямовані на боротьбу зі штучним інтелектом, з’явилися одразу після того, як її наглядова рада, група незалежних експертів, які перевіряють політику модерації контенту, поскаржилася, що поточні правила щодо маніпуляційних медіа є «непослідовними». Рада запустила а зонд минулого року, чому Meta вирішила дозволити підроблене відео президента Байдена, яке було цифрово змінено, щоб стверджувати, що він педофіл, залишитися у своїй імперії соціальних мереж.
На додаток до інструментів, що підтримуються C2PA та IPTC, Meta перевіряє здатність великих мовних моделей автоматично визначати, чи порушує публікація її політику.
Соціальні медіа навчають ці системи на власних даних і вважають, що програмне забезпечення може скоротити вміст, який потрібно оцінювати рецензентам, дозволяючи їм зосередитися на складніших випадках.
«Оскільки різниця між людським і синтетичним вмістом стає розмитою, люди хочуть знати, де проходить межа», — сказав Клегг.
«Люди часто вперше стикаються з контентом, створеним штучним інтелектом, і наші користувачі сказали нам, що вони цінують прозорість цієї нової технології. Ми використовуємо цей підхід протягом наступного року, протягом якого в усьому світі відбудеться низка важливих виборів». ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :є
- : ні
- :де
- $UP
- 7
- a
- здатність
- через
- доповнення
- Справи
- після
- AI
- AI помічник
- Моделі AI
- ВСІ
- дозволяти
- Дозволити
- вже
- Також
- змінений
- та
- оголошений
- застосування
- Застосовувати
- цінувати
- підхід
- додатка
- ЕСТЬ
- навколо
- AS
- запитувач
- оцінюється
- Помічник
- At
- аудіо
- справжність
- Автоматизований
- автоматично
- уникає
- знати
- геть
- підтриманий
- BE
- було
- буття
- Вірити
- між
- біден
- бізнес
- рада
- межа
- Створюємо
- вбудований
- але
- by
- CAN
- випадків
- стверджувати
- CO
- коаліція
- Приходити
- майбутній
- послідовний
- зміст
- правильно
- може
- Рада
- створений
- створений
- Поточний
- Вирізати
- різання
- дані
- вирішене
- заявляє
- безумовно
- заступник
- бажаний
- виявляти
- виявлено
- Виявлення
- Визначати
- розвивається
- різниця
- в цифровому вигляді
- розрізнення
- розкриття
- do
- вниз
- під час
- легше
- край
- або
- Вибори
- Імперія
- Машинобудування
- Інженери
- Навіть
- НІКОЛИ
- experts
- зовнішній
- FAIL
- підроблений
- FB
- Файли
- Перший
- перший раз
- позначений прапором
- Сфокусувати
- для
- Колишній
- від
- генератори
- отримує
- гігант
- Глобальний
- Групи
- було
- Мати
- he
- високоякісний
- Чесно
- HTTPS
- людина
- ідея
- ідентифікувати
- if
- зображення
- зображень
- уявляли
- важливо
- in
- включати
- includes
- У тому числі
- незалежний
- промисловість
- ініціативи
- всередині
- наміри
- Міжнародне покриття
- в
- Винайдений
- невидимий
- isn
- IT
- ЙОГО
- JPG
- просто
- Знати
- етикетка
- маркування
- мова
- великий
- останній
- Минулого року
- пізніше
- останній
- запущений
- найменш
- лежить
- ll
- Довго
- made
- зробити
- маніпулювати
- вручну
- позначено
- матеріал
- Може..
- Медіа
- Meta
- метадані
- Моделі
- поміркованому
- помірність
- місяців
- найбільш
- необхідно
- Необхідність
- необхідний
- потреби
- мережу
- нервовий
- нейронної мережі
- Нові
- наступний
- зарубка
- зараз
- номер
- of
- часто
- on
- онлайн
- тільки
- or
- органічний
- наші
- з
- поза
- над
- Нагляд
- власний
- панель
- штрафні санкції
- Люди
- фотографії
- місце
- плани
- Платформи
- plato
- Інформація про дані Платона
- PlatoData
- Політика
- пошта
- президент
- президент Байден
- press
- раніше
- Prime
- походження
- RE
- реальний
- Незалежно
- опора
- покладатися
- покладаючись
- Повідомляється
- вимагати
- показувати
- право
- Правила
- s
- Зазначений
- say
- говорить
- Здається,
- загальні
- поділ
- Короткий
- Показувати
- So
- соціальна
- соціальні медіа
- соціальні медіа-платформи
- соціальна мережа
- Софтвер
- розробка програмного забезпечення
- деякі
- Звучати
- Source
- залишатися
- стратегії
- представлений
- такі
- Підтриманий
- Опори
- синтетичний
- Systems
- вирішення проблем
- TAG
- взяття
- Технологія
- зв'язок
- термін
- Тестування
- Що
- Команда
- Джерело
- світ
- Їх
- Там.
- Ці
- вони
- це
- ті
- через
- Таким чином
- час
- до
- сказав
- інструмент
- інструменти
- Навчання
- прозорість
- правда
- намагатися
- намагається
- Вівторок
- Uk
- Завантаження
- us
- використання
- користувачі
- використання
- Ve
- через
- Відео
- видимий
- хотіти
- було
- Водяні знаки
- водяні знаки
- шлях..
- we
- ДОБРЕ
- були
- Що
- коли
- Чи
- який
- чому
- волі
- з
- без
- Work
- світ
- рік
- ще
- зефірнет