Инструмент Чикагского университета защищает цифровое искусство от взлома ИИ

В рамках инициативы по расширению прав и возможностей художников и защите их цифровых произведений искусства от несанкционированного использования исследователи из Чикагского университета представили «Nightshade» — инструмент, предназначенный для «отравления» цифрового искусства.

Тонко изменяя пиксели в произведениях искусства перед их загрузкой в ​​Интернет, Nightshade гарантирует, что любая попытка AI модели очистка и обучение на этих изображениях приведет к хаотичным и непредсказуемым результатам, что фактически нарушит работу моделей.

Этот инструмент появился в ответ на растущую обеспокоенность и юридические проблемы, с которыми сталкиваются гиганты искусственного интеллекта, такие как OpenAI, Meta и Google, поскольку художники во всем мире требуют уважения их авторских прав и интеллектуальной собственности.

Художники, лучший инструмент, который мы могли бы попросить для борьбы с этой беспрецедентной эксплуатацией нашего труда, уже здесь!

Исходя из создателей @TheGlazeProjectNightshade позволяет нам отравлять наборы данных, модели повреждений и учить компании, занимающиеся искусственным интеллектом, сначала запрашивать разрешение.https://t.co/WurjNDpvsl pic.twitter.com/iEP3TJBhVh

— Катрия (@katriaraden) 23 октября 2023

По словам людей, знакомых с ситуацией, Nightshade не только обещает восстановить баланс сил создателей, но и является свидетельством инновационных способов, которыми художественное сообщество дает отпор.

Паслен: Борьба за права художника

Разработанный под руководством Бена Чжао, выдающегося профессора Чикагского университета, Nightshade является свидетельством устойчивости и новаторства художественного сообщества. Инструмент вносит невидимые изменения в пиксели произведений искусства, делая их токсичными для моделей ИИ, если использовать их без разрешения.

Когда эти «отравленные» изображения помещаются в набор обучающих данных, они вызывают существенные сбои в работе ИИ, превращая собак в кошек, автомобили в коров и создавая множество хаотичных результатов. Массачусетский технологический институт Обзор, получивший эксклюзивный обзор продолжающегося исследования, подчеркнул, что Nightshade может нанести вред будущим итерациям известных модели искусственного интеллекта, генерирующие изображения такие как DALL-E, Midjourney и Stable Diffusion.

Сдерживание от нарушений

Nightshade занимается не только саботажем моделей искусственного интеллекта; это мощный сдерживающий фактор, направленный на изменение баланса сил в пользу художников. С многочисленными артисты подают иски против крупных технологических корпораций за сбор материалов, защищенных авторским правом, без их согласия, Nightshade становится маяком надежды.

Сделав инструмент открытым исходным кодом и интегрировав его с другим инструментом под названием Glaze, который маскирует стиль художника от парсеров AI, исследователи предоставляют художникам выбор. Теперь они могут активно участвовать в защите своей работы, одновременно внося свой вклад в растущий арсенал защитных механизмов от несанкционированного обучения ИИ.

Призыв к надежной обороне

Однако инновации не обходятся без проблем и потенциальных рисков. По данным MIT Technology Review, внедрение Nightshade в сферу цифрового искусства подчеркивает значительную уязвимость безопасности генеративных моделей искусственного интеллекта из-за их зависимости от обширных наборов данных, полученных из Интернета. Nightshade использует это, «отравляя» эти наборы данных.

Этот метод показал эффективность в испытаниях, проведенных на Стабильная диффузия новейшие модели и модель искусственного интеллекта, обученная исследователями с нуля.

Результаты были поразительными; Имея всего 50 отравленных изображений собак, результаты Stable Diffusion начали искажаться, превращая изображения собак в причудливых мультяшных существ. Тем не менее, Чжао признает возможность злонамеренного использования искажения данных, подчеркивая необходимость разработки надежной защиты от таких атак.

Шаг к справедливости

По мнению экспертов, разработка Nightshade и Glaze — это шаг к расширению прав и возможностей художников в эпоху цифровых технологий, предоставлению им инструментов для защиты их работ и бросанию вызов статус-кво компаний, занимающихся искусственным интеллектом.

Политика отказа, предлагаемая Разработчики ИИ подверглись критике за то, что они возлагают неоправданное бремя на художников и оставляют компаниям чрезмерную власть. Nightshade бросает вызов этому, предлагая художникам активные средства защиты их работ и требования уважения их прав.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/university-of-chicago-tool-to-protect-digital-art-from-ai-scraping/