Інструмент Чиказького університету захистить цифрове мистецтво від сканування штучним інтелектом

В рамках ініціативи, спрямованої на розширення можливостей художників і захист їхніх цифрових творів мистецтва від несанкціонованого використання, дослідники з Чиказького університету представили «Nightshade», інструмент, призначений для «отруєння» цифрового мистецтва.

Делікатно змінюючи пікселі в творах мистецтва перед їх завантаженням в Інтернет, Nightshade гарантує, що будь-яка спроба Моделі AI аналіз цих зображень і навчання на них призведуть до хаотичних і непередбачуваних результатів, фактично порушуючи моделі.

Цей інструмент з’явився у відповідь на зростаючі занепокоєння та юридичні проблеми, з якими стикаються такі гіганти штучного інтелекту, як OpenAI, Meta та Google, оскільки митці по всьому світу вимагають поваги до своїх авторських прав та інтелектуальної власності.

Митці, найкращий інструмент, який ми могли побажати, щоб боротися з цією безпрецедентною експлуатацією нашої праці, тут!

Походить від творців @TheGlazeProject, Nightshade дозволяє нам отруювати набори даних, пошкоджувати моделі та вчити компанії ШІ запитувати дозвіл першими.https://t.co/WurjNDpvsl pic.twitter.com/iEP3TJBhVh

— Катрія (@katriaraden) Жовтень 23, 2023

За словами людей, обізнаних у цьому питанні, Nightshade не лише обіцяє відновити баланс сил для творців, але й є свідченням інноваційних способів, якими художня спільнота дає відсіч.

Паслін: боротьба за права художника

Розроблений під керівництвом Бена Чжао, видатного професора Чиказького університету, Nightshade є свідченням стійкості та новаторства художньої спільноти. Інструмент вносить невидимі зміни в пікселі в ілюстраціях, роблячи їх токсичними для моделей ШІ, якщо використовувати без дозволу.

Коли ці «отруєні» зображення потрапляють у навчальний набір даних, вони спричиняють суттєві збої в роботі штучного інтелекту, перетворюючи собак на котів, машини на корів і створюючи безліч хаотичних результатів. Технологія MIT Розгляд, який отримав ексклюзивний попередній перегляд поточних досліджень, підкреслив потенціал Nightshade завдати шкоди майбутнім ітераціям видатних моделі ШІ, що генерують зображення такі як DALL-E, Midjourney і Stable Diffusion.

Стримуючий фактор проти порушень

Nightshade — це не просто саботування моделей ШІ; це потужний стримуючий фактор, спрямований на те, щоб змінити баланс сил на користь митців. З численними художники подають позови проти великих технологічних корпорацій за видалення їхніх захищених авторським правом матеріалів без згоди, Nightshade постає маяком надії.

Зробивши інструмент відкритим кодом та інтегрувавши його з іншим інструментом під назвою Glaze, який маскує стиль художника від скребків AI, дослідники надають художникам вибір. Тепер вони можуть активно брати участь у захисті своєї роботи, роблячи внесок у зростаючий арсенал механізмів захисту від несанкціонованого навчання ШІ.

Заклик до надійного захисту

Однак інновації не обходяться без проблем і потенційних ризиків. Згідно з MIT Technology Review, впровадження Nightshade у сферу цифрового мистецтва підкреслює значну вразливість у безпеці генеративних моделей штучного інтелекту через їх залежність від великих наборів даних, зібраних з Інтернету. Паслін використовує це, «отруюючи» ці набори даних.

Цей метод показав ефективність у тестах, проведених на Стабільна дифузія найновіші моделі та модель ШІ, навчену дослідниками з нуля.

Результати були різкими; маючи лише 50 отруєних зображень собак, результати Stable Diffusion почали спотворюватися, перетворюючи зображення собак на химерних мультяшних істот. Проте Чжао визнає можливість зловмисного використання отруєння даних, наголошуючи на необхідності розробки надійного захисту від таких атак.

Крок до справедливості

На думку експертів, розробка Nightshade and Glaze є кроком у напрямку розширення можливостей митців у цифрову епоху, надання їм інструментів для захисту їхніх робіт і кинення статус-кво компаній зі штучним інтелектом.

Політика відмови, яку пропонує Розробники AI піддавалися критиці за те, що вони поклали невиправданий тягар на артистів і залишили компаніям надмірну владу. Nightshade кидає виклик цьому, пропонуючи митцям проактивні засоби для захисту їхніх робіт і вимагати дотримання їхніх прав.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://metanews.com/university-of-chicago-tool-to-protect-digital-art-from-ai-scraping/