Chicago University Tool Skydda digital konst från AI-skrapning

I ett initiativ för att stärka konstnärer och skydda deras digitala konstverk från obehörig användning, har forskare från University of Chicago avslöjat "Nightshade", ett verktyg designat för att "förgifta" digital konst.

Genom att subtilt ändra pixlarna i konstverk innan de laddas upp online, säkerställer Nightshade att varje försök av AI-modeller att skrapa och träna på dessa bilder kommer att resultera i kaotiska och oförutsägbara resultat, vilket effektivt bryter modellerna.

Det här verktyget dyker upp som svar på den växande oro och juridiska utmaningar som AI-jättar som OpenAI, Meta och Google står inför som artister världen över kräver respekt för deras upphovsrätt och immateriella rättigheter.

Konstnärer, det bästa verktyget vi kunde ha begärt för att bekämpa denna oöverträffade exploatering av vårt arbete är här!

Kommer från skaparna av @TheGlazeProject, låter Nightshade oss förgifta datamängder, skada modeller och lära AI-företag att be om lov först.https://t.co/WurjNDpvsl pic.twitter.com/iEP3TJBhVh

— Katria (@katriaraden) Oktober 23, 2023

Enligt personer som är bekanta med saken, lovar Nightshade inte bara att återställa maktbalansen för skaparna utan står också som ett bevis på de innovativa sätt på vilka den konstnärliga gemenskapen slår tillbaka.

Nightshade: En kamp för konstnärens rättigheter

Utvecklad under ledning av Ben Zhao, en framstående professor vid University of Chicago, är Nightshade ett bevis på motståndskraften och innovationen hos det konstnärliga samhället. Verktyget introducerar osynliga ändringar av pixlarna i konstverk, vilket gör dem giftiga för AI-modeller om de används utan tillstånd.

När dessa "förgiftade" bilder skrapas in i en träningsdatauppsättning orsakar de betydande fel i AI-utgångarna, förvandlar hundar till katter, bilar till kor och skapar en myriad av kaotiska resultat. MIT-teknik översyn, som fick en exklusiv förhandstitt av den pågående forskningen, lyfte fram Nightshades potential att skada framtida iterationer av framstående bildgenererande AI-modeller såsom DALL-E, Midjourney och Stable Diffusion.

Ett avskräckande medel mot intrång

Nightshade handlar inte bara om att sabotera AI-modeller; det är ett kraftfullt avskräckande medel som syftar till att luta tillbaka maktbalansen till förmån för artister. Med många konstnärer som lämnar in stämningar mot stora tekniska företag för att ha skrapat deras upphovsrättsskyddade material utan samtycke framstår Nightshade som en ledstjärna för hopp.

Genom att göra verktyget öppen källkod och integrera det med ett annat verktyg som heter Glaze, som maskerar en konstnärs stil från AI-skrapor, ger forskarna artisterna ett val. De kan nu aktivt delta i att skydda sitt arbete samtidigt som de bidrar till en växande arsenal av försvarsmekanismer mot obehörig AI-träning.

En uppmaning till robusta försvar

Men innovation kommer inte utan utmaningar och potentiella risker. Enligt MIT Technology Review belyser introduktionen av Nightshade i den digitala konstsfären en betydande säkerhetsrisk i generativa AI-modeller på grund av deras beroende av omfattande datamängder som skrapas från internet. Nightshade utnyttjar detta genom att "förgifta" dessa datamängder.

Denna metod har visat effektivitet i tester gjorda på Stabil diffusion senaste modellerna och en AI-modell tränad från grunden av forskarna.

Resultaten var skarpa; med bara 50 förgiftade bilder av hundar började resultatet från Stable Diffusion att förvrängas, vilket gjorde bilder av hundar till bisarra, tecknade varelser. Ändå erkänner Zhao potentialen för skadlig användning av dataförgiftning, och betonar behovet av utveckling av robusta försvar mot sådana attacker.

Ett steg mot rättvisa

Enligt experter är utvecklingen av Nightshade och Glaze ett steg mot att stärka artister i den digitala tidsåldern, ge dem verktyg för att skydda sitt arbete och utmana status quo för AI-företag.

Opt-out-policyer som erbjuds av AI-utvecklare har kritiserats för att lägga orimliga bördor på konstnärer och lämna företag med överbalanserad makt. Nightshade utmanar detta och erbjuder konstnärer ett proaktivt sätt att skydda sitt verk och kräva respekt för sina rättigheter.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://metanews.com/university-of-chicago-tool-to-protect-digital-art-from-ai-scraping/