Chicago University Tool Beskyt digital kunst mod AI-skrabning

I et initiativ for at styrke kunstnere og beskytte deres digitale kunstværker mod uautoriseret brug, har forskere fra University of Chicago afsløret 'Nightshade', et værktøj designet til at 'forgifte' digital kunst.

Ved subtilt at ændre pixels i kunstværker, før de uploades online, sikrer Nightshade, at ethvert forsøg fra AI modeller at skrabe og træne på disse billeder vil resultere i kaotiske og uforudsigelige resultater, hvilket effektivt bryder modellerne.

Dette værktøj dukker op som reaktion på de voksende bekymringer og juridiske udfordringer, som AI-giganter som OpenAI, Meta og Google står over for, da kunstnere verden over råber på respekt for deres ophavsret og intellektuelle ejendomsrettigheder.

Kunstnere, det bedste værktøj, vi kunne have bedt om til at bekæmpe denne hidtil usete udnyttelse af vores arbejdskraft, er her!

Kommer fra skaberne af @TheGlazeProject, Nightshade lader os forgifte datasæt, beskadige modeller og lære AI-virksomheder at bede om tilladelse først.https://t.co/WurjNDpvsl pic.twitter.com/iEP3TJBhVh

— Katria (@katriaraden) Oktober 23, 2023

Ifølge folk, der kender til sagen, lover Nightshade ikke kun at genoprette magtbalancen for skaberne, men står også som et vidnesbyrd om de innovative måder, hvorpå det kunstneriske samfund kæmper tilbage.

Nightshade: En kamp for kunstnerens rettigheder

Udviklet under ledelse af Ben Zhao, en fremtrædende professor ved University of Chicago, er Nightshade et vidnesbyrd om modstandskraften og innovationen i det kunstneriske samfund. Værktøjet introducerer usynlige ændringer af pixels i kunstværker, hvilket gør dem giftige for AI-modeller, hvis de bruges uden tilladelse.

Når disse 'forgiftede' billeder skrabes ind i et træningsdatasæt, forårsager de væsentlige fejlfunktioner i AI-output, hvilket gør hunde til katte, biler til køer og skaber et utal af kaotiske resultater. MIT teknologi anmeldelse, som modtog en eksklusiv forhåndsvisning af den igangværende forskning, fremhævede Nightshades potentiale til at skade fremtidige iterationer af prominente billedgenererende AI-modeller såsom DALL-E, Midjourney og Stable Diffusion.

Afskrækkende mod krænkelse

Nightshade handler ikke kun om at sabotere AI-modeller; det er en kraftfuld afskrækkelse, der sigter mod at vippe magtbalancen tilbage til fordel for kunstnere. Med talrige kunstnere, der anlægger sag mod store tech-virksomheder for at skrabe deres ophavsretligt beskyttede materiale uden samtykke, fremstår Nightshade som et fyrtårn af håb.

Ved at gøre værktøjet til open source og integrere det med et andet værktøj kaldet Glaze, som maskerer en kunstners stil fra AI-skrabere, giver forskerne kunstnerne et valg. De kan nu aktivt deltage i at beskytte deres arbejde og samtidig bidrage til et voksende arsenal af forsvarsmekanismer mod uautoriseret AI-træning.

En opfordring til robust forsvar

Men innovation kommer ikke uden udfordringer og potentielle risici. Ifølge MIT Technology Review fremhæver introduktionen af ​​Nightshade i den digitale kunstsfære en betydelig sikkerhedssårbarhed i generative AI-modeller på grund af deres afhængighed af omfattende datasæt skrabet fra internettet. Nightshade udnytter dette ved at 'forgifte' disse datasæt.

Denne metode har vist effektivitet i test udført på Stabil diffusion nyeste modeller og en AI-model trænet fra bunden af ​​forskerne.

Resultaterne var skarpe; med kun 50 forgiftede billeder af hunde begyndte outputtet fra Stable Diffusion at forvrænge, ​​hvilket gjorde billeder af hunde til bizarre, tegneserieagtige skabninger. Alligevel anerkender Zhao potentialet for ondsindet brug af dataforgiftning og understreger behovet for udvikling af robuste forsvar mod sådanne angreb.

Et skridt mod retfærdighed

Ifølge eksperter er udviklingen af ​​Nightshade og Glaze et skridt hen imod at styrke kunstnere i den digitale tidsalder, give dem værktøjer til at beskytte deres arbejde og udfordre status quo for AI-virksomheder.

Fravalgspolitikker, der tilbydes af AI udviklere er blevet kritiseret for at lægge unødige byrder på kunstnere og efterlade virksomheder med overbalanceret magt. Nightshade udfordrer dette og tilbyder kunstnere et proaktivt middel til at beskytte deres arbejde og kræve respekt for deres rettigheder.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://metanews.com/university-of-chicago-tool-to-protect-digital-art-from-ai-scraping/