Taylor Swifts dybe falske nøgenbilleder fanger USA, Microsofts opmærksomhed

Taylor Swifts dybe falske nøgenbilleder fanger USA, Microsofts opmærksomhed

Tidsstempel: 30. januar 2024 kl. 2
Taylor Swifts dybe falske nøgenbilleder fanger USA, Microsofts opmærksomhed PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

Falske seksuelt eksplicitte AI-genererede virale billeder af pop royalty Taylor Swift har ramt en nerve, og har fået fans, Microsofts chef og endda Det Hvide Hus til at opfordre til øjeblikkelig handling for at tackle deepfakes.

De X-vurderede billeder, hvortil Registret vil ikke linke, cirkulerede online i weekenden og blev udgivet på X, hvilket opnåede mindst titusinder af visninger. Deepfakes har sat spørgsmålet om eksplicitte AI-deepfakes uden samtykke i centrum, da Swifties - hvoraf mange markerede billederne som passende - tilsyneladende var skuffede over at erfare, at der ikke er nogen føderal lov, der forbyder sådant indhold.

Vores stemmer er vores hemmelige våben, og vores ord er som power-ups i Fortnite

Denne hændelse kom længe efter forudgående bekymring over produktionen af ​​seksuelt eksplicitte deepfakes med mindre berømte kvinder uden deres samtykke. Nu hvor megastjernen Taylor Swift er blevet trukket ind i denne sump, er den rød alarm hele vejen rundt.

Pressesekretær i Det Hvide Hus, Karine Jean-Pierre, erklærede, at Kongressen "bør træffe lovgivende foranstaltninger" for at udrydde falske NSFW-billeder. "Vi er foruroligede over rapporterne om ... cirkulation af billeder, som du lige har lagt ud - af falske billeder for at være mere præcis, og det er alarmerende," hun fortalt ABC News.

I mellemtiden opfordrede Jean-Pierre apps til sociale medier inklusive X til at fjerne billederne og forhindre dem i at sprede sig online.

"Mens virksomheder på sociale medier træffer deres egne uafhængige beslutninger om indholdsstyring, mener vi, at de har en vigtig rolle at spille i at håndhæve deres egne regler for at forhindre spredning af misinformation og intime billeder uden samtykke af rigtige mennesker," tilføjede hun.

Twitter, eller X, blokerede på et tidspunkt søgninger efter Taylor Swift helt for at standse strømmen af ​​falske nøgenbilleder, hvilket ophævede blokaden sidste nat. Det har ikke stoppet de AI-genererede deepfakes fra at gå rundt i chatrooms og på billedtavler. Microsofts CEO Satya Nadella – hvis IT-gigants tekst-til-billede-værktøj Designer kan godt have været bruges til at skabe de falske snaps - kaldet de falske billeder "alarmerende og forfærdelige".

"Vi er nødt til at handle," Nadella fortalt NBC News, der henviser til autoværn, der skal sættes på plads for at forhindre Designer i at skabe denne slags materiale.

"Jeg tror, ​​vi alle har gavn af, når onlineverdenen er en sikker verden. Så jeg tror ikke, at nogen vil have en onlineverden, der er fuldstændig ufarlig for både indholdsskabere og indholdsforbrugere. Så derfor synes jeg, det påhviler os at gå hurtigt videre med det her."

Tidligere på måneden genindførte Joe Morelle (D-NY) og Tom Kean (R-NJ), medlemmer af det amerikanske Repræsentanternes Hus, loven om Preventing Deepfakes of Intimate Images. Regningen har til formål at kriminalisere oprettelse og deling af seksuelt eksplicitte AI-billeder uden samtykke, med straffe på op til ti års fængsel.

Morelle introducerede lovgivningen ledsaget af New Jersey-teenageren Francesca Mani og hendes mor Dorota, som havde været frustreret over at være ude af stand til at få støtte til at forhindre brugen af ​​seksuelt eksplicitte deepfake-billeder.

"Bare fordi jeg er teenager, betyder det ikke, at min stemme ikke er stærk. Forbliver stille? Ikke en mulighed. Vi får stemmer til at udfordre, til at tale op imod de uretfærdigheder, vi står over for. Det, der skete med mig og mine klassekammerater, var ikke fedt, og der er ingen måde, jeg bare vil trække på skuldrene og lade det glide.” argumenteret Francesca.

"Jeg er her, står op og råber på forandring, kæmper for love, så ingen andre skal føle sig så fortabte og magtesløse, som jeg gjorde den 20. oktober. Vores stemmer er vores hemmelige våben, og vores ord er som power-ups i Fortnite. Min mor og jeg går ind for at skabe en verden, hvor tryghed ikke kun er et håb; det er en realitet for alle."

Lovforslaget blev præsenteret for Kongressen i 2023 og henvist til Husudvalget for retsvæsenet, selvom der ikke blev truffet nogen handling på det tidspunkt. ®

Tidsstempel:

Mere fra Registret