Taylor Swifts dypfalske nakenbilder fanger USA, Microsofts oppmerksomhet

Taylor Swifts dypfalske nakenbilder fanger USA, Microsofts oppmerksomhet

Tidsstempel: 30. januar 2024 2:28
Taylor Swifts dypfalske nakenbilder fanger USA, Microsofts oppmerksomhet PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Falske seksuelt eksplisitte AI-genererte virale bilder av popkongelige Taylor Swift har slått en nerve, ført til at fans, Microsofts sjef og til og med Det hvite hus krever umiddelbar handling for å takle deepfakes.

De X-vurderte bildene, som Registeret vil ikke lenke, sirkulert på nettet i løpet av helgen og ble publisert på X, og fikk minst titalls millioner visninger. Deepfakes har satt spørsmålet om ikke-samtykke eksplisitte AI deepfakes i sentrum, da Swifties – mange av dem flagget bildene som passende – tilsynelatende var skuffet over å høre at det ikke er noen føderal lov som forbyr slikt innhold.

Stemmene våre er vårt hemmelige våpen, og ordene våre er som power-ups i Fortnite

Denne hendelsen kom lenge etter tidligere bekymring over produksjonen av seksuelt eksplisitte deepfakes med mindre kjente kvinner uten deres samtykke. Nå som megastjernen Taylor Swift har blitt dratt inn i denne hengemyren, er den rødvarsling hele veien.

Pressesekretær i Det hvite hus, Karine Jean-Pierre, erklærte at kongressen «bør ta lovgivende tiltak» for å utrydde falske NSFW-bilder. "Vi er skremt av rapportene om ... sirkulasjon av bilder som du nettopp har lagt ut - av falske bilder for å være mer nøyaktig, og det er alarmerende," hun fortalte ABC News.

I mellomtiden oppfordret Jean-Pierre apper for sosiale medier, inkludert X, til å ta ned bildene og hindre dem i å spre seg på nettet.

"Mens sosiale medieselskaper tar sine egne uavhengige avgjørelser om innholdsstyring, mener vi at de har en viktig rolle å spille i å håndheve sine egne regler for å forhindre spredning av feilinformasjon og ikke-samtykkelige, intime bilder av ekte mennesker," la hun til.

Twitter, eller X, blokkerte på et tidspunkt søk etter Taylor Swift helt for å stoppe strømmen av falske nakenbilder, og opphevet blokaden i går kveld. Det har ikke stoppet de AI-genererte deepfakes fra å gå rundt i chatterom og på bildetavler. Microsoft-sjef Satya Nadella – hvis IT-gigantens tekst-til-bilde-verktøy Designer kan godt ha vært brukes til å lage de falske snapsene - kalt de falske bildene "alarmerende og forferdelige."

"Vi må handle," Nadella fortalte NBC News, med henvisning til rekkverk som må settes på plass for å hindre Designer i å lage denne typen materiale.

"Jeg tror vi alle drar nytte av når nettverdenen er en trygg verden. Så jeg tror ikke noen vil ha en nettverden som ikke er helt trygg for både innholdsskapere og innholdsforbrukere. Så derfor tror jeg det påstår oss å gå raskt videre med dette.»

Tidligere denne måneden gjeninnførte Joe Morelle (D-NY) og Tom Kean (R-NJ), medlemmer av det amerikanske representantenes hus, loven om å forhindre dype falske bilder. Regningen har som mål å kriminalisere opprettelse og deling av seksuelt eksplisitte AI-bilder uten samtykke, med straffer på opptil ti års fengsel.

Morelle introduserte lovgivningen akkompagnert av New Jersey-tenåringen Francesca Mani og moren hennes Dorota, som hadde vært frustrert over å ikke kunne få støtte for å forhindre bruk av seksuelt eksplisitte dypfalske bilder.

«Bare fordi jeg er tenåring, betyr det ikke at stemmen min ikke er sterk. Forbli stille? Ikke et alternativ. Vi får stemmer for å utfordre, for å tale opp mot urettferdighetene vi møter. Det som skjedde med meg og klassekameratene mine var ikke kult, og det er ingen måte jeg bare kommer til å trekke på skuldrene og la det gli.» argumentert Francesca.

«Jeg er her, står opp og roper for endring, kjemper for lover så ingen andre trenger å føle seg så fortapt og maktesløse som jeg gjorde 20. oktober. Stemmene våre er vårt hemmelige våpen, og ordene våre er som power-ups i Fortnite. Min mor og jeg tar til orde for å skape en verden der trygghet ikke bare er et håp; det er en realitet for alle."

Lovforslaget ble presentert for kongressen i 2023 og henvist til huskomiteen for rettsvesenet, selv om det ikke ble iverksatt tiltak den gangen. ®

Tidstempel:

Mer fra Registeret