Deepfake-naakten van Taylor Swift trekken de aandacht van de VS en Microsoft

Deepfake-naakten van Taylor Swift trekken de aandacht van de VS en Microsoft

Tijdstempel: 30 januari 2024 2:28 uur
Deepfake-naakten van Taylor Swift trekken de aandacht van Microsoft, PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Fake seksueel expliciete, door AI gegenereerde virale beelden van pop-royalty Taylor Swift hebben een gevoelige snaar geraakt, waardoor fans, de baas van Microsoft en zelfs het Witte Huis oproepen tot onmiddellijke actie om deepfakes aan te pakken.

De X-rated afbeeldingen, waarop Het register zal niet linken, circuleerde het afgelopen weekend online en werd gepubliceerd op X, met minstens tientallen miljoenen views. De deepfakes hebben de kwestie van niet-consensuele expliciete AI-deepfakes centraal gesteld, omdat Swifties – van wie velen de afbeeldingen als gepast bestempelden – blijkbaar teleurgesteld waren toen ze hoorden dat er geen federale wet is die dergelijke inhoud verbiedt.

Onze stemmen zijn ons geheime wapen en onze woorden zijn als power-ups in Fortnite

Dit incident kwam lang daarna voorafgaande zorg over de productie van seksueel expliciete deepfakes met minder bekende vrouwen zonder hun toestemming. Nu megaster Taylor Swift in dit moeras is getrokken, is het overal alarmsignaal.

De perssecretaris van het Witte Huis, Karine Jean-Pierre, verklaarde dat het Congres “wetgevende maatregelen moet nemen” om valse NSFW-afbeeldingen uit te roeien. “We zijn gealarmeerd door de berichten over de … circulatie van afbeeldingen die u zojuist hebt opgemaakt – van valse afbeeldingen om precies te zijn, en het is alarmerend”, zegt ze. vertelde ABC nieuws.

In de tussentijd drong Jean-Pierre er bij sociale media-apps, waaronder X, op aan om de afbeeldingen te verwijderen en te voorkomen dat ze zich online verspreiden.

“Terwijl socialemediabedrijven hun eigen onafhankelijke beslissingen nemen over contentmanagement, geloven wij dat ze een belangrijke rol kunnen spelen bij het handhaven van hun eigen regels om de verspreiding van verkeerde informatie en niet-consensuele, intieme beelden van echte mensen te voorkomen”, voegde ze eraan toe.

Twitter, of X, blokkeerde op een gegeven moment zoekopdrachten naar Taylor Swift volledig om de stroom van nagemaakte naakten een halt toe te roepen, waardoor de blokkade werd opgeheven afgelopen nacht. Dat heeft de door AI gegenereerde deepfakes niet tegengehouden die de ronde doen in chatrooms en op beeldborden. Microsoft-CEO Satya Nadella – wiens tekst-naar-afbeelding-tool Designer van de IT-gigant kan best geweest zijn gebruikt om de nepkiekjes te maken – de valse beelden ‘alarmerend en verschrikkelijk’ genoemd.

‘We moeten handelen,’ Nadella vertelde NBC News, verwijzend naar vangrails die moeten worden geplaatst om te voorkomen dat Designer dit soort materiaal maakt.

“Ik denk dat we er allemaal baat bij hebben als de online wereld een veilige wereld is. En dus denk ik niet dat iemand een online wereld wil die volkomen onveilig is voor zowel makers van inhoud als consumenten van inhoud. Daarom denk ik dat het ons betaamt om hier snel actie op te ondernemen.”

Eerder deze maand hebben Joe Morelle (D-NY) en Tom Kean (R-NJ), leden van het Amerikaanse Huis van Afgevaardigden, de Preventing Deepfakes of Intimate Images Act opnieuw ingevoerd. Het wetsvoorstel heeft tot doel het creëren en delen van seksueel expliciete AI-foto's zonder wederzijds goedvinden strafbaar te stellen, met straffen tot tien jaar gevangenisstraf.

Morelle introduceerde de wetgeving samen met de New Jersey-tiener Francesca Mani en haar moeder Dorota, die gefrustreerd waren omdat ze geen enkele steun konden krijgen voor het voorkomen van het gebruik van seksueel expliciete deepfake-beelden.

“Het feit dat ik een tiener ben, betekent niet dat mijn stem niet krachtig is. Stil blijven? Geen optie. We krijgen stemmen om uit te dagen, om ons uit te spreken tegen de onrechtvaardigheden waarmee we worden geconfronteerd. Wat er met mij en mijn klasgenoten is gebeurd, was niet cool, en ik kan onmogelijk mijn schouders ophalen en het van me af laten glijden, ' betoogde Francesca.

“Ik ben hier, sta op en roep om verandering, vecht voor wetten, zodat niemand anders zich zo verloren en machteloos hoeft te voelen als ik op 20 oktober. Onze stemmen zijn ons geheime wapen, en onze woorden zijn als power-ups in Fortnite. Mijn moeder en ik pleiten ervoor een wereld te creëren waarin veiligheid niet alleen maar hoop is; het is een realiteit voor iedereen.”

Het wetsvoorstel werd in 2023 bij het Congres ingediend en doorverwezen naar de House Committee on the Judiciary, hoewel er destijds geen actie werd ondernomen. ®

Tijdstempel:

Meer van Het register