Les tentatives pour éviter les garde-fous de l'IA sont imputées aux deepfakes de Swift

Les tentatives pour éviter les garde-fous de l'IA sont imputées aux deepfakes de Swift

Horodatage: 5 février 2024 5:11
Attempts to avoid AI guardrails blamed for Swift deepfakes PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Les images virales et obscènes de la popstar Taylor Swift proviendraient d'un concours en ligne sur 4chan, mettant les candidats au défi de briser les filtres de contenu des logiciels d'IA. 

Les gens de Graphika, une société new-yorkaise d'analyse des médias sociaux, ont retracé les photos directement jusqu'à 4chan. Il a été demandé aux gens de trouver des astuces pour contourner les garde-fous de sécurité sur des applications telles que Designer de Microsoft ou DALL-E d'OpenAI afin de créer des images NSFW de célébrités féminines. Les photos de Taylor Swift ont été créées à l'aide de Microsoft Designer, puis partagées lors d'une discussion de groupe sur Telegram, avant d'être publiées sur X, selon Graphika.

"Nous continuons d'enquêter sur ces images et avons renforcé nos systèmes de sécurité existants pour empêcher davantage que nos services soient utilisés à mauvais escient pour générer des images similaires", a déclaré un porte-parole de Microsoft. Le registre dans un communiqué. 

Images deepfakes de Swift a accumulé des millions de vues sur X avant que la plateforme de médias sociaux ne les supprime et bloque temporairement certains termes de recherche liés à l'auteur-compositeur. Graphika a toutefois déclaré que le concours visait d'autres personnalités féminines bien connues et a averti que la technologie pourrait être utilisée à mauvais escient pour cibler n'importe qui. 

"Bien que les images pornographiques virales de Taylor Swift aient attiré l'attention du grand public sur la question des images intimes non consensuelles générées par l'IA, elle est loin d'être la seule victime", Cristina López G., analyste principale chez Graphika, dit Bloomberg. « Dans la communauté 4chan d'où proviennent ces images, elle n'est même pas la personnalité publique la plus fréquemment ciblée. Cela montre que n’importe qui peut être ciblé de cette manière, des célébrités mondiales aux écoliers. »

La nature virale des fausses images représentant Swift dans des poses sexuellement suggestives semble cependant avoir donné un coup de pouce aux législateurs. L'attachée de presse de la Maison Blanche, Karine Jean-Pierre, a exhorté le Congrès à « prendre des mesures législatives » en réponse aux images « alarmantes ». 

La semaine dernière, les sénateurs américains ont présenté la loi DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) de 2024, une projet de loi bipartite cela permettrait aux victimes de poursuivre en justice les personnes qui créent et partagent des deepfakes obscènes générés par l’IA. La législation, dirigée par les sénateurs Dick Durbin (Démocrate-IL), Lindsey Graham (R-SC), Amy Klobuchar (Démocrate-MN) et Josh Hawley (R-MO), a souligné une étude qui revendiquait 96 % des vidéos deepfake. étaient pornographiques et avaient été créés sans la permission ni le consentement des femmes qu'ils représentaient. 

La loi DEFIANCE a été lancée au moment où les principaux PDG des plateformes de médias sociaux étaient interrogés lors d'une réunion du Congrès. entendre sur l’exploitation sexuelle des enfants en ligne et le manque de protection.

Le registre a demandé à Graphika des commentaires supplémentaires. ®

Horodatage:

Plus de Le registre