Tentativas de evitar proteções de IA responsabilizadas por deepfakes Swift

As imagens virais obscenas e falsas da popstar Taylor Swift supostamente resultaram de uma competição online no 4chan, desafiando os concorrentes a quebrar filtros de conteúdo de software de IA. 

O pessoal da Graphika, uma empresa de análise de mídia social de Nova York, rastreou as fotos diretamente até o 4chan. As pessoas foram solicitadas a inventar truques para contornar as barreiras de segurança em aplicativos como o Designer da Microsoft ou o DALL-E da OpenAI para criar imagens NSFW de celebridades femininas. As fotos de Taylor Swift foram criadas no Microsoft Designer e posteriormente compartilhadas em um chat em grupo no Telegram, antes de serem postadas no X, segundo Graphika.

“Continuamos investigando essas imagens e fortalecemos nossos sistemas de segurança existentes para evitar ainda mais que nossos serviços sejam mal utilizados para ajudar a gerar imagens como essas”, disse um porta-voz da Microsoft. O registro em um comunicado. 

Imagens falsas de rápido acumulou milhões de visualizações no X antes que a plataforma de mídia social as removesse e bloqueasse temporariamente alguns termos de pesquisa relacionados ao compositor. Graphika, no entanto, disse que a competição tinha como alvo outras figuras femininas conhecidas e alertou que a tecnologia poderia ser abusada para atingir qualquer pessoa. 

“Embora as imagens pornográficas virais de Taylor Swift tenham chamado a atenção do público para a questão das imagens íntimas não consensuais geradas por IA, ela está longe de ser a única vítima”, disse Cristina López G., analista sênior da Graphika. disse Bloomberg. “Na comunidade 4chan onde essas imagens se originaram, ela nem é a figura pública mais frequentemente visada. Isto mostra que qualquer pessoa pode ser alvo desta forma, desde celebridades globais até crianças em idade escolar.”

A natureza viral das imagens falsas retratando Swift em poses sexualmente sugestivas, no entanto, parece ter acionado os legisladores. A secretária de imprensa da Casa Branca, Karine Jean-Pierre, instou o Congresso a “tomar medidas legislativas” em resposta às imagens “alarmantes”. 

Na semana passada, os senadores dos EUA apresentaram a Lei Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) de 2024, uma lei conta bipartidária isso permitiria às vítimas processar pessoas que criam e compartilham deepfakes obscenos gerados por IA. A legislação, liderada pelos senadores Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) e Josh Hawley (R-MO), apontou para um estudo que reivindicou 96 por cento dos vídeos deepfake eram pornográficos e foram criados sem permissão ou consentimento das mulheres retratadas. 

A lei DEFIANCE foi lançada no momento em que os principais CEOs das plataformas de mídia social foram questionados em um congresso audição sobre a exploração sexual de crianças online e a falta de proteção.

O registro pediu ao Graphika mais comentários. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/