IWF exige ação contra pedófilos usando IA generativa

A Internet Watch Foundation alerta que a IA generativa ameaça permitir a “geração de imagens em escala”, o que “sobrecarregará aqueles que trabalham para combater o abuso sexual infantil online”.

O organismo está alarmado com o rápido progresso da IA ​​generativa ao longo do ano passado e prevê que o material de abuso sexual infantil (CSAM) gerado pela IA só se tornará mais explícito com o tempo.

O mais perturbador dos crimes

A Internet Watch Foundation afirma que AI tem um grande potencial para melhorar as nossas vidas, mas alerta que a tecnologia pode facilmente ser utilizada para fins malévolos.

Susie Hargreaves, executiva-chefe da IWF, disse ao Guardian em Wednesday que os “piores pesadelos da agência se tornaram realidade”.

“No início deste ano, alertámos que as imagens da IA ​​poderiam em breve tornar-se indistinguíveis das imagens reais de crianças que sofrem abuso sexual e que poderíamos começar a ver estas imagens proliferarem em números muito maiores. Já ultrapassamos esse ponto”, disse Hargreaves.

Ela acrescentou: “É assustador, estamos vendo criminosos treinando deliberadamente sua IA em imagens de vítimas reais que já sofreram abusos. Crianças que foram violadas no passado estão agora a ser incorporadas em novos cenários porque alguém, em algum lugar, quer ver isso.”

A escala do problema já está a causar grandes problemas para aqueles que lutam contra o CSAM.

Em um mês, 20,254 imagens geradas por IA foram postadas em um fórum CSAM da dark web. Os analistas da IWF identificaram 2,562 pseudofotografias criminais, criadas com a ajuda de IA generativa.

Mais de metade delas mostrava crianças com menos de 10 anos, enquanto 564 foram classificadas como imagens de categoria A – a forma mais grave de imagens de abuso infantil.

Fotos CSAM de celebridades

A IA generativa está criando novas categorias de CSAM. As descobertas da IWF mostram que as celebridades estão envelhecendo e sendo transformadas em crianças com ferramentas de IA.

As celebridades idosas são então colocadas em cenários abusivos para a gratificação dos pedófilos online.

Os filhos de celebridades também são alvo, “nudificando” os jovens para os usuários dos fóruns da darknet.

A IWF afirma que estas imagens são cada vez mais difíceis de distinguir do CSAM real.

“O CSAM de IA mais convincente é visualmente indistinguível do CSAM real, mesmo para analistas treinados da IWF. A tecnologia de texto para imagem só ficará melhor e representará mais desafios para a IWF e as agências de aplicação da lei”, diz o documento. Denunciar.

Recomendações governamentais

A IWF, que tem sede no Reino Unido, está pedindo às empresas de tecnologia de todo o mundo que garantam que o CSAM seja contra seus acordos de termos de uso. Pretende também uma melhor formação para as autoridades responsáveis ​​pela aplicação da lei, para que possam identificar mais facilmente estes tipos de imagens.

A IWF também está pedindo ao governo britânico que faça do AI CSAM um importante tópico de discussão na próxima Cúpula de IA em Bletchley Park, no próximo mês.

O Reino Unido espera atrair para o evento os principais intervenientes do mundo empresarial, bem como líderes mundiais. Até agora, a primeira-ministra italiana, Giorgia Meloni, é a única líder confirmada do G7 com presença prevista.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/