Adesivos de IA do WhatsApp adicionam armas a crianças palestinas

No que pode ser outro exemplo de preconceito da IA ​​para futuros livros didáticos, o criador de adesivos do WhatsApp aparentemente gerou imagens violentas quando questionado sobre os palestinos muçulmanos – e se absteve de fazê-lo para os israelenses judeus.

O aplicativo de mensagens de propriedade da Meta permite que as pessoas usar IA para gerar stickers: imagens e animações que podem ser incluídas nas conversas. Por que? Para se divertir.

Dado um aviso contendo as palavras “Palestino”, “Palestina” ou “menino muçulmano palestino”, o software gerador, segundo nos disseram, ofereceu adesivos de desenhos animados de personagens infantis vestindo roupas islâmicas e carregando o que parecia ser um rifle AK-47. 

Mas quando os usuários pediram para gerar adesivos de “menino israelense” ou “menino judeu israelense”, ele retornou imagens benignas de personagens virtuais sorrindo e dançando, The Guardian relatado. Alguns deles mostravam o que pareciam ser crianças judias jogando futebol ou segurando a bandeira israelense em vez de armas.

Mesmo quando solicitados a produzir imagens do “exército israelense” ou das “forças de defesa israelenses”, os soldados retratados pela IA não portavam armas. Em um adesivo, um homem com duas espadas nas costas parecia estar orando. No entanto, quaisquer avisos contendo as palavras “Hamas” foram bloqueados e o aplicativo declarou repentinamente que “não foi possível gerar adesivos de IA. Por favor, tente novamente."

A diferença nos adesivos não pode ser ignorada neste momento, à medida que o conflito Israel-Hamas continua, com mais de 10,000 vítimas relatado até agora em Gaza e 1,400 em Israel desde o início de Outubro. Os próprios funcionários da Meta detectaram o desequilíbrio e levantaram preocupações internamente, dizem. 

Kevin McAlister, porta-voz da gigante da internet, alertou que a ferramenta de adesivos de IA não é perfeita. “Como dissemos quando lançamos o recurso, os modelos podem retornar resultados imprecisos ou inadequados, como acontece com todos os sistemas generativos de IA. Continuaremos a melhorar esses recursos à medida que evoluem e mais pessoas compartilham seus comentários”, disse ele. 

CEO Mark Zuckerberg lançado a ferramenta de adesivos em setembro, e disse que ela é alimentada pelas habilidades de processamento de texto do Meta de seu grande modelo de linguagem Llama 2 com os recursos de geração de imagens de seu sistema Emu. Desde então, o software foi integrado às suas mídias sociais e plataformas de mensagens, incluindo Facebook, Instagram e WhatsApp.

Não é a primeira vez que a ferramenta de adesivos de IA da Meta levanta polêmica. Antes de ser disponibilizado ao público, os testadores beta descobriram que ele produziria imagens inadequadas, bizarras ou obscenas de personagens de desenhos animados, políticos e órgãos genitais. Criou fotos do primeiro-ministro canadense Justin Trudeau com nádegas acentuadas, ou Sonic the Hedgehog com seios, e várias caricaturas fálicas.

Enquanto isso, Meta prometeu reprimir a desinformação e as imagens violentas e explícitas da guerra entre Israel e o Hamas publicadas em suas plataformas. Porta-voz Andy Stone disse A CNN the biz montou um centro de operações especiais e contratou falantes fluentes de hebraico e árabe para moderar o conteúdo.

“Nossas equipes estão trabalhando 24 horas por dia para manter nossas plataformas seguras, tomar medidas em relação a conteúdos que violam nossas políticas ou leis locais e coordenar-se com verificadores de fatos terceirizados na região para limitar a disseminação de desinformação. Continuaremos este trabalho à medida que este conflito se desenrola”, disse ele.

Meta também na segunda-feira prometeu, via Reuters, para proibir anunciantes políticos de usarem seu gerador Alimentado por AI suíte de publicidade.

O registro pediu aos pais do WhatsApp mais comentários. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/