China introduzirá leis para combater deepfakes em janeiro PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

China introduzirá leis para combater deepfakes em janeiro

Carimbo de data / hora: 24 de dezembro de 2022 5h45

Se você esteve nas mídias sociais esta semana, provavelmente se deparou com fotos de imagens geradas por IA de seus amigos como seres de fadas, personagens de anime, avatares e seres mágicos.

Isso se deve em parte ao Lensa, uma IA que sintetiza retratos digitais com base nas fotos que os usuários carregam. Os retratos do app praticamente tomaram conta da internet, com o Lensa se tornando o app mais baixado da loja de aplicativos da Apple.

O Lensa, como todos os aplicativos de IA que renderizam imagens digitalmente, conquistou admiração e controvérsia por sua sexualização aparentemente flagrante de imagens femininas. Outros usuários observaram que o aplicativo tornava a pele mais pálida ou o corpo mais magro.

Veja também: Tecnologia de IA que cria imagens falsas profundas que destroem vidas

Como obter seu próprio 'avatar mágico'

As imagens que circulam são uma criação orgulhosa da função de avatares mágicos do Lensa. Para ter uma ideia, é preciso baixar o aplicativo Lensa em um telefone. Uma assinatura anual custa cerca de US $ 35.99, mas seus serviços também estão disponíveis, embora com limitações, gratuitamente em um teste de uma semana, se você quiser conferir primeiro.

No entanto, gerar os populares avatares mágicos requer uma taxa adicional por causa do que o aplicativo diz ser “enorme poder computacional” para alcançar.

Em uma avaliação gratuita, é possível obter 50 avatares por US$ 3.99 e 200 avatares por US$ 7.99. Para obter os melhores resultados, o aplicativo incentiva os usuários a fazer upload de pelo menos 20 imagens em close.

Idealmente, essas imagens devem ser closes do rosto de uma pessoa com uma variedade de planos de fundo, expressões faciais e ângulos diferentes. O aplicativo insiste que os usuários devem ter 13 anos ou mais. O Lensa não é um aplicativo totalmente novo.

Produto da Prisma, o aplicativo se popularizou pela primeira vez em 2016 graças a uma função que permitia aos usuários transformar suas selfies em fotos no estilo de artistas famosos.

Como o Lensa funciona?

De acordo com a empresa, ela faz uso do que chama de “tecnologia TrueDepth API”, onde um usuário fornece fotos ou “dados faciais”, então a IA é então treinada em seus algoritmos para ter um melhor desempenho e mostrar melhores resultados. O treinamento é quando a IA processa os dados, valida e testa os modelos.

Para usar o aplicativo, você pode selecionar 20 selfies com uma variedade de expressões e ângulos e escolher a opção de 100 avatares.

Leva cerca de 20 minutos para fazer o trabalho. Uma vez feito isso, a IA retorna avatares que se enquadram em 10 categorias, como fantasia, princesa fada, foco, pop, estiloso, animé, leve, kawaii, iridescente e cósmico.

“Em geral, senti que o aplicativo fez um trabalho decente ao produzir imagens artísticas com base em minhas selfies. Não consegui me reconhecer na maioria dos retratos, mas pude ver de onde eles vinham”, Zoe Sottile da CNN escreveu.

“Parecia reconhecer e repetir certas características, como minha pele pálida ou meu nariz redondo, mais do que outras. Alguns deles tinham um estilo mais realista e estavam próximos o suficiente para que eu pudesse pensar que eram fotos minhas se os visse de longe. Outros eram significativamente mais estilizados e artísticos, então pareciam menos específicos para mim.”

Sottile percebeu que a IA também a tornava mais leve.

Quanto a mim, também senti que isso automaticamente me deixou mais leve e a imagem que tentei em minha galeria de mim e de um amigo de pele levemente mais escura retornou uma versão um tanto mais clara de nós, claramente um exagero, e expôs uma inclinação para clarear tons de pele negra.

Sexualizando mulheres

Outros que o usaram tiveram preocupações mais ou menos semelhantes.

As mulheres dizem que a IA é rápida em sexualizar suas imagens. Mas em um artigo anterior, nós explicado isso foi possível graças ao grande número de imagens sexualizadas encontradas em conjuntos de dados usados ​​no treinamento de IA.

Em outras palavras, isso significa que a IA está muito familiarizada com a forma de gerar essas imagens e facilmente se tornar pornográfica. Com um pouco de truque, ele pode ser solicitado a produzir pornografia involuntariamente a partir dessas imagens, se o usuário desejar.

Em outras histórias, abordamos como os AI:s podem ser enganados para fornecer informações sobre como fazer uma bomba por exemplo. Estranhamente, a questão da sexualização não apareceu nas imagens de homens carregadas no recurso Magic Avatar. Para MIT Technology Review, Melissa Heikkilä escreveu,

“Meus avatares eram caricaturalmente pornificados, enquanto meus colegas homens eram astronautas, exploradores e inventores.”

Sottile, por outro lado, notou que a IA “em uma das imagens mais desorientadoras” a fez parecer “como se uma versão do meu rosto estivesse em um corpo nu”.

“Em várias fotos, parecia que eu estava nua, mas com um cobertor estrategicamente colocado, ou a imagem apenas cortada para esconder algo explícito”, disse ela.

“E muitas das imagens, mesmo quando eu estava totalmente vestida, apresentavam uma expressão facial sensual, decote significativo e roupas minúsculas que não combinavam com as fotos que enviei”, acrescenta Zoe Sottile.

Outros expressaram medo de se tornarem estrelas pornô por tecnologia de IA como Lensa.

Corpo envergonhando

Para mulheres totalmente encorpadas, a experiência foi um pouco diferente e até pior em alguns casos. A IA os tornou mais magros e sexy.

“Para Lmfao, se você tem dismorfia corporal, não use o aplicativo Lensa para as fotos geradas por IA. Este é o seu aviso”, um usuário escreveu.

Outro disse que o aplicativo a fez parecer asiática.

Outro usuário foi ao Twitter para reclamar que pagou US$ 8 para ter dismorfia corporal quando usou a IA.

A dismorfia corporal é uma condição de saúde mental em que uma pessoa passa muito tempo se preocupando com falhas em sua aparência. Essas falhas são muitas vezes imperceptíveis para os outros.

Outro reclamou que a IA reduzia automaticamente o peso significativo em suas imagens de figura completa.

“Uma reclamação que tenho sobre o Lensa AI é que ele o deixará magro em algumas imagens. Como uma pessoa gorda, essas imagens realmente me incomodaram. Portanto, tome cuidado para não ser acionado se você for um gordo sem interesse em ficar magro ”, escreveu Mariah Successful (@Shlatz) em 5 de dezembro de 2022.

bomba-relógio psicológica

E os psicólogos concordam com suas afirmações de que a IA poderia desencadear mulheres totalmente modeladas.

A psicóloga clínica, Dra. Toni Pikoos, um profissional de saúde mental baseado na Austrália, que faz pesquisas e se especializa no tratamento do transtorno dismórfico corporal, acredita que o aplicativo pode fazer mais mal do que bem e nada mais é do que uma “ferramenta de fotofiltração” para alterar a autopercepção.

“Quando há uma discrepância maior entre a aparência ideal e a percebida, isso pode alimentar a insatisfação corporal, a angústia e o desejo de consertar ou mudar a própria aparência com meios potencialmente insalubres ou inseguros”, como alimentação desordenada ou procedimentos cosméticos desnecessários, diz Pikoos.

Ela expressou preocupação de que as imagens apagassem “detalhes intrincados”, como “sardas e linhas”, algo que poderia aumentar as preocupações com a pele. Isso também pode desencadear psicologicamente uma pessoa vulnerável, diz ela.

“Ver uma imagem externa refletir sua insegurança de volta para eles apenas reforça a ideia 'Veja, isso está errado comigo! E não sou o único que pode ver isso!'”, diz Pikoos.

Devido ao fato de que a IA apresenta seus próprios recursos que não retratam a aparência real do usuário, o aplicativo pode criar novas ansiedades, diz ele.

Ela diz que os “avatares mágicos” da IA ​​eram “particularmente interessantes porque parecem mais objetivos – como se algum ser onisciente externo tivesse gerado essa imagem de como você é”.

Ela acha que isso poderia ser realmente “útil” para pessoas com transtorno dismórfico corporal e ajudar a esclarecer uma “incompatibilidade” entre a “visão negativa de um indivíduo sobre si mesmo e como os outros o veem”.

Ela observou, no entanto, que a IA não era objetiva por causa de sua tentativa de retratar uma versão impecável e mais “aprimorada e perfeita” do rosto de alguém.

Por exemplo, alguém com transtorno dismórfico corporal, ou BDD, “pode experimentar um breve aumento de confiança quando vê sua imagem e deseja compartilhar essa versão de si mesmo com o mundo”, diz ela, mas será duramente atingido pela realidade quando estiver fora tela, sem filtro, no espelho ou uma foto que eles tiram de si mesmos”.

Defendendo a si mesmo

Andrey Usoltsev, CEO da Prisma Labs, diz que sua empresa está atualmente “sobrecarregada” com perguntas sobre o Lensa e ofereceu um link para uma página de perguntas frequentes que aborda consultas de imagens sexualizadas, embora não seja o tipo de reação do usuário que Pikoos descreve.

“Ver isso refletido no aplicativo seria muito confrontador e forneceria uma espécie de 'confirmação' da maneira como eles se veem”, levando-os a se tornarem “mais entrincheirados no distúrbio”.

Difusão Estável

O Lensa também usa Stable Diffusion, que usa síntese de aprendizado profundo que pode criar novas imagens a partir de descrições de texto e pode ser executado em um PC com Windows ou Linux, em um Mac ou na nuvem em hardware de computador alugado.

A rede neural do Stable Diffusion, com a ajuda de aprendizado intensivo, domina a associação de palavras e a associação estatística geral entre as posições dos pixels nas imagens.

Cobrimos em outro história como a tecnologia pode ter consequências destruidoras de vidas, ao renderizar e retratar imagens de pessoas para parecerem criminosos ou estarem envolvidas em práticas nada lisonjeiras, como roubo.

Por exemplo, pode-se dar ao Stable Diffusion de código aberto um prompt, como “Tom Hanks em uma sala de aula”, e isso dará a ele/ela uma nova imagem de Tom Hanks em uma sala de aula. No caso de Tom Hank, é um passeio no parque porque centenas de suas fotos já estão no conjunto de dados usado para treinar a difusão estável.

Artistas recebendo tratamento bruto também

Na frente da arte, alguns artistas estão insatisfeitos.

Eles estão preocupados que a IA possa ameaçar seus meios de subsistência. Isso porque os artistas, inclusive os digitais, também não conseguem produzir tão rápido quanto a IA para um retrato digital.

A empresa controladora da Lensa, a Prisma, tentou massagear as preocupações sobre sua tecnologia eliminando o trabalho de artistas digitais.

“Embora tanto os humanos quanto a IA aprendam sobre estilos artísticos de maneiras semi-semelhantes, existem algumas diferenças fundamentais: a IA é capaz de analisar e aprender rapidamente com grandes conjuntos de dados, mas não tem o mesmo nível de atenção e apreciação pela arte. como ser humano”, escreveu a empresa no Twitter em 6 de dezembro.

Ele diz que “as saídas não podem ser descritas como réplicas exatas de qualquer obra de arte em particular”.

Alterando a autoimagem

Kerry Bowman, bioeticista da Universidade de Toronto, diz que a IA tem o potencial de afetar negativamente a autoimagem, entre outras questões éticas.

“De certa forma, pode ser muito divertido, mas essas imagens idealizadas estão sendo impulsionadas por expectativas sociais que podem ser muito cruéis e muito estreitas”, disse Bowman na segunda-feira.

Bowman disse que esses programas de IA usam fontes de conjuntos de dados, como a Internet, em busca de diferentes estilos de arte para criar esses retratos. A desvantagem é que, quando a IA faz isso, os artistas raramente são remunerados financeiramente pelo uso de seu trabalho ou creditados.

“O que acontece com a IA emergente é que as leis não foram capazes de acompanhar isso em termos de lei de direitos autorais. É muito difícil e muito obscuro e a ética está ainda mais atrás das leis porque eu diria que isso é fundamentalmente injusto”, disse Bowman.

Preocupações com dados pessoais

Bowman também levantou preocupações sobre como os dados pessoais das pessoas são armazenados.

“Você realmente quer seu rosto em um grande banco de dados? As pessoas precisam decidir por si mesmas sobre isso, mas não é benigno, não há nada nisso, não é apenas divertido”, disse ele.

Lensa diz que as fotos são mantidas em servidores e aplicativos por no máximo 24 horas. Com algoritmos de aprendizado profundo e aprendizado de máquina, a IA reúne e entrega melhores resultados no futuro, também com base nos dados excluídos. Isso, diz Bowman, resultará em preocupações de segurança sobre o uso potencial de reconhecimento facial, pois esse tipo de dado pode ser usado pela polícia ilegalmente.

Carimbo de hora:

Mais de MetaNotícias