Amazon intervém para resolver a dor de cabeça dos 'livros escritos por IA'

Amazon intervém para resolver a dor de cabeça dos 'livros escritos por IA'

Carimbo de data / hora: 1 de outubro de 2023, 6:30

À medida que a IA generativa continua a ganhar apoio, A Amazon interveio com políticas sobre livros de autoria de bot, que criaram uma dor de cabeça para a empresa de comércio eletrônico depois de inundarem sua plataforma.

A capacidade da IA ​​generativa de produzir prosa, poemas, letras, imagens, áudio e vídeo geralmente fascina o mundo, fazendo com que pessoas com pouca ou nenhuma habilidade recorram à tecnologia para produzir conteúdo.

O “absurdo da IA”

No entanto, a mesma tecnologia vem com sua própria bagagem e a Amazon está em apuros. Agora, sua “loja de tudo” está repleta de livros escritos por bots, segundo artigo de Wired.

Embora o artigo não indique exatamente quantos livros gerados por IA estão à venda na plataforma, há uma grande variedade deles na plataforma, cobrindo vários gêneros, com alguns gêneros atormentados por títulos de baixa qualidade. No início deste ano, a autora Caitlyn Lynch chamou isso de “absurdo de IA” em uma postagem no X (antigo Twitter).

O que é mais preocupante é que alguns dos livros trazem nomes e semelhanças de escritores humanos reais. Por exemplo, neste verão, Jane Friedman, escritora e especialista no setor editorial, descobriu cinco livros separados que foram falsamente listados como seus no Facebook. Amazon.

Um dos títulos fraudulentos é “Como escrever e publicar um e-book rapidamente”. E as pessoas por trás desses bots são determinadas em suas atividades inescrupulosas. De acordo com o relatório da Wired, existe uma “cultura de agitação total nos vídeos do YouTube”.

Isso incentiva os espectadores a enriquecerem facilmente através da produção de material gerado por IA para o Kindle, trazendo títulos como;

“Como criar conteúdo de IA INDETECTÁVEL para Amazon KDP (método garantido).”

Estes últimos esquemas de ganhar dinheiro estão agora a tornar difícil para os leitores que procuram livros obterem material de leitura de alta qualidade escrito por humanos.

Veja também: A navegação na Web em tempo real do ChatGPT se liberta dos dados limitados de 2021

Amazon intervém para resolver a dor de cabeça de 'livros escritos por IA' PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.Amazon intervém para resolver a dor de cabeça de 'livros escritos por IA' PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

Política da Amazon

Diante desse dilema, a Amazon começou, nas últimas semanas, a tomar medidas para lidar com o problema. A empresa agora tem um limite para o número de livros que um único escritor pode publicar. Também introduziu um Privacidade isso exige que os escritores revelem se seus livros foram escritos por humanos ou gerados por IA.

“A Amazon é eticamente obrigada a divulgar essas informações”, disse Friedman.

“Os autores e editores já deveriam estar divulgando isso, mas se não o fizerem, então a Amazon precisa obrigá-lo, juntamente com todos os varejistas e distribuidores.”

Ela acrescentou que não fazer isso equivaleria a “gerar desconfiança e confusão”.

A CEO do Authors Guild, Mary Rasenberger, opinou, dizendo: “Temos defendido uma legislação que exige que o material gerado por IA seja sinalizado como tal pelas plataformas ou pelos editores em todos os níveis”.

Mas há outra maneira

No entanto, existem outras formas de lidar com o problema, uma das quais é a utilização de detectores de IA.

Alguns Inicializações de detecção de IA que conversaram separadamente com a Wired sugerem que a Amazon poderia experimentar as tecnologias de detecção de IA para preencher as lacunas e sinalizar facilmente o material gerado por IA.

Uma das startups de detecção de IA, Reality Defender, diz que sua empresa, que começou com foco em imagens deepfake, agora expandiu também para detecção de texto, um serviço que é fornecido por vários outros e pode ser a solução para o problema da Amazon.

Outra startup, o CEO da GPTZero, também compartilha do mesmo nível de confiança.

“Podemos absolutamente fornecer a tecnologia para plataformas de comércio eletrônico e atualmente estamos no meio de conversas para fazer isso com nossos vários fornecedores.”

O fundador da Winston AI, John Renaud, já tem vários editores entre seus clientes.

Embora a Amazon também tenha a obrigação para com os seus clientes de satisfazer as suas expectativas em relação a livros escritos por humanos de alta qualidade, existem preocupações quanto ao motivo pelo qual a empresa não empregou ferramentas para sinalizar automaticamente o material produzido por IA. Quando questionado sobre isso, Amazon recusou-se a comentar, mas seu porta-voz, Ashley Vanicek, forneceu uma declaração por escrito.

“A Amazon está constantemente avaliando tecnologias emergentes e está comprometida em fornecer a melhor experiência possível de compra, leitura e publicação para autores e clientes.”

O ceticismo

Há ceticismo em relação às ferramentas de detecção de IA e à precisão de seus resultados, o que pode ser a razão pela qual a Amazon está adotando uma abordagem cautelosa em relação a elas.

Um artigo publicado por pesquisadores da Universidade de Maryland mostrou que os resultados dos detectores podem apresentar falhas.

“Esses detectores não são confiáveis ​​em cenários práticos”, eles escreveu.

Outro estudo realizado em julho por pesquisadores da Stanford mostrou como os detectores eram tendenciosos contra escritores que não eram falantes nativos de inglês.

O fabricante do ChatGPT, OpenAI, teve que encerrar sua classificação de IA depois de receber críticas por resultados ruins.

“Não acreditamos que o software de detecção de IA seja uma ferramenta eficaz que deva ser usada”, disse Michael Coley, da Universidade Vanderbilt, após uma experiência fracassada com o programa de detecção de IA da Turnitin.

Carimbo de hora:

Mais de MetaNotícias