Amazon interviene para resolver el dolor de cabeza de los 'libros escritos con IA'

Amazon interviene para resolver el dolor de cabeza de los 'libros escritos con IA'

Sello de tiempo: 1 de octubre de 2023 6:30 p.m.

A medida que la IA generativa sigue ganando apoyo, Amazon ha intervenido con políticas sobre libros escritos por robots, los cuales han creado un dolor de cabeza para la firma de comercio electrónico luego de que inundaron su plataforma.

La capacidad de la IA generativa para producir prosa, poemas, letras, imágenes, audio y vídeo ha fascinado al mundo en general, haciendo que personas con pocas o ninguna habilidad recurran a la tecnología para producir contenido.

La “tontería de la IA”

Sin embargo, la misma tecnología viene con su propio equipaje y Amazon está en un aprieto. Ahora, su “tienda de todo” está llena de libros escritos por robots, según un artículo de Con conexión de cable.

Si bien el artículo no indica exactamente cuántos libros generados por IA están a la venta en la plataforma, hay una amplia gama de ellos en la plataforma, que cubren varios géneros, con algunos géneros plagados de títulos de baja calidad. A principios de este año, la autora Caitlyn Lynch llamó a esto "una tontería de la IA" en una publicación en x (anteriormente Twitter).

Lo que es más preocupante es que algunos de los libros llevan nombres y retratos de escritores humanos reales. Por ejemplo, este verano, Jane Friedman, escritora y experta en la industria editorial, descubrió cinco libros distintos que figuraban falsamente como suyos en Amazon.

Uno de los títulos fraudulentos es "Cómo escribir y publicar un libro electrónico rápidamente". Y las personas detrás de estos robots están decididas en sus actividades sin escrúpulos. Según el informe de Wired, existe "toda una cultura de ajetreo en los vídeos de YouTube".

Estos alientan a los espectadores a enriquecerse fácilmente mediante la producción de material generado por IA para Kindle, con títulos como;

"Cómo crear contenido de IA INDETECTABLE para Amazon KDP (método garantizado)".

Estos últimos planes para hacer dinero ahora dificultan que los lectores que buscan libros obtengan material de lectura de alta calidad escrito por humanos.

Lea también: La navegación web en tiempo real de ChatGPT se libera de los datos limitados de 2021

Amazon interviene para resolver el dolor de cabeza de los 'libros escritos con IA' PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.Amazon interviene para resolver el dolor de cabeza de los 'libros escritos con IA' PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

Política de Amazon

Ante este dilema, Amazon, en las últimas semanas, ha comenzado a tomar medidas para solucionar el problema. La empresa ahora tiene un límite en la cantidad de libros que puede publicar un solo escritor. También ha introducido una política eso requiere que los escritores revelen si sus libros fueron escritos por humanos o fueron generados por IA.

"Amazon está éticamente obligado a revelar esta información", dijo Friedman.

"Los autores y editores deberían revelarlo ya, pero si no lo hacen, entonces Amazon debe exigirlo, junto con todos los minoristas y distribuidores".

Añadió que no hacerlo equivalía a “generar desconfianza y confusión”.

La directora ejecutiva del Authors Guild, Mary Rasenberger, intervino y dijo: "Hemos estado abogando por una legislación que requiera que el material generado por IA sea marcado como tal por las plataformas o los editores en todos los ámbitos".

pero hay otra manera

Sin embargo, existen otras formas de abordar el problema, una de las cuales es el uso de detectores de IA.

Cosas Startups de detección de IA Quienes hablaron por separado con Wired sugieren que Amazon podría probar las tecnologías de detección de IA para tapar las lagunas y marcar fácilmente el material generado por IA.

Una de las nuevas empresas de detección de IA, Reality Defender, dice que su empresa, que comenzó enfocándose en imágenes deepfake, ahora se ha expandido también a la detección de texto, un servicio que brindan varios otros y que podría ser la solución al problema de Amazon.

Otra startup, el director ejecutivo de GPTZero, también comparte el mismo nivel de confianza.

"Podemos proporcionar absolutamente la tecnología a las plataformas de comercio electrónico y actualmente estamos en medio de conversaciones para hacerlo con nuestros diversos proveedores".

El fundador de Winston AI, John Renaud, ya tiene varios editores entre sus clientes.

Si bien Amazon también tiene la obligación con sus clientes de cumplir con sus expectativas de libros escritos por humanos de alta calidad, existe la preocupación de por qué la compañía no ha empleado herramientas para marcar automáticamente el material creado por IA. Cuando se le preguntó sobre esto, Amazon se negó a hacer comentarios, pero su portavoz, Ashley Vanicek, proporcionó una declaración por escrito.

"Amazon evalúa constantemente las tecnologías emergentes y se compromete a brindar la mejor experiencia de compra, lectura y publicación posible para autores y clientes".

El escepticismo

Existe escepticismo sobre las herramientas de detección de IA y la precisión de sus resultados, lo que podría ser la razón por la que Amazon está adoptando un enfoque cauteloso con respecto a ellas.

Un artículo publicado por investigadores de la Universidad de Maryland demostró que los resultados de los detectores pueden ser defectuosos.

"Estos detectores no son fiables en escenarios prácticos", afirman. escribí.

Otro estudio realizado en julio por investigadores de Stanford mostró cómo los detectores estaban sesgados contra los escritores que no son hablantes nativos de inglés.

OpenAI, el fabricante de ChatGPT, tuvo que cerrar su clasificación de IA después de recibir críticas por sus malos resultados.

"No creemos que el software de detección de IA sea una herramienta eficaz que deba utilizarse", afirmó Michael Coley, de la Universidad de Vanderbilt, tras un experimento fallido con el programa de detección de IA de Turnitin.

Sello de tiempo:

Mas de MetaNoticias