Amazon intervient pour résoudre le problème des « livres écrits par l'IA »

Amazon intervient pour résoudre le problème des « livres écrits par l'IA »

Horodatage: 1 octobre 2023 6h30

Alors que l’IA générative continue de gagner du terrain, Amazon est intervenu avec des politiques sur livres écrits par des robots, qui ont créé un casse-tête pour l’entreprise de commerce électronique après avoir inondé sa plateforme.

La capacité de l’IA générative à produire de la prose, des poèmes, des paroles, des images, du son et des vidéos a généralement fasciné le monde, incitant les personnes peu ou pas compétentes à se tourner vers la technologie pour produire du contenu.

Le « non-sens de l’IA »

Cependant, la même technologie a son propre bagage, et Amazon est dans une situation difficile. Désormais, son « magasin de tout » est rempli de livres écrits par des robots, selon un article de Câble.

Bien que l'article n'indique pas exactement combien de livres générés par l'IA sont en vente sur la plateforme, il en existe un large éventail sur la plateforme, couvrant divers genres, certains genres étant en proie à des titres de mauvaise qualité. Plus tôt cette année, l’auteure Caitlyn Lynch a qualifié cela de « non-sens de l’IA » dans un article sur X (anciennement Twitter).

Ce qui est plus inquiétant, c’est que certains livres portent les noms et les portraits de véritables écrivains humains. Par exemple, cet été, Jane Friedman, écrivaine et experte du secteur de l'édition, a découvert cinq livres distincts qui étaient faussement répertoriés comme étant les siens sur Amazon.

L'un des titres frauduleux est « Comment écrire et publier rapidement un livre électronique ». Et les personnes derrière ces robots sont déterminées dans leurs activités sans scrupules. Selon le rapport de Wired, il existe une « culture de l’agitation totale sur les vidéos YouTube ».

Ceux-ci encouragent les téléspectateurs à devenir facilement riches en produisant du matériel généré par l'IA pour Kindle, proposant des titres tels que ;

« Comment créer du contenu IA INDÉTECTABLE pour Amazon KDP (méthode garantie). »

Ces derniers programmes lucratifs font désormais qu’il est difficile pour les lecteurs à la recherche de livres d’obtenir du matériel de lecture de haute qualité écrit par des humains.

A lire également: La navigation Web en temps réel de ChatGPT s'affranchit des données limitées de 2021

Amazon intervient pour résoudre le problème des « livres écrits par l'IA » PlatoBlockchain Data Intelligence. Recherche verticale. Aï.Amazon intervient pour résoudre le problème des « livres écrits par l'IA » PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Politique d'Amazon

Face à ce dilemme, Amazon a commencé, ces dernières semaines, à prendre des mesures pour résoudre le problème. La société a désormais plafonné le nombre de livres qu’un seul écrivain peut publier. Il a également introduit un politique cela oblige les écrivains à révéler si leurs livres ont été écrits par des humains ou ont été générés par l’IA.

"Amazon a l'obligation éthique de divulguer ces informations", a déclaré Friedman.

"Les auteurs et les éditeurs devraient déjà le divulguer, mais s'ils ne le font pas, alors Amazon doit le rendre obligatoire, ainsi que chaque détaillant et distributeur."

Elle a ajouté que ne pas le faire équivalait à « engendrer la méfiance et la confusion ».

Mary Rasenberger, PDG de Authors Guild, a pris la parole en déclarant : « Nous avons plaidé en faveur d'une législation exigeant que le matériel généré par l'IA soit signalé comme tel par les plateformes ou les éditeurs à tous les niveaux. »

Mais il y a un autre chemin

Cependant, il existe d’autres moyens de résoudre le problème, notamment l’utilisation de détecteurs IA.

Certain Startups de détection d'IA qui ont parlé séparément avec Wired suggèrent qu'Amazon pourrait essayer les technologies de détection de l'IA pour combler les failles et signaler facilement le matériel généré par l'IA.

L'une des startups de détection d'IA, Reality Defender, affirme que sa société, qui a commencé par se concentrer sur les images deepfake, s'est désormais également étendue à la détection de texte, un service fourni par plusieurs autres et qui pourrait être la solution au problème d'Amazon.

Une autre startup, le PDG de GPTZero, partage également le même niveau de confiance.

« Nous pouvons absolument fournir la technologie aux plateformes de commerce électronique, et nous sommes actuellement en pleine conversation dans ce sens avec nos différents fournisseurs. »

Le fondateur de Winston AI, John Renaud, compte déjà plusieurs éditeurs parmi ses clients.

Même si Amazon a également l'obligation envers ses clients de répondre à leurs attentes en matière de livres écrits par des humains de haute qualité, on se demande pourquoi l'entreprise n'a pas utilisé d'outils pour signaler automatiquement le matériel créé par l'IA. Interrogé à ce sujet, Amazon a refusé de commenter, mais sa porte-parole, Ashley Vanicek, a fourni une déclaration écrite.

«Amazon évalue constamment les technologies émergentes et s'engage à offrir la meilleure expérience d'achat, de lecture et de publication possible aux auteurs et aux clients.»

Le scepticisme

Il existe un scepticisme quant aux outils de détection de l’IA et à la précision de leurs résultats, ce qui pourrait expliquer pourquoi Amazon adopte une approche prudente à leur égard.

Un article publié par des chercheurs de l'Université du Maryland a montré que les résultats des détecteurs peuvent être erronés.

"Ces détecteurs ne sont pas fiables dans des scénarios pratiques", disent-ils. écrit.

Une autre étude réalisée en juillet par des chercheurs de Stanford a montré à quel point les détecteurs étaient biaisés contre les écrivains dont la langue maternelle n'était pas l'anglais.

Le fabricant de ChatGPT, OpenAI, a dû fermer sa classification IA après avoir été critiqué pour ses mauvais résultats.

"Nous ne pensons pas que le logiciel de détection de l'IA soit un outil efficace qui devrait être utilisé", a déclaré Michael Coley de l'Université Vanderbilt après l'échec d'une expérience avec le programme de détection de l'IA de Turnitin.

Horodatage:

Plus de MétaActualités