Amazon greift ein, um das Problem „KI-verfasste Bücher“ zu lösen

Amazon greift ein, um das Problem „KI-verfasste Bücher“ zu lösen

Zeitstempel: 1. Oktober 2023 6:30

Da die generative KI weiterhin an Unterstützung gewinnt, Amazon ist mit Richtlinien eingeschritten Von Bots verfasste Bücher, die dem E-Commerce-Unternehmen Kopfschmerzen bereiteten, nachdem sie seine Plattform überschwemmt hatten.

Die Fähigkeit der generativen KI, Prosa, Gedichte, Liedtexte, Bilder, Audio- und Videoinhalte zu produzieren, hat die Welt im Allgemeinen fasziniert und dazu geführt, dass Menschen mit geringen oder keinen Fähigkeiten auf die Technologie zurückgreifen, um Inhalte zu produzieren.

Der „KI-Unsinn“

Allerdings bringt die gleiche Technologie ihre eigenen Probleme mit sich, und Amazon steckt in der Klemme. Laut einem Artikel von ist sein „Alles-Laden“ nun mit Büchern gefüllt, die von Bots geschrieben wurden Kabelgebunden.

Während der Artikel nicht genau angibt, wie viele KI-generierte Bücher auf der Plattform zum Verkauf stehen, gibt es auf der Plattform eine große Auswahl davon, die verschiedene Genres abdeckt, wobei einige Genres von Titeln mit geringer Qualität betroffen sind. Anfang des Jahres nannte die Autorin Caitlyn Lynch dies „KI-Unsinn“. ein Beitrag auf X (ehemals Twitter).

Noch besorgniserregender ist, dass einige der Bücher die Namen und Konterfeis echter menschlicher Schriftsteller tragen. Beispielsweise entdeckte Jane Friedman, eine Autorin und Expertin der Verlagsbranche, diesen Sommer fünf verschiedene Bücher, die fälschlicherweise als ihre Bücher aufgeführt waren Amazon.

Einer der betrügerischen Titel lautet „How to Write and Publish an eBook Quickly“. Und die Menschen hinter diesen Bots gehen entschlossen und skrupellos vor. Dem Wired-Bericht zufolge herrscht bei YouTube-Videos eine „kulturelle Hektik“.

Diese ermutigen die Zuschauer, durch die Produktion von KI-generiertem Material für Kindle mit Titeln wie „;“ leicht reich zu werden.

„Wie man unsichtbare KI-Inhalte für Amazon KDP erstellt (garantierte Methode).“

Diese neuesten Geldmacherei-Maßnahmen machen es nun für Leser, die nach Büchern suchen, schwierig, an hochwertiges, von Menschen geschriebenes Lesematerial zu kommen.

Lies auch: Das Echtzeit-Webbrowsing von ChatGPT macht sich von den begrenzten Daten aus dem Jahr 2021 befreit

Amazon greift ein, um das Problem „KI-verfasste Bücher“ zu lösen PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.Amazon greift ein, um das Problem „KI-verfasste Bücher“ zu lösen PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Amazon Politik

Angesichts dieses Dilemmas hat Amazon in den letzten Wochen begonnen, Maßnahmen zur Bewältigung des Problems zu ergreifen. Das Unternehmen hat nun eine Obergrenze für die Anzahl der Bücher, die ein einzelner Autor veröffentlichen darf. Es wurde auch ein eingeführt Datenschutzrichtlinien Das erfordert, dass Autoren offenlegen, ob ihre Bücher von Menschen geschrieben oder von der KI generiert wurden.

„Amazon ist ethisch verpflichtet, diese Informationen offenzulegen“, sagte Friedman.

„Die Autoren und Verleger sollten es bereits offenlegen, aber wenn sie es nicht tun, muss Amazon es zusammen mit jedem Einzelhändler und Distributor vorschreiben.“

Sie fügte hinzu, dass ein Versäumnis gleichbedeutend damit sei, „Misstrauen und Verwirrung zu schüren“.

Mary Rasenberger, CEO der Authors Guild, äußerte sich dazu und sagte: „Wir haben uns für eine Gesetzgebung eingesetzt, die vorschreibt, dass KI-generiertes Material von den Plattformen oder Verlagen allgemein als solches gekennzeichnet werden muss.“

Aber es gibt einen anderen Weg

Es gibt jedoch auch andere Möglichkeiten, mit dem Problem umzugehen, darunter der Einsatz von KI-Detektoren.

Manche Startups zur KI-Erkennung Wer separat mit Wired gesprochen hat, schlägt vor, dass Amazon die KI-Erkennungstechnologien ausprobieren könnte, um die Lücken zu schließen und KI-generiertes Material einfach zu kennzeichnen.

Eines der KI-Erkennungs-Startups, Reality Defender, sagt, sein Unternehmen, das sich zunächst auf Deepfake-Bilder konzentrierte, habe sich nun auch auf die Texterkennung ausgeweitet, einen Dienst, der von mehreren anderen angeboten wird und die Lösung für Amazons Problem sein könnte.

Ein anderes Startup, der CEO von GPTZero, teilt ebenfalls das gleiche Maß an Zuversicht.

„Wir können die Technologie auf jeden Fall für E-Commerce-Plattformen bereitstellen und befinden uns derzeit mitten in Gesprächen mit unseren verschiedenen Anbietern.“

Winston AI-Gründer John Renaud zählt bereits mehrere Verlage zu seinen Kunden.

Auch wenn Amazon gegenüber seinen Kunden verpflichtet ist, deren Erwartungen an hochwertige, von Menschen geschriebene Bücher zu erfüllen, gibt es Bedenken, warum das Unternehmen keine Tools eingesetzt hat, um das von KI erstellte Material automatisch zu kennzeichnen. Als ich danach gefragt wurde, Amazon weigerte sich, einen Kommentar abzugeben, aber ihr Sprecher, Ashley Vanicek, gab eine schriftliche Erklärung ab.

„Amazon evaluiert ständig neue Technologien und ist bestrebt, Autoren und Kunden das bestmögliche Einkaufs-, Lese- und Veröffentlichungserlebnis zu bieten.“

Die Skepsis

Es besteht Skepsis gegenüber KI-Erkennungstools und der Genauigkeit ihrer Ergebnisse, was der Grund dafür sein könnte, dass Amazon ihnen gegenüber vorsichtig vorgeht.

Ein von Forschern der University of Maryland veröffentlichtes Papier zeigte, dass die Ergebnisse von Detektoren fehlerhaft sein können.

„Diese Detektoren sind in praktischen Szenarien nicht zuverlässig“, sagen sie schrieb.

Eine weitere Studie, die im Juli von Forschern durchgeführt wurde Stanford zeigte, wie voreingenommen die Detektoren gegenüber Autoren waren, die keine englischen Muttersprachler sind.

Der ChatGPT-Hersteller OpenAI musste seine KI-Klassifizierung schließen, nachdem er wegen schlechter Ergebnisse kritisiert wurde.

„Wir glauben nicht, dass KI-Erkennungssoftware ein wirksames Werkzeug ist, das verwendet werden sollte“, sagte Michael Coley von der Vanderbilt University nach einem gescheiterten Experiment mit dem KI-Erkennungsprogramm von Turnitin.

Zeitstempel:

Mehr von MetaNews