Amazon komt tussenbeide om hoofdpijn door ‘AI-Penned Books’ op te lossen

Amazon komt tussenbeide om de hoofdpijn van 'AI-Penned Books' op te lossen

Tijdstempel: 1 oktober 2023 6:30 uur

Terwijl generatieve AI steeds meer steun krijgt, Amazon heeft ingegrepen met beleid door bot geschreven boeken, die het e-commercebedrijf hoofdpijn hebben bezorgd nadat ze zijn platform hadden overspoeld.

Het vermogen van generatieve AI om proza, gedichten, songteksten, afbeeldingen, audio en video te produceren heeft de wereld over het algemeen gefascineerd, waardoor mensen met weinig of geen vaardigheden zich tot de technologie wenden om inhoud te produceren.

De “AI-onzin”

Dezelfde technologie brengt echter zijn eigen bagage met zich mee, en Amazon zit in de problemen. Nu is de ‘alleswinkel’ gevuld met boeken die door bots zijn geschreven, volgens een artikel van Bedraad.

Hoewel het artikel niet precies vermeldt hoeveel door AI gegenereerde boeken er op het platform te koop zijn, is er een breed scala aan boeken op het platform, die verschillende genres bestrijken, waarbij sommige genres worden geplaagd door titels van lage kwaliteit. Eerder dit jaar noemde auteur Caitlyn Lynch dit ‘AI-onzin’ een bericht op X (voorheen Twitter).

Wat zorgwekkender is, is dat sommige boeken de namen en gelijkenissen dragen van echte menselijke schrijvers. Deze zomer ontdekte Jane Friedman, een schrijfster en expert uit de uitgeverijsector, bijvoorbeeld vijf afzonderlijke boeken die ten onrechte als de hare waren vermeld op Amazone.

Een van de frauduleuze titels is ‘Hoe snel een e-boek schrijven en publiceren’. En de mensen achter deze bots zijn vastberaden in hun gewetenloze activiteiten. Volgens het Wired-rapport heerst er een ‘hele drukte-cultuur op YouTube-video’s’.

Deze moedigen kijkers aan om gemakkelijk rijk te worden door het produceren van door AI gegenereerd materiaal voor de Kindle, met titels als;

"Hoe u ONDETECTEERBARE AI-inhoud kunt maken voor Amazon KDP (gegarandeerde methode)."

Deze nieuwste plannen om geld te verdienen maken het nu moeilijk voor lezers die op zoek zijn naar boeken om leesmateriaal van hoge kwaliteit te krijgen dat door mensen is geschreven.

Lees ook: Het realtime surfen op het web van ChatGPT breekt los van de beperkte gegevens voor 2021

Amazon komt tussenbeide om de hoofdpijn van 'AI-geschreven boeken' op te lossen PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.Amazon komt tussenbeide om de hoofdpijn van 'AI-geschreven boeken' op te lossen PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Amazon's beleid

Geconfronteerd met dit dilemma is Amazon de afgelopen weken begonnen met het nemen van stappen om het probleem aan te pakken. Het bedrijf heeft nu een limiet gesteld aan het aantal boeken dat één schrijver kan publiceren. Het heeft ook een geïntroduceerd beleidsmaatregelen waarvoor schrijvers moeten onthullen of hun boeken door mensen zijn geschreven of door AI zijn gegenereerd.

“Amazon is ethisch verplicht om deze informatie openbaar te maken”, aldus Friedman.

“De auteurs en uitgevers zouden het al openbaar moeten maken, maar als ze dat niet doen, moet Amazon het verplicht stellen, samen met elke detailhandelaar en distributeur.”

Ze voegde eraan toe dat het nalaten dit te doen neerkwam op ‘het kweken van wantrouwen en verwarring’.

Mary Rasenberger, CEO van Authors Guild, zei: “We hebben gepleit voor wetgeving die vereist dat door AI gegenereerd materiaal als zodanig wordt gemarkeerd door de platforms of de uitgevers over de hele linie.”

Maar er is een andere manier

Er zijn echter andere manieren om het probleem aan te pakken, waaronder het gebruik van AI-detectoren.

sommige Startups voor AI-detectie die afzonderlijk met Wired spraken suggereren dat Amazon de AI-detectietechnologieën zou kunnen proberen om de mazen in de wet te dichten en door AI gegenereerd materiaal gemakkelijk te kunnen markeren.

Een van de start-ups op het gebied van AI-detectie, Reality Defender, zegt dat zijn bedrijf, dat zich aanvankelijk richtte op deepfake-afbeeldingen, nu ook is uitgebreid naar tekstdetectie, een dienst die door verschillende anderen wordt geleverd en de oplossing zou kunnen zijn voor het probleem van Amazon.

Een andere startup, de CEO van GPTZero, deelt ook hetzelfde niveau van vertrouwen.

“We kunnen absoluut de technologie aan e-commerceplatforms leveren, en we zijn momenteel midden in gesprekken om dit te doen met onze verschillende leveranciers.”

Winston AI-oprichter John Renaud heeft al verschillende uitgevers onder zijn klanten.

Hoewel Amazon ook een verplichting jegens zijn klanten heeft om aan hun verwachtingen op het gebied van door mensen geschreven boeken van hoge kwaliteit te voldoen, bestaan ​​er zorgen over de reden waarom het bedrijf geen tools heeft ingezet om het door AI gemaakte materiaal automatisch te markeren. Toen hiernaar werd gevraagd, Amazone weigerde commentaar te geven, maar zijn woordvoerder, Ashley Vanicek, legde een schriftelijke verklaring af.

“Amazon evalueert voortdurend opkomende technologieën en streeft ernaar auteurs en klanten de best mogelijke winkel-, lees- en publicatie-ervaring te bieden.”

Het scepticisme

Er bestaat scepsis over AI-detectietools en hoe nauwkeurig de resultaten ervan zijn, wat de reden zou kunnen zijn waarom Amazon er voorzichtig mee omgaat.

Uit een artikel gepubliceerd door onderzoekers van de Universiteit van Maryland blijkt dat de resultaten van detectoren onjuist kunnen zijn.

“Deze detectoren zijn in praktijkscenario’s niet betrouwbaar”, zeggen ze schreef.

Een ander onderzoek dat in juli werd uitgevoerd door onderzoekers van Stanford liet zien hoe de detectoren bevooroordeeld waren tegen schrijvers die geen moedertaalsprekers van het Engels zijn.

ChatGPT-maker OpenAI moest zijn AI-classificatie sluiten nadat deze kritiek kreeg vanwege slechte resultaten.

“Wij geloven niet dat AI-detectiesoftware een effectief hulpmiddel is dat gebruikt moet worden”, zegt Michael Coley van de Vanderbilt Universiteit na een mislukt experiment met het AI-detectieprogramma van Turnitin.

Tijdstempel:

Meer van MetaNieuws