Amazon træder ind for at løse 'AI-Penned Books'-hovedpine

Amazon træder ind for at løse 'AI-Penned Books'-hovedpine

Tidsstempel: 1. oktober 2023 kl. 6

Mens generativ kunstig intelligens fortsætter med at vinde støtte, Amazon er gået ind med politikker vedr bot-forfattede bøger, som har skabt hovedpine for e-handelsfirmaet, efter at de oversvømmede dets platform.

Generativ AI's evne til at producere prosa, digte, tekster, billeder, lyd og video har generelt fascineret verden, hvilket har fået folk med få eller ingen færdigheder til at vende sig til teknologien for at producere indhold.

"AI-vrøvl"

Den samme teknologi kommer dog med sin egen bagage, og Amazon er i en løsning. Nu er dens "alt-butik" fyldt med bøger, der er skrevet af bots, ifølge en artikel af Wired.

Selvom artiklen ikke angiver præcis, hvor mange AI-genererede bøger, der er til salg på platformen, er der en bred vifte af dem på platformen, der dækker forskellige genrer, med nogle genrer plaget af titler af lav kvalitet. Tidligere i år kaldte forfatteren Caitlyn Lynch dette "AI-nonsens" ind et opslag på X (tidligere Twitter).

Hvad der er mere bekymrende er, at nogle af bøgerne bærer navne og ligheder med rigtige menneskelige forfattere. For eksempel opdagede Jane Friedman, en forfatter og ekspert i forlagsbranchen i sommer, fem separate bøger, der fejlagtigt var opført som hendes på Amazon.

En af de svigagtige titler er "Sådan skriver og udgiver du en e-bog hurtigt." Og folkene bag disse bots er fast besluttede i deres skruppelløse aktiviteter. Ifølge Wired-rapporten er der en "helt træls kultur på YouTube-videoer."

Disse tilskynder seerne til nemt at blive rige ved at producere AI-genereret materiale til Kindle, med titler som;

"Sådan laver man IKKE-OPSEGLERBART AI-indhold til Amazon KDP (garanteret metode)."

Disse seneste pengeskabende ordninger gør det nu vanskeligt for læsere, der leder efter bøger, at få læsestof af høj kvalitet skrevet af mennesker.

Læs også: ChatGPT's realtidswebbrowsing bryder fri fra begrænsede 2021-data

Amazon Steps in to Solve 'AI-Penned Books' Headache PlatoBlockchain Data Intelligence. Vertical Search. Ai.Amazon Steps in to Solve 'AI-Penned Books' Headache PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Amazons politik

Stillet over for dette dilemma er Amazon i de sidste par uger begyndt at tage skridt til at håndtere problemet. Virksomheden har nu et loft over antallet af bøger, en enkelt forfatter kan udgive. Det har også indført en politik der kræver, at forfattere afslører, om deres bøger er skrevet af mennesker eller var AI-genereret.

"Amazon er etisk forpligtet til at videregive disse oplysninger," sagde Friedman.

"Forfatterne og udgiverne burde allerede afsløre det, men hvis de ikke gør det, så skal Amazon give det mandat sammen med enhver forhandler og distributør."

Hun tilføjede, at undladelse af at gøre det var ensbetydende med at "avle mistillid og forvirring."

Authors Guilds administrerende direktør, Mary Rasenberger, vejede ind og sagde: "Vi har slået til lyd for lovgivning, der kræver, at AI-genereret materiale skal markeres som sådan af platformene eller udgiverne over hele linjen."

Men der er en anden måde

Der er dog andre måder at håndtere problemet på, hvoraf den ene er brugen af ​​AI-detektorer.

Nogle Opstart af AI-detektion som separat talte med Wired, foreslår, at Amazon kunne prøve AI-detektionsteknologierne for at lukke hullerne og nemt markere AI-genereret materiale.

En af AI-detektions-startuperne, Reality Defender, siger, at hans virksomhed, som startede med at fokusere på deepfake-billeder, nu også har udvidet til tekstgenkendelse, en tjeneste, der leveres af flere andre og kunne være løsningen på Amazons problem.

En anden startup, GPTZeros administrerende direktør, deler også den samme grad af tillid.

"Vi kan absolut levere teknologien til e-handelsplatforme, og vi er i øjeblikket midt i samtaler om at gøre det med vores forskellige leverandører."

Winston AI-grundlægger John Renaud har allerede flere udgivere blandt sine kunder.

Mens Amazon også har en forpligtelse over for sine kunder til at leve op til deres forventninger til højkvalitets, menneskeskrevne bøger, er der bekymring for, hvorfor virksomheden ikke har brugt værktøjer til automatisk at markere det AI-fremstillede materiale. Når man bliver spurgt om dette, Amazon nægtede at kommentere, men dets talsmand, Ashley Vanicek, afgav en skriftlig erklæring.

"Amazon evaluerer konstant nye teknologier og er forpligtet til at levere den bedst mulige shopping-, læse- og udgivelsesoplevelse for forfattere og kunder."

Skepsisen

Der er skepsis over for AI-detektionsværktøjer og hvor nøjagtige deres resultater er, hvilket kan være årsagen til, at Amazon tager en forsigtig tilgang til dem.

Et papir udgivet af forskere ved University of Maryland viste, at detektorernes resultater kan være defekte.

"Disse detektorer er ikke pålidelige i praktiske scenarier," de skrev.

Endnu en undersøgelse lavet i juli af forskere ved Stanford viste, hvordan detektorerne var forudindtaget mod forfattere, der ikke er engelsktalende som modersmål.

ChatGPT-producenten OpenAI måtte lukke deres AI-klassifikation, efter at den fik kritik for dårlige resultater.

"Vi mener ikke, at AI-detektionssoftware er et effektivt værktøj, der bør bruges," sagde Vanderbilt Universitys Michael Coley efter et mislykket eksperiment med Turnitins AI-detektionsprogram.

Tidsstempel:

Mere fra MetaNews