Amazon går in för att lösa "AI-Penned Books"-huvudvärk

När generativ AI fortsätter att få stöd, Amazon har gått in med policyer på botförfattade böcker, som har skapat huvudvärk för e-handelsföretaget efter att de översvämmade dess plattform.

Generativ AI:s förmåga att producera prosa, dikter, texter, bilder, ljud och video har i allmänhet fascinerat världen, vilket fått människor med små eller inga färdigheter att vända sig till tekniken för att producera innehåll.

"AI-nonsensen"

Men samma teknik kommer med sitt eget bagage, och Amazon är i en fix. Nu är dess "alltbutik" fylld med böcker som skrevs av bots, enligt en artikel av Trådbunden.

Även om artikeln inte anger exakt hur många AI-genererade böcker som är till salu på plattformen, finns det ett brett utbud av dem på plattformen, som täcker olika genrer, med vissa genrer som plågas av titlar av låg kvalitet. Tidigare i år kallade författaren Caitlyn Lynch detta "AI-nonsens". ett inlägg på X (tidigare Twitter).

Vad som är mer oroande är att några av böckerna bär namn och likheter med verkliga mänskliga författare. Till exempel, i somras upptäckte Jane Friedman, en författare och förlagsindustriexpert, fem separata böcker som felaktigt listades som hennes på amason.

En av de bedrägliga titlarna är "Hur man skriver och publicerar en e-bok snabbt." Och människorna bakom dessa bots är beslutsamma i sina skrupelfria aktiviteter. Enligt Wired-rapporten finns det en "hel ansträngd hustle-kultur på YouTube-videor."

Dessa uppmuntrar tittarna att enkelt bli rika genom att producera AI-genererat material för Kindle, med titlar som;

"Hur man gör Oupptäckbart AI-innehåll för Amazon KDP (garanterad metod)."

Dessa senaste pengar för att tjäna pengar gör det nu svårt för läsare som letar efter böcker att få högkvalitativt läsmaterial skrivet av människor.

Läs också: ChatGPT:s webbsurfning i realtid frigörs från begränsade 2021-data

Amazons policy

Inför detta dilemma har Amazon under de senaste veckorna börjat vidta åtgärder för att hantera problemet. Företaget har nu ett tak för antalet böcker en enskild författare kan ge ut. Den har också infört en policy som kräver att författare avslöjar om deras böcker skrevs av människor eller var AI-genererade.

"Amazon är etiskt skyldigt att avslöja denna information," sade Friedman.

"Författarna och utgivarna borde avslöja det redan, men om de inte gör det måste Amazon bemyndiga det, tillsammans med varje återförsäljare och distributör."

Hon tillade att underlåtenhet att göra det var liktydigt med att "föda upp misstro och förvirring."

Authors Guilds vd Mary Rasenberger vägde in och sa: "Vi har förespråkat lagstiftning som kräver att AI-genererat material flaggas som sådant av plattformarna eller utgivarna över hela linjen."

AI-botarna har krossat Amazon.
Ta en titt på bästsäljarna i topp 100-diagrammet för modern romantik för tonåringar och unga vuxna.
Jag kan se 19 riktiga legit böcker.https://t.co/fy9rtV6Ck6
Resten är AI nonsens helt klart där för att klicka farm.@AmazonKDP vad gör du åt det? pic.twitter.com/cziuKcQrq3

— Caitlyn Lynch aka Catherine Bilson (@caitlynlynch6) Juni 26, 2023

Men det finns ett annat sätt

Det finns dock andra sätt att hantera problemet, varav ett är användningen av AI-detektorer.

Några AI-detektionsstarter som separat talade med Wired föreslår att Amazon skulle kunna prova AI-detektionsteknologierna för att täppa till kryphålen och enkelt flagga AI-genererat material.

En av startuperna för AI-detektion, Reality Defender, säger att hans företag, som började fokusera på deepfake-bilder, nu har expanderat till textdetektering också, en tjänst som tillhandahålls av flera andra och kan vara lösningen på Amazons problem.

En annan startup, GPTZeros VD, delar också samma nivå av förtroende.

"Vi kan absolut tillhandahålla tekniken till e-handelsplattformar, och vi är för närvarande mitt i samtal om att göra det med våra olika leverantörer."

Winston AI-grundaren John Renaud har redan flera förlag bland sina kunder.

Även om Amazon också har en skyldighet gentemot sina kunder att uppfylla deras förväntningar på högkvalitativa, mänskligt skrivna böcker, finns det oro för varför företaget inte har använt verktyg för att automatiskt flagga det AI-tillverkade materialet. På frågan om detta, amason vägrade att kommentera, men dess talesman, Ashley Vanicek, lämnade ett skriftligt uttalande.

"Amazon utvärderar ständigt nya teknologier och är engagerade i att tillhandahålla bästa möjliga shopping-, läs- och publiceringsupplevelse för författare och kunder."

Skepsisen

Det finns skepsis kring AI-detektionsverktyg och hur exakta deras resultat är, vilket kan vara anledningen till att Amazon tar en försiktig inställning till dem.

En artikel publicerad av forskare vid University of Maryland visade att detektorernas resultat kan vara felaktiga.

"Dessa detektorer är inte tillförlitliga i praktiska scenarier," de skrev.

En annan studie gjord i juli av forskare vid Stanford visade hur detektorerna var partiska mot författare som inte är engelska som modersmål.

ChatGPT-tillverkaren OpenAI var tvungen att stänga sin AI-klassificering efter att den fått kritik för dåliga resultat.

"Vi tror inte att programvara för AI-detektering är ett effektivt verktyg som bör användas", sa Michael Coley vid Vanderbilt University efter ett misslyckat experiment med Turnitins AI-detektionsprogram.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://metanews.com/amazon-steps-in-to-solve-ai-penned-books-headache/