Amazon går inn for å løse 'AI-Penned Books'-hodepine

Amazon går inn for å løse "AI-Penned Books"-hodepine

Tidsstempel: 1. oktober 2023 6

Ettersom generativ AI fortsetter å få støtte, Amazon har gått inn med retningslinjer på bot-forfattede bøker, som har skapt hodepine for e-handelsfirmaet etter at de oversvømmet plattformen.

Generativ AIs evne til å produsere prosa, dikt, tekster, bilder, lyd og video har generelt fascinert verden, og fått folk med lite eller ingen ferdigheter til å bruke teknologien for å produsere innhold.

«AI-tullet»

Den samme teknologien kommer imidlertid med sin egen bagasje, og Amazon er i en løsning. Nå er "alt-butikken" fylt med bøker som ble skrevet av roboter, ifølge en artikkel av Wired.

Selv om artikkelen ikke oppgir nøyaktig hvor mange AI-genererte bøker som er til salgs på plattformen, er det et bredt spekter av dem på plattformen, som dekker ulike sjangre, med noen sjangre plaget av titler av lav kvalitet. Tidligere i år kalte forfatteren Caitlyn Lynch dette "AI-tullet" inn et innlegg på X (tidligere Twitter).

Det som er mer bekymringsfullt er at noen av bøkene bærer navn og likheter med ekte menneskelige forfattere. I sommer oppdaget for eksempel Jane Friedman, en forfatter og forlagsindustriekspert, fem separate bøker som feilaktig ble oppført som hennes på Amazon.

En av de uredelige titlene er "Hvordan skrive og publisere en e-bok raskt." Og menneskene bak disse robotene er bestemt i sine skruppelløse aktiviteter. I følge Wired-rapporten er det en "hel belastningskultur på YouTube-videoer."

Disse oppmuntrer seerne til å enkelt bli rike gjennom å produsere AI-generert materiale for Kindle, med titler som;

"Hvordan lage UDEEKKERBART AI-innhold for Amazon KDP (garantert metode)."

Disse siste ordningene for å tjene penger gjør det nå vanskelig for lesere som leter etter bøker å få lesestoff av høy kvalitet skrevet av mennesker.

Les også: ChatGPTs nettsurfing i sanntid brytes fri fra begrensede 2021-data

Amazon går inn for å løse 'AI-Penned Books' hodepine PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.Amazon går inn for å løse 'AI-Penned Books' hodepine PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Amazons politikk

Stilt overfor dette dilemmaet har Amazon de siste ukene begynt å ta skritt for å håndtere problemet. Selskapet har nå et tak på antall bøker en enkelt forfatter kan gi ut. Den har også introdusert en politikk som krever at forfattere avslører om bøkene deres er skrevet av mennesker eller var AI-generert.

"Amazon er etisk forpliktet til å avsløre denne informasjonen," sa Friedman.

"Forfatterne og utgiverne burde avsløre det allerede, men hvis de ikke gjør det, må Amazon gi det mandat, sammen med hver forhandler og distributør."

Hun la til at unnlatelse av å gjøre det var ensbetydende med "avle mistillit og forvirring."

Administrerende direktør Mary Rasenberger i Authors Guild veide inn og sa: "Vi har tatt til orde for lovgivning som krever at AI-generert materiale skal flagges som sådan av plattformene eller utgiverne over hele linjen."

Men det er en annen måte

Det finnes imidlertid andre måter å håndtere problemet på, en av dem er bruken av AI-detektorer.

Litt Oppstart av AI-deteksjon som separat snakket med Wired foreslår at Amazon kan prøve AI-deteksjonsteknologiene for å tette smutthullene og enkelt flagge AI-generert materiale.

En av AI-deteksjons-oppstartene, Reality Defender, sier at selskapet hans, som startet med å fokusere på dypfalske bilder, nå har utvidet seg til tekstgjenkjenning også, en tjeneste som leveres av flere andre og kan være løsningen på Amazons problem.

En annen oppstart, GPTZeros administrerende direktør, deler også samme grad av tillit.

"Vi kan absolutt levere teknologien til e-handelsplattformer, og vi er for tiden midt i samtaler for å gjøre det med våre forskjellige leverandører."

Winston AI-grunnlegger John Renaud har allerede flere utgivere blant sine kunder.

Mens Amazon også har en forpliktelse overfor sine kunder til å oppfylle deres forventninger til høykvalitets, menneskeskrevne bøker, er det bekymringer om hvorfor selskapet ikke har brukt verktøy for automatisk å flagge AI-laget materiale. På spørsmål om dette, Amazon nektet å kommentere, men dets talsperson, Ashley Vanicek, ga en skriftlig uttalelse.

"Amazon evaluerer stadig nye teknologier og er forpliktet til å tilby den best mulige shopping-, lese- og publiseringsopplevelsen for forfattere og kunder."

Skepsisen

Det er skepsis til AI-deteksjonsverktøy og hvor nøyaktige resultatene deres er, noe som kan være grunnen til at Amazon tar en forsiktig tilnærming til dem.

En artikkel publisert av forskere ved University of Maryland viste at detektorresultatene kan være feil.

"Disse detektorene er ikke pålitelige i praktiske scenarier," de skrev.

En annen studie gjort i juli av forskere ved Stanford viste hvordan detektorene var partisk mot forfattere som ikke har engelsk som morsmål.

ChatGPT-produsenten OpenAI måtte stenge AI-klassifiseringen etter at den fikk kritikk for dårlige resultater.

"Vi tror ikke at AI-deteksjonsprogramvare er et effektivt verktøy som bør brukes," sa Vanderbilt Universitys Michael Coley etter et mislykket eksperiment med Turnitins AI-deteksjonsprogram.

Tidstempel:

Mer fra MetaNews