Amazon interviene per risolvere il mal di testa dei "libri scritti con l'intelligenza artificiale".

Amazon interviene per risolvere il mal di testa dei "libri scritti con l'intelligenza artificiale".

Timestamp: 1 ottobre 2023 6:30

Mentre l’IA generativa continua a guadagnare supporto, Amazon è intervenuta con delle politiche libri scritti da bot, che hanno creato grattacapi all'azienda di e-commerce dopo aver inondato la sua piattaforma.

La capacità dell’intelligenza artificiale generativa di produrre prosa, poesie, testi, immagini, audio e video ha generalmente affascinato il mondo, spingendo persone con poche o nessuna competenza a rivolgersi alla tecnologia per produrre contenuti.

Le “sciocchezze dell’IA”

Tuttavia, la stessa tecnologia ha il suo bagaglio e Amazon è in difficoltà. Ora, secondo un articolo di cablato.

Sebbene l'articolo non indichi esattamente quanti libri generati dall'intelligenza artificiale sono in vendita sulla piattaforma, ne esiste un'ampia gamma sulla piattaforma, che copre vari generi, con alcuni generi afflitti da titoli di bassa qualità. All’inizio di quest’anno, l’autrice Caitlyn Lynch ha definito questa “sciocchezza dell’IA”. un post su X (precedentemente Twitter).

Ciò che è più preoccupante è che alcuni libri portano nomi e sembianze di veri scrittori umani. Ad esempio, quest'estate, Jane Friedman, scrittrice ed esperta del settore editoriale, ha scoperto cinque libri separati che erano stati falsamente elencati come suoi su Amazon.

Uno dei titoli fraudolenti è “Come scrivere e pubblicare rapidamente un eBook”. E le persone dietro questi robot sono determinate nelle loro attività senza scrupoli. Secondo il rapporto di Wired, esiste "un'intera cultura del trambusto sui video di YouTube".

Questi incoraggiano gli spettatori ad arricchirsi facilmente producendo materiale generato dall'intelligenza artificiale per Kindle, con titoli come;

"Come creare contenuti AI NON RILEVABILI per Amazon KDP (metodo garantito)."

Questi ultimi schemi di guadagno stanno ora rendendo difficile per i lettori in cerca di libri ottenere materiale di lettura di alta qualità scritto da esseri umani.

Leggi anche: La navigazione Web in tempo reale di ChatGPT si libera dai dati limitati del 2021

Amazon interviene per risolvere il problema dei "libri scritti con l'intelligenza artificiale" PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.Amazon interviene per risolvere il problema dei "libri scritti con l'intelligenza artificiale" PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

La politica di Amazon

Di fronte a questo dilemma, nelle ultime settimane Amazon ha iniziato ad adottare misure per affrontare il problema. La società ora ha un limite al numero di libri che un singolo scrittore può pubblicare. Ha inoltre introdotto a politica ciò richiede agli scrittori di rivelare se i loro libri sono stati scritti da esseri umani o sono stati generati dall’intelligenza artificiale.

“Amazon è eticamente obbligata a divulgare queste informazioni”, ha affermato Friedman.

"Gli autori e gli editori dovrebbero già renderlo pubblico, ma se non lo fanno, allora Amazon deve imporlo, insieme a ogni rivenditore e distributore."

Ha aggiunto che non farlo equivale a “alimentare sfiducia e confusione”.

Mary Rasenberger, CEO di Authors Guild, è intervenuta affermando: "Abbiamo sostenuto una legislazione che richieda che il materiale generato dall'intelligenza artificiale sia contrassegnato come tale dalle piattaforme o dagli editori a tutti i livelli".

Ma c'è un altro modo

Tuttavia, esistono altri modi per affrontare il problema, uno dei quali è l’uso di rilevatori di intelligenza artificiale.

Alcuni Avvio del rilevamento dell'intelligenza artificiale che hanno parlato separatamente con Wired suggeriscono che Amazon potrebbe provare le tecnologie di rilevamento dell’intelligenza artificiale per colmare le lacune e segnalare facilmente il materiale generato dall’intelligenza artificiale.

Una delle startup di rilevamento dell'intelligenza artificiale, Reality Defender, afferma che la sua azienda, che ha iniziato concentrandosi su immagini deepfake, ora si è estesa anche al rilevamento di testo, un servizio fornito da molti altri e che potrebbe essere la soluzione al problema di Amazon.

Anche un'altra startup, il CEO di GPTZero, condivide lo stesso livello di fiducia.

"Possiamo assolutamente fornire la tecnologia alle piattaforme di e-commerce e attualmente siamo nel bel mezzo di conversazioni in tal senso con i nostri vari fornitori."

Il fondatore di Winston AI, John Renaud, ha già diversi editori tra i suoi clienti.

Sebbene Amazon abbia anche l’obbligo nei confronti dei propri clienti di soddisfare le loro aspettative riguardo a libri di alta qualità scritti da esseri umani, ci sono dubbi sul motivo per cui l’azienda non ha utilizzato strumenti per contrassegnare automaticamente il materiale prodotto dall’intelligenza artificiale. Interrogato su questo, Amazon ha rifiutato di commentare, ma il suo portavoce, Ashley Vanicek, ha fornito una dichiarazione scritta.

“Amazon valuta costantemente le tecnologie emergenti e si impegna a fornire la migliore esperienza possibile di acquisto, lettura e pubblicazione per autori e clienti”.

Lo scetticismo

C’è scetticismo sugli strumenti di rilevamento dell’intelligenza artificiale e sull’accuratezza dei loro risultati, il che potrebbe essere il motivo per cui Amazon sta adottando un approccio cauto nei loro confronti.

Un articolo pubblicato dai ricercatori dell'Università del Maryland ha dimostrato che i risultati dei rilevatori possono essere errati.

"Questi rilevatori non sono affidabili negli scenari pratici", hanno affermato ha scritto.

Un altro studio condotto a luglio dai ricercatori di Stanford ha mostrato come i rilevatori fossero prevenuti nei confronti degli scrittori che non erano di madrelingua inglese.

Il produttore di ChatGPT OpenAI ha dovuto chiudere la classificazione dell'IA dopo aver ricevuto critiche per i cattivi risultati.

"Non crediamo che il software di rilevamento dell'intelligenza artificiale sia uno strumento efficace da utilizzare", ha affermato Michael Coley della Vanderbilt University dopo un esperimento fallito con il programma di rilevamento dell'intelligenza artificiale di Turnitin.

Timestamp:

Di più da MetaNotizie