OpenAI ha citato in giudizio dopo che ChatGPT ha affermato falsamente che l'uomo ha sottratto denaro

OpenAI ha citato in giudizio dopo che ChatGPT ha affermato falsamente che l'uomo ha sottratto denaro

Timestamp: 8 giugno 2023 2:09

Il produttore di ChatGPT OpenAI sta affrontando una causa per diffamazione da parte di un uomo che chiede danni per le dichiarazioni rilasciate a un giornalista. La causa afferma che la piattaforma AI ha affermato falsamente che era stato accusato di appropriazione indebita di denaro da un gruppo per i diritti delle armi.

Mark Walters, residente in Georgia, ha presentato la denuncia al tribunale della contea di Gwinnett all'inizio di questa settimana. Puoi leggere una copia della denuncia di Walters  qui [PDF]. Sostiene che il chatbot sia colpevole di diffamazione "di per sé", il che significa che una dichiarazione che ha fatto potrebbe danneggiare la reputazione di Walters.

"Sebbene la ricerca e lo sviluppo dell'IA valgano la pena, è irresponsabile scatenare sul pubblico un sistema noto per inventare 'fatti' sulle persone", ha detto il suo avvocato John Monroe Il registro

Secondo la denuncia, un giornalista di nome Fred Riehl, mentre riferiva su un caso giudiziario, ha chiesto a ChatGPT un riepilogo delle accuse in una denuncia e ha fornito a ChatGPT l'URL della vera denuncia come riferimento. (Ecco il caso reale [PDF] il giornalista stava cercando di risparmiare tempo nella lettura per i curiosi.)

Ciò che rende la situazione ancora più strana è che il caso di cui Riehl stava parlando è stato effettivamente archiviato da un gruppo di diversi gruppi per i diritti delle armi contro l'ufficio del procuratore generale di Washington (accusando i funzionari di "ritorsione incostituzionale", tra le altre cose, mentre indagava sui gruppi e sui loro membri ) e non aveva nulla a che fare con affermazioni di contabilità finanziaria.

Quando Riehl ha chiesto un riepilogo, invece di restituire informazioni accurate, o almeno così sostiene il caso, ChatGPT ha "allucinato" che il nome di Mark Walters fosse allegato a una denuncia penale e, inoltre, che lo accusasse falsamente di appropriazione indebita di denaro dal Secondo Emendamento Foundation, una delle organizzazioni che ha citato in giudizio il procuratore generale di Washington nella vera denuncia.

ChatGPT è noto per "generare occasionalmente informazioni errate" - noto anche come allucinazioni, come Il registro ha ampiamente riportato. La piattaforma AI è già stata accusata di aver scritto necrologi per persone che sono ancora vive e dentro Può quest'anno, di inventare false citazioni legali che puntano a casi precedenti inesistenti. In quest'ultima situazione, un giudice del Texas ha dichiarato che il suo tribunale avrebbe annullato qualsiasi deposito di un avvocato che non fosse riuscito a certificare di non aver utilizzato l'intelligenza artificiale per preparare i propri documenti legali, o che l'avessero fatto, ma che un essere umano li avesse controllati.

È stata una brutta notizia per i giovani avvocati che speravano che la piattaforma di OpenAI potesse renderli solidi e recuperare qualche minuto dalle ore trascorse miseramente a sorseggiare un caffè freddo mentre sfogliavano la giurisprudenza in un ufficio buio.

Il creatore di ChatGPT, OpenAI supportato da Microsoft, lo fa avvertire sulla sua pagina di destinazione che la piattaforma è una "anteprima di ricerca gratuita e non destinata a fornire consigli". Abbiamo chiesto a OpenAI un commento.

ChatGPT è un'anteprima di ricerca gratuita e non ha lo scopo di fornire consigli

Secondo la denuncia, Riehl ha contattato Alan Gottlieb, uno dei querelanti nell'attuale causa di Washington, in merito alle accuse di ChatGPT riguardanti Walters, e Gottlieb ha confermato che erano false. Nessuna delle dichiarazioni di ChatGPT riguardanti Walters è nella denuncia vera e propria.

La falsa risposta che ChatGPT ha dato a Riehl ha affermato che Walters era tesoriere e Chief Financial Officer di SAF e ha affermato di aver "appropriato indebitamente e sottratto fondi e beni di SAF". Quando Riehl ha chiesto a ChatGPT di fornire "l'intero testo del reclamo", ha restituito un reclamo interamente fabbricato, che "non aveva alcuna somiglianza con il reclamo effettivo, incluso un numero di caso errato".

Walters chiede il risarcimento dei danni e le parcelle degli avvocati. Abbiamo chiesto un commento al suo avvocato. Per quanto riguarda l'ammontare dei danni, la denuncia dice che questi saranno determinati al processo, se il caso arriva effettivamente lì.

Abbiamo chiesto un commento agli esperti in diffamazione. Secondo il Berkman Center for Internet and Society, in Georgia, una figura privata querelante che intenta una causa per diffamazione deve "provare che l'imputato è stato almeno negligente rispetto alla verità o falsità delle dichiarazioni presumibilmente diffamatorie".

La denuncia affermava che "le accuse di ChatGPT riguardanti Walters erano false e dannose, espresse in stampa, scrittura, immagini o segni, tendenti a ferire la reputazione di Walters ed esponendolo all'odio, al disprezzo o al ridicolo pubblico".

Studio legale sulla diffamazione in Internet RM Warner Law opina che "è responsabilità dei querelanti per calunnia e diffamazione provare che le dichiarazioni in esame riguardano loro".

Questa parte, in questo Reg umile parere dello scrivano, potrebbe essere un problema. Abbiamo chiesto un commento a due Mark Walters con sede in Georgia. ®

Bootnote

Il caso di Walters, ironia della sorte, è elencato nel Portale dei tribunali Gwinnett come Walters VS OpenAL LLC (23-A-04860-2). Possiamo solo presumere che l'errore sia stato introdotto da uno dei nostri compagni di carne.

Timestamp:

Di più da Il registro