OpenAI stämde efter att ChatGPT felaktigt hävdade att mannen förskingrat pengar

OpenAI stämde efter att ChatGPT felaktigt hävdade att mannen förskingrat pengar

Tidsstämpel: 8 juni 2023 2:09

ChatGPT-tillverkaren OpenAI står inför en ärekränkningsprocess från en man som vill ha skadestånd för uttalanden som den levererat till en journalist. Stämningen säger att AI-plattformen felaktigt hävdade att han hade anklagats för att ha förskingrat pengar från en vapenrättsgrupp.

Georgia bosatt Mark Walters lämnade in kravet i Gwinnett County Court tidigare denna vecka. Du kan läsa en kopia av Walters klagomål  här. [PDF]. Han hävdar att chatboten är skyldig till förtal "i sig", vilket betyder att ett uttalande som den gjorde sannolikt kommer att skada Walters rykte.

"Medan forskning och utveckling av AI är värt besväret, är det oansvarigt att släppa lös ett system för allmänheten som är känt för att hitta på "fakta" om människor," sa hans advokat John Monroe Registret

Enligt klagomålet bad en journalist vid namn Fred Riehl, medan han rapporterade om ett rättsfall, ChatGPT om en sammanfattning av anklagelserna i ett klagomål och gav ChatGPT webbadressen till det verkliga klagomålet som referens. (Här är faktiska fall [PDF] reportern försökte spara tid på att läsa för de nyfikna.)

Det som gör situationen ännu konstigare är att fallet Riehl rapporterade om faktiskt lämnades in av en grupp av flera vapenrättsgrupper mot Washingtons justitiekansli (anklagade bland annat tjänstemän för "konstitutionell vedergällning", samtidigt som de utredde grupperna och deras medlemmar ) och hade ingenting alls att göra med finansiella redovisningskrav.

När Riehl bad om en sammanfattning, istället för att returnera korrekt information, eller så hävdar fallet, "hallucinerade" ChatGPT att Mark Walters namn var kopplat till ett brottsanmälan - och dessutom att det felaktigt anklagade honom för att ha förskingrat pengar från The Second Amendment Foundation, en av de organisationer som stämmer Washington Attorney General i det verkliga klagomålet.

ChatGPT är känt för att "ibland generera felaktig information" - även känd som hallucinationer, Som Registret har utförligt rapporterat. AI-plattformen har redan anklagats för att skriva dödsannonser för människor som fortfarande lever, och i Maj i år, av att hitta på falska juridiska hänvisningar som pekar på icke-existerande tidigare fall. I den senare situationen sa en domare i Texas att hans domstol skulle överklaga alla anmälningar från en advokat som inte kunde intyga att de inte använde AI för att förbereda sina juridiska handlingar, eller att de hade gjort det, men en människa hade kontrollerat dem.

Det var alla ganska dåliga nyheter för yngre advokater som hoppades att OpenAI:s plattform skulle kunna göra dem en solid och kloa ett par minuter tillbaka från timmar tillbringade eländigt smuttande på kallt kaffe när de bläddrar igenom rättspraxis på ett mörkt kontor.

ChatGPTs tillverkare, Microsoft-stödda OpenAI, gör det varna på sin målsida att plattformen är en "gratis förhandsvisning av forskning och inte avsedd att ge råd." Vi har bett OpenAI om en kommentar.

ChatGPT är en gratis förhandsgranskning och inte avsedd att ge råd

Enligt klagomålet kontaktade Riehl Alan Gottlieb, en av kärandena i själva stämningsansökan i Washington, om ChatGPT:s anklagelser om Walters, och Gottlieb bekräftade att de var falska. Inget av ChatGPT:s uttalanden om Walters finns i själva klagomålet.

Det falska svaret ChatGPT gav Riehl påstod att Walters var kassör och finanschef för SAF och hävdade att han hade "förskingrat och förskingrat SAF:s medel och tillgångar." När Riehl bad ChatGPT att tillhandahålla "hela texten i klagomålet" returnerade det ett helt påhittat klagomål, som inte hade "ingen likhet med det faktiska klagomålet, inklusive ett felaktigt ärendenummer."

Walters söker skadestånd och advokatarvoden. Vi har bett hans advokat om en kommentar. När det gäller skadeståndsbeloppet, säger klagomålet att dessa kommer att fastställas vid rättegången, om ärendet verkligen kommer dit.

Vi har bett experter på förtal om kommentarer. Enligt Berkman Center for Internet and Society, i Georgien, måste en privatperson kärande som väckt en ärekränkningsprocess "bevisa att svaranden åtminstone var försumlig med avseende på sanningen eller falskheten i de påstådda ärekränkande uttalandena."

Klagomålet hävdade "ChatGPT:s anklagelser om Walters var falska och illvilliga, uttryckta i tryck, skrift, bilder eller tecken, som tenderade att skada Walters rykte och utsätta honom för allmänt hat, förakt eller förlöjligande."

Internet ärekränkningsadvokatbyrå RM Warner Law opiner att "det är kärandenas ansvar att bevisa att uttalandena som granskas handlar om dem."

Den här delen, i den här Reg skribentens ödmjuka åsikt, kan vara ett problem. Vi har bett två Georgien-baserade Mark Walters för kommentarer. ®

Bootnote

Walters fall, ironiskt nog, listas i Gwinnett Courts Portal som Walters VS OpenAL LLC (23-A-04860-2). Vi kan bara anta att felet introducerades av en av våra andra köttsäckar.

Tidsstämpel:

Mer från Registret