En advokat i USA står inför disciplinära åtgärder efter att hans advokatbyrå använt den populära AI-chatboten ChatGPT för juridisk forskning och citerat falska fall i en rättegång.
Steven A. Schwartz, som företräder Roberto Mata i en rättegång mot det colombianska flygbolaget Avianca, erkände att han använde OpenAI:s ChatGPT i forskningssyfte, och att AI-modellen försåg honom med citeringar till fall som inte fanns.
Mata stämmer Avianca för en personskada orsakad av en serveringsvagn 2019, och hävdar att en anställd har varit försumlig.
Läs också: Opera presenterar GPT-driven AI Chatbot Aria
Falsk hela vägen
Enligt en BBC rapport, ärendet uppdagades efter att Schwartz, en advokat med 30 års erfarenhet, använde dessa fall som prejudikat för att stödja Matas fall.
Men den motsatta advokaten flaggade de ChatGPT-genererade citaten som falska. USA:s distriktsdomare Kevin Castel bekräftade att sex av dem inte existerade. Han krävde en förklaring från Schwartz, en advokat vid det New York-baserade advokatföretaget Levidow, Levidow & Oberman.
"Sex av de inlämnade målen verkar vara falska rättsliga beslut med falska citat och falska interna citat", skrev domare Castel i en 4 maj. beställa.
"Rätten ställs inför en omständighet utan motstycke."
Det förmodade fall inkluderar: Varghese mot China South Airlines, Martinez mot Delta Airlines, Shaboon mot EgyptAir, Petersen mot Iran Air, Miller mot United Airlines och Estate of Durden mot KLM Royal Dutch Airlines, varav ingen verkade vara finns till antingen domaren eller försvaret.
Advokat hävdar okunnighet
ChatGPT är en stor språkmodell utvecklad av OpenAI. AI:n, som lanserades i november, tränas på miljarder data från Internet och kan utföra en mängd olika uppgifter som att generera text, översätta språk och till och med skriva poesi och lösa svåra matematiska problem.
Men ChatGPT är benäget att "hallucinationer” – Teknikindustrin talar för när AI-chatbots producerar falsk eller vilseledande information, ofta med tillförsikt.
I ett affidavit förra veckan sa Schwartz att han var "omedveten om möjligheten att dess [ChatGPT] innehåll kan vara falskt." Han sa också att han "mycket ångrar" att använda den generativa AI och kommer bara att "komplettera" dess användning med absolut försiktighet och validering i framtiden.
Schwartz påstod sig aldrig ha använt ChatGPT före detta fall. Han sa att han "mycket beklagar att ha använt generativ artificiell intelligens för att komplettera den juridiska forskningen som utförs häri och kommer aldrig att göra det i framtiden utan absolut verifiering av dess äkthet."
En advokat använde ChatGPT för att göra "juridiska efterforskningar" och citerade ett antal icke-existerande fall i en ansökan, och har nu mycket problem med domaren 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) Maj 27, 2023
Karriäradvokaten står nu inför en domstolsförhandling den 8 juni efter att ha accepterat ansvaret för att inte bekräfta äktheten av ChatGPT-källorna. Schwartz ombads att visa orsaken till varför han inte skulle straffas "för användningen av en falsk och bedräglig notarisering."
ChatGPT:s självsäkra lögner
Enligt BBC-rapporten innehöll Schwartz intygande skärmdumpar av advokaten som bekräftade hans chattar med ChatGPT.
Schwartz frågade chatboten, "är varghese ett riktigt fall?", på vilket ChatGPT svarade "ja, [det] är ett riktigt fall." När man frågade efter källor sa den till advokaten att fallet kunde hittas "i juridiska forskningsdatabaser som Westlaw och LexisNexis".
Återigen frågade advokaten: "Är de andra fallen du lämnade falska?" ChatGPT svarade "Nej" och tillade att fallen kunde hittas i andra juridiska databaser. "Jag ber om ursäkt för förvirringen tidigare," sa ChatGPT.
"Vid dubbelkontroll fann jag att fallet Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11:e cir. 2019), verkligen existerar och kan hittas i juridiska forskningsdatabaser som Westlaw och LexisNexis. Jag ber om ursäkt för eventuellt besvär eller förvirring som mina tidigare svar kan ha orsakat”, svarade chatboten med tillförsikt.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoAiStream. Web3 Data Intelligence. Kunskap förstärkt. Tillgång här.
- Minting the Future med Adryenn Ashley. Tillgång här.
- Köp och sälj aktier i PRE-IPO-företag med PREIPO®. Tillgång här.
- Källa: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :är
- :inte
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- Absolut
- acceptera
- Handling
- tillsats
- medgav
- Efter
- mot
- AI
- AI chatbot
- LUFT
- flygbolaget
- flygbolag
- Alla
- också
- an
- och
- vilken som helst
- visas
- konstgjord
- artificiell intelligens
- AS
- advokat
- äktheten
- bbc
- BE
- miljarder
- by
- kom
- KAN
- Karriär
- Vid
- fall
- Orsak
- orsakas
- försiktighet
- chatbot
- chatbots
- ChatGPT
- Kina
- citerade
- hävdade
- hävdar
- hävdar
- CO
- företag
- förtroende
- säker
- BEKRÄFTAT
- förvirring
- innehöll
- innehåll
- kunde
- råd
- Domstol
- Daniel
- datum
- databaser
- beslut
- Försvar
- Delta
- krävde
- utvecklade
- DID
- svårt
- disciplinär
- distrikt
- tingsrätten
- do
- gör
- dubbelkolla
- Dutch
- Tidigare
- antingen
- Anställd
- fastigheter
- Även
- existerar
- erfarenhet
- förklaring
- ytorna
- vänd
- fejka
- falsk
- Arkivering
- Firm
- flaggad
- För
- hittade
- bedräglig
- från
- framtida
- generera
- generativ
- Generativ AI
- Har
- har
- he
- hörsel
- honom
- hans
- HET
- HTTPS
- i
- in
- innefattar
- industrin
- informationen
- Intelligens
- inre
- Internet
- Iran
- IT
- DESS
- Domaren
- rättslig
- juni
- land
- språk
- Språk
- Large
- Efternamn
- lanserades
- Lag
- advokatbyrå
- stämning
- advokat
- Adress
- LexisNexis
- ljus
- tycka om
- Lot
- Ltd
- Mata
- matte
- Materia
- Maj..
- Mjölnare
- vilseledande
- modell
- my
- aldrig
- Nya
- New York-baserad
- obefintlig
- November
- nu
- antal
- of
- Ofta
- on
- endast
- OpenAI
- or
- Övriga
- Utföra
- personlig
- plato
- Platon Data Intelligence
- PlatonData
- Poesi
- Populära
- Möjligheten
- Prejudikat
- presenteras
- Innan
- problem
- producera
- förutsatt
- syfte
- citat
- Läsa
- verklig
- beklagar
- rapport
- representerar
- forskning
- svar
- ansvaret
- kungliga
- s
- Nämnda
- sanktionerade
- skärmdumpar
- portion
- show
- SEX
- So
- LÖSA
- Källor
- Söder
- Sydlig
- tala
- Stater
- lämnats
- sådana
- stödja
- förment
- uppgifter
- tech
- teknisk industri
- den där
- Smakämnen
- Framtiden
- Dem
- Dessa
- detta
- till
- tränad
- Översätt
- problem
- sann
- United
- USA
- utan motstycke
- presenterar
- us
- användning
- Begagnade
- med hjälp av
- utnyttjas
- godkännande
- mängd
- Verifiering
- var
- Vatten
- vecka
- när
- som
- VEM
- varför
- kommer
- med
- utan
- skriva
- år
- Om er
- zephyrnet