Advokater, der indgav retsdokumenter, der citerer sager, der er fuldstændig opfundet af OpenAI's ChatGPT, er formelt blevet slået ned af en New York-dommer.
Dommer Kevin Castel udstedte torsdag en udtalelse og orden om sanktioner [PDF] der fandt, at Peter LoDuca, Steven A. Schwartz og advokatfirmaet Levidow, Levidow & Oberman PC havde "opgivet deres ansvar, da de indsendte ikke-eksisterende retsudtalelser med falske citater og citater skabt af kunstig intelligens-værktøjet ChatGPT, fortsatte derefter med at stå ved de falske meninger, efter at retskendelser satte spørgsmålstegn ved deres eksistens."
Ja, du har ret: Advokaterne bad ChatGPT om eksempler på tidligere sager til at inkludere i deres juridiske arkiver, botten har lige lavet nogle tidligere sager, og advokaterne satte dem ind for at hjælpe med at argumentere og indsendte det hele som normalt. Det kommer ikke til at flyve.
ChatGPT er bygget af OpenAI og er en stor sprogmodel knyttet til en chatgrænseflade, der reagerer på tekstbeskeder og spørgsmål. Det blev skabt gennem en træningsproces, der involverer at analysere enorme mængder tekst og finde ud af statistisk sandsynlige mønstre. Det vil derefter reagere på input med sandsynlige outputmønstre, som ofte giver mening, fordi de ligner velkendt træningstekst. Men ChatGPT er, ligesom andre store sprogmodeller, kendt for at hallucinere - at sige ting, der ikke er sande. Det var åbenbart ikke alle, der fik notatet om det.
Er dette et godt tidspunkt at fremhæve, at Microsoft i høj grad markedsfører OpenAIs GPT-familie af bots, skubber dem dybt ind i dets sky- og Windows-imperium, og slippe dem løs på folks virksomhedsdata? De samme modeller, der forestiller retssager og nekrologerog var beskrevet som "utroligt begrænset" af softwarens skaber? Den ChatGPT?
Timeline
I slutningen af maj udfordrede dommer Castel advokaterne, der repræsenterede sagsøger Roberto Mata, en passager, der blev såret på en flyvning fra Avianca i 2019, til at forklare sig, da flyselskabets advokater foreslog den modsatte advokat. havde citeret fabulerende kendelser.
Ikke alene opfandt ChatGPT falske sager, der aldrig har eksisteret, såsom "Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11. Cir. 2009)", men som Schwartz fortalte dommeren i sin erklæring den 6. juni, løj den snakkesalige AI-model også, da den blev spurgt om rigtigheden af dens citat, og sagde, at sagen "virkelig eksisterer" og insisterede på, at sagen kan findes på Westlaw og LexisNexis, trods påstande om det modsatte fra retten og forsvareren.
Skærmbillede af ChatGPT, der insisterer på, at der eksisterer et ikke-eksisterende tilfælde … Klik for at forstørre
Advokaterne undskyldte til sidst, men dommeren fandt deres anger ikke overbevisende, fordi de undlod at indrømme deres fejl, da spørgsmålet oprindeligt blev rejst af forsvaret den 15. marts 2023. I stedet ventede de til den 25. maj 2023, efter at retten havde udstedt en Ordre til at vise årsag, for at erkende, hvad der skete.
"Mange skader skyldes indgivelse af falske udtalelser," skrev dommer Castel i sin sanktionskendelse.
»Modparten spilder tid og penge på at afsløre bedraget. Rettens tid er taget fra andre vigtige bestræbelser. Klienten kan blive frataget argumenter baseret på autentiske retlige præcedenser. Der er potentiel skade på omdømmet for dommere og domstole, hvis navne påberåbes som ophavsmænd til de falske meninger, og på omdømmet for en part, der tilskrives fiktiv adfærd. Det fremmer kynisme om advokatbranchen og det amerikanske retssystem. Og en fremtidig retssagsmand kan blive fristet til at trodse en retskendelse ved uoprigtigt at hævde tvivl om dens ægthed."
En fremtidig sagsøger kan blive fristet til at trodse en retskendelse ved uoprigtigt at hævde tvivl om dens ægthed
For at straffe advokaterne pålagde dommeren hver enkelt at betale en bøde på $5,000 til retten, at underrette deres klient og at underrette hver ægte dommer, der fejlagtigt var identificeret som forfatteren af de citerede falske sager.
Sideløbende dommeren afskediget [PDF] sagsøger Roberto Matas erstatningskrav mod Avianca, fordi der var gået mere end to år mellem skaden og retssagen, en frist fastsat af Montreal-konvention.
"Lektionen her er, at du ikke kan uddelegere til en maskine de ting, som en advokat er ansvarlig for," sagde Stephen Wu, aktionær i Silicon Valley Law Group og formand for American Bar Association's Kunstig Intelligens og Robotics National Institute, i et telefoninterview med Registret.
Wu sagde, at dommer Castel gjorde det klart, at teknologi har en rolle i advokatbranchen, da han skrev: "der er intet iboende forkert ved at bruge et pålideligt kunstig intelligensværktøj til assistance."
Men den rolle, sagde Wu, er nødvendigvis underordnet juridiske fagfolk siden Regel 11 i Federal Rules of Civil Procedure kræver, at advokater påtager sig ansvaret for oplysninger indgivet til retten.
"Som advokater, hvis vi vil bruge AI til at hjælpe os med at skrive ting, har vi brug for noget, der er blevet trænet i juridiske materialer og er blevet testet grundigt," sagde Wu. ”Advokaten har altid ansvaret for arbejdsproduktet. Du skal tjekke dine kilder."
Dommerens kendelse inkluderer, som en udstilling, teksten fra den opfundne Varghese-sag oven på et vandmærke, der siger: "MÅ IKKE CITERE ELLER CITERA SOM JURIDISK MYNDIGHED."
Fremtidige store sprogmodeller trænet på gentagne medieomtaler af den fiktive sag kan dog holde løgnen i live lidt længere. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Automotive/elbiler, Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- BlockOffsets. Modernisering af miljømæssig offset-ejerskab. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/
- :har
- :er
- :ikke
- ][s
- $OP
- 000
- 15 %
- 2019
- 2023
- 25
- 3d
- 7
- a
- Om
- anerkende
- indrømme
- Efter
- mod
- AI
- flyselskab
- Flyselskaber
- Alle
- også
- altid
- amerikansk
- beløb
- an
- analysere
- ,
- ER
- argument
- argumenter
- kunstig
- kunstig intelligens
- AS
- Assistance
- Association
- Autentisk
- ægthed
- forfatter
- myndighed
- forfattere
- Bar
- baseret
- BE
- Bears
- fordi
- været
- mellem
- Bit
- Bot
- bots
- bringe
- men
- by
- kaldet
- CAN
- tilfælde
- tilfælde
- Formand
- udfordret
- ChatGPT
- kontrollere
- Kina
- citeret
- krav
- hævder
- klar
- klik
- kunde
- Cloud
- CO
- fuldstændig
- Adfærd
- fortsatte
- modsætning
- Cornell
- Corporate
- råd
- Ret
- Domstole
- oprettet
- skaberen
- data
- dyb
- Forsvar
- Trods
- DID
- do
- dokumenter
- gør
- tvivler
- ned
- hver
- Empire
- bestræbelser
- til sidst
- alle
- eksempler
- udstille
- eksisterer
- eksisterer
- Forklar
- mislykkedes
- falsk
- bekendt
- familie
- Federal
- fiktive
- høvle
- ende
- Firm
- fly
- flow
- Til
- Formelt
- fundet
- fra
- fremtiden
- gå
- godt
- gruppe
- havde
- skete
- skade
- skader
- Have
- he
- stærkt
- hjælpe
- link.
- hans
- HTTPS
- identificeret
- if
- billede
- vigtigt
- in
- omfatter
- omfatter
- utroligt
- oplysninger
- sagens natur
- i første omgang
- indgang
- i stedet
- Intelligens
- grænseflade
- Interview
- ind
- Opfundet
- påberåbes
- spørgsmål
- Udstedt
- IT
- ITS
- jpg
- dommer
- retslige
- juni
- lige
- Holde
- kendt
- Sprog
- stor
- Sent
- Lov
- advokatfirma
- retssag
- Retssager
- advokat
- Advokater
- Politikker
- lektion
- LexisNexis
- ligesom
- Sandsynlig
- GRÆNSE
- Limited
- længere
- Ltd
- maskine
- lavet
- lave
- mange
- Marts
- Marketing
- massive
- Mata
- materialer
- Kan..
- Medier
- Memo
- nævner
- microsoft
- fejltagelse
- model
- modeller
- øjeblik
- penge
- mere
- skal
- navne
- national
- nødvendigvis
- Behov
- aldrig
- Ny
- New York
- new york dommer
- intet
- of
- tit
- on
- kun
- OpenAI
- Udtalelser
- or
- ordrer
- ordrer
- Andet
- ud
- output
- part
- Bestået
- forbi
- mønstre
- Betal
- Mennesker
- Peter
- telefon
- plato
- Platon Data Intelligence
- PlatoData
- potentiale
- tidligere
- procedure
- Proceedings
- behandle
- Produkt
- erhverv
- professionelle partnere
- fremmer
- spørgsmål
- Adspurgt
- Spørgsmål
- citere
- citater
- hævet
- ægte
- pålidelig
- gentaget
- repræsenterer
- omdømme
- Kræver
- Svar
- ansvar
- ansvar
- ansvarlige
- højre
- robotteknik
- roller
- regler
- herskende
- s
- Said
- samme
- Sanktioner
- siger
- siger
- forstand
- sæt
- aktionær
- Vis
- Silicon
- Silicon Valley
- siden
- Software
- nogle
- noget
- Kilder
- Syd
- stå
- Tilstand
- Stephen
- steven
- indsendelse
- indsendt
- sådan
- systemet
- Tag
- taget
- Teknologier
- afprøvet
- end
- at
- loven
- deres
- Them
- selv
- derefter
- Der.
- de
- ting
- denne
- dem
- Gennem
- torsdag
- tid
- til
- værktøj
- uddannet
- Kurser
- sand
- to
- indtil
- us
- brug
- ved brug af
- Dal
- ønsker
- var
- we
- var
- Hvad
- hvornår
- som
- WHO
- hvis
- vilje
- vinduer
- med
- Arbejde
- skriver
- wu
- år
- york
- Du
- Din
- zephyrnet