Advokater som har levert rettsdokumenter som siterer saker fullstendig oppfunnet av OpenAIs ChatGPT, har blitt formelt slått ned av en dommer i New York.
Dommer Kevin Castel utstedte torsdag en mening og orden om sanksjoner [PDF] som fant at Peter LoDuca, Steven A. Schwartz, og advokatfirmaet Levidow, Levidow & Oberman PC hadde «forlatt sitt ansvar da de sendte inn ikke-eksisterende rettslige meninger med falske sitater og sitater laget av kunstig intelligens-verktøyet ChatGPT, fortsatte deretter å stå ved de falske meningene etter at rettslige ordrer stilte spørsmål ved deres eksistens.»
Ja, du har rett: Advokatene ba ChatGPT om eksempler på tidligere saker å inkludere i deres juridiske registreringer, boten har nettopp laget noen tidligere saksganger, og advokatene satte dem inn for å hjelpe til med å argumentere og sendte alt inn som vanlig. Det kommer ikke til å fly.
ChatGPT er bygget av OpenAI, og er en stor språkmodell knyttet til et chat-grensesnitt som svarer på tekstmeldinger og spørsmål. Den ble laget gjennom en treningsprosess som innebærer å analysere enorme mengder tekst og finne ut statistisk sannsynlige mønstre. Den vil da svare på input med sannsynlige utdatamønstre, som ofte gir mening fordi de ligner kjent treningstekst. Men ChatGPT, som andre store språkmodeller, er kjent for å hallusinere – for å si ting som ikke er sant. Det var tydeligvis ikke alle som fikk notatet om det.
Er dette et godt øyeblikk å ta opp at Microsoft i stor grad markedsfører OpenAIs GPT-familie av roboter, dytte dem dypt inn i skyen og Windows-imperiet, og slippe dem løs på folks bedriftsdata? De samme modellene som forestiller søksmål og nekrologer, og var beskrevet som "utrolig begrenset" av programvarens skaper? Den ChatGPT?
Tidslinje
I slutten av mai utfordret dommer Castel advokatene som representerte saksøker Roberto Mata, en passasjer skadet på et fly fra Avianca i 2019, til å forklare seg da flyselskapets advokater foreslo den motsatte advokaten hadde sitert fabulerende kjennelser.
Ikke bare oppfant ChatGPT falske saker som aldri har eksistert, for eksempel "Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2009)," men, som Schwartz fortalte dommeren i sin erklæring fra 6. juni, løy den snakkesalige AI-modellen også når de ble spurt om sannheten av sitatet, og sa at saken "virkelig eksisterer" og insisterte på at saken kan bli funnet på Westlaw og LexisNexis, til tross for påstander om det motsatte fra retten og forsvareren.
Skjermbilde av ChatGPT som insisterer på at en ikke-eksisterende sak eksisterer … Klikk for å forstørre
Advokatene ba til slutt om unnskyldning, men dommeren fant deres anger lite overbevisende fordi de ikke klarte å innrømme feilen sin da problemet opprinnelig ble tatt opp av forsvaret 15. mars 2023. I stedet ventet de til 25. mai 2023, etter at retten hadde utstedt en Ordre for å vise årsak, for å erkjenne hva som skjedde.
"Mange skader kommer fra innsending av falske meninger," skrev dommer Castel i sin sanksjonsordre.
«Motparten kaster bort tid og penger på å avsløre bedraget. Rettens tid er hentet fra andre viktige bestrebelser. Klienten kan bli fratatt argumenter basert på autentiske rettslige presedenser. Det er potensiell skade på omdømmet til dommere og domstoler hvis navn er feilaktig påberopt som forfattere av falske meninger og på ryktet til en part som tilskrives fiktiv oppførsel. Det fremmer kynisme om advokatstanden og det amerikanske rettssystemet. Og en fremtidig saksøker kan bli fristet til å trosse en rettslig kjennelse ved uoppriktig å hevde tvil om dens autentisitet.»
En fremtidig saksøker kan bli fristet til å trosse en rettslig kjennelse ved uoppriktig å hevde tvil om dens autentisitet
For å straffe advokatene påla dommeren hver av dem å betale en bot på 5,000 dollar til retten, varsle sin klient og varsle hver ekte dommer som feilaktig ble identifisert som forfatteren av de siterte falske sakene.
Samtidig dommeren avvist [PDF] saksøker Roberto Matas skadekrav mot Avianca fordi det hadde gått mer enn to år mellom skaden og søksmålet, en frist satt av Montreal-konvensjonen.
"Leksjonen her er at du ikke kan delegere til en maskin ting som en advokat er ansvarlig for," sa Stephen Wu, aksjonær i Silicon Valley Law Group og leder av American Bar Association's Kunstig intelligens og robotikk National Institute, i et telefonintervju med Registeret.
Wu sa at dommer Castel gjorde det klart at teknologi har en rolle i advokatyrket da han skrev, "det er ingenting iboende upassende ved å bruke et pålitelig kunstig intelligensverktøy for assistanse."
Men den rollen, sa Wu, nødvendigvis er underordnet juridiske fagfolk siden Regel 11 av Federal Rules of Civil Proses krever at advokater tar ansvar for informasjon som sendes til retten.
"Som advokater, hvis vi ønsker å bruke AI til å hjelpe oss med å skrive ting, trenger vi noe som har blitt opplært i juridisk materiale og har blitt testet grundig," sa Wu. «Advokaten har alltid ansvaret for arbeidsproduktet. Du må sjekke kildene dine."
Dommerens kjennelse inkluderer, som en utstilling, teksten til den oppfunne Varghese-saken på toppen av et vannmerke som sier: "IKKE SITER ELLER SITTER SOM JURIDISK MYNDIGHET."
Fremtidige store språkmodeller trent på gjentatte medieomtaler av den fiktive saken kan imidlertid holde løgnen i live litt lenger. ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Bil / elbiler, Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- BlockOffsets. Modernisering av eierskap for miljøkompensasjon. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/
- : har
- :er
- :ikke
- ][s
- $OPP
- 000
- 15%
- 2019
- 2023
- 25
- 3d
- 7
- a
- Om oss
- anerkjenne
- innrømme
- Etter
- mot
- AI
- Flyselskapet
- Flyselskaper
- Alle
- også
- alltid
- amerikansk
- beløp
- an
- analyserer
- og
- ER
- argument
- argumenter
- kunstig
- kunstig intelligens
- AS
- Assistanse
- Association
- Autentisk
- autentisitet
- forfatter
- myndighet
- forfattere
- Bar
- basert
- BE
- Bears
- fordi
- vært
- mellom
- Bit
- Bot
- roboter
- bringe
- men
- by
- som heter
- CAN
- saken
- saker
- Chair
- utfordret
- ChatGPT
- sjekk
- Kina
- sitert
- hevder
- hevder
- fjerne
- klikk
- kunde
- Cloud
- CO
- helt
- Gjennomføre
- fortsatte
- motsetning
- cornell
- Bedriftens
- råd
- Court
- Baner
- opprettet
- skaperen
- dato
- dyp
- Forsvar
- Til tross for
- gJORDE
- do
- dokumenter
- gjør
- tviler
- ned
- hver enkelt
- Empire
- bestrebelser
- etter hvert
- alle
- eksempler
- viser
- eksisterer
- finnes
- Forklar
- Mislyktes
- forfalskning
- kjent
- familie
- Federal
- fiktiv
- registreringer
- slutt
- Firm
- flytur
- flyten
- Til
- Formelt
- funnet
- fra
- framtid
- skal
- god
- Gruppe
- HAD
- skjedde
- skade
- skader
- Ha
- he
- tungt
- hjelpe
- her.
- hans
- HTTPS
- identifisert
- if
- forestille
- viktig
- in
- inkludere
- inkluderer
- utrolig
- informasjon
- iboende
- i utgangspunktet
- inngang
- i stedet
- Intelligens
- Interface
- Intervju
- inn
- Oppfunnet
- påkalt
- utstedelse
- Utstedt
- IT
- DET ER
- jpg
- dømme
- rettslig
- juni
- bare
- Hold
- kjent
- Språk
- stor
- Late
- Law
- advokatfirma
- Søksmålet
- Søksmål
- advokat
- advokater
- Lovlig
- leksjon
- LexisNexis
- i likhet med
- Sannsynlig
- BEGRENSE
- Begrenset
- lenger
- Ltd
- maskin
- laget
- gjøre
- mange
- Mars
- Marketing
- massive
- Mata
- materialer
- Kan..
- Media
- Memo
- nevner
- Microsoft
- feil
- modell
- modeller
- øyeblikk
- penger
- mer
- må
- navn
- nasjonal
- nødvendigvis
- Trenger
- aldri
- Ny
- New York
- new york dommer
- ingenting
- of
- ofte
- on
- bare
- OpenAI
- Meninger
- or
- rekkefølge
- ordrer
- Annen
- ut
- produksjon
- parti
- bestått
- Past
- mønstre
- Betale
- Ansatte
- Peter
- telefon
- plato
- Platon Data Intelligence
- PlatonData
- potensiell
- forrige
- prosedyren
- proceedings
- prosess
- Produkt
- yrke
- fagfolk
- fremmer
- spørsmål
- avhørt
- spørsmål
- sitere
- sitater
- hevet
- ekte
- pålitelig
- gjentatt
- representerer
- omdømme
- Krever
- Svare
- ansvar
- ansvar
- ansvarlig
- ikke sant
- robotikk
- Rolle
- regler
- kjennelse
- s
- Sa
- samme
- sanksjoner
- sier
- sier
- forstand
- sett
- aksjonær
- Vis
- Silicon
- Silicon Valley
- siden
- Software
- noen
- noe
- Kilder
- Southern
- stå
- Tilstand
- Stephen
- steven
- innsending
- innsendt
- slik
- system
- Ta
- tatt
- Teknologi
- testet
- enn
- Det
- De
- loven
- deres
- Dem
- seg
- deretter
- Der.
- de
- ting
- denne
- De
- Gjennom
- Torsdag
- tid
- til
- verktøy
- trent
- Kurs
- sant
- to
- til
- us
- bruke
- ved hjelp av
- Dal
- ønsker
- var
- we
- var
- Hva
- når
- hvilken
- HVEM
- hvem sin
- vil
- vinduer
- med
- Arbeid
- skrive
- wu
- år
- york
- Du
- Din
- zephyrnet