Advokater som lämnat in domstolshandlingar som citerar fall helt uppfunna av OpenAI:s ChatGPT har formellt slagits ner av en domare i New York.
Domare Kevin Castel utfärdade på torsdagen en yttrande och ordning om sanktioner [PDF] som fann att Peter LoDuca, Steven A. Schwartz och advokatbyrån Levidow, Levidow & Oberman PC hade "övergett sitt ansvar när de skickade in icke-existerande rättsliga åsikter med falska citat och citat skapade av artificiell intelligens-verktyget ChatGPT, fortsatte sedan att stå fast vid de falska åsikterna efter att domstolsbeslut ifrågasatt deras existens.”
Ja, du har rätt: advokaterna bad ChatGPT om exempel på tidigare fall att inkludera i sina juridiska ansökningar, boten skapade bara några tidigare förfaranden, och advokaterna satte in dem för att hjälpa till att argumentera och lämnade in allt som vanligt. Det kommer inte att flyga.
Byggd av OpenAI, ChatGPT är en stor språkmodell kopplad till ett chattgränssnitt som svarar på textuppmaningar och frågor. Den skapades genom en träningsprocess som går ut på att analysera enorma mängder text och ta reda på statistiskt sannolika mönster. Den kommer då att svara på indata med troliga utdatamönster, som ofta är vettiga eftersom de liknar bekant träningstext. Men ChatGPT, liksom andra stora språkmodeller, är kända för att hallucinera – att påstå saker som inte är sanna. Uppenbarligen fick inte alla PM om det.
Är detta ett bra tillfälle att ta upp att Microsoft kraftigt marknadsför OpenAI:s GPT-familj av bots, knuffar dem djupt in i dess moln- och Windows-imperium, och släpper loss dem på människors företagsdata? Samma modeller som föreställer stämningar och obituaries, och var beskriven som "otroligt begränsad" av programvarans skapare? Den där ChatGPT?
tidslinje
I slutet av maj utmanade domare Castel advokaterna som representerade målsäganden Roberto Mata, en passagerare som skadades på en flygning av flygbolaget Avianca 2019, att förklara sig själva när flygbolagets advokater föreslog den motsatta advokaten hade åberopat sagolika domar.
Inte bara uppfann ChatGPT falska fall som aldrig existerade, som "Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2009)", men som Schwartz sa till domaren i sin deklaration den 6 juni, ljög den pratsamma AI-modellen också när den blev ifrågasatt om sanningshalten i dess citat, och sa att fallet "verkligen existerar" och insisterar på att fallet kan hittas på Westlaw och LexisNexis, trots påståenden om motsatsen av domstolen och försvararen.
Skärmdump av ChatGPT som insisterar på att det finns ett icke-existerande fall … Klicka för att förstora
Advokaterna bad så småningom om ursäkt men domaren fann att deras ånger var föga övertygande eftersom de misslyckades med att erkänna sitt misstag när frågan först togs upp av försvaret den 15 mars 2023. Istället väntade de till den 25 maj 2023, efter att domstolen hade utfärdat en Order att visa orsak, för att erkänna vad som hände.
"Många skador uppstår från inlämnande av falska åsikter", skrev domare Castel i sin sanktionsorder.
"Motparten slösar tid och pengar på att avslöja bedrägeriet. Rättens tid tas från andra viktiga ansträngningar. Klienten kan berövas argument baserade på autentiska rättsliga prejudikat. Det finns potentiell skada på ryktet för domare och domstolar vars namn felaktigt åberopas som författare till falska åsikter och på ryktet för en part som tillskrivs fiktivt beteende. Det främjar cynism om advokatkåren och det amerikanska rättssystemet. Och en framtida rättstvist kan frestas att trotsa en rättslig dom genom att ouppriktigt hävda tvivel om dess äkthet.”
En framtida rättstvist kan frestas att trotsa ett rättsligt avgörande genom att på ett ouppriktigt sätt hävda tvivel om dess äkthet
För att straffa advokaterna beordrade domaren var och en att betala 5,000 XNUMX USD i böter till domstolen, att meddela sin klient och att meddela varje riktig domare som felaktigt identifierats som författare till de citerade falska fallen.
Samtidigt domaren avfärdas [PDF] käranden Roberto Matas skadeståndsanspråk mot Avianca eftersom det hade gått mer än två år mellan skadan och rättegången, en tidsfrist som fastställts av Montrealkonvention.
"Lärden här är att du inte kan delegera till en maskin de saker som en advokat är ansvarig för", säger Stephen Wu, aktieägare i Silicon Valley Law Group och ordförande för American Bar Associations Artificiell intelligens och robotik National Institute, i en telefonintervju med Registret.
Wu sa att domare Castel gjorde det klart att teknik har en roll i advokatkåren när han skrev, "det finns inget som är olämpligt med att använda ett pålitligt verktyg för artificiell intelligens för assistans."
Men den rollen, sa Wu, är nödvändigtvis underordnad jurister sedan dess Regel 11 i de federala reglerna för civilprocess kräver att advokater tar ansvar för information som lämnas till domstolen.
"Som advokater, om vi vill använda AI för att hjälpa oss att skriva saker, behöver vi något som har utbildats i juridiskt material och har testats noggrant," sa Wu. ”Advokaten bär alltid ansvaret för arbetsprodukten. Du måste kontrollera dina källor."
Domarens beslut inkluderar, som en utställning, texten i det uppfunna Varghese-fallet ovanpå ett vattenmärke som säger: "CITERA INTE ELLER CITERA SOM JURIDISK MYNDIGHET."
Framtida stora språkmodeller tränade på upprepade mediaomnämnanden av det fiktiva fallet kan dock hålla lögnen vid liv lite längre. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Fordon / elbilar, Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- BlockOffsets. Modernisera miljökompensation ägande. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/
- : har
- :är
- :inte
- ][s
- $UPP
- 000
- 15%
- 2019
- 2023
- 25
- 3d
- 7
- a
- Om Oss
- bekräfta
- erkänna
- Efter
- mot
- AI
- flygbolaget
- flygbolag
- Alla
- också
- alltid
- amerikan
- mängder
- an
- analys
- och
- ÄR
- Argumentet
- argument
- konstgjord
- artificiell intelligens
- AS
- Bistånd
- Förening
- Äkta
- äktheten
- Författaren
- myndighet
- Författarna
- bar
- baserat
- BE
- bears
- därför att
- varit
- mellan
- Bit
- Bot
- botar
- föra
- men
- by
- kallas
- KAN
- Vid
- fall
- Ordförande
- utmanade
- ChatGPT
- ta
- Kina
- citerade
- patentkrav
- hävdar
- klar
- klick
- klient
- cloud
- CO
- fullständigt
- Genomför
- fortsatte
- motsats
- cornell
- Företag
- råd
- Domstol
- Domstolar
- skapas
- skaparen
- datum
- djup
- Försvar
- Trots
- DID
- do
- dokument
- gör
- tvivlar
- ner
- varje
- Empire
- strävanden
- så småningom
- alla
- exempel
- uppvisar
- existerar
- finns
- Förklara
- Misslyckades
- fejka
- bekant
- familj
- Federal
- fiktiva
- anmälningar
- änden
- Firm
- flyg
- flöda
- För
- Formellt
- hittade
- från
- framtida
- kommer
- god
- Grupp
- hade
- hänt
- skada
- skador
- Har
- he
- kraftigt
- hjälpa
- här.
- hans
- HTTPS
- identifierade
- if
- bild
- med Esport
- in
- innefattar
- innefattar
- oerhört
- informationen
- inneboende
- initialt
- ingång
- istället
- Intelligens
- Gränssnitt
- Intervju
- in
- uppfann
- åberopas
- fråga
- Utfärdad
- IT
- DESS
- jpg
- Domaren
- rättslig
- juni
- bara
- Ha kvar
- känd
- språk
- Large
- Sent
- Lag
- advokatbyrå
- stämning
- Stämningar
- advokat
- advokater
- Adress
- lektion
- LexisNexis
- tycka om
- sannolikt
- BEGRÄNSA
- Begränsad
- längre
- Ltd
- Maskinen
- gjord
- göra
- många
- Mars
- Marknadsföring
- massiv
- Mata
- material
- Maj..
- Media
- Memo
- nämner
- Microsoft
- misstag
- modell
- modeller
- ögonblick
- pengar
- mer
- måste
- namn
- nationell
- nödvändigtvis
- Behöver
- aldrig
- Nya
- New York
- domare i new york
- inget
- of
- Ofta
- on
- endast
- OpenAI
- Åsikter
- or
- beställa
- ordrar
- Övriga
- ut
- produktion
- parti
- Godkänd
- Tidigare
- mönster
- Betala
- Personer
- Peter
- telefon
- plato
- Platon Data Intelligence
- PlatonData
- potentiell
- föregående
- förfaranden
- förfaranden
- process
- Produkt
- yrke
- yrkesmän/kvinnor
- främjar
- fråga
- Tillfrågad
- frågor
- citera
- citat
- insamlat
- verklig
- pålitlig
- upprepade
- representerar
- rykte
- Kräver
- Svara
- ansvar
- ansvaret
- ansvarig
- höger
- robotik
- Roll
- regler
- dom
- s
- Nämnda
- Samma
- sanktioner
- säger
- säger
- känsla
- in
- aktieägare
- show
- Kisel
- Silicon Valley
- eftersom
- Mjukvara
- några
- något
- Källor
- Sydlig
- stå
- Ange
- Stephen
- steven
- underkastelse
- lämnats
- sådana
- system
- Ta
- tagen
- Teknologi
- testade
- än
- den där
- Smakämnen
- lagen
- deras
- Dem
- sig själva
- sedan
- Där.
- de
- saker
- detta
- de
- Genom
- torsdag
- tid
- till
- verktyg
- tränad
- Utbildning
- sann
- två
- tills
- us
- användning
- med hjälp av
- Dal
- vill
- var
- we
- były
- Vad
- när
- som
- VEM
- vars
- kommer
- fönster
- med
- Arbete
- skriva
- wu
- år
- york
- Om er
- Din
- zephyrnet