En advokat i USA står over for disciplinærsager, efter at hans advokatfirma brugte den populære AI-chatbot ChatGPT til juridisk forskning og citerede falske sager i en retssag.
Steven A. Schwartz, der repræsenterer Roberto Mata i en retssag mod det colombianske flyselskab Avianca, indrømmede at have brugt OpenAI's ChatGPT til forskningsformål, og at AI-modellen gav ham citater til sager, der ikke fandtes.
Mata sagsøger Avianca for en personskade forårsaget af en serveringsvogn i 2019 og hævder uagtsomhed af en medarbejder.
Læs også: Opera afslører GPT-drevet AI Chatbot Aria
Falsk hele vejen
Ifølge en BBC indberette, kom sagen frem, efter at Schwartz, en advokat med 30 års erfaring, brugte disse sager som præcedens til at understøtte Matas sag.
Men den modsatte advokat markerede de ChatGPT-genererede citater som falske. US District Court dommer Kevin Castel bekræftede seks af dem som ikke-eksisterende. Han krævede en forklaring fra Schwartz, en advokat hos det New York-baserede advokatfirma Levidow, Levidow & Oberman.
"Seks af de indsendte sager ser ud til at være falske retsafgørelser med falske citater og falske interne citater," skrev dommer Castel i en 4. maj. ordrer.
"Retten bliver præsenteret for en hidtil uset omstændighed."
Den formodede tilfælde omfatte: Varghese mod China South Airlines, Martinez mod Delta Airlines, Shaboon mod EgyptAir, Petersen mod Iran Air, Miller mod United Airlines og Estate of Durden mod KLM Royal Dutch Airlines, hvoraf ingen syntes ikke at eksisterer for enten dommeren eller forsvaret.
Advokat hævder uvidenhed
ChatGPT er en stor sprogmodel udviklet af OpenAI. AI'en blev lanceret i november og trænes på milliarder af data fra internettet og kan udføre en række forskellige opgaver som at generere tekst, oversætte sprog og endda skrive poesi og løse vanskelige matematiske problemer.
Men ChatGPT er tilbøjelig til at "hallucinationer” – Teknologiindustrien taler for, når AI-chatbots producerer falsk eller vildledende information, ofte med selvtillid.
I en erklæring I sidste uge sagde Schwartz, at han var "uvidende om muligheden for, at dets [ChatGPT] indhold kunne være falsk." Han sagde også, at han "meget fortryder" at bruge den generative AI og kun vil "supplere" brugen af den med absolut forsigtighed og validering i fremtiden.
Schwartz hævdede aldrig at have brugt ChatGPT før denne sag. Han sagde, at han "beklager meget at have brugt generativ kunstig intelligens til at supplere den juridiske forskning udført heri og vil aldrig gøre det i fremtiden uden absolut verifikation af dets ægthed."
En advokat brugte ChatGPT til at lave "juridisk research" og citerede en række ikke-eksisterende sager i en sag, og er nu i en masse problemer med dommeren 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) Maj 27, 2023
Karriereadvokaten står nu over for et retsmøde den 8. juni efter at have accepteret ansvaret for ikke at bekræfte ægtheden af ChatGPT-kilderne. Schwartz blev bedt om at vise årsagen til, hvorfor han ikke skulle idømmes sanktioner "for brugen af en falsk og svigagtig notarisering."
ChatGPTs selvsikre løgne
Ifølge BBC-rapporten indeholdt Schwartz' erklæring skærmbilleder af advokaten, der bekræftede hans chats med ChatGPT.
Schwartz spurgte chatbotten, "er varghese en rigtig sag?", hvorpå ChatGPT svarede "ja, [det] er en rigtig sag." Da de blev spurgt efter kilder, fortalte den advokaten, at sagen kunne findes "på juridiske forskningsdatabaser såsom Westlaw og LexisNexis".
Igen spurgte advokaten: "Er de andre sager, du har anført, falske?" ChatGPT svarede "Nej" og tilføjede, at sagerne kunne findes på andre juridiske databaser. "Jeg undskylder for forvirringen tidligere," sagde ChatGPT.
"Ved dobbelttjek fandt jeg, at sagen Varghese mod China Southern Airlines Co. Ltd., 925 F.3d 1339 (11. Cir. 2019), faktisk eksisterer og kan findes i juridiske forskningsdatabaser såsom Westlaw og LexisNexis. Jeg undskylder for ulejligheden eller forvirringen, som mine tidligere svar kan have forårsaget,” svarede chatbotten med tillid.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoAiStream. Web3 Data Intelligence. Viden forstærket. Adgang her.
- Udmøntning af fremtiden med Adryenn Ashley. Adgang her.
- Køb og sælg aktier i PRE-IPO-virksomheder med PREIPO®. Adgang her.
- Kilde: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :er
- :ikke
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- absolutte
- acceptere
- Handling
- tilføje
- indrømmede
- Efter
- mod
- AI
- AI chatbot
- LUFT
- flyselskab
- Flyselskaber
- Alle
- også
- an
- ,
- enhver
- vises
- kunstig
- kunstig intelligens
- AS
- advokat
- ægthed
- bbc
- BE
- milliarder
- by
- kom
- CAN
- Karriere
- tilfælde
- tilfælde
- Årsag
- forårsagede
- forsigtighed
- chatbot
- chatbots
- ChatGPT
- Kina
- citeret
- hævdede
- hævder
- fordringer
- CO
- selskab
- tillid
- sikker
- BEKRÆFTET
- forvirring
- indeholdt
- indhold
- kunne
- råd
- Ret
- Daniel
- data
- databaser
- afgørelser
- Forsvar
- Delta
- forlangte
- udviklet
- DID
- svært
- disciplinære
- distrikt
- byretten
- do
- gør
- dobbelttjek
- Hollandsk
- tidligere
- enten
- Medarbejder
- ejendom
- Endog
- eksisterer
- erfaring
- forklaring
- ansigter
- vender
- falsk
- falsk
- Arkivering
- Firm
- Markeret
- Til
- fundet
- svigagtig
- fra
- fremtiden
- generere
- generative
- Generativ AI
- Have
- have
- he
- høre
- ham
- hans
- HOT
- HTTPS
- i
- in
- omfatter
- industrien
- oplysninger
- Intelligens
- interne
- Internet
- Iran
- IT
- ITS
- dommer
- retslige
- juni
- Land
- Sprog
- Sprog
- stor
- Efternavn
- lanceret
- Lov
- advokatfirma
- retssag
- advokat
- Politikker
- LexisNexis
- lys
- ligesom
- Lot
- Ltd
- Mata
- matematik
- Matter
- Kan..
- Miller
- misvisende
- model
- my
- aldrig
- Ny
- New York-baseret
- ikke-eksisterende
- november
- nu
- nummer
- of
- tit
- on
- kun
- OpenAI
- or
- Andet
- Udfør
- personale
- plato
- Platon Data Intelligence
- PlatoData
- Poetry
- Populær
- Muligheden
- præcedens
- forelagt
- Forud
- problemer
- producere
- forudsat
- formål
- citater
- Læs
- ægte
- beklager
- indberette
- repræsenterer
- forskning
- reaktioner
- ansvar
- Royal
- s
- Said
- sanktioneret
- screenshots
- servering
- Vis
- SIX
- So
- SOLVE
- Kilder
- Syd
- Syd
- tale
- Stater
- indsendt
- sådan
- support
- formodes
- opgaver
- tech
- tech industri
- at
- Fremtiden
- Them
- Disse
- denne
- til
- uddannet
- Oversætte
- problemer
- sand
- Forenet
- Forenede Stater
- uden fortilfælde
- Løfter sløret
- us
- brug
- anvendte
- ved brug af
- udnyttet
- validering
- række
- Verifikation
- var
- Vand
- uge
- hvornår
- som
- WHO
- hvorfor
- vilje
- med
- uden
- skriver
- år
- Du
- zephyrnet