En advokat från Vancouver står inför en utredning för att ha använt ChatGPT i domstol, vilket leder till inlämning av "fiktiv" rättspraxis i en tvist om vårdnad om barn.
En kanadensisk advokat utsätts för kritik efter att hennes AI-chattbot för juridisk forskning, i den senaste delen som lyfte fram farorna med oprövad juridisk teknik, producerade "fiktiva" fall.
Läs också: Varför Musk lämnar in stämningsansökan mot OpenAI och Sam Altman
Chong Ke, en Vancouver attorney som för närvarande undersöks för sitt beteende, sägs ha använt ChatGPT att utarbeta juridiska argument för ett mål om vårdnad om barn som behandlades av British Columbias högsta domstol.
Advokat under eld för att ha skickat in falska fall skapade av AI-chatbot https://t.co/SH9JWn2A93
— podra (@podra) Februari 29, 2024
Ke presenterar Chatbot-genererade rättspraxis
Enligt domstolshandlingar företrädde Ke en pappa som ville resa utomlands med sina barn men var låst i en separationstvist med barnens mamma.
Ke ska ha bett ChatGPT att ge exempel på tidigare rättspraxis som kan gälla hennes klients omständigheter. Hon lämnade in två av de tre resultat som OpenAI-utvecklad chatbot framställd till domstolen.
Den motstående advokaten identifierade emellertid inkonsekvenser och kunde inte finna några bevis för de fall Ke hade nämnt. Ke tog sedan ner bidragen hon hade gjort och skyllde misstaget på hennes okunnighet om riktigheten av innehåll som producerats av artificiell intelligens.
Ke sa i ett mejl till domstolen att hon inte hade någon aning om att dessa två fall kunde vara felaktiga. Hon tillade att efter att hennes kollega påpekat att dessa inte kunde lokaliseras, gjorde hon egen forskning och kunde inte heller upptäcka problemen. Hon uppgav att hon inte hade för avsikt att vilseleda den motsatta advokaten eller domstolen och bad uppriktigt om ursäkt för det misstag hon gjorde.
Använda Chatbots
Chatbots tränas på enorma mängder data, och trots sin popularitet är de benägna att göra fel, så kallade "hallucinationer".
Kes agerande, enligt advokaterna som representerade modern, var "förkastliga och förtjänade tillrättavisning" eftersom de ledde till "avsevärd tid och kostnad" för att avgöra om de fall hon citerade var verkliga.
Deras begäran om att särskilda kostnader skulle tillerkännas avslogs dock av ordföranden, som angav att ett sådant "extraordinärt steg" skulle kräva "ett konstaterande av klandervärt beteende eller ett processmissbruk" av advokaten.
Dessutom har några X (tidigare Twitter) användare uttryckt sitt missnöje med att använda chatbots för rättsfall.
Ännu en advokat dum nog att använda ChatGPT och dess hallucinerade fall. (4:e eller 5:e att ha åkt fast, enligt min räkning.)https://t.co/WjaitrEATc
—Gary Marcus (@GaryMarcus) Februari 29, 2024
Justice David svarar
Enligt domare David Masuhara är det ett missbruk av processen att hänvisa till falska fall i domstolshandlingar och annat material som lämnats till domstolen och det är liktydigt med att göra ett falskt uttalande till domstolen. Han tillade att om det lämnas okontrollerat kan det leda till ett rättegångsfel.
Han upptäckte att den motsatta advokaten hade "väl-resurs" och redan hade producerat "volymer" av material i ärendet. Han sa att det inte fanns någon chans här att de två falska fallen skulle ha glidit igenom.
Masuhara hävdade att Ke var "naiv när det gäller riskerna med att använda ChatGPT" och att hennes handlingar genererade "betydande negativ publicitet", men han observerade också att Ke ansträngde sig för att fixa hennes misstag.
Han sa att han inte fann att hon hade för avsikt att lura eller vilseleda. Han accepterade uppriktigheten i Kes ursäkt till advokaten och domstolen. Han tillade att hennes ånger var tydligt under hennes framträdande och muntliga inlagor i rätten.
Händelsen belyser mer generella diskussioner om användningen av AI på det juridiska området. Den uppmärksammar svårigheterna med att garantera tillförlitligheten och riktigheten hos AI-genererat innehåll i domstol.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://metanews.com/vancouver-attorney-faces-scrutiny-after-ai-chatbot-generates-fake-case-law/
- :är
- :inte
- $UPP
- 29
- 4:e
- 5:e
- 7
- 800
- a
- Om oss
- utomlands
- missbruk
- accepterade
- Enligt
- noggrannhet
- åtgärder
- lagt till
- Efter
- mot
- AI
- AI chatbot
- redan
- också
- mängder
- an
- och
- Annan
- Ansök
- ÄR
- argument
- konstgjord
- artificiell intelligens
- AS
- uppmärksamhet
- advokat
- tilldelas
- BE
- därför att
- beteende
- skyller
- Brittiska
- British Columbia
- men
- by
- KAN
- Canadian
- Vid
- fall
- fångas
- chans
- chatbot
- chatbots
- ChatGPT
- barn
- Barn
- omständigheter
- citerade
- kollega
- COLUMBIA
- Genomför
- innehåll
- Kostar
- kunde
- råd
- räkna
- Domstol
- Domstolsansökan
- skapas
- kritik
- För närvarande
- Vårdnad
- faror
- datum
- David
- nekas
- förtjänar
- önskas
- Trots
- upptäcka
- Bestämma
- DID
- svårigheter
- upptäckt
- diskussioner
- Tvist
- dokument
- ner
- utkast
- drar
- stum
- under
- ansträngning
- antingen
- tillräckligt
- fel
- bevis
- uppenbart
- exempel
- uttryckt
- ytorna
- vänd
- Faktum
- fejka
- falsk
- fält
- Filer
- anmälningar
- hitta
- finna
- natur
- Fast
- För
- förr
- Gary
- Allmänt
- genereras
- hade
- Har
- he
- hört
- här
- här.
- Hög
- belysa
- höjdpunkter
- hans
- HTTPS
- Tanken
- identifierade
- if
- Okunnighet
- in
- incident
- inkonsekvenser
- avbetalning
- Intelligens
- Avsikt
- Undersökningen
- problem
- IT
- DESS
- jpg
- Domaren
- Rättvisa
- känd
- Lag
- stämning
- advokat
- advokater
- leda
- ledande
- Led
- vänster
- Adress
- belägen
- låst
- gjord
- Framställning
- Marcus
- massiv
- material
- max-bredd
- nämnts
- kanske
- misstag
- misstag
- mer
- mest
- mor
- MS
- Mysk
- my
- negativ
- Nej
- of
- on
- OpenAI
- or
- Övriga
- ut
- egen
- plato
- Platon Data Intelligence
- PlatonData
- popularitet
- presenterar
- Innan
- sond
- process
- producerad
- ge
- publicitet
- Läsa
- verklig
- senaste
- beklagar
- representerade
- representerar
- begära
- kräver
- forskning
- Resultat
- risker
- Nämnda
- Sam
- hon
- vänliga hälsningar
- några
- speciell
- anges
- .
- underkastelse
- Inlagor
- lämnats
- inlämnande
- sådana
- Överlägsen
- Högsta domstolen
- Teknologi
- den där
- Smakämnen
- deras
- sedan
- Där.
- Dessa
- de
- tre
- Genom
- tid
- till
- tog
- tränad
- färdas
- sann
- två
- under
- användning
- Begagnade
- användare
- med hjälp av
- vancouver
- var
- były
- VEM
- med
- skulle
- X
- zephyrnet