Een advocaat uit Vancouver wordt geconfronteerd met een onderzoek wegens het gebruik van ChatGPT in de rechtbank, wat leidt tot het indienen van 'fictieve' jurisprudentie in een geschil over de voogdij over kinderen.
Een Canadese advocaat krijgt kritiek nadat haar AI-chatbot voor juridisch onderzoek in de meest recente aflevering, waarin de gevaren van onbewezen juridische technologie worden benadrukt, ‘fictieve’ zaken opleverde.
Lees ook: Waarom Musk een rechtszaak aanspant tegen OpenAI en Sam Altman
Chong Ke, een advocaat uit Vancouver die momenteel wordt onderzocht vanwege haar gedrag, zou hebben gebruikt ChatGPT om juridische argumenten op te stellen voor een voogdijzaak die werd behandeld door het Hooggerechtshof van British Columbia.
Advocaat onder vuur vanwege het indienen van nepzaken gemaakt door AI-chatbot https://t.co/SH9JWn2A93
— podra (@podra) 29 februari 2024
Ke presenteert door Chatbot gegenereerde jurisprudentie
Volgens gerechtelijke documenten vertegenwoordigde Ke een vader die met zijn kinderen naar het buitenland wilde reizen, maar verwikkeld was in een scheidingsgeschil met de moeder van de kinderen.
Ke zou ChatGPT hebben gevraagd om voorbeelden te geven van eerdere jurisprudentie die van toepassing zou kunnen zijn op de omstandigheden van haar cliënt. Ze diende twee van de drie resultaten in die de OpenAI-ontwikkelde chatbot geproduceerd voor de rechtbank.
De tegenpartij stelde echter inconsistenties vast en kon geen bewijs vinden voor de gevallen die Ke had genoemd. Ke verwijderde vervolgens de opmerkingen die ze had gemaakt en beschuldigde de fout van haar onwetendheid over de nauwkeurigheid van de inhoud die door kunstmatige intelligentie werd geproduceerd.
Ke zei in een e-mail aan de rechtbank dat ze geen idee had dat deze twee zaken onjuist konden zijn. Ze voegde eraan toe dat nadat haar collega erop had gewezen dat deze niet konden worden gelokaliseerd, ze zelf onderzoek had gedaan en de problemen ook niet kon ontdekken. Zij verklaarde dat zij niet de bedoeling had de tegenpartij of de rechtbank te misleiden en verontschuldigde zich oprecht voor de fout die zij had gemaakt.
Chatbots gebruiken
chatbots zijn getraind op enorme hoeveelheden gegevens, en ondanks hun populariteit zijn ze gevoelig voor fouten, ook wel ‘hallucinaties’ genoemd.
De acties van Ke waren volgens de advocaten die de moeder vertegenwoordigden “verwerpelijk en verdienen een berisping” omdat ze “aanzienlijke tijd en kosten” hebben gekost om vast te stellen of de door haar aangehaalde zaken reëel waren.
Hun verzoek om toekenning van de bijzondere kosten werd echter afgewezen door de voorzitter, die stelde dat een dergelijke “buitengewone stap” “een vaststelling van laakbaar gedrag of misbruik van procesrecht” door de advocaat zou vereisen.
Bovendien hebben sommige X-gebruikers (voorheen Twitter) hun ongenoegen geuit over het gebruik van chatbots voor rechtszaken.
Nog een advocaat die dom genoeg is om ChatGPT en zijn hallucinante gevallen te gebruiken. (4e of 5e om gepakt te worden, volgens mijn telling.)https://t.co/WjaitrEATc
- Gary Marcus (@GaryMarcus) 29 februari 2024
Rechter David reageert
Volgens rechter David Masuhara is het citeren van valse zaken in processtukken en ander materiaal dat aan de rechtbank wordt overhandigd misbruik van procesrecht en komt dit neer op het afleggen van een valse verklaring aan de rechtbank. Hij voegde eraan toe dat als dit niet wordt gecontroleerd, dit kan leiden tot een gerechtelijke dwaling.
Hij ontdekte dat de advocaat van de tegenpartij ‘over voldoende middelen beschikte’ en al ‘volumes’ aan materiaal in de zaak had geproduceerd. Hij zei dat er geen enkele kans was dat de twee nepzaken erdoorheen zouden zijn geglipt.
Masuhara beweerde dat Ke “naïef was over de risico’s van het gebruik van ChatGPT” en dat haar acties “aanzienlijke negatieve publiciteit” genereerden, maar hij merkte ook op dat Ke zich inspande om haar fouten te herstellen.
Hij zei dat hij niet vond dat zij de bedoeling had om te misleiden of te misleiden. Hij aanvaardde de oprechtheid van de verontschuldiging van mevrouw Ke aan de raadsman en de rechtbank. Hij voegde eraan toe dat haar spijt duidelijk bleek tijdens haar optreden en mondelinge opmerkingen in de rechtbank.
Het incident brengt meer algemene discussies over het gebruik van AI op juridisch gebied. Het vestigt de aandacht op de moeilijkheden bij het garanderen van de betrouwbaarheid en juistheid van door AI gegenereerde inhoud in de rechtbank.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/vancouver-attorney-faces-scrutiny-after-ai-chatbot-generates-fake-case-law/
- :is
- :niet
- $UP
- 29
- 4
- 5
- 7
- 800
- a
- Over
- Buitenland
- misbruik
- aanvaard
- Volgens
- nauwkeurigheid
- acties
- toegevoegd
- Na
- tegen
- AI
- AI chatbot
- al
- ook
- hoeveelheden
- an
- en
- Nog een
- Solliciteer
- ZIJN
- argumenten
- kunstmatig
- kunstmatige intelligentie
- AS
- aandacht
- advocaat
- Bekroond
- BE
- omdat
- gedrag
- de schuld te geven
- Brits
- British Columbia
- maar
- by
- CAN
- Canadees
- geval
- gevallen
- gevangen
- kans
- Chatbot
- chatbots
- ChatGPT
- kind
- Kinderen
- situatie
- aangehaald
- collega
- COLUMBIA
- Gedrag
- content
- Kosten
- kon
- raad
- tellen
- Rechtbank
- Rechtszaken
- aangemaakt
- kritiek
- Op dit moment
- Hechtenis
- gevaren
- gegevens
- David
- ontkend
- verdienstelijk
- gewenste
- Niettegenstaande
- opsporen
- Bepalen
- DEED
- moeilijkheden
- ontdekt
- discussies
- Geschil
- documenten
- beneden
- draft
- trekt
- stom
- gedurende
- inspanning
- beide
- genoeg
- fouten
- bewijzen
- duidelijk
- voorbeelden
- uitgedrukt
- gezichten
- naar
- feit
- nep
- vals
- veld-
- Bestanden
- vijlsel
- VIND DE PLEK DIE PERFECT VOOR JOU IS
- het vinden van
- Brand
- Bepalen
- Voor
- vroeger
- Gary
- Algemeen
- gegenereerde
- HAD
- Hebben
- he
- gehoord
- haar
- hier
- Hoge
- markeren
- highlights
- zijn
- HTTPS
- idee
- geïdentificeerd
- if
- Onwetendheid
- in
- incident
- inconsistenties
- afbetalingstermijn
- Intelligentie
- Bedoeling
- onderzoek
- problemen
- IT
- HAAR
- jpg
- rechter
- gerechtigheid
- bekend
- Wet
- proces
- advocaat
- Advocaten
- leiden
- leidend
- LED
- links
- Juridisch
- gelegen
- opgesloten
- gemaakt
- maken
- Marcus
- massief
- materieel
- max-width
- vermeld
- macht
- fout
- fouten
- meer
- meest
- moeder
- MS
- Muskus
- my
- negatief
- geen
- of
- on
- OpenAI
- or
- Overige
- uit
- het te bezitten.
- Plato
- Plato gegevensintelligentie
- PlatoData
- populariteit
- cadeautjes
- Voorafgaand
- sonde
- geproduceerd
- zorgen voor
- publiciteit
- Lees
- vast
- recent
- spijt
- vertegenwoordigd
- vertegenwoordigen
- te vragen
- vereisen
- onderzoek
- Resultaten
- risico's
- Zei
- Sam
- ze
- oprecht
- sommige
- special
- bepaald
- Statement
- voorlegging
- Inzending
- ingediend
- indienen
- dergelijk
- opperst
- Supreme Court
- Technologie
- dat
- De
- hun
- harte
- Er.
- Deze
- ze
- drie
- Door
- niet de tijd of
- naar
- nam
- getraind
- reizen
- waar
- X
- twee
- voor
- .
- gebruikt
- gebruikers
- gebruik
- vancouver
- was
- waren
- WIE
- Met
- zou
- X
- zephyrnet