Een advocaat in de Verenigde Staten wordt geconfronteerd met disciplinaire maatregelen nadat zijn advocatenkantoor de populaire AI-chatbot ChatGPT gebruikte voor juridisch onderzoek en nepzaken aanhaalde in een rechtszaak.
Steven A. Schwartz, die Roberto Mata vertegenwoordigt in een rechtszaak tegen de Colombiaanse luchtvaartmaatschappij Avianca, gaf toe dat hij OpenAI's gebruikte ChatGPT voor onderzoeksdoeleinden, en dat het AI-model hem citaten voorzag van gevallen die niet bestonden.
Mata klaagt Avianca aan voor persoonlijk letsel veroorzaakt door een serveerwagen in 2019 en beweert nalatigheid van een werknemer.
Lees ook: Opera onthult GPT-aangedreven AI-chatbot Aria
Helemaal nep
Volgens een BBC verslagDe zaak kwam aan het licht nadat Schwartz, een advocaat met dertig jaar ervaring, deze zaken als precedent gebruikte om de zaak van Mata te ondersteunen.
Maar de tegenpartij markeerde de door ChatGPT gegenereerde citaten als nep. Rechter Kevin Castel van het Amerikaanse districtsgerechtshof bevestigde dat zes van hen niet bestonden. Hij eiste uitleg van Schwartz, een advocaat bij het in New York gevestigde advocatenkantoor Levidow, Levidow & Oberman.
โZes van de ingediende zaken lijken valse rechterlijke beslissingen te zijn, met valse citaten en valse interne citatenโ, schreef rechter Castel in een rapport van 4 mei. bestellen.
โDe rechtbank wordt geconfronteerd met een ongekende omstandigheid.โ
Het vermeende gevallen onder meer: โโVarghese tegen China South Airlines, Martinez tegen Delta Airlines, Shaboon tegen EgyptAir, Petersen tegen Iran Air, Miller tegen United Airlines en Estate of Durden tegen KLM Royal Dutch Airlines, waarvan geen enkele niet leek te bestaat voor de rechter of de verdediging.
Advocaat beweert onwetendheid
ChatGPT is een groot taalmodel ontwikkeld door OpenAI. De AI, die in november werd gelanceerd, is getraind op miljarden gegevens van internet en kan een verscheidenheid aan taken uitvoeren, zoals het genereren van tekst, het vertalen van talen en zelfs het schrijven van poรซzie, en het oplossen van moeilijke wiskundige problemen.
Maar ChatGPT is gevoelig voor โhallucinatiesโ โ De technologie-industrie spreekt voor zich wanneer AI-chatbots valse of misleidende informatie produceren, vaak met vertrouwen.
In een beรซdigde verklaring vorige week zei Schwartz dat hij โzich niet bewust was van de mogelijkheid dat de [ChatGPT]-inhoud vals zou kunnen zijn.โ Hij zei ook dat hij het gebruik van de generatieve AI โzeer betreurtโ en dat hij het gebruik ervan in de toekomst alleen met absolute voorzichtigheid en validatie zal โaanvullenโ.
Schwartz beweerde vรณรณr deze zaak nooit ChatGPT te hebben gebruikt. Hij zei dat hij โhet enorm betreurt dat hij generatieve kunstmatige intelligentie heeft gebruikt als aanvulling op het juridische onderzoek dat hierin wordt uitgevoerd, en dat hij dit in de toekomst nooit zal doen zonder absolute verificatie van de authenticiteit ervan.โ
Een advocaat gebruikte ChatGPT om "juridisch onderzoek" te doen en haalde een aantal niet-bestaande zaken aan in een dossier, en heeft nu veel problemen met de rechter ๐คฃ pic.twitter.com/AJSE7Ts7W7
โ Daniel Feldman (@d_feldman) 27 mei 2023
De carriรจreadvocaat wordt nu geconfronteerd met een hoorzitting op 8 juni nadat hij de verantwoordelijkheid heeft aanvaard voor het niet bevestigen van de authenticiteit van de ChatGPT-bronnen. Schwartz werd gevraagd aan te tonen waarom hij niet gesanctioneerd zou moeten worden โvoor het gebruik van een valse en frauduleuze notariรซle akte.โ
De zelfverzekerde leugens van ChatGPT
Volgens het BBC-rapport bevatte de beรซdigde verklaring van Schwartz screenshots van de advocaat die zijn gesprekken met ChatGPT bevestigden.
Schwartz gevraagd de chatbot, โis varghese een reรซel geval?โ, waarop ChatGPT antwoordde: โja, [het] is een reรซel geval.โ Toen hem om bronnen werd gevraagd, vertelde het de advocaat dat de zaak te vinden was โin juridische onderzoeksdatabases zoals Westlaw en LexisNexisโ.
Opnieuw vroeg de advocaat: โZijn de andere zaken die u heeft verstrekt nep?โ ChatGPT antwoordde โNeeโ, eraan toevoegend dat de zaken in andere juridische databases te vinden waren. โMijn excuses voor de verwarring eerderโ, zei ChatGPT.
โBij dubbele controle ontdekte ik dat de zaak Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), inderdaad bestaat en te vinden is in juridische onderzoeksdatabases zoals Westlaw en LexisNexis. Mijn excuses voor het eventuele ongemak of de verwarring die mijn eerdere reacties mogelijk hebben veroorzaaktโ, antwoordde de chatbot vol vertrouwen.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
- De toekomst slaan met Adryenn Ashley. Toegang hier.
- Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPOยฎ. Toegang hier.
- Bron: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :is
- :niet
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- absoluut
- te accepteren
- Actie
- toe te voegen
- toegegeven
- Na
- tegen
- AI
- AI chatbot
- AIR
- luchtvaart
- Luchtvaartmaatschappijen
- Alles
- ook
- an
- en
- elke
- verschijnen
- kunstmatig
- kunstmatige intelligentie
- AS
- advocaat
- echtheid
- bbc
- BE
- miljarden
- by
- kwam
- CAN
- Carriรจre
- geval
- gevallen
- Veroorzaken
- veroorzaakt
- voorzichtigheid
- Chatbot
- chatbots
- ChatGPT
- China
- aangehaald
- beweerde
- beweren
- vorderingen
- CO
- afstand
- vertrouwen
- zeker
- BEVESTIGD
- verwarring
- bevatte
- content
- kon
- raad
- Rechtbank
- Daniel
- gegevens
- databanken
- beslissingen
- Verdediging
- Delta
- eiste
- ontwikkelde
- DEED
- moeilijk
- disciplinair
- wijk
- gerechtshof van het district
- do
- doet
- dubbel checken
- Nederlands
- Vroeger
- beide
- Werknemer
- vastgoed
- Zelfs
- bestaan
- ervaring
- uitleg
- gezichten
- naar
- nep
- vals
- Filing
- Stevig
- markeerde
- Voor
- gevonden
- frauduleus
- oppompen van
- toekomst
- voortbrengen
- generatief
- generatieve AI
- Hebben
- met
- he
- gehoor
- hem
- zijn
- Populair
- HTTPS
- i
- in
- omvatten
- -industrie
- informatie
- Intelligentie
- intern
- Internet
- Iran
- IT
- HAAR
- rechter
- gerechtelijk
- juni
- Land
- taal
- Talen
- Groot
- Achternaam*
- gelanceerd
- Wet
- advocatenkantoor
- proces
- advocaat
- Juridisch
- LexisNexis
- licht
- als
- lot
- Ltd
- Mata
- wiskunde
- Materie
- Mei..
- Molenaar
- misleidend
- model
- my
- nooit
- New
- Gebaseerd in New York
- niet bestaand
- November
- nu
- aantal
- of
- vaak
- on
- Slechts
- OpenAI
- or
- Overige
- Uitvoeren
- persoonlijk
- Plato
- Plato gegevensintelligentie
- PlatoData
- Poรซzie
- Populair
- mogelijkheid
- Precedent
- gepresenteerd
- Voorafgaand
- problemen
- produceren
- mits
- doeleinden
- citaten
- Lees
- vast
- betreurt
- verslag
- vertegenwoordigen
- onderzoek
- reacties
- verantwoordelijkheid
- koninklijk
- s
- Zei
- Gesanctioneerd
- screenshots
- serveer-
- tonen
- ZES
- So
- OPLOSSEN
- bronnen
- Zuiden
- Zuidelijk
- spreken
- Staten
- ingediend
- dergelijk
- ondersteuning
- vermeend
- taken
- tech
- technische industrie
- dat
- De
- De toekomst
- Ze
- Deze
- dit
- naar
- getraind
- vertalen
- moeite
- waar
- X
- United
- Verenigde Staten
- zonder precedent
- Onthult
- us
- .
- gebruikt
- gebruik
- gebruikt
- bevestiging
- variรซteit
- Verificatie
- was
- Water
- week
- wanneer
- welke
- WIE
- Waarom
- wil
- Met
- zonder
- schrijven
- jaar
- You
- zephyrnet