Een advocaat in de Verenigde Staten wordt geconfronteerd met disciplinaire maatregelen nadat zijn advocatenkantoor de populaire AI-chatbot ChatGPT gebruikte voor juridisch onderzoek en nepzaken aanhaalde in een rechtszaak.
Steven A. Schwartz, die Roberto Mata vertegenwoordigt in een rechtszaak tegen de Colombiaanse luchtvaartmaatschappij Avianca, gaf toe dat hij OpenAI's gebruikte ChatGPT voor onderzoeksdoeleinden, en dat het AI-model hem citaten voorzag van gevallen die niet bestonden.
Mata klaagt Avianca aan voor persoonlijk letsel veroorzaakt door een serveerwagen in 2019 en beweert nalatigheid van een werknemer.
Lees ook: Opera onthult GPT-aangedreven AI-chatbot Aria
Helemaal nep
Volgens een BBC verslagDe zaak kwam aan het licht nadat Schwartz, een advocaat met dertig jaar ervaring, deze zaken als precedent gebruikte om de zaak van Mata te ondersteunen.
Maar de tegenpartij markeerde de door ChatGPT gegenereerde citaten als nep. Rechter Kevin Castel van het Amerikaanse districtsgerechtshof bevestigde dat zes van hen niet bestonden. Hij eiste uitleg van Schwartz, een advocaat bij het in New York gevestigde advocatenkantoor Levidow, Levidow & Oberman.
“Zes van de ingediende zaken lijken valse rechterlijke beslissingen te zijn, met valse citaten en valse interne citaten”, schreef rechter Castel in een rapport van 4 mei. bestellen.
“De rechtbank wordt geconfronteerd met een ongekende omstandigheid.”
Het vermeende gevallen onder meer: Varghese tegen China South Airlines, Martinez tegen Delta Airlines, Shaboon tegen EgyptAir, Petersen tegen Iran Air, Miller tegen United Airlines en Estate of Durden tegen KLM Royal Dutch Airlines, waarvan geen enkele niet leek te bestaat voor de rechter of de verdediging.
Advocaat beweert onwetendheid
ChatGPT is een groot taalmodel ontwikkeld door OpenAI. De AI, die in november werd gelanceerd, is getraind op miljarden gegevens van internet en kan een verscheidenheid aan taken uitvoeren, zoals het genereren van tekst, het vertalen van talen en zelfs het schrijven van poëzie, en het oplossen van moeilijke wiskundige problemen.
Maar ChatGPT is gevoelig voor “hallucinaties” – De technologie-industrie spreekt voor zich wanneer AI-chatbots valse of misleidende informatie produceren, vaak met vertrouwen.
In een beëdigde verklaring vorige week zei Schwartz dat hij “zich niet bewust was van de mogelijkheid dat de [ChatGPT]-inhoud vals zou kunnen zijn.” Hij zei ook dat hij het gebruik van de generatieve AI “zeer betreurt” en dat hij het gebruik ervan in de toekomst alleen met absolute voorzichtigheid en validatie zal “aanvullen”.
Schwartz beweerde vóór deze zaak nooit ChatGPT te hebben gebruikt. Hij zei dat hij “het enorm betreurt dat hij generatieve kunstmatige intelligentie heeft gebruikt als aanvulling op het juridische onderzoek dat hierin wordt uitgevoerd, en dat hij dit in de toekomst nooit zal doen zonder absolute verificatie van de authenticiteit ervan.”
Een advocaat gebruikte ChatGPT om "juridisch onderzoek" te doen en haalde een aantal niet-bestaande zaken aan in een dossier, en heeft nu veel problemen met de rechter 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) 27 mei 2023
De carrièreadvocaat wordt nu geconfronteerd met een hoorzitting op 8 juni nadat hij de verantwoordelijkheid heeft aanvaard voor het niet bevestigen van de authenticiteit van de ChatGPT-bronnen. Schwartz werd gevraagd aan te tonen waarom hij niet gesanctioneerd zou moeten worden “voor het gebruik van een valse en frauduleuze notariële akte.”
De zelfverzekerde leugens van ChatGPT
Volgens het BBC-rapport bevatte de beëdigde verklaring van Schwartz screenshots van de advocaat die zijn gesprekken met ChatGPT bevestigden.
Schwartz gevraagd de chatbot, “is varghese een reëel geval?”, waarop ChatGPT antwoordde: “ja, [het] is een reëel geval.” Toen hem om bronnen werd gevraagd, vertelde het de advocaat dat de zaak te vinden was “in juridische onderzoeksdatabases zoals Westlaw en LexisNexis”.
Opnieuw vroeg de advocaat: “Zijn de andere zaken die u heeft verstrekt nep?” ChatGPT antwoordde “Nee”, eraan toevoegend dat de zaken in andere juridische databases te vinden waren. “Mijn excuses voor de verwarring eerder”, zei ChatGPT.
“Bij dubbele controle ontdekte ik dat de zaak Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), inderdaad bestaat en te vinden is in juridische onderzoeksdatabases zoals Westlaw en LexisNexis. Mijn excuses voor het eventuele ongemak of de verwarring die mijn eerdere reacties mogelijk hebben veroorzaakt”, antwoordde de chatbot vol vertrouwen.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
- De toekomst slaan met Adryenn Ashley. Toegang hier.
- Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPO®. Toegang hier.
- Bron: https://metanews.com/sandbox-founder-remains-bullish-on-metaverse-marathon-of-many-sprints/
- :is
- :niet
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- absoluut
- te accepteren
- Actie
- toe te voegen
- toegegeven
- Na
- tegen
- AI
- AI chatbot
- AIR
- luchtvaart
- Luchtvaartmaatschappijen
- Alles
- ook
- an
- en
- elke
- verschijnen
- kunstmatig
- kunstmatige intelligentie
- AS
- advocaat
- echtheid
- bbc
- BE
- miljarden
- BOSS
- Bullish
- by
- kwam
- CAN
- Carrière
- geval
- gevallen
- Veroorzaken
- veroorzaakt
- voorzichtigheid
- Chatbot
- chatbots
- ChatGPT
- China
- aangehaald
- beweerde
- beweren
- vorderingen
- CO
- afstand
- vertrouwen
- zeker
- BEVESTIGD
- verwarring
- bevatte
- content
- kon
- raad
- Rechtbank
- Daniel
- gegevens
- databanken
- beslissingen
- Verdediging
- Delta
- eiste
- ontwikkelde
- DEED
- moeilijk
- disciplinair
- wijk
- gerechtshof van het district
- do
- doet
- dubbel checken
- Nederlands
- Vroeger
- beide
- Werknemer
- vastgoed
- Zelfs
- bestaan
- ervaring
- uitleg
- gezichten
- naar
- nep
- vals
- Filing
- Stevig
- markeerde
- Voor
- gevonden
- frauduleus
- oppompen van
- toekomst
- voortbrengen
- generatief
- generatieve AI
- Hebben
- met
- he
- gehoor
- hem
- zijn
- HTTPS
- i
- in
- omvatten
- -industrie
- informatie
- Intelligentie
- intern
- Internet
- Iran
- IT
- HAAR
- rechter
- gerechtelijk
- juni
- taal
- Talen
- Groot
- Achternaam*
- gelanceerd
- Wet
- advocatenkantoor
- proces
- advocaat
- Juridisch
- LexisNexis
- licht
- als
- lot
- Ltd
- veel
- Mata
- wiskunde
- Materie
- Mei..
- metaverse
- Molenaar
- misleidend
- model
- my
- nooit
- New
- Gebaseerd in New York
- niet bestaand
- November
- nu
- aantal
- of
- vaak
- on
- Slechts
- OpenAI
- or
- Overige
- Uitvoeren
- persoonlijk
- Plato
- Plato gegevensintelligentie
- PlatoData
- Poëzie
- Populair
- mogelijkheid
- Precedent
- gepresenteerd
- Voorafgaand
- problemen
- produceren
- mits
- doeleinden
- citaten
- Lees
- vast
- betreurt
- verslag
- vertegenwoordigen
- onderzoek
- reacties
- verantwoordelijkheid
- koninklijk
- Zei
- Gesanctioneerd
- zandbak
- screenshots
- serveer-
- tonen
- ZES
- So
- OPLOSSEN
- bronnen
- Zuiden
- Zuidelijk
- spreken
- Staten
- ingediend
- dergelijk
- ondersteuning
- vermeend
- taken
- tech
- technische industrie
- dat
- De
- De toekomst
- Ze
- Deze
- dit
- naar
- getraind
- vertalen
- moeite
- waar
- X
- United
- Verenigde Staten
- zonder precedent
- Onthult
- us
- .
- gebruikt
- gebruik
- gebruikt
- bevestiging
- variëteit
- Verificatie
- was
- week
- wanneer
- welke
- WIE
- Waarom
- wil
- Met
- zonder
- schrijven
- jaar
- You
- zephyrnet