Un avocat aux États-Unis fait l'objet de mesures disciplinaires après que son cabinet d'avocats a utilisé le célèbre chatbot IA ChatGPT pour des recherches juridiques et a cité de faux cas dans un procès.
Steven A. Schwartz, qui représente Roberto Mata dans un procès contre la compagnie aérienne colombienne Avianca, a admis avoir utilisé le logiciel OpenAI. ChatGPT à des fins de recherche et que le modèle d’IA lui a fourni des citations de cas qui n’existaient pas.
Mata poursuit Avianca pour un préjudice corporel causé par un chariot de service en 2019, alléguant la négligence d'un employé.
A lire également: Opera dévoile le chatbot IA Aria alimenté par GPT
Faux jusqu'au bout
Selon une BBC rapport, l'affaire a été révélée après que Schwartz, un avocat avec 30 ans d'expérience, ait utilisé ces affaires comme précédent pour soutenir la thèse de Mata.
Mais l’avocat adverse a signalé les citations générées par ChatGPT comme étant fausses. Le juge du tribunal de district américain, Kevin Castel, a confirmé que six d'entre eux étaient inexistants. Il a demandé une explication à Schwartz, avocat du cabinet d'avocats Levidow, Levidow & Oberman, basé à New York.
"Six des affaires soumises semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes", a écrit le juge Castel dans un communiqué du 4 mai. de commander.
"Le tribunal se trouve confronté à une circonstance sans précédent."
Le supposé cas comprennent : Varghese c. China South Airlines, Martinez c. Delta Airlines, Shaboon c. EgyptAir, Petersen c. Iran Air, Miller c. United Airlines et Estate of Durden c. KLM Royal Dutch Airlines, dont aucun ne semble exister soit pour le juge, soit pour la défense.
L'avocat clame l'ignorance
ChatGPT est un grand modèle de langage développé par OpenAI. Lancée en novembre, l'IA est entraînée sur des milliards de données provenant d'Internet et peut effectuer diverses tâches telles que générer du texte, traduire des langues, voire écrire de la poésie et résoudre des problèmes mathématiques difficiles.
Mais ChatGPT est enclin à «hallucinations» – l’industrie technologique parle lorsque les chatbots IA produisent des informations fausses ou trompeuses, souvent en toute confiance.
Dans une déclaration écrite sous serment la semaine dernière, Schwartz a déclaré qu'il "ignorait la possibilité que son contenu [ChatGPT] puisse être faux". Il a également déclaré qu’il « regrette énormément » d’avoir utilisé l’IA générative et qu’il ne fera que « compléter » son utilisation avec une prudence et une validation absolues à l’avenir.
Schwartz a affirmé n'avoir jamais utilisé ChatGPT avant cette affaire. Il a déclaré qu’il « regrette grandement d’avoir utilisé l’intelligence artificielle générative pour compléter les recherches juridiques effectuées ici et qu’il ne le fera jamais à l’avenir sans une vérification absolue de son authenticité ».
Un avocat a utilisé ChatGPT pour faire des "recherches juridiques" et a cité un certain nombre de cas inexistants dans un dossier, et a maintenant beaucoup de problèmes avec le juge 🤣 pic.twitter.com/AJSE7Ts7W7
—Daniel Feldman (@d_feldman) 27 mai 2023
L'avocat de carrière doit maintenant comparaître devant le tribunal le 8 juin après avoir accepté la responsabilité de ne pas avoir confirmé l'authenticité des sources de ChatGPT. Schwartz a été invité à justifier pourquoi il ne devrait pas être sanctionné « pour l’utilisation d’une légalisation fausse et frauduleuse ».
Les mensonges confiants de ChatGPT
Selon le rapport de la BBC, l'affidavit de Schwartz contenait des captures d'écran de l'avocat confirmant ses conversations avec ChatGPT.
Schwartz demandé le chatbot, « Varghese est-il un cas réel ? », ce à quoi ChatGPT a répondu « oui, [c'est] un cas réel ». Lorsqu'on lui a demandé ses sources, il a répondu à l'avocat que l'affaire pouvait être trouvée « dans des bases de données de recherche juridique telles que Westlaw et LexisNexis ».
Encore une fois, l’avocat a demandé : « Les autres cas que vous avez fournis sont-ils faux ? ChatGPT a répondu « Non », ajoutant que les cas pouvaient être trouvés sur d’autres bases de données juridiques. "Je m'excuse pour la confusion survenue plus tôt", a déclaré ChatGPT.
« Après une double vérification, j'ai découvert que l'affaire Varghese c. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), existe bel et bien et peut être trouvée dans des bases de données de recherche juridique telles que Westlaw et LexisNexis. Je m'excuse pour tout inconvénient ou confusion que mes réponses précédentes ont pu causer », a répondu le chatbot avec confiance.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoAiStream. Intelligence des données Web3. Connaissance Amplifiée. Accéder ici.
- Frapper l'avenir avec Adryenn Ashley. Accéder ici.
- Achetez et vendez des actions de sociétés PRE-IPO avec PREIPO®. Accéder ici.
- La source: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :est
- :ne pas
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- Absolute
- acceptant
- Action
- ajoutant
- admis
- Après
- à opposer à
- AI
- AI chatbot
- Transport Aérien
- compagnie aérienne
- Compagnies Aériennes
- Tous
- aussi
- an
- ainsi que
- tous
- apparaître
- artificiel
- intelligence artificielle
- AS
- mandataire
- authenticité
- bbc
- BE
- milliards
- by
- venu
- CAN
- Carrière
- maisons
- cas
- Causes
- causé
- prudence
- Chatbot
- Chatbots
- ChatGPT
- Chine
- cité
- revendiqué
- réclame
- prétentions
- CO
- Société
- confiance
- confiance
- CONFIRMÉ
- confusion
- contenu
- contenu
- pourriez
- conseil
- Court Intérieur
- Daniel
- données
- bases de données
- décisions
- Défense
- Delta
- exigé
- développé
- DID
- difficile
- disciplinaire
- quartier
- tribunal de district
- do
- double vérification
- Néerlandais
- Plus tôt
- non plus
- Employés
- biens
- Pourtant, la
- exister
- Découvrez
- explication
- visages
- faux
- non
- Dépôt
- Ferme
- marqué
- Pour
- trouvé
- frauduleux
- de
- avenir
- générer
- génératif
- IA générative
- Vous avez
- ayant
- he
- entendre
- lui
- sa
- HOT
- HTTPS
- i
- in
- comprendre
- industrie
- d'information
- Intelligence
- interne
- Internet
- l'Iran
- IT
- SES
- juge
- judiciaire
- juin
- Transport routier
- langue
- Langues
- gros
- Nom de famille
- lancé
- Droit applicable et juridiction compétente
- cabinet d'avocats
- procès
- avocat
- Légal
- LexisNexis
- lumière
- comme
- Lot
- Ltd
- Tuer
- math
- Matière
- Mai..
- Miller
- trompeur
- modèle
- my
- n'allons jamais
- Nouveauté
- Basé à New York
- inexistant
- Novembre
- maintenant
- nombre
- of
- souvent
- on
- uniquement
- OpenAI
- or
- Autre
- Effectuer
- personnel
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Poésie
- Populaire
- possibilité
- Précédent
- présenté
- Avant
- d'ouvrabilité
- produire
- à condition de
- des fins
- citations
- Lire
- réal
- Regrets
- rapport
- représentation
- un article
- réponses
- responsabilité
- Royal
- s
- Saïd
- Sanctionné
- screenshots
- service
- montrer
- SIX
- So
- RÉSOUDRE
- Sources
- Région Sud
- Du sud
- parler
- États
- soumis
- tel
- Support
- supposé
- tâches
- technologie
- industrie technologique
- qui
- Les
- El futuro
- Les
- Ces
- this
- à
- qualifié
- traduire
- difficulté
- oui
- Uni
- États-Unis
- sans précédent
- Dévoile
- us
- utilisé
- d'utiliser
- en utilisant
- utilisé
- validation
- variété
- Vérification
- était
- Eau
- semaine
- quand
- qui
- WHO
- why
- sera
- comprenant
- sans
- écrire
- années
- Vous
- zéphyrnet