Einem Anwalt in den USA drohen Disziplinarmaßnahmen, nachdem seine Anwaltskanzlei den beliebten KI-Chatbot ChatGPT für Rechtsrecherchen eingesetzt und in einer Klage gefälschte Fälle angeführt hat.
Steven A. Schwartz, der Roberto Mata in einer Klage gegen die kolumbianische Fluggesellschaft Avianca vertritt, gab zu, OpenAIs genutzt zu haben ChatGPT zu Forschungszwecken und dass das KI-Modell ihm Zitate zu Fällen lieferte, die es nicht gab.
Mata verklagt Avianca wegen eines Personenschadens, der 2019 durch einen Servierwagen verursacht wurde, und macht dabei Fahrlässigkeit eines Mitarbeiters geltend.
Lies auch: Opera stellt GPT-gestützten KI-Chatbot Aria vor
Durch und durch Blödsinn
Laut einer BBC berichtenDie Angelegenheit kam ans Licht, nachdem Schwartz, ein Anwalt mit 30 Jahren Erfahrung, diese Fälle als Präzedenzfälle zur Unterstützung von Matas Fall herangezogen hatte.
Aber der gegnerische Anwalt hat die von ChatGPT generierten Zitate als gefälscht gekennzeichnet. Der Richter des US-Bezirksgerichts, Kevin Castel, bestätigte, dass sechs von ihnen nicht existierten. Er forderte eine Erklärung von Schwartz, einem Anwalt der New Yorker Anwaltskanzlei Levidow, Levidow & Oberman.
„Sechs der eingereichten Fälle scheinen gefälschte Gerichtsentscheidungen mit falschen Zitaten und falschen internen Zitaten zu sein“, schrieb Richter Castel in einem Schreiben vom 4. Mai Auftrag.
„Das Gericht wird mit einem beispiellosen Umstand konfrontiert.“
Das angeblich Fälle Dazu gehören: Varghese gegen China South Airlines, Martinez gegen Delta Airlines, Shaboon gegen EgyptAir, Petersen gegen Iran Air, Miller gegen United Airlines und Estate of Durden gegen KLM Royal Dutch Airlines, von denen keiner schien bestehen entweder für den Richter oder die Verteidigung.
Anwalt behauptet Unwissenheit
ChatGPT ist ein großes Sprachmodell, das von OpenAI entwickelt wurde. Die im November gestartete KI wird auf Milliarden von Daten aus dem Internet trainiert und kann eine Vielzahl von Aufgaben ausführen, wie zum Beispiel Texte generieren, Sprachen übersetzen und sogar Gedichte schreiben und schwierige mathematische Probleme lösen.
Aber ChatGPT ist anfällig für „Halluzinationen” – die Tech-Branche spricht dafür, wenn KI-Chatbots oft mit Zuversicht falsche oder irreführende Informationen produzieren.
In einem eidesstattliche Versicherung Letzte Woche sagte Schwartz, er sei sich „der Möglichkeit nicht bewusst, dass der Inhalt von [ChatGPT] falsch sein könnte“. Er sagte auch, dass er den Einsatz der generativen KI „sehr bedauere“ und seinen Einsatz in Zukunft nur noch mit absoluter Vorsicht und Validierung „ergänzen“ werde.
Schwartz behauptete, ChatGPT vor diesem Fall nie genutzt zu haben. Er sagte, dass er „es sehr bedauert, generative künstliche Intelligenz genutzt zu haben, um die hier durchgeführte juristische Forschung zu ergänzen, und dass er dies in Zukunft niemals ohne eine absolute Überprüfung ihrer Authentizität tun wird.“
Ein Anwalt nutzte ChatGPT, um „Rechtsrecherchen“ durchzuführen, zitierte in einer Akte eine Reihe nicht existierender Fälle und steckt nun in großen Schwierigkeiten mit dem Richter 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) 27. Mai 2023
Dem Berufsanwalt steht nun am 8. Juni eine Gerichtsverhandlung bevor, nachdem er die Verantwortung dafür übernommen hat, die Echtheit der ChatGPT-Quellen nicht bestätigt zu haben. Schwartz wurde gebeten, Gründe darzulegen, warum er nicht „wegen der Verwendung einer falschen und betrügerischen Beglaubigung“ bestraft werden sollte.
Die selbstbewussten Lügen von ChatGPT
Dem BBC-Bericht zufolge enthielt die eidesstattliche Erklärung von Schwartz Screenshots des Anwalts, die seine Chats mit ChatGPT bestätigten.
Schwartz gefragt der Chatbot: „Ist Varghese ein echter Fall?“, worauf ChatGPT antwortete: „Ja, [es] ist ein echter Fall.“ Auf Nachfrage nach Quellen teilte er dem Anwalt mit, dass der Fall „in juristischen Recherchedatenbanken wie Westlaw und LexisNexis“ zu finden sei.
Erneut fragte der Anwalt: „Sind die anderen Fälle, die Sie vorgelegt haben, gefälscht?“ ChatGPT antwortete mit „Nein“ und fügte hinzu, dass die Fälle in anderen Rechtsdatenbanken zu finden seien. „Ich entschuldige mich für die Verwirrung vorhin“, sagte ChatGPT.
„Bei nochmaliger Überprüfung habe ich festgestellt, dass der Fall Varghese gegen China Southern Airlines Co. Ltd., 925 F.3d 1339 (11. Cir. 2019), tatsächlich existiert und in juristischen Recherchedatenbanken wie Westlaw und LexisNexis zu finden ist. Ich entschuldige mich für etwaige Unannehmlichkeiten oder Verwirrung, die meine früheren Antworten möglicherweise verursacht haben“, antwortete der Chatbot selbstbewusst.
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoAiStream. Web3-Datenintelligenz. Wissen verstärkt. Hier zugreifen.
- Die Zukunft prägen mit Adryenn Ashley. Hier zugreifen.
- Kaufen und verkaufen Sie Anteile an PRE-IPO-Unternehmen mit PREIPO®. Hier zugreifen.
- Quelle: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :Ist
- :nicht
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- Absolute
- akzeptieren
- Action
- Hinzufügen
- zugelassen
- Nach der
- gegen
- AI
- AI Chatbot
- LUFT
- Fluggesellschaft
- Fluggesellschaften
- Alle
- ebenfalls
- an
- und
- jedem
- erscheinen
- künstlich
- künstliche Intelligenz
- AS
- Rechtsanwalt
- Authentizität
- bbc
- BE
- Milliarden
- by
- kam
- CAN
- Karriere
- Häuser
- Fälle
- Verursachen
- verursacht
- Vorsicht
- Chatbot
- Chatbots
- ChatGPT
- China
- zitiert
- behauptet
- behauptet
- aus aller Welt
- CO
- Unternehmen
- Vertrauen
- zuversichtlich
- BESTÄTIGT
- Verwirrung
- enthalten
- Inhalt
- könnte
- Ratschlag
- Platz
- Matthias
- technische Daten
- Datenbanken
- Entscheidungen
- Militär
- Delta
- gefordert
- entwickelt
- DID
- schwer
- disziplinarisch
- Bezirk
- Bezirksgericht
- do
- die
- doppelte Kontrolle
- Niederländisch
- Früher
- entweder
- Mitarbeiter
- Sommer
- Sogar
- existieren
- ERFAHRUNGEN
- Erklärung
- Gesichter
- zugewandt
- Fälschung
- falsch
- Einreichung
- Fest
- markiert
- Aussichten für
- gefunden
- betrügerisch
- für
- Zukunft
- erzeugen
- generativ
- Generative KI
- Haben
- mit
- he
- Hörtests
- ihm
- seine
- HEISS
- HTTPS
- i
- in
- das
- Energiegewinnung
- Information
- Intelligenz
- intern
- Internet
- Iran
- IT
- SEINE
- Richter
- Justiz-
- Juni
- Land
- Sprache
- Sprachen
- grosse
- Nachname
- ins Leben gerufen
- Recht
- Rechtsanwaltskanzlei
- Klage
- Anwalt
- Rechtlich
- LexisNexis
- !
- Gefällt mir
- Los
- Ltd
- Mata
- Mathe
- Materie
- Kann..
- Müller
- irreführend
- Modell
- my
- hört niemals
- Neu
- In New York ansässig
- nicht existent
- November
- jetzt an
- Anzahl
- of
- vorgenommen,
- on
- einzige
- OpenAI
- or
- Andere
- Ausführen
- persönliche
- Plato
- Datenintelligenz von Plato
- PlatoData
- Poesie
- Beliebt
- Möglichkeit
- Präzedenzfall
- vorgeführt
- Vor
- Probleme
- produziert
- vorausgesetzt
- Zwecke
- Zitate
- Lesen Sie mehr
- echt
- Bedauert,
- berichten
- Darstellen
- Forschungsprojekte
- Antworten
- Verantwortung
- königlich
- s
- Said
- Sanktioniert
- Screenshots
- Dienst
- erklären
- SIX
- So
- LÖSEN
- Quellen
- Süd
- Süd
- sprechen
- Staaten
- eingereicht
- so
- Support
- vermutet
- und Aufgaben
- Tech
- Tech-Industrie
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- Die Zukunft
- Sie
- Diese
- fehlen uns die Worte.
- zu
- trainiert
- Übersetzen
- Ärger
- was immer dies auch sein sollte.
- Vereinigt
- USA
- beispiellos
- Präsentiert
- us
- -
- benutzt
- Verwendung von
- seit
- Bestätigung
- Vielfalt
- Verification
- wurde
- Wasser
- Woche
- wann
- welche
- WHO
- warum
- werden wir
- mit
- ohne
- schreiben
- Jahr
- Du
- Zephyrnet