Un abogado en Estados Unidos se enfrenta a medidas disciplinarias después de que su bufete de abogados utilizara el popular chatbot de IA ChatGPT para investigaciones jurídicas y citara casos falsos en una demanda.
Steven A. Schwartz, que representa a Roberto Mata en una demanda contra la aerolínea colombiana Avianca, admitió haber utilizado OpenAI. ChatGPT con fines de investigación, y que el modelo de IA le proporcionó citas de casos que no existían.
Mata demanda a Avianca por una lesión personal provocada por un carrito de servicio en 2019, alegando negligencia de un empleado.
Lea también: Opera presenta el chatbot Aria con IA impulsado por GPT
Falso hasta el final
Según una BBC reporte, el asunto salió a la luz después de que Schwartz, un abogado con 30 años de experiencia, utilizara estos casos como precedente para sustentar el caso de Mata.
Pero el abogado contrario marcó las citaciones generadas por ChatGPT como falsas. El juez del Tribunal de Distrito de Estados Unidos, Kevin Castel, confirmó que seis de ellos eran inexistentes. Exigió una explicación a Schwartz, abogado del bufete de abogados Levidow, Levidow & Oberman, con sede en Nueva York.
“Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citaciones internas falsas”, escribió el juez Castel en un comunicado del 4 de mayo. solicite.
"El tribunal se enfrenta a una circunstancia sin precedentes".
El supuesto cases incluyen: Varghese contra China South Airlines, Martínez contra Delta Airlines, Shaboon contra EgyptAir, Petersen contra Iran Air, Miller contra United Airlines y Estate of Durden contra KLM Royal Dutch Airlines, ninguno de los cuales no pareció existen para el juez o la defensa.
Abogado alega ignorancia
ChatGPT es un modelo de lenguaje grande desarrollado por OpenAI. Lanzada en noviembre, la IA se entrena con miles de millones de datos de Internet y puede realizar una variedad de tareas como generar texto, traducir idiomas e incluso escribir poesía y resolver problemas matemáticos difíciles.
Pero ChatGPT es propenso a "alucinaciones”: la industria tecnológica habla cuando los chatbots de IA producen información falsa o engañosa, a menudo con confianza.
En una declaración jurada La semana pasada, Schwartz dijo que "desconocía la posibilidad de que su contenido [ChatGPT] pudiera ser falso". También dijo que "lamenta mucho" haber utilizado la IA generativa y que en el futuro sólo "complementará" su uso con absoluta precaución y validación.
Schwartz afirmó que nunca había usado ChatGPT antes de este caso. Dijo que "lamenta enormemente haber utilizado inteligencia artificial generativa para complementar la investigación legal realizada aquí y nunca lo hará en el futuro sin una verificación absoluta de su autenticidad".
Un abogado usó ChatGPT para hacer una "investigación legal" y citó varios casos inexistentes en una presentación, y ahora tiene muchos problemas con el juez 🤣 pic.twitter.com/AJSE7Ts7W7
—Daniel Feldman (@d_feldman) 27 de mayo de 2023
El abogado de carrera ahora se enfrenta a una audiencia judicial el 8 de junio después de aceptar la responsabilidad por no confirmar la autenticidad de las fuentes de ChatGPT. Se le pidió a Schwartz que demostrara por qué no debería ser sancionado “por el uso de una certificación notarial falsa y fraudulenta”.
Las confiadas mentiras de ChatGPT
Según el informe de la BBC, la declaración jurada de Schwartz contenía capturas de pantalla del abogado que confirmaban sus conversaciones con ChatGPT.
Schwartz preguntaron el chatbot, "¿es varghese un caso real?", a lo que ChatGPT respondió "sí, [es] un caso real". Cuando se le preguntó por las fuentes, le dijo al abogado que el caso se podía encontrar “en bases de datos de investigación jurídica como Westlaw y LexisNexis”.
Nuevamente, el abogado preguntó: “¿Los otros casos que proporcionó son falsos?” ChatGPT respondió “No” y agregó que los casos se pueden encontrar en otras bases de datos legales. "Pido disculpas por la confusión anterior", dijo ChatGPT.
“Tras una doble verificación, descubrí que el caso Varghese contra China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), efectivamente existe y se puede encontrar en bases de datos de investigación legal como Westlaw y LexisNexis. Pido disculpas por cualquier inconveniente o confusión que puedan haber causado mis respuestas anteriores”, respondió el chatbot con confianza.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoAiStream. Inteligencia de datos Web3. Conocimiento amplificado. Accede Aquí.
- Acuñando el futuro con Adryenn Ashley. Accede Aquí.
- Compra y Vende Acciones en Empresas PRE-IPO con PREIPO®. Accede Aquí.
- Fuente: https://metanews.com/chatgpts-bogus-citations-land-us-lawyer-in-hot-water/
- :es
- :no
- 2019
- 27
- 30
- 3d
- 7
- 8
- a
- Absoluto
- aceptar
- la columna Acción
- la adición de
- aceptado
- Después
- en contra
- AI
- Chat de AI
- AIRE
- línea aérea
- Líneas aéreas
- Todos
- también
- an
- y
- cualquier
- Aparecer
- artificial
- inteligencia artificial
- AS
- abogado
- autenticidad
- BBC
- BE
- miles de millones
- by
- llegó
- PUEDEN
- Propósito
- case
- cases
- Causar
- causado
- precaución
- chatterbot
- Chatbots
- ChatGPT
- China
- citado
- afirmó
- alegando
- reclamaciones
- CO
- compañía
- confianza
- seguros
- Confirmado
- confusión
- contenida
- contenido
- podría
- consejo
- CORTE
- Daniel
- datos
- bases de datos
- decisiones
- Defensa
- Delta
- exigido
- desarrollado
- HIZO
- difícil
- disciplinario
- distrito
- Tribunal de Distrito
- do
- sí
- doble revisión
- Holandés
- Más temprano
- ya sea
- Nuestros
- inmuebles
- Incluso
- existe
- experience
- explicación
- caras
- tener problemas con
- falso
- false
- Presentación
- Firme
- marcado
- encontrado
- fraudulento
- en
- futuras
- generar
- generativo
- IA generativa
- Tienen
- es
- he
- .
- su
- HOT
- HTTPS
- i
- in
- incluir
- energético
- información
- Intelligence
- interno
- Internet
- Irán
- IT
- SUS
- juez
- judicial
- junio
- CARGA TERRESTRE
- idioma
- Idiomas
- large
- Apellido
- lanzado
- de derecho criminal
- bufete de abogados
- pleito
- abogado
- Legal
- LexisNexis
- luz
- como
- Lote
- Ltd
- Mata
- las matemáticas
- Materia
- Puede..
- Molinero
- engañoso
- modelo
- my
- nunca
- Nuevo
- Con sede en Nueva York
- inexistente
- Noviembre
- ahora
- número
- of
- a menudo
- on
- , solamente
- OpenAI
- or
- Otro
- (PDF)
- Realizar
- con
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- Poetry
- Popular
- posibilidad
- Precedente
- presentó
- Anterior
- problemas
- producir
- previsto
- fines
- citas
- Leer
- real
- excusas
- reporte
- que representa
- la investigación
- respuestas
- responsabilidad
- real
- s
- Said
- Sancionada
- capturas de pantalla
- servicio
- Mostrar
- SEIS
- So
- RESOLVER
- Fuentes
- Sur
- Del Sur
- De una Charla a tu equipo
- Zonas
- Subido
- tal
- SOPORTE
- Supuesto
- tareas
- tecnología
- industria de la tecnología
- esa
- El
- El futuro de las
- Les
- Estas
- así
- a
- entrenado
- la traducción
- problema
- verdadero
- United
- Estados Unidos
- sin precedentes
- Revela
- us
- utilizan el
- usado
- usando
- utilizado
- validación
- variedad
- Verificación
- fue
- Agua
- semana
- cuando
- que
- QUIENES
- porque
- seguirá
- sin
- escribir
- años
- Usted
- zephyrnet