Los abogados que presentaron documentos judiciales citando casos completamente inventados por ChatGPT de OpenAI fueron abofeteados formalmente por un juez de Nueva York.
El juez Kevin Castel emitió el jueves una dictamen y orden sobre sanciones [PDF] que encontró que Peter LoDuca, Steven A. Schwartz y el bufete de abogados de Levidow, Levidow & Oberman PC habían “abandonado sus responsabilidades cuando presentaron opiniones judiciales inexistentes con citas y citas falsas creadas por la herramienta de inteligencia artificial ChatGPT, luego siguió defendiendo las opiniones falsas luego de que órdenes judiciales pusieran en duda su existencia”.
Sí, lo entendiste bien: los abogados le pidieron a ChatGPT ejemplos de casos anteriores para incluirlos en sus presentaciones legales, el bot simplemente inventó algunos procedimientos anteriores y los abogados los ubicaron para ayudarlos a presentar su argumento y lo enviaron todo como de costumbre. Eso no va a volar.
Creado por OpenAI, ChatGPT es un gran modelo de lenguaje adjunto a una interfaz de chat que responde a mensajes de texto y preguntas. Fue creado a través de un proceso de entrenamiento que implica analizar cantidades masivas de texto y descubrir patrones estadísticamente probables. Luego responderá a la entrada con patrones de salida probables, que a menudo tienen sentido porque se asemejan a un texto de entrenamiento familiar. Pero se sabe que ChatGPT, al igual que otros modelos de lenguaje extenso, alucina, afirma cosas que no son ciertas. Evidentemente, no todos recibieron el memo sobre eso.
¿Es este un buen momento para mencionar que Microsoft está comercializando en gran medida la familia de bots GPT de OpenAI? empujándolos en lo profundo de su imperio de nube y Windows, y dejándolos sueltos en los datos corporativos de las personas? Los mismos modelos que imaginan pleitos y obituarios, y eran descrito como "increíblemente limitado" por el creador del software? ¿Ese ChatGPT?
Cronograma
A fines de mayo, el juez Castel desafió a los abogados que representan al demandante Roberto Mata, un pasajero lesionado en un vuelo de la aerolínea Avianca en 2019, a que se explicaran cuando los abogados de la aerolínea sugirieron al abogado contrario. había citado sentencias fabulosas.
ChatGPT no solo inventó casos falsos que nunca existieron, como "Varghese contra China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2009)”, pero, como Schwartz le dijo al juez en su declaración del 6 de junio, el modelo de IA hablador también mintió cuando se le preguntó sobre la veracidad de su cita, diciendo que el caso “de hecho existe” e insistiendo en que el caso se puede encontrar en Westlaw y LexisNexis, a pesar de las afirmaciones en contrario del tribunal y de la defensa.
Captura de pantalla de ChatGPT que insiste en que existe un caso inexistente... Haga clic para ampliar
Los abogados finalmente se disculparon, pero el juez consideró que su arrepentimiento no era convincente porque no admitieron su error cuando la defensa planteó inicialmente el problema el 15 de marzo de 2023. En cambio, esperaron hasta el 25 de mayo de 2023, después de que el tribunal emitió una Orden para mostrar causa, para reconocer lo sucedido.
“Muchos daños se derivan de la presentación de opiniones falsas”, escribió el juez Castel en su orden de sanciones.
“La parte contraria pierde tiempo y dinero en exponer el engaño. El tiempo de la corte se toma de otros esfuerzos importantes. El cliente puede ser privado de argumentos basados en precedentes judiciales auténticos. Existe un daño potencial para la reputación de los jueces y tribunales cuyos nombres se invocan falsamente como autores de opiniones falsas y para la reputación de una parte a la que se atribuye una conducta ficticia. Promueve el cinismo sobre la profesión legal y el sistema judicial estadounidense. Y un futuro litigante puede verse tentado a desafiar un fallo judicial alegando falsamente dudas sobre su autenticidad”.
Un futuro litigante puede verse tentado a desafiar una decisión judicial alegando falsamente dudas sobre su autenticidad.
Para castigar a los abogados, el juez ordenó a cada uno pagar una multa de $5,000 al tribunal, notificar a su cliente y notificar a cada juez real identificado falsamente como el autor de los casos falsos citados.
Al mismo tiempo, el juez despedido [PDF] Demanda por lesiones del actor Roberto Mata contra Avianca porque entre la lesión y la demanda habían transcurrido más de dos años, plazo fijado por la Convención de Montreal.
“La lección aquí es que no se puede delegar en una máquina las cosas de las que un abogado es responsable”, dijo Stephen Wu, accionista de Silicon Valley Law Group y presidente de la American Bar Association. Instituto Nacional de Inteligencia Artificial y Robótica, en una entrevista telefónica con El registro.
Wu dijo que el juez Castel dejó en claro que la tecnología tiene un papel en la profesión legal cuando escribió: "No hay nada intrínsecamente inapropiado en el uso de una herramienta confiable de inteligencia artificial para obtener asistencia".
Pero ese papel, dijo Wu, está necesariamente subordinado a los profesionales del derecho, ya que Regla 11 de las Reglas Federales de Procedimiento Civil requiere que los abogados asuman la responsabilidad de la información presentada al tribunal.
“Como abogados, si queremos usar IA para ayudarnos a escribir cosas, necesitamos algo que haya sido capacitado en materiales legales y que haya sido probado rigurosamente”, dijo Wu. “El abogado siempre tiene la responsabilidad del producto del trabajo. Tienes que comprobar tus fuentes”.
La orden del juez incluye, como prueba, el texto del caso Varghese inventado encima de una marca de agua que dice: "NO CITA NI CITA COMO AUTORIDAD LEGAL".
Sin embargo, los futuros modelos de lenguaje extenso entrenados en repetidas menciones en los medios del caso ficticio pueden mantener viva la mentira un poco más. ®
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Automoción / vehículos eléctricos, Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- Desplazamientos de bloque. Modernización de la propiedad de compensaciones ambientales. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/
- :posee
- :es
- :no
- ][pag
- $ UP
- 000
- 15%
- 2019
- 2023
- 25
- 3d
- 7
- a
- Nuestra Empresa
- reconocer
- admitir
- Después
- en contra
- AI
- línea aérea
- Líneas aéreas
- Todos
- también
- hacerlo
- American
- cantidades
- an
- el análisis de
- y
- somos
- argumento
- argumentos
- artificial
- inteligencia artificial
- AS
- Ayuda
- Asociación
- Auténticos
- autenticidad
- autor
- autoridad
- Autorzy
- de caramelos
- basado
- BE
- Osos
- porque
- esto
- entre
- Poco
- Bot
- los robots
- llevar
- pero
- by
- , que son
- PUEDEN
- case
- cases
- Presidente
- Desafiado
- ChatGPT
- comprobar
- China
- citado
- reclamo
- alegando
- limpiar
- clic
- cliente
- Soluciones
- CO
- completamente
- Conducir
- continuado
- contrario
- Cornell
- Sector empresarial
- consejo
- CORTE
- Tribunales
- creado
- creador
- datos
- profundo
- Defensa
- A pesar de las
- HIZO
- do
- documentos
- sí
- duda
- DE INSCRIPCIÓN
- cada una
- Imperio
- esfuerzos
- finalmente
- todos
- ejemplos
- exhibir
- existe
- existe
- Explicar
- Fallidos
- falso
- familiar
- familia
- Federal
- ficticio
- limaduras
- en fin
- Firme
- vuelo
- de tus señales
- Formalmente
- encontrado
- Desde
- futuras
- va
- candidato
- Grupo procesos
- tenido
- pasó
- daño
- daños
- Tienen
- he
- fuertemente
- ayuda
- esta página
- su
- HTTPS
- no haber aun identificado una solucion para el problema
- if
- imagen
- importante
- in
- incluir
- incluye
- increíblemente
- información
- inherentemente
- posiblemente
- Las opciones de entrada
- Intelligence
- Interfaz
- Entrevista
- dentro
- inventado
- invocado
- Emitido
- IT
- SUS
- jpg
- juez
- judicial
- junio
- solo
- Guardar
- conocido
- idioma
- large
- Tarde
- de derecho criminal
- bufete de abogados
- pleito
- Demandas
- abogado
- empresas
- Legal
- lección
- LexisNexis
- como
- que otros
- LIMITE LAS
- Limitada
- por más tiempo
- Ltd
- máquina
- hecho
- para lograr
- muchos
- Marzo
- Marketing
- masivo
- Mata
- materiales
- Puede..
- Medios
- Memorándum
- menciona
- Microsoft
- Error
- modelo
- modelos
- momento
- dinero
- más,
- debe
- nombres
- Nacional
- necesariamente
- ¿ Necesita ayuda
- nunca
- Nuevo
- New York
- juez de nueva york
- nada
- of
- a menudo
- on
- , solamente
- OpenAI
- Opiniones
- or
- solicite
- en pedidos de venta.
- Otro
- salir
- salida
- fiesta
- pasado
- pasado
- .
- Pagar
- (PDF)
- Personas
- Peter
- teléfono
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- posible
- anterior
- procedimientos
- Proceso
- Producto
- profesión
- profesionales
- promueve
- pregunta
- cuestionado
- Preguntas
- cotización inicial
- citas
- elevado
- real
- confianza
- repetido
- que representa
- reputación
- requiere
- Responder
- responsabilidades
- responsabilidad
- responsable
- Derecho
- robótica
- Función
- reglas
- fallo
- s
- Said
- mismo
- Sanciones
- decir
- dice
- sentido
- set
- accionista
- Mostrar
- Silicio
- Silicon Valley
- desde
- Software
- algo
- algo
- Fuentes
- Del Sur
- stand
- Estado
- Stephen
- Steven
- enviarlo a consideración
- Subido
- tal
- te
- ¡Prepárate!
- toma
- Tecnología
- probado
- que
- esa
- La
- la Ley
- su
- Les
- sí mismos
- luego
- Ahí.
- ellos
- cosas
- así
- aquellos
- A través de esta formación, el personal docente y administrativo de escuelas y universidades estará preparado para manejar los recursos disponibles que derivan de la diversidad cultural de sus estudiantes. Además, un mejor y mayor entendimiento sobre estas diferencias y similitudes culturales permitirá alcanzar los objetivos de inclusión previstos.
- jueves
- equipo
- a
- del IRS
- entrenado
- Formación
- verdadero
- dos
- hasta
- us
- utilizan el
- usando
- Valle
- quieres
- fue
- we
- tuvieron
- ¿
- cuando
- que
- QUIENES
- cuyo
- seguirá
- ventanas
- Actividades:
- escribir
- wu
- años
- york
- Usted
- tú
- zephyrnet