Um advogado de Vancouver enfrenta uma investigação por usar o ChatGPT no tribunal, levando à apresentação de jurisprudência “fictícia” em uma disputa pela custódia de crianças.
Uma advogada canadense está enfrentando críticas depois que, no capítulo mais recente, destacando os perigos da tecnologia jurídica não comprovada, seu chatbot de IA para pesquisa jurídica produziu casos “fictícios”.
Veja também: Por que Musk abre processo contra OpenAI e Sam Altman
Chong Ke, uma advogada de Vancouver que está atualmente sob investigação por seu comportamento, teria usado ChatGPT para redigir argumentos jurídicos para um caso de custódia de crianças que foi ouvido pela Suprema Corte da Colúmbia Britânica.
Advogado criticado por enviar casos falsos criados por chatbot AI https://t.co/SH9JWn2A93
— podra (@podra) 29 de fevereiro de 2024
Ke apresenta jurisprudência gerada pelo Chatbot
De acordo com os documentos judiciais, Ke representava um pai que desejava viajar para o estrangeiro com os seus filhos, mas estava envolvido numa disputa de separação com a mãe das crianças.
Diz-se que Ke pediu ao ChatGPT que fornecesse exemplos de jurisprudência anterior que pudesse ser aplicada às circunstâncias de seu cliente. Ela apresentou dois dos três resultados que o OpenAI-desenvolvido chatbot produzido para o tribunal.
No entanto, o advogado adversário identificou inconsistências e não conseguiu encontrar provas dos casos mencionados por Ke. Ke então retirou os envios que havia feito, atribuindo o erro à sua ignorância sobre a precisão do conteúdo produzido pela inteligência artificial.
Ke disse em um e-mail ao tribunal que não tinha ideia de que esses dois casos pudessem ser errôneos. Ela acrescentou que depois que seu colega apontou o fato de que não era possível localizá-los, ela fez sua própria pesquisa e também não conseguiu detectar os problemas. Ela afirmou que não tinha intenção de enganar o advogado adversário ou o tribunal e pediu desculpas sinceras pelo erro que cometeu.
Usando Chatbots
Chatbots são treinados com grandes quantidades de dados e, apesar de sua popularidade, são propensos a erros, conhecidos como “alucinações”.
As ações de Ke, segundo os advogados que representam a mãe, foram “repreensíveis e merecedoras de repreensão” porque levaram a “tempo e despesas consideráveis” para determinar se os casos que ela citou eram reais.
No entanto, o pedido de concessão de custas especiais foi negado pelo juiz presidente, que afirmou que tal “medida extraordinária” exigiria “a constatação de conduta repreensível ou abuso de processo” por parte do advogado.
Além disso, alguns usuários do X (anteriormente Twitter) expressaram seu descontentamento com o uso de chatbots para processos judiciais.
Mais um advogado burro o suficiente para usar o ChatGPT e seus casos alucinados. (4º ou 5º a ser pego, pelas minhas contas.)https://t.co/WjaitrEATc
- Gary Marcus (@GaryMarcus) 29 de fevereiro de 2024
Juiz David responde
De acordo com o juiz David Masuhara, citar casos falsos em processos judiciais e outros materiais entregues ao tribunal é um abuso de processo e equivale a fazer uma declaração falsa ao tribunal. Ele acrescentou que, se não for controlado, pode levar a um erro judiciário.
Ele descobriu que o advogado adversário tinha “bons recursos” e já havia produzido “volumes” de materiais no caso. Ele disse que não havia chance de os dois casos falsos terem escapado.
Masuhara afirmou que Ke era “ingênua sobre os riscos do uso do ChatGPT” e que suas ações geraram “publicidade negativa significativa”, mas também observou que Ke fez um esforço para corrigir seus erros.
Ele disse que não descobriu que ela tivesse a intenção de enganar ou direcionar mal. Ele aceitou a sinceridade do pedido de desculpas da Sra. Ke ao advogado e ao tribunal. Ele acrescentou que o arrependimento dela ficou evidente durante sua aparição e apresentações orais no tribunal.
O incidente destaca discussões mais gerais sobre o uso de AI na área jurídica. Chama a atenção para as dificuldades em garantir a fiabilidade e a exatidão dos conteúdos gerados pela IA em tribunal.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://metanews.com/vancouver-attorney-faces-scrutiny-after-ai-chatbot-generates-fake-case-law/
- :é
- :não
- $UP
- 29
- sec 4
- sec 5
- 7
- 800
- a
- Sobre
- no exterior
- abuso
- aceito
- Segundo
- precisão
- ações
- adicionado
- Depois de
- contra
- AI
- Chatbot AI
- já
- tb
- quantidades
- an
- e
- Outro
- Aplicar
- SOMOS
- argumentos
- artificial
- inteligência artificial
- AS
- por WhatsApp.
- advogado
- premiado
- BE
- Porque
- comportamento
- Culpar
- Britânico
- British Columbia
- mas a
- by
- CAN
- canadense
- casas
- casos
- apanhados
- chance
- chatbot
- chatbots
- ChatGPT
- criança
- Crianças
- circunstâncias
- citado
- colega
- COLÔMBIA
- Conduzir
- conteúdo
- custos
- poderia
- conselho
- contar
- Tribunal de
- Documentos Judiciais
- criado
- crítica
- Atualmente
- Custódia
- perigos
- dados,
- David
- negado
- merecedor
- desejado
- Apesar de
- descobrir
- Determinar
- DID
- dificuldades
- descoberto
- discussões
- Disputa
- INSTITUCIONAIS
- down
- rascunho
- desenha
- mudo
- durante
- esforço
- ou
- suficiente
- erros
- evidência
- evidente
- exemplos
- expressa
- rostos
- enfrentando
- fato
- falsificação
- falso
- campo
- Arquivos
- limalha
- Encontre
- descoberta
- Fogo
- Fixar
- Escolha
- Antigamente
- Gary
- Geral
- gerado
- tinha
- Ter
- he
- ouviu
- sua experiência
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- Alta
- Destacando
- destaques
- sua
- HTTPS
- idéia
- identificado
- if
- Ignorância
- in
- incidente
- inconsistências
- prestação
- Inteligência
- Intenção
- investigação
- questões
- IT
- ESTÁ
- jpg
- juiz
- Justiça
- conhecido
- Escritórios de
- ação judicial
- advogado
- Advogados
- conduzir
- principal
- levou
- esquerda
- Legal
- localizado
- trancado
- moldadas
- Fazendo
- Marcus
- maciço
- materiais
- max-width
- mencionado
- poder
- erro
- erros
- mais
- a maioria
- mãe
- MS
- Almíscar
- my
- negativo
- não
- of
- on
- OpenAI
- or
- Outros
- Fora
- próprio
- platão
- Inteligência de Dados Platão
- PlatãoData
- popularidade
- presentes
- Prévio
- sonda
- processo
- Produzido
- fornecer
- publicidade
- Leia
- reais
- recentemente
- lamentar
- representado
- representando
- solicitar
- requerer
- pesquisa
- Resultados
- riscos
- Dito
- Sam
- ela
- Atenciosamente
- alguns
- especial
- estabelecido
- Declaração
- submissão
- Submissões
- apresentado
- enviando
- tal
- Supremo
- Supremo Tribunal
- Tecnologia
- que
- A
- deles
- então
- Lá.
- Este
- deles
- três
- Através da
- tempo
- para
- levou
- treinado
- viagens
- verdadeiro
- dois
- para
- usar
- usava
- usuários
- utilização
- vancouver
- foi
- foram
- QUEM
- de
- seria
- X
- zefirnet