Relatórios do presidente da Suprema Corte sobre juízes com tecnologia de IA

O presidente do Supremo Tribunal dos EUA, John Roberts, acredita que a inteligência artificial desempenhará um papel cada vez mais importante no processo legal, mas espera que “juízes humanos ainda existam por algum tempo”.

Roberts fez essa observação em seu Relatório de final de ano de 2023 sobre o Judiciário Federal [PDF], que não tocou no assunto anteriormente.

“A IA obviamente tem um grande potencial para aumentar drasticamente o acesso a informações importantes para advogados e não advogados”, escreveu Roberts. “Mas é igualmente óbvio que corre o risco de invadir interesses de privacidade e desumanizar a lei.”

Roberts citou o valor potencial dos sistemas de IA para ajudar as pessoas que não podem pagar por representação legal, permitindo-lhes preparar processos judiciais por conta própria. Ao mesmo tempo, ele advertiu que os modelos de IA tornaram manchetes pela tendência a alucinar, “o que fez com que os advogados que utilizavam o aplicativo apresentassem peças com citações de casos inexistentes. (Sempre uma má ideia.)”

Como que para sublinhar essa preocupação, documentos abertos na semana passada revelaram que Michael Cohen, o advogado que anteriormente tratava de assuntos jurídicos do presidente Donald Trump, tinha dado ao seu próprio advogado citações legais falsas do Google Bardo. Ele fez isso em apoio a uma moção que buscava o fim antecipado de sua supervisão ordenada pelo tribunal, após sua admissão de violações do financiamento de campanha de 2018.

Roberts também argumentou que as máquinas atualmente não conseguem igualar a capacidade de um juiz humano de avaliar a sinceridade do discurso de um réu. “As nuances são importantes: muita coisa pode depender de uma mão trêmula, uma voz trêmula, uma mudança de inflexão, uma gota de suor, um momento de hesitação, uma quebra fugaz no contato visual”, escreveu ele.

E prosseguiu observando que, em casos criminais em que a IA é utilizada para avaliar o risco de voo, reincidência ou outras decisões preditivas, existe uma controvérsia contínua sobre o devido processo, a fiabilidade e os preconceitos que tais sistemas podem conter.

“Pelo menos atualmente, os estudos mostram uma perceção pública persistente de uma ‘lacuna de justiça entre humanos e IA’, refletindo a visão de que as decisões humanas, apesar de todas as suas falhas, são mais justas do que qualquer coisa que a máquina emita”, escreveu Roberts.

Essa percepção foi contestada num artigo de Setembro dos académicos de Harvard Victoria Angelova, Will Dobbie e Crystal Yang, através do National Bureau of Economic Research. O papel, “Recomendações Algorítmicas e Discricionariedade Humana”, conclui que quando juízes humanos anulam decisões algorítmicas sobre libertar ou deter um réu sob fiança, 90 por cento dos humanos apresentam desempenho inferior ao do algoritmo na detecção de potenciais reincidentes.

“Essa descoberta indica que o juiz típico em nosso ambiente é menos hábil em prever má conduta do que o algoritmo e que poderíamos diminuir substancialmente as taxas de má conduta automatizando as decisões de liberação”, afirmam os autores em seu artigo.

Ao mesmo tempo, 10% dos juízes conseguem superar o algoritmo ao ignorar as suas recomendações e são melhores a antecipar a má conduta dos arguidos. O fator comum entre esses “juízes altamente qualificados” é que eles têm menos probabilidade de ter trabalhado anteriormente na aplicação da lei e são melhores no uso de informações privadas não disponíveis para o algoritmo.

O documento afirma que os juízes com poucas competências prestam mais atenção a factores demográficos como a raça, enquanto os juízes com elevadas competências se concentram mais em questões não demográficas como a saúde mental, o abuso de substâncias e os recursos financeiros.

Os juízes humanos, sem dúvida, existirão por um tempo, opina Roberts. E para a maioria com baixo desempenho, pode ser que a IA possa ajudar a torná-los melhores, pelo menos no contexto da tomada de decisões antes do julgamento. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/01/02/supreme_court_ai_roberts/