Chefe de Justiça John G. Roberts Jr. seu relatório anual de final de ano sobre o estado do judiciário federal, emitido no domingo, sobre o papel positivo que a inteligência artificial pode desempenhar no sistema jurídico – e as ameaças que ela representa.
O seu relatório não abordou o ano difícil do Supremo Tribunal, incluindo a adopção de um código de ética que muitos consideraram ineficaz. Ele também não discutiu os casos iminentes decorrentes dos processos criminais do ex-presidente Donald J. Trump e das questões sobre a sua elegibilidade para ocupar o cargo.
O relatório do presidente do tribunal foi, no entanto, oportuno, vindo dias depois das revelações de que Michael D. Cohen, o antigo mediador de Trump, tinha fornecido ao seu advogado citações legais falsas criadas pelo Google Bard, um programa de inteligência artificial.
Referindo-se a um episódio semelhante anterior, o presidente do tribunal Roberts disse que “qualquer uso de IA requer cautela e humildade”.
“Uma das aplicações proeminentes da IA ganhou as manchetes este ano devido a uma deficiência conhecida como ‘alucinação’”, escreveu ele, “que fez com que os advogados que utilizavam a aplicação apresentassem resumos com citações de casos inexistentes. (Sempre uma má ideia.)”
O presidente do Supremo Tribunal, Roberts, reconheceu a promessa da nova tecnologia, ao mesmo tempo que observou os seus perigos.
“Professores de direito relatam com admiração e angústia que a IA aparentemente pode tirar notas B em trabalhos da faculdade de direito e até mesmo passar no exame da ordem”, escreveu ele. “A pesquisa jurídica poderá em breve ser inimaginável sem ela. Obviamente, a IA tem um grande potencial para aumentar drasticamente o acesso a informações importantes, tanto para advogados como para não advogados. Mas é igualmente óbvio que corre o risco de invadir interesses de privacidade e desumanizar a lei.”
O presidente do tribunal, mencionando formulários de falência, disse que alguns pedidos poderiam agilizar os processos judiciais e economizar dinheiro. “Essas ferramentas têm o potencial bem-vindo de suavizar qualquer incompatibilidade entre os recursos disponíveis e as necessidades urgentes em nosso sistema judicial”, escreveu ele.
O presidente do tribunal, Roberts, há muito se interessa pela intersecção entre direito e tecnologia. Ele escreveu as opiniões da maioria em decisões que geralmente exigem que o governo obtenha mandados para pesquisar informações digitais em celulares apreendidos de pessoas que foram presas e para coletar uma grande quantidade de dados de localização sobre os clientes das empresas de telefonia celular.
Em sua visita de 2017 ao Rensselaer Polytechnic Instituteperguntou-se ao presidente do tribunal se ele poderia “prever um dia em que máquinas inteligentes, movidas por inteligências artificiais, ajudarão na apuração de fatos nos tribunais ou, de forma mais controversa, na tomada de decisões judiciais?”
O presidente do tribunal disse que sim. “É um dia que chegou”, disse ele, “e está colocando uma pressão significativa na forma como o judiciário faz as coisas”. Ele parecia estar se referindo ao software usado nas decisões de sentença.
Essa tensão só aumentou, escreveu o presidente do tribunal no domingo.
“Em casos criminais, o uso da IA na avaliação do risco de voo, reincidência e outras decisões amplamente discricionárias que envolvem previsões gerou preocupações sobre o devido processo, confiabilidade e potencial preconceito”, escreveu ele. “Pelo menos atualmente, os estudos mostram uma perceção pública persistente de uma ‘lacuna de justiça entre humanos e IA’, refletindo a visão de que as decisões humanas, apesar de todas as suas falhas, são mais justas do que qualquer coisa que a máquina emita.”
O Chefe de Justiça Roberts concluiu que “as determinações legais muitas vezes envolvem áreas cinzentas que ainda exigem a aplicação do julgamento humano”.
“Os juízes, por exemplo, medem a sinceridade da alocução de um réu na sentença”, escreveu ele. “As nuances são importantes: muita coisa pode depender de uma mão trêmula, de uma voz trêmula, de uma mudança de inflexão, de uma gota de suor, de um momento de hesitação, de uma pausa fugaz no contato visual. E a maioria das pessoas ainda confia mais nos humanos do que nas máquinas para perceber e tirar as inferências corretas dessas pistas.”
Os juízes de apelação também não serão suplantados tão cedo, escreveu ele.
“Muitas decisões de apelação dependem de um tribunal inferior ter abusado de seu poder discricionário, um padrão que, por sua natureza, envolve áreas cinzentas específicas de fatos”, escreveu o presidente do tribunal. “Outros centram-se em questões abertas sobre como a lei deve evoluir em novas áreas. A IA baseia-se em grande parte nas informações existentes, que podem informar, mas não tomar tais decisões.”
