O Departamento de Justiça dos Estados Unidos não conseguiu convencer um grupo de legisladores norte-americanos de que as agências policiais estaduais e locais não recebem subsídios federais para comprar ferramentas de “policiamento” baseadas em IA, conhecidas por serem imprecisas, se não propensas a exacerbar preconceitos há muito observados em Forças policiais dos EUA.
Sete membros do Congresso escreveram em uma carta ao DOJ, obtido pela primeira vez pela WIRED, que as informações que obtiveram da agência serviram apenas para inflamar suas preocupações sobre o programa de subsídios policiais do DOJ. Nada nas suas respostas até agora, disseram os legisladores, indica que o governo se preocupou em investigar se os departamentos aos quais foram concedidos subsídios compraram software de policiamento discriminatório.
“Pedimos que você suspenda todos os subsídios do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os beneficiários dos subsídios não usarão tais sistemas de maneiras que tenham um impacto discriminatório”, diz a carta. O Departamento de Justiça anteriormente reconhecido que não tinha monitorizado se os departamentos de polícia estavam a utilizar o financiamento, concedido ao abrigo do Programa de Subsídios de Assistência à Justiça Memorial Edward Byrne, para adquirir as chamadas ferramentas de policiamento preditivo.
Liderados pelo senador Ron Wyden, um democrata do Oregon, os legisladores dizem que o DOJ é obrigado por lei a “revisar periodicamente” se os beneficiários das subvenções cumprem o Título VI da Lei dos Direitos Civis do país. O DOJ está claramente proibido, explicam, de financiar programas que demonstrem discriminação com base na raça, etnia ou origem nacional, quer esse resultado seja intencional ou não.
Investigações independentes na imprensa descobriram que as ferramentas populares de policiamento “preditivo” treinadas em dados históricos de crimes muitas vezes reproduzem preconceitos de longa data, oferecendo à aplicação da lei, na melhor das hipóteses, um verniz de legitimidade científica, ao mesmo tempo que perpetuam o policiamento excessivo de bairros predominantemente negros e latinos. . Uma manchete de outubro do The Markup afirma sem rodeios: “Software de policiamento preditivo é péssimo na previsão de crimes.” A história conta como os pesquisadores da publicação examinaram recentemente 23.631 previsões de crimes policiais – e descobriram que eram precisas em cerca de 1% das vezes.
“Os sistemas de policiamento preditivo baseiam-se em dados históricos distorcidos por relatórios de crimes falsificados e prisões desproporcionais de pessoas de cor”, escreveram Wyden e outros legisladores, prevendo:como muitos pesquisadores—que a tecnologia serve apenas para criar ciclos de feedback “perigosos”. A declaração observa que “previsões tendenciosas são usadas para justificar paragens e detenções desproporcionais em bairros minoritários”, distorcendo ainda mais as estatísticas sobre onde os crimes ocorrem.
Os senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a deputada Yvette Clarke.
Os legisladores solicitaram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigasse o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a exactidão e a precisão dos modelos de policiamento preditivo em todas as classes protegidas, a sua interpretabilidade e a sua validade”, para incluir, acrescentaram, “quaisquer limites na avaliação dos seus riscos colocados pela falta de transparência por parte das empresas que os desenvolvem. ”
Caso o DOJ pretenda continuar a financiar a tecnologia após esta avaliação, dizem os legisladores, deverá pelo menos estabelecer “padrões de provas” para determinar quais os modelos preditivos que são discriminatórios – e depois rejeitar o financiamento para todos aqueles que não os cumpram.
