Como os EUA O governo federal luta para regulamentar de forma significativa a IA – ou mesmo para funcionar – a cidade de Nova Iorque está a preencher a lacuna de governação.
A cidade introduziu um Plano de Ação de IA esta semana, o prefeito Eric Adams considera o primeiro desse tipo no país. O conjunto de cerca de 40 iniciativas políticas foi concebido para proteger os residentes contra danos como o preconceito ou a discriminação da IA. Inclui o desenvolvimento de padrões para IA adquiridos por agências municipais e novos mecanismos para avaliar o risco da IA utilizada pelos departamentos municipais.
A regulamentação da IA em Nova Iorque poderá em breve expandir-se ainda mais. A vereadora Jennifer Gutiérrez, presidente do comitê de tecnologia do órgão, apresentou hoje uma legislação que criaria um Escritório de Integridade de Dados Algorítmicos para supervisionar a IA em Nova York.
Se estabelecido, o escritório proporcionaria um local para os cidadãos receberem reclamações sobre sistemas automatizados de tomada de decisão utilizados por órgãos públicos, funcionando como um ombudsman para algoritmos nos cinco distritos. Também avaliaria os sistemas de IA antes da implantação pela cidade quanto a preconceitos e discriminação.
Vários senadores dos EUA sugeriram a criação de uma nova agência federal para regular a IA no início deste ano, mas Gutiérrez diz que aprendeu que não faz sentido esperar por uma ação em Washington, DC. “Temos uma responsabilidade única porque aqui reside muita inovação”, diz ela. “É muito importante para nós assumir a liderança.”
Gutiérrez apóia a exigência de testes para algoritmos usados pelo governo municipal porque a IA está começando a ser amplamente utilizada, diz ela. Os departamentos municipais estão interessados em usar software de IA para tarefas administrativas, como avaliar o risco de uma criança ser vítima de abuso ou as taxas de aprendizagem dos alunos. Ela também desconfia do gosto do prefeito Eric Adams por tecnologias como cães robóticos e IA para fazendo ligações automáticas em idiomas que ele não fala. A cidade de Nova York tem a reputação de ser um campo de testes para tecnologia de vigilância, desde o recente aumento no uso de drones até o uso questionável de reconhecimento facial em habitação e estádios, e pela polícia.
Nova York estava à frente do governo federal na regulamentação da IA ainda antes desta semana. Uma cidade força tarefa foi formada em 2018 para avaliar o uso da tecnologia. Uma lei que exige que os algoritmos de contratação usados pelas empresas sejam verificados quanto a preconceitos entrou em vigor no início deste ano. Mas algumas proteções foram reduzidas. Em janeiro de 2022, Adams cancelado uma ordem executiva assinado por seu antecessor, Bill de Blasio, que criou um Oficial de Gestão e Política de Algoritmos para trabalhar com agências municipais na implantação de IA de forma equitativa. Um relatório emitido pelo oficial em 2020 disse que as agências municipais usaram 16 tipos de algoritmos que tiveram um impacto potencialmente substancial nos direitos das pessoas, mas não pesquisaram todos os modelos de IA usados pelo Departamento de Polícia da cidade de Nova York.
Gutiérrez diz que ainda não tem uma compreensão abrangente dos algoritmos usados pelas agências municipais. Um auditoria divulgada em fevereiro pelo controlador do estado de Nova York descobriu que a cidade tem uma abordagem ad hoc e incompleta para a governança da IA. Ele alertou que isso significa que a cidade não pode “garantir que o uso da IA pela cidade seja transparente, preciso e imparcial e evite impactos díspares”.
