Como 2024 parece ser o ano em que a Apple dá seu grande impulso à IA generativa, o governo federal também está incentivando o uso de IA por suas próprias agências…
No entanto, a Casa Branca anunciou hoje que as agências governamentais que pretendem tirar partido da IA devem aplicar três salvaguardas para mitigar os riscos potenciais da tecnologia.
Três regras para iniciativas de IA do governo federal
Engajamento observa que a vice-presidente Kamala Harris anunciou a nova política, que impõe às agências federais três requisitos ao introduzir iniciativas de IA:
- Garantir a segurança
- Seja transparente
- Nomeie um diretor de IA
“Acredito que todos os líderes do governo, da sociedade civil e do setor privado têm o dever moral, ético e social de garantir que a inteligência artificial seja adotada e avançada de uma forma que proteja o público de danos potenciais, garantindo ao mesmo tempo que todos possam desfrutar seus benefícios”, disse o vice-presidente aos repórteres em uma teleconferência.
Garantir a segurança
Em primeiro lugar, as agências terão de garantir que quaisquer ferramentas de IA que utilizem “não ponham em perigo os direitos e a segurança do povo americano”. Eles têm até 1º de dezembro para garantir que tenham “salvaguardas concretas” em vigor para garantir que os sistemas de IA que empregam não afetem a segurança ou os direitos dos americanos.
Este requisito não se limita à segurança física, mas também a coisas como manter a integridade eleitoral e a infraestrutura de votação.
Uma grande preocupação levantada sobre os sistemas de IA é que, por aprenderem com o que foi feito no passado, podem perpetuar preconceitos sistémicos. São, portanto, necessárias salvaguardas adequadas para a utilização da IA em áreas como o policiamento preditivo e a triagem pré-contratação.
Seja transparente
As agências federais devem divulgar os sistemas de IA que utilizam, com detalhes completos tornados públicos na maioria dos casos.
“Hoje, o presidente Biden e eu exigimos que, todos os anos, as agências governamentais dos EUA publiquem online uma lista dos seus sistemas de IA, uma avaliação dos riscos que esses sistemas podem representar e como esses riscos estão a ser geridos”, disse Harris.
Como parte deste esforço, as agências terão de publicar códigos, modelos e dados de IA de propriedade do governo, desde que isso não prejudique o público ou as operações governamentais.
Nomeie um diretor de IA
Por último, mas não menos importante, as agências federais precisarão de supervisão interna do uso da IA. Isso inclui cada departamento nomear um diretor de IA para supervisionar todo o uso da IA por uma agência.
“Isso é para garantir que a IA seja usada de forma responsável, entendendo que devemos ter líderes seniores em todo o nosso governo que tenham a tarefa específica de supervisionar a adoção e o uso da IA”, observou Harris. Muitas agências também precisarão ter conselhos de governança de IA em funcionamento até 27 de maio.
A mudança relativamente lenta da Apple para a IA generativa é quase certamente o resultado das próprias preocupações da empresa sobre os riscos potenciais.
foto por Ana Lanza sobre Remover respingo
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
