Os decisores políticos da União Europeia concordaram na sexta-feira com uma nova lei abrangente para regular a inteligência artificial, uma das primeiras tentativas abrangentes do mundo para limitar o uso de uma tecnologia em rápida evolução que tem amplas implicações sociais e económicas.
A lei, denominada Lei da IA, estabelece uma nova referência global para os países que procuram aproveitar os potenciais benefícios da tecnologia, ao mesmo tempo que tentam proteger-se contra os seus possíveis riscos, como a automatização de empregos, a difusão de desinformação online e o perigo da segurança nacional. A lei ainda precisa de passar por algumas etapas finais para ser aprovada, mas o acordo político significa que os seus principais contornos foram definidos.
Os decisores políticos europeus centraram-se nas utilizações mais arriscadas da IA por parte de empresas e governos, incluindo as utilizadas na aplicação da lei e na operação de serviços cruciais como a água e a energia. Os fabricantes dos maiores sistemas de IA de uso geral, como os que alimentam o chatbot ChatGPT, enfrentariam novos requisitos de transparência. Os chatbots e o software que cria imagens manipuladas, como “deepfakes”, teriam de deixar claro que o que as pessoas viam era gerado pela IA, de acordo com responsáveis da UE e com versões anteriores da lei.
O uso de software de reconhecimento facial pela polícia e pelos governos seria restringido fora de certas isenções de segurança e segurança nacional. As empresas que violarem os regulamentos poderão enfrentar multas de até 7% das vendas globais.
“A Europa posicionou-se como pioneira, compreendendo a importância do seu papel como definidor de padrões globais”, Thierry Breton, o comissário europeu que ajudou a negociar o acordodisse em um comunicado.
No entanto, mesmo quando a lei foi aclamada como um avanço regulamentar, subsistiam questões sobre a sua eficácia. Não se esperava que muitos aspectos da política entrassem em vigor dentro de 12 a 24 meses, um período de tempo considerável para o desenvolvimento da IA. E até ao último minuto das negociações, os decisores políticos e os países lutavam sobre a sua linguagem e sobre como equilibrar a promoção da inovação com a necessidade de salvaguarda contra possíveis danos.
O acordo alcançado em Bruxelas exigiu três dias de negociações, incluindo uma sessão inicial de 22 horas que começou na tarde de quarta-feira e se arrastou até quinta-feira. O acordo final não foi imediatamente público, uma vez que se esperava que as conversações continuassem nos bastidores para completar os detalhes técnicos, o que poderia atrasar a aprovação final. Votos deve ser realizado no Parlamento e no Conselho Europeu, que inclui representantes dos 27 países da união.
A regulamentação da IA ganhou urgência após o lançamento do ChatGPT no ano passado, que se tornou uma sensação mundial ao demonstrar as habilidades avançadas da IA. Nos Estados Unidos, a administração Biden emitiu recentemente uma ordem executiva focada em parte nos efeitos da IA na segurança nacional. A Grã-Bretanha, o Japão e outras nações adotaram uma abordagem mais indiferente, enquanto a China impôs algumas restrições ao uso de dados e algoritmos de recomendação.
Em jogo estão trilhões de dólares em valor estimado já que se prevê que a IA remodelará a economia global. “O domínio tecnológico precede o domínio económico e o domínio político”, disse Jean-Noël Barrot, ministro digital da França. disse essa semana.
A Europa tem sido uma das regiões mais avançadas na regulamentação da IA, tendo começado a trabalhar no que se tornaria a Lei da IA em 2018. Nos últimos anos, os líderes da UE tentaram trazer um novo nível de supervisão para a tecnologia, semelhante à regulamentação da saúde. setores de cuidados ou bancários. O bloco já promulgou leis de longo alcance relacionadas à privacidade de dados, concorrência e moderação de conteúdo.
Um primeiro rascunho da Lei da IA foi lançado em 2021. Mas os decisores políticos viram-se obrigados a reescrever a lei à medida que surgiam avanços tecnológicos. A versão inicial não fazia menção a modelos de IA de uso geral, como aqueles que alimentam o ChatGPT.
Os decisores políticos concordaram com o que chamaram de “abordagem baseada no risco” para regular a IA, onde um conjunto definido de aplicações enfrenta maior supervisão e restrições. As empresas que fabricam ferramentas de IA que representam o maior dano potencial aos indivíduos e à sociedade, como na contratação e na educação, precisariam fornecer aos reguladores provas de avaliações de risco, detalhamentos de quais dados foram usados para treinar os sistemas e garantias de que o software fez isso. não causar danos como perpetuar preconceitos raciais. A supervisão humana também seria necessária na criação e implantação dos sistemas.
Algumas práticas, como a recolha indiscriminada de imagens da Internet para criar uma base de dados de reconhecimento facial, seriam totalmente proibidas.
O debate na União Europeia foi controverso, um sinal de como a IA confundiu os legisladores. As autoridades da UE estavam divididas sobre a profundidade da regulamentação dos novos sistemas de IA, por receio de prejudicar as start-ups europeias que tentam alcançar empresas americanas como a Google e a OpenAI.
A lei acrescentou requisitos para que os fabricantes dos maiores modelos de IA divulguem informações sobre como seus sistemas funcionam e avaliem o “risco sistêmico”, disse Breton.
As novas regulamentações serão acompanhadas de perto em todo o mundo. Afetarão não apenas os principais desenvolvedores de IA, como Google, Meta, Microsoft e OpenAI, mas também outras empresas que deverão usar a tecnologia em áreas como educação, saúde e bancos. Os governos também estão a recorrer mais à IA na justiça penal e na atribuição de benefícios públicos.
A aplicação permanece obscura. A Lei da IA envolverá reguladores de 27 países e exigirá a contratação de novos especialistas num momento em que os orçamentos governamentais estão apertados. É provável que haja desafios legais à medida que as empresas testam as novas regras em tribunal. A legislação anterior da UE, incluindo a importante lei de privacidade digital conhecida como Regulamento Geral de Proteção de Dados, foi criticada por ser aplicada de forma desigual.
“A capacidade regulamentar da UE está em causa”, disse Kris Shrishak, membro sénior do Conselho Irlandês para as Liberdades Civis, que aconselhou os legisladores europeus sobre a Lei da IA. “Sem uma aplicação forte, este acordo não terá significado.”
