Um relatório das Nações Unidas divulgado hoje propõe que o organismo internacional supervisione o primeiro esforço verdadeiramente global para monitorar e governar a inteligência artificial.
O relatório, produzido pelo Secretário-Geral da ONU Órgão Consultivo de Alto Nível sobre IArecomenda a criação de um órgão semelhante ao Painel Intergovernamental sobre Mudanças Climáticas para reunir informações atualizadas sobre IA e seus riscos.
O relatório pede um novo diálogo político sobre IA para que os 193 membros da ONU possam discutir riscos e concordar com ações. Ele recomenda ainda que a ONU tome medidas para capacitar as nações mais pobres, especialmente aquelas no sul global, para se beneficiarem da IA e contribuírem para sua governança. Isso deve incluir, diz, a criação de um fundo de IA para apoiar projetos nessas nações, estabelecendo padrões de IA e sistemas de compartilhamento de dados e criando recursos como treinamento para ajudar as nações com a governança da IA. Algumas das recomendações do relatório poderiam ser facilitadas pelo Pacto Digital Globalum plano existente para abordar as divisões digitais e de dados entre as nações. Ele finalmente sugere a criação de um escritório de IA dentro da ONU dedicado a coordenar os esforços existentes dentro da ONU para atingir as metas do relatório.
“Temos uma comunidade internacional que concorda que há danos e riscos, bem como oportunidades apresentadas pela IA”, diz Alondra Nelsonum professor da Instituto de Estudos Avançados que serviu no órgão consultivo da ONU por recomendação da Casa Branca e do Departamento de Estado.
As habilidades notáveis demonstradas por grandes modelos de linguagem e chatbots nos últimos anos despertaram esperanças de uma revolução na produtividade econômica, mas também levaram alguns especialistas a alertar que a IA pode estar se desenvolvendo muito rapidamente e pode se tornar difícil de controlar em breve. Pouco depois do surgimento do ChatGPT, muitos cientistas e empreendedores assinaram uma carta pedindo uma pausa de seis meses no desenvolvimento da tecnologia para que os riscos pudessem ser avaliados.
Preocupações mais imediatas incluem o potencial da IA para automatizar desinformação, gerar vídeo e áudio deepfake, substituir trabalhadores em massa e exacerbar o viés algorítmico social em escala industrial. “Há um senso de urgência, e as pessoas sentem que precisamos trabalhar juntas”, diz Nelson.
As propostas da ONU refletem alto interesse entre formuladores de políticas em todo o mundo em regulamentar a IA para mitigar esses riscos. Mas também acontece quando grandes potências — especialmente os Estados Unidos e a China — disputam a liderança em uma tecnologia que promete ter enormes benefícios econômicos, científicos e militares, e quando essas nações estabelecem suas próprias visões sobre como ela deve ser usada e controlada.
Em março, os Estados Unidos introduziu uma resolução à ONU apelando aos estados-membros para que abracem o desenvolvimento de uma “IA segura, protegida e fiável”. Em Julho, a China introduziu uma resolução própria que enfatizava a cooperação no desenvolvimento de IA e tornava a tecnologia amplamente disponível. Todos os estados-membros da ONU assinaram ambos os acordos.
“A IA faz parte da competição entre os EUA e a China, então há apenas uma quantidade limitada de coisas em que eles concordarão”, diz Josué Meltzerum especialista do Brookings Institute, um think tank de Washington, DC. As principais diferenças, ele diz, incluem quais normas e valores devem ser incorporados pela IA e proteções em torno da privacidade e dados pessoais.
