EUm 2019, um pesquisador chinês chamado Li Bicheng expôs suas idéias sobre a manipulação da opinião pública usando IA. Uma rede de “agentes inteligentes” – um exército de falsas personalidades online, controladas pela IA – poderia agir de forma suficientemente realista para moldar o consenso sobre questões que preocupam o Partido Comunista Chinês, como a sua manejo da pandemia de COVID-19. Apenas alguns anos antes, Li tinha escrito noutros artigos que a China deveria melhorar a sua capacidade de conduzir “engano de informação online” e “orientação da opinião pública online”.
Li não é uma exceção. Na verdade, ele é o maior insider, com uma longa carreira de investigação no principal instituto de investigação sobre guerra de informação do Exército de Libertação Popular. A sua visão de usar a IA para manipular as redes sociais foi publicada numa das principais revistas académicas militares chinesas. Ele está ligado à única unidade de guerra de informação conhecida do ELP, Base 311. Os seus artigos, portanto, devem ser vistos como um prenúncio de uma inundação de operações de influência chinesas assistidas por IA em toda a web.
Como Meta divulgou recentemente no seu relatório trimestral sobre ameaças adversárias, as plataformas ocidentais da Internet já estão afogadas em conteúdo pró-Pequim publicado por grupos ligados ao governo chinês. De acordo com o relatório Meta, mais de meio milhão de utilizadores do Facebook seguiram pelo menos uma destas contas falsas na rede chinesa mais ampla – que dependia de click farms baseadas no Vietname e no Brasil para aumentar o seu alcance. O relatório também afirma que a rede chinesa comprou cerca de US$ 3.000 em anúncios para promover ainda mais suas postagens. Este esforço, no entanto, parece ainda ser conduzido por humanos e teve resultados marginais no mundo real. Um recente Relatório do Departamento de Estado sobre as operações de influência da China reforça este ponto.
Mas A IA generativa oferece o potencial para transformar esses esforços em algo muito mais eficaz e, portanto, muito mais perigoso para os EUA e outras democracias globais. E a nossa investigação mostra que a China está preparada para adoptar esta nova tecnologia. Mês passado, Microsoft relatou alguns atores afiliados à China que ele rastreia começaram a usar imagens geradas por IA em março. Isto valida as nossas preocupações e esperamos que mais disto venha.
Agora, graças à IA generativa, o impacto da manipulação das redes sociais na China será maior em termos de volume e muito mais barato e provavelmente terá conteúdo melhor e mais confiável. Embora a abordagem tradicional exija a contratação de humanos para trabalhar em fazendas de conteúdo para criar ou publicar conteúdo e depois gastar dinheiro para impulsioná-lo e promovê-lo nas mídias sociais, com IA generativa o custo é relativamente fixo e o escopo é altamente escalável: construa-o uma vez e deixe-o preencher a web com conteúdo.
O custo de construção de tal modelo já é incrivelmente barato e – como acontece com tanta tecnologia – só ficará mais barato. Como Com fio relatado recentementeuma pesquisadora com o pseudônimo Nea Paw conseguiu criar uma conta totalmente autônoma que postava na internet, com links para artigos e veículos de notícias, citando até jornalistas específicos – exceto que todos parte dele era falso, criado inteiramente usando IA. Paw fez isso com ferramentas de IA prontas para uso e disponíveis publicamente. Custou-lhe apenas US$ 400.
Este tipo de IA generativa, que age muito mais como pessoas e não como bots, oferece ao PCC – e a muitos outros maus actores, como a Rússia e o Irão – o potencial para satisfazer desejos de longa data de moldar o diálogo global.
Em Maio de 2021, o secretário-geral chinês, Xi Jinping, reiterou o foco de seu partido neste objetivo elevado, durante seus comentários na Sessão de Estudo Coletivo mensal do Politburo do PCC. Lá, ele disse que a China deveria “criar um ambiente de opinião pública externa favorável à reforma, ao desenvolvimento e à estabilidade da China”, em parte desenvolvendo narrativas de propaganda mais convincentes e adaptando melhor o conteúdo a públicos específicos. Xi também enfatizou que desde que chegou ao poder, em 2012, Pequim melhorou o “poder de orientação dos nossos esforços de opinião pública internacional”. Por outras palavras, Xi está satisfeito com o quanto a China já influencia a opinião pública global, mas acha que o PCC tem mais trabalho a fazer.
Xi também vem falando há anos sobre a tecnologia como uma forma de realizar seus desejos. Numa sessão anterior de estudo coletivo do Politburo, em 2019, Xi disse que era necessário estudar a aplicação da IA na recolha, produção, distribuição e feedback de notícias, a fim de melhorar a capacidade de orientar a opinião pública. O aparato mais amplo do Partido-Estado já se moveu para concretizar a visão de Xi, incluindo o estabelecimento de “Departamentos editoriais de IA.”
Os investigadores militares chineses têm trabalhado para criar o que por vezes chamam de “informações sintéticas” desde pelo menos 2005. Essas informações podem ser utilizadas para muitos fins, incluindo a geração de “notícias políticas explosivas” sobre adversários. Por exemplo, China foi acusada em 2017 de uma campanha de desinformação que alegava que o governo de Taiwan iria regular estritamente os serviços religiosos, o que criou uma tempestade política na ilha.
Pesquisadores militares chineses reclamar rotineiramenteed o ELP carece da quantidade necessária de pessoal com competências adequadas em línguas estrangeiras e compreensão intercultural. Agora, no entanto, a IA generativa oferece ao PLA ferramentas para fazer algo que nunca poderia fazer antes, que é manipular as redes sociais com conteúdo de qualidade igual ou próxima da humana, em grande escala.
Existem medidas que tanto as plataformas de redes sociais como o governo dos EUA podem e devem tomar para começar a mitigar esta ameaça. Mas todas essas estratégias devem partir da realidade de que a IA generativa já é omnipresente e é pouco provável que alguma vez seja regulamentada universalmente.
Ainda assim, as plataformas de redes sociais devem intensificar os seus esforços para reprimir as contas inautênticas existentes que espalham desinformação e dificultar a abertura de novas contas por intervenientes malignos – estrangeiros ou nacionais. O governo dos EUA, entretanto, deveria considerar se o controles de exportação recentes para hardware avançado implementadas contra a China e a Rússia podem ser melhoradas durante próximas revisões para capturar melhor o hardware necessário para treinar os grandes modelos de linguagem no centro da IA. Depois de desenvolvidos, os modelos ficam muito mais difícil de regular.
É vital que o governo dos EUA e as plataformas de redes sociais reconheçam esta ameaça e trabalhem em conjunto para a enfrentar imediatamente, especialmente antes das eleições de 2024.
