Muitos anos antes do lançamento do ChatGPT, meu grupo de pesquisa, o Laboratório de Tomada de Decisões Sociais da Universidade de Cambridge, questionava-se se era possível que redes neurais gerassem desinformação. Para conseguir isso, treinamos o antecessor do ChatGPT, GPT-2, em exemplos de teorias de conspiração populares e depois pedimos que gerasse notícias falsas para nós. Deu-nos milhares de notícias enganosas, mas que pareciam plausíveis. Alguns exemplos: “Certas vacinas estão carregadas com produtos químicos e toxinas perigosas” e “Funcionários do governo manipularam os preços das ações para esconder escândalos”. A questão era: alguém acreditaria nessas afirmações?
Nós criada a primeira ferramenta psicométrica para testar esta hipótese, que chamamos de Teste de Suscetibilidade à Desinformação (MIST). Em colaboração com VocêGov, usamos as manchetes geradas pela IA para testar o quão suscetíveis os americanos são às notícias falsas geradas pela IA. Os resultados foram preocupantes: 41 por cento dos americanos pensaram incorrectamente que a manchete da vacina era verdadeira e 46 por cento pensaram que o governo estava a manipular o mercado de acções. Outro recente estudarpublicado na revista Ciênciamostraram não apenas que o GPT-3 produz desinformação mais convincente do que os humanos, mas também que as pessoas não conseguem distinguir com segurança entre a desinformação gerada por humanos e a gerada pela IA.
Minha previsão para 2024 é que a desinformação gerada pela IA chegará a uma eleição perto de você, e você provavelmente nem perceberá isso. Na verdade, você já deve ter visto alguns exemplos. Em maio de 2023, um viral falso A história sobre um atentado bombista no Pentágono foi acompanhada por uma imagem gerada por IA que mostrava uma grande nuvem de fumaça. Isso causou alvoroço público e até mesmo uma queda no mercado de ações. O candidato presidencial republicano Ron DeSantis usou imagens falsas de Donald Trump abraçando Anthony Fauci como parte de sua campanha política. Ao misturar imagens reais e imagens geradas por IA, os políticos podem confundir os limites entre facto e ficção e usar a IA para impulsionar os seus ataques políticos.
Antes da explosão da IA generativa, as empresas de propaganda cibernética em todo o mundo precisavam de escrever elas próprias mensagens enganosas e empregar fábricas de trolls humanos para atingir as pessoas em grande escala. Com a ajuda da IA, o processo de geração de manchetes de notícias enganosas pode ser automatizado e transformado em arma com o mínimo de intervenção humana. Por exemplo, a micro-segmentação – a prática de atingir pessoas com mensagens baseadas em dados de rastreio digital, como os seus gostos no Facebook – já era uma preocupação em eleições passadas, apesar do seu principal obstáculo ser a necessidade de gerar centenas de variantes da mesma mensagem. para ver o que funciona em um determinado grupo de pessoas. O que antes era trabalhoso e caro agora é barato e facilmente disponível, sem barreiras à entrada. A IA democratizou efetivamente a criação de desinformação: qualquer pessoa com acesso a um chatbot pode agora semear o modelo sobre um tópico específico, seja imigração, controle de armas, mudanças climáticas ou questões LGBTQ+, e gerar dezenas de notícias falsas altamente convincentes em minutos. Na verdade, centenas de sites de notícias gerados por IA já estão surgindo, propagando histórias e vídeos falsos.
Para testar o impacto dessa desinformação gerada pela IA nas preferências políticas das pessoas, pesquisadores da Universidade de Amsterdã criou um vídeo deepfake de um político ofendendo sua base eleitoral religiosa. Por exemplo, no vídeo o político brincou: “Como diria Cristo, não me crucifique por isso”. Os pesquisadores descobriram que os eleitores cristãos religiosos que assistiram ao vídeo deepfake tiveram atitudes mais negativas em relação ao político do que os do grupo de controle.
Uma coisa é enganar as pessoas com desinformação gerada pela IA em experiências. Outra é experimentar nossa democracia. Em 2024, veremos mais deepfakes, clonagem de voz, manipulação de identidade e notícias falsas produzidas por IA. Os governos limitarão seriamente – se não proibirão – o uso da IA em campanhas políticas. Porque se não o fizerem, a IA irá minar as eleições democráticas.
