Minutos após o debate presidencial terminar na terça-feira, Taylor Swift mobilizou sua enorme base de fãs em apoio a Kamala Harris ao endossá-la em uma postagem no Instagram que rapidamente obteve 8 milhões de curtidas. A decisão de Swift não foi totalmente surpreendente, visto que ela apoiou Joe Biden na eleição de 2020 e recentemente ofereceu dicasno verdadeiro estilo Taylor, que ela estava caminhando nessa direção.
Mas o que foi especialmente notável em sua postagem no Instagram foi que ela passou tanto tempo elogiando Kamala Harris quanto alertando o público sobre os perigos da IA.
“Recentemente, fiquei sabendo que a IA de ‘mim’ endossando falsamente a corrida presidencial de Donald Trump foi postada em seu site. Isso realmente evocou meus medos em relação à IA e aos perigos de espalhar desinformação”, Swift escreveu. “Isso me levou à conclusão de que preciso ser muito transparente sobre meus planos reais para esta eleição como eleitor. A maneira mais simples de combater a desinformação é com a verdade.”
Swift estava se referindo a uma publicação de Trump em agosto no Truth Social, seu site de mídia social, que parecia mostrar a superestrela e seus fãs apoiando-o. Ele legendou a foto com: “Eu aceito”. Mas as imagens pareciam brilhantes e tinham detalhes visuais estranhos, porque foram criadas com IA.
Muitos espectadores das imagens foram capazes de identificá-las imediatamente como fabricadas. E após a postagem de Swift, parece que sua resposta refutando as imagens teve um impacto maior do que as próprias imagens de IA. Mas o incidente pode ser um prenúncio de muitos conflitos movidos por IA nas eleições nos próximos anos.
“Já estamos em uma pequena crise, onde muitos eleitores americanos não confiam nas eleições”, diz Craig Holman, um lobista de assuntos governamentais da organização sem fins lucrativos Public Citizen. “Se vamos ter esse tipo de campanha acontecendo ao nosso redor, nos alimentando com informações que não existem, tentando influenciar nossos votos com base nisso, toda a integridade das eleições está muito em risco.”
Deepfakes proliferam em torno de celebridades e eleições
Durante a eleição presidencial de 2020, as ferramentas de IA ainda eram amplamente rudimentares. Desde então, as capacidades dessas ferramentas melhoraram em um ritmo surpreendente. Usuários ao redor do mundo agora podem usar IA para criar imagens, imagens e áudio realistas. Perfis falsos de mídia social que a propaganda espalhada pode ser criada de forma barata; os partidos políticos podem usar a IA para rapidamente enviar mensagens personalizadas para milhares de eleitores em potencial; e fotografia de eventos falsos e até mesmo mensagens de voz que parecem celebridades que podem ser facilmente reunidas.
Algumas dessas ferramentas foram usadas em campanhas de influência política. No ano passado, o RNC lançou um vídeo gerado por IA retratando uma distopia futura se Joe Biden fosse reeleito. Elon Musk compartilhou uma foto de imagem de IA de Kamala Harris em trajes de estilo soviético, escrevendo no X que ela quer ser uma “ditadora comunista desde o primeiro dia”. Um vídeo falso de um candidato a prefeito de Chicago fazendo comentários inflamatórios sobre tiroteios policiais foi lançado na véspera daquela eleição em fevereiro e assistido milhares de vezes no X antes de ser retirado. E durante a eleição indiana deste ano, deepfakes foram implantado em massa para criar vídeos enganosos de celebridades de Bollywood e anúncios com linguagem supremacista hindu.
Ler mais: Enquanto a Índia vota, o partido de Modi engana online
Taylor Swift tem sido o assunto frequente de muitos esforços de IA, dada sua enorme celebridade. No início deste ano, imagens pornográficas e às vezes violentas dela geradas por IA foram amplamente divulgadas nas mídias sociais. As imagens ajudou a estimular a legislação nos EUA, com o objetivo de proteger as vítimas do deepfake, incluindo Lei DEFIANCEque permite que vítimas de deepfakes processem pessoas que os criam, compartilham ou os recebem, e foi aprovado pelo Senado em julho. As empresas de IA também correu para responder: A Microsoft disse que estava “continuando a investigar essas imagens” e acrescentou que havia “reforçado nossos sistemas de segurança existentes para evitar ainda mais que nossos serviços fossem usados indevidamente para ajudar a gerar imagens como elas”.
E o envolvimento de Swift é parte de uma reação crescente contra a IA de algumas das figuras culturais mais proeminentes do mundo. Beyoncé recentemente se manifestou contra a desinformação sobre IA em uma entrevista da GQdizendo: “Temos acesso a tantas informações – alguns fatos e algumas besteiras completas disfarçadas de verdade… Recentemente, ouvi uma música de IA que soou tanto como eu que me assustou. É impossível saber verdadeiramente o que é real e o que não é.” Enquanto isso, no início deste ano, Scarlett Johansson criticou a OpenAI por lançar uma voz de chatbot aparentemente modelada na dela.
Como a jogada deepfake de Trump acabou saindo pela culatra
Trump teve uma fascínio de longa data com Swift, inclusive ligando para ela “fantástico” em 2012 e “incomumente bonito” em 2023. Em fevereiro, Trump assumiu o crédito por parte do sucesso de Swift, postando no Truth Social que se ela apoiasse Joe Biden, seria “desleal ao homem que lhe rendeu tanto dinheiro”.
Mas quando Trump decidiu postar os deepfakes no Truth Social em agosto, sua tentativa de coletar Swifties pareceu ter saído pela culatra. A postagem permitiu que Swift enquadrasse seu apoio a Harris como uma obrigação moral; como se ela não tivesse outra escolha a não ser responder à desinformação. Também sugou todo o oxigênio que Trump esperava ganhar na noite do debate: na quarta-feira de manhã, “apoio a Taylor Swift” era o segundo tópico de tendência no Google, atrás apenas de “quem ganhou o debate”.
Em seus primeiros anos de fama, Swift se absteve de falar sobre política, dizendo à TIME em 2012 que ela não acreditava que sabia “o suficiente ainda na vida para dizer às pessoas em quem votar”. Nos últimos seis anos, ela se envolveu com a política com moderação, mas com propósito, sempre dando fortes justificativas para suas declarações. Em 2020, por exemplo, ela acusado Trump de “atiçar as chamas da supremacia branca e do racismo durante toda a sua presidência”. Este ano, Swift permaneceu em silêncio sobre política até o endosso da noite passada, recebendo críticas de muitas pessoas que a incentivaram a usar sua plataforma incomparável para fazer a diferença.
Ler mais: Assista Tim Walz reagir ao apoio da “companheira dona de gato” Taylor Swift
Não está claro qual o impacto que estes esforços tiveram nos eleitores: muitos investigadores argumentam que os eleitores são mais criteriosos do que as pessoas temem, e que o potencial influência da desinformação da IA nas eleições é exagerado.
No entanto, Holman, da Public Citizen, diz que esses estudos se basearam em ferramentas de IA desatualizadas. Ele aponta para uma banco de dados deepfakes criado por pesquisadores da Northwestern no início deste ano, que documentou centenas de deepfakes políticos, muitos dos quais resultaram em danos no mundo real, descobriram os pesquisadores.
“Estamos em uma era totalmente nova agora”, diz Holman. “A tecnologia se tornou tão convincente, tão persuasiva e tão indistinguível da realidade, que estou bastante convencido de que terá ramificações muito mais sérias em futuros ciclos eleitorais.”
