Imagens falsas e sexualmente explícitas de Taylor Swift, provavelmente geradas por inteligência artificial, espalharam-se rapidamente pelas plataformas de mídia social esta semana, perturbando os fãs que as viram e reacendendo apelos de legisladores para proteger as mulheres e reprimir as plataformas e a tecnologia que espalham tais imagens.
Uma imagem compartilhada por um usuário no X, antigo Twitter, foi visualizada 47 milhões de vezes antes de a conta ser suspensa na quinta-feira. X suspendeu várias contas que postavam imagens falsas da Sra. Swift, mas as imagens foram compartilhadas em outras plataformas de mídia social e continuaram a se espalhar, apesar dos esforços dessas empresas para removê-las.
Enquanto X dizia que estava trabalhando para remover as imagens, fãs da estrela pop inundaram a plataforma em protesto. Eles postaram palavras-chave relacionadas, juntamente com a frase “Proteja Taylor Swift”, em um esforço para abafar as imagens explícitas e torná-las mais difíceis de encontrar.
A Reality Defender, uma empresa de segurança cibernética focada na detecção de IA, determinou com 90 por cento de confiança que as imagens foram criadas usando um modelo de difusão, uma tecnologia orientada por IA acessível através de mais de 100.000 aplicativos e modelos disponíveis publicamente, disse Ben Colman, co-presidente da empresa. fundador e principal executivo.
À medida que a indústria da IA crescia, as empresas correram para lançar ferramentas que permitissem aos utilizadores criar imagens, vídeos, texto e gravações de áudio com instruções simples. As ferramentas de IA são muito populares, mas tornaram mais fácil e barato do que nunca a criação dos chamados deepfakes, que retratam pessoas fazendo ou dizendo coisas que nunca fizeram.
Os investigadores temem agora que os deepfakes se estejam a tornar numa poderosa força de desinformação, permitindo aos utilizadores diários da Internet criar imagens de nudez não consensuais ou representações embaraçosas de candidatos políticos. A inteligência artificial foi usada para criar chamadas automáticas falsas do presidente Biden durante as primárias de New Hampshire, e a Sra. Swift apareceu este mês em anúncios deepfake vendendo utensílios de cozinha.
“Sempre foi uma tendência obscura na Internet, pornografia não consensual de vários tipos”, disse Oren Etzioni, professor de ciência da computação da Universidade de Washington que trabalha com detecção de deepfake. “Agora é uma nova cepa que é particularmente nociva.”
“Veremos um tsunami dessas imagens explícitas geradas por IA. As pessoas que geraram isso veem isso como um sucesso”, disse Etzioni.
X disse que tinha uma política de tolerância zero em relação ao conteúdo. “Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por publicá-las”, disse um representante em comunicado. “Estamos monitorando de perto a situação para garantir que quaisquer violações futuras sejam imediatamente resolvidas e que o conteúdo seja removido.”
X tem visto um aumento em conteúdos problemáticos, incluindo assédio, desinformação e discurso de ódio, desde que Elon Musk comprou o serviço em 2022. Ele flexibilizou as regras de conteúdo do site e demitiu, demitiu ou aceitou a demissão de funcionários que trabalharam para remover tal conteúdo. A plataforma também restabeleceu contas que haviam sido anteriormente banidas por violarem regras.
Embora muitas das empresas que produzem ferramentas generativas de IA proíbam os seus utilizadores de criar imagens explícitas, as pessoas encontram formas de quebrar as regras. “É uma corrida armamentista e parece que sempre que alguém surge com uma barreira de proteção, outra pessoa descobre como fazer o jailbreak”, disse Etzioni.
As imagens tiveram origem em um canal do aplicativo de mensagens Telegram que se dedica à produção dessas imagens, segundo 404 Mídia, um site de notícias de tecnologia. Mas os deepfakes atraíram ampla atenção depois de serem postados no X e em outros serviços de mídia social, onde se espalharam rapidamente.
Alguns estados restringiram deepfakes pornográficos e políticos. Mas as restrições não tiveram um impacto forte e não existem regulamentações federais para tais deepfakes, disse Colman. As plataformas tentaram lidar com os deepfakes pedindo aos usuários que os denunciassem, mas esse método não funcionou, acrescentou. No momento em que são sinalizados, milhões de usuários já os viram.
“A pasta de dente já saiu do tubo”, disse ele.
O assessor de imprensa de Swift, Tree Paine, não respondeu imediatamente aos pedidos de comentários na noite de quinta-feira.
Os deepfakes da Sra. Swift geraram novos apelos por ação por parte dos legisladores. O deputado Joe Morelle, um democrata de Nova York que apresentou um projeto de lei no ano passado que tornaria o compartilhamento de tais imagens um crime federal, disse no X que a disseminação das imagens era “terrível”, acrescentando: “Está acontecendo com mulheres em todos os lugares, todos os dias .”
“Avisei repetidamente que a IA poderia ser usada para gerar imagens íntimas não consensuais”, disse o senador Mark Warner, democrata da Virgínia e presidente do Comitê de Inteligência do Senado, sobre as imagens no X. “Esta é uma situação deplorável. ”
A deputada Yvette D. Clarke, uma democrata de Nova York, disse que os avanços na inteligência artificial tornaram a criação de deepfakes mais fácil e barata.
“O que aconteceu com Taylor Swift não é novidade”, disse ela.
