Outra imagem no site mostrava um grupo de adolescentes que parecem estar no ensino médio: um menino tirando uma selfie no que parece ser o ginásio de uma escola com duas meninas, que sorriem e posam para a foto. As feições do menino foram obscurecidas por uma lente do Snapchat que ampliou tanto seus olhos que cobriu seu rosto.
As legendas nas imagens aparentemente enviadas indicavam que incluíam imagens de amigos, colegas de classe e parceiros românticos. “Minha namorada”, diz uma legenda, mostrando uma jovem tirando uma selfie no espelho.
Muitas das fotos mostravam influenciadores populares no TikTok, Instagram e outras plataformas de mídia social. Outras fotos pareciam ser capturas de tela do Instagram de pessoas compartilhando imagens de suas vidas cotidianas. Uma imagem mostrava uma jovem sorrindo com uma sobremesa coberta com uma vela comemorativa.
Várias imagens apareceram mostrando pessoas que eram completamente estranhas para quem tirou a foto. Uma imagem tirada por trás mostrava uma mulher ou menina que não estava posando para uma foto, mas simplesmente parada perto do que parecia ser uma atração turística.
Algumas das imagens nos feeds analisadas pela WIRED foram cortadas para remover os rostos de mulheres e meninas, mostrando apenas o peito ou a virilha.
Grande público
Durante um período de oito dias de monitoramento do site, a WIRED viu cinco novas imagens de mulheres aparecerem no feed inicial e três na página Explorar. As estatísticas listadas no site mostraram que a maioria dessas imagens acumulou centenas de “visualizações”. Não está claro se todas as imagens enviadas ao site chegam ao feed Home ou Explore, ou como as visualizações são tabuladas. Cada postagem no feed inicial tem pelo menos algumas dezenas de visualizações.
Fotos de celebridades e pessoas com muitos seguidores no Instagram estão no topo da lista de imagens “mais vistas” listadas no site. As pessoas mais vistas de todos os tempos no site são a atriz Jenna Ortega com mais de 66 mil visualizações, a cantora e compositora Taylor Swift com mais de 27 mil visualizações e um influenciador e DJ da Malásia com mais de 26 mil visualizações.
Swift e Ortega já foram alvo de nudes deepfake antes. A circulação de imagens falsas de Swift nua no X em janeiro desencadeou um momento de discussão renovada sobre os impactos dos deepfakes e a necessidade de maiores proteções legais para as vítimas. Este mês, a NBC informou que, durante sete meses, Meta hospedou anúncios para um aplicativo deepnude. O aplicativo se vangloriava de sua capacidade de “despir” as pessoas, usando uma foto de Jenna Ortega de quando ela tinha 16 anos.
Nos EUA, nenhuma lei federal visa a distribuição de imagens de nudez falsas e não consensuais. Um punhado de estados promulgaram suas próprias leis. Mas as imagens de menores nus geradas por IA estão na mesma categoria que outros materiais de abuso sexual infantil, ou CSAM, diz Jennifer Newman, diretora executiva da Divisão de Crianças Exploradas do NCMEC.
“Se for indistinguível da imagem de uma vítima viva, de uma criança real, então para nós isso é material de abuso sexual infantil”, diz Newman. “E trataremos isso como se estivéssemos processando nossos relatórios, à medida que os enviamos às autoridades.”
