Muito chocante ninguém, um novo relatório afirma que as imagens explícitas de Taylor Swift geradas por IA surgiram da fossa mais infame da Internet: o 4chan.
Em descobertas compartilhadas com Pedra rolando, a empresa de pesquisa Graphika disse que forneceu as imagens para uma comunidade específica de quadro de mensagens no 4chan que basicamente transformou em um jogo a criação de prompts para geradores de imagens de IA que contornariam as salvaguardas e criariam imagens gráficas de pessoas famosas. (A publicação de tecnologia 404 da mesma forma, rastreou as imagens até o 4chan em uma história publicada no mês passado.)
E embora as imagens falsas de Swift tenham atraído mais atenção, os pesquisadores disseram que ela não era o único alvo, nem o mais proeminente dos habitantes do fórum.
“Embora as imagens pornográficas virais de Taylor Swift tenham chamado a atenção do público para a questão das imagens íntimas não consensuais geradas por IA, ela está longe de ser a única vítima”, disse Cristina López G., analista sênior da Graphika, em um comunicado. “Na comunidade 4chan onde essas imagens se originaram, ela nem é a figura pública mais frequentemente visada. Isto mostra que qualquer pessoa pode ser alvo desta forma, desde celebridades globais até crianças em idade escolar.”
No quadro de mensagens, por O jornal New York Times, os usuários buscaram e compartilharam “dicas e truques para encontrar novas maneiras de contornar filtros”. Imagens particularmente realistas receberam votos de aprovação, enquanto “erros” – como uma solicitação que levou a uma imagem gerada por IA de uma celebridade em traje de banho, em vez de nua – foram lamentados. (“Jogos” semelhantes foram usados para outros fins no 4chan, bem como em plataformas como Telegram e WhatsApp, incluindo tentativas abrangentes de encontrar supostas fraudes eleitorais.)
López G. acrescentou: “Estas imagens originaram-se de uma comunidade de pessoas motivadas pelo ‘desafio’ de contornar as salvaguardas dos produtos generativos de IA, e as novas restrições são vistas como apenas mais um obstáculo à ‘derrota’. É importante compreender a natureza gamificada desta atividade maliciosa para evitar mais abusos na fonte.”
As imagens falsas e explícitas de Swift apareceram pela primeira vez no 4chan em 6 de janeiro, mas só uma semana depois elas começaram a se tornar virais em plataformas mais convencionais, como Telegram e X (anteriormente conhecido como Twitter). A proliferação das imagens foi tão grande que o X teve que bloquear as buscas por “Taylor Swift” por vários dias enquanto removia as imagens. Os fãs indignados de Swift, que ajudaram a remover muitas das imagens falsas através de reportagens em massa, também exigiram mais proteções, embora, como Pedra rolando relatado anteriormente, isso não será fácil.
Na sequência, a SAG-AFTRA condenou as imagens como “perturbadoras, prejudiciais e profundamente preocupantes” e disse que o “desenvolvimento e disseminação de imagens falsas… sem o consentimento de alguém deve ser considerado ilegal”. A secretária de imprensa da Casa Branca, Karine Jean-Pierre, até abordou a questão, chamando as imagens de “alarmantes”, exigindo que as empresas de redes sociais tomem medidas para aplicar mais fortemente as políticas de moderação de conteúdo e apelando ao Congresso para aprovar legislação de proteção.
