Muitos dos sites deixam claro que hospedam ou distribuem vídeos pornográficos deepfake, geralmente apresentando a palavra deepfakes ou derivados dele em seu nome. Os dois principais sites contêm 44 mil vídeos cada, enquanto outros cinco hospedam mais de 10 mil vídeos deepfake. A maioria deles tem vários milhares de vídeos, enquanto alguns listam apenas algumas centenas. Alguns vídeos analisados pelo pesquisador foram assistidos milhões de vezes.
A pesquisa também identificou mais 300 sites de pornografia geral que incorporam de alguma forma pornografia deepfake não consensual. O pesquisador afirma que sites de “vazamento” e sites que existem para repassar fotos de pessoas nas redes sociais também estão incorporando imagens deepfake. Um site que lida com fotografias afirma ter “despido” pessoas em 350 mil fotos.
Medir a escala completa de vídeos e imagens deepfake online é incrivelmente difícil. Rastrear onde o conteúdo é partilhado nas redes sociais é um desafio, enquanto o conteúdo abusivo também é partilhado em grupos de mensagens privadas ou canais fechados, muitas vezes por pessoas conhecidas das vítimas. Em setembro, mais de 20 meninas com idades entre 11 e 17 anos se manifestaram na cidade espanhola de Almendralejo depois que ferramentas de IA foram usadas para gerar fotos delas nuas. sem o conhecimento deles.
“Tem havido um crescimento significativo na disponibilidade de ferramentas de IA para a criação de imagens pornográficas não consensuais falsas e profundas, e um aumento na procura deste tipo de conteúdo em plataformas pornográficas e redes online ilícitas”, diz Asher Flynn, professor associado da Monash University, Austrália. , que se concentra em IA e abuso facilitado pela tecnologia. É provável que isto só aumente com novas ferramentas generativas de IA.
A porta de entrada para muitos sites e ferramentas para criar vídeos ou imagens deepfake é por meio da pesquisa. Milhões de pessoas são direcionadas aos sites analisados pelo pesquisador, com 50 a 80 por cento das pessoas acessando os sites por meio de pesquisa. Encontrar vídeos deepfake por meio de pesquisa é trivial e não exige que a pessoa tenha nenhum conhecimento especial sobre o que procurar.
A questão é global. Usando uma VPN, o pesquisador testou pesquisas no Google no Canadá, Alemanha, Japão, EUA, Brasil, África do Sul e Austrália. Em todos os testes, sites deepfake foram exibidos com destaque nos resultados de pesquisa. Celebridades, streamers e criadores de conteúdo são frequentemente alvo dos vídeos. Maddocks diz que a disseminação de deepfakes se tornou “endêmica” e é o que muitos pesquisadores temeram pela primeira vez quando os primeiros vídeos deepfake surgiram. destaque em dezembro de 2017.
