Nos últimos dois anos, milhões de pessoas que procuravam vídeos de abuso infantil no site do Pornhub no Reino Unido foram interrompidas. Cada uma das 4,4 milhões de vezes que alguém digitou palavras ou frases vinculado a abuso, uma mensagem de aviso bloqueou a página, dizendo que esse tipo de conteúdo é ilegal. E em metade dos casos, um chatbot também indicou às pessoas onde podem procurar ajuda.
A mensagem de aviso e o chatbot foram implantados pelo Pornhub como parte de um programa experimental, conduzido com duas organizações de proteção infantil sediadas no Reino Unido, para descobrir se as pessoas poderiam ser impedidas de procurar material ilegal com pequenas intervenções. A novo relatório analisando o testecompartilhado exclusivamente com a WIRED, diz que os pop-ups levaram a uma diminuição no número de pesquisas por material de abuso sexual infantil (CSAM) e fizeram com que muitas pessoas buscassem apoio para seu comportamento.
“Os números brutos reais de pesquisas são bastante assustadores”, diz Joel Scanlan, professor sênior da Universidade da Tasmânia, que liderou a avaliação do reThink Chatbot. Durante o teste plurianual, houve 4.400.960 avisos em resposta a pesquisas relacionadas a CSAM no site do Pornhub no Reino Unido – 99% de todas as pesquisas durante o teste não acionaram um aviso. “Há uma redução significativa na duração da intervenção no número de pesquisas”, diz Scanlan. “Portanto, as mensagens de dissuasão funcionam.”
Milhões de imagens e vídeos de CSAM são encontrados e removidos da web todos os anos. Eles são compartilhados nas redes sociais, negociados em chats privados, vendidos na dark web ou, em alguns casos, carregados em sites legais de pornografia. As empresas de tecnologia e as empresas pornográficas não permitem conteúdo ilegal em suas plataformas, embora o removam com Niveis diferentes de eficácia. Pornhub removeu cerca de 10 milhões de vídeos em 2020, na tentativa de erradicar material de abuso infantil e outros conteúdos problemáticos de seu site após um condenatório New York Times relatório.
O Pornhub, que pertence à controladora Aylo (anteriormente MindGeek), usa uma lista de 34 mil termos proibidos, em vários idiomas e com milhões de combinações, para bloquear pesquisas por material de abuso infantil, disse um porta-voz da empresa. É uma maneira que o Pornhub tenta combater material ilegaldiz o porta-voz, e faz parte do grupo da empresa esforços voltado para a segurança do usuário, após anos de alegações de que exploração infantil hospedada e vídeos não consensuais. Quando as pessoas no Reino Unido pesquisaram qualquer um dos termos da lista do Pornhub, a mensagem de aviso e o chatbot apareceram.
O chatbot foi projetado e criado pela Internet Watch Foundation (IWF), uma organização sem fins lucrativos que remove CSAM da web, e pela Lucy Faithfull Foundation, uma instituição de caridade que trabalha para prevenir o abuso sexual infantil. Apareceu junto com as mensagens de alerta um total de 2,8 milhões de vezes. O teste contou o número de sessões no Pornhub, o que pode significar que as pessoas são contadas várias vezes, e não procurou identificar indivíduos. O relatório afirma que houve uma “diminuição significativa” nas pesquisas por CSAM no Pornhub e que pelo menos “em parte” o chatbot e as mensagens de aviso parecem ter desempenhado um papel.
