Cada método é utilizado como arma – quase sempre contra as mulheres – para degradar, assediar ou causar vergonha, entre outros danos. Julie Inman Grant, comissária de segurança eletrônica da Austrália, diz que seu escritório está começando a ver mais deepfakes relatados aos seus esquema de reclamações de abuso baseado em imagem, juntamente com outros conteúdos gerados por IA, como abuso sexual infantil “sintético” e crianças que usam aplicativos para criar vídeos sexualizados de seus colegas de classe. “Sabemos que é uma forma de abuso subnotificada”, diz Grant.
À medida que o número de vídeos em sites deepfake cresceu, os criadores de conteúdo – como streamers e modelos adultas – usaram solicitações de DMCA. A DMCA permite que pessoas que possuem a propriedade intelectual de determinado conteúdo solicitem que ele seja removido diretamente dos sites ou dos resultados de pesquisa. Mais do que 8 bilhões de solicitações de remoçãocobrindo tudo, desde jogos até música, foram feitos para o Google.
“Historicamente, a DMCA tem sido uma forma importante para as vítimas de abuso sexual baseado em imagens terem o seu conteúdo removido da Internet”, afirma Carrie Goldberg, advogada dos direitos das vítimas. Goldberg diz que as novas leis criminais e procedimentos de direito civil tornam mais fácil a remoção de alguns abusos sexuais baseados em imagens, mas os deepfakes complicam a situação. “Embora as plataformas tendam a não ter empatia pelas vítimas de violações de privacidade, elas respeitam as leis de direitos autorais”, diz Goldberg.
A análise da WIRED de sites deepfake, que abrangeu 14 sites, mostra que o Google recebeu solicitações de remoção de DMCA sobre todos eles nos últimos anos. Muitos dos sites hospedam apenas conteúdo deepfake e geralmente se concentram em celebridades. Os próprios sites incluem formulários de contato DMCA onde as pessoas podem solicitar diretamente a remoção do conteúdo, embora não publiquem nenhuma estatística e não esteja claro até que ponto são eficazes na resposta às reclamações. Um site afirma conter vídeos de “atrizes, YouTubers, streamers, personagens de TV e outros tipos de figuras públicas e celebridades”. Ele hospeda centenas de vídeos com “Taylor Swift” no título do vídeo.
A grande maioria das solicitações de remoção DMCA vinculadas a sites deepfake listados nos dados do Google estão relacionadas a dois dos maiores sites. Nenhum dos dois respondeu às perguntas escritas enviadas pela WIRED. A maioria dos 14 sites teve mais de 80% das reclamações que levaram à remoção de conteúdo pelo Google. Algumas solicitações de remoção por direitos autorais enviadas por indivíduos indicam o sofrimento que os vídeos podem causar. “Isso é feito para me humilhar e intimidar”, diz um pedido. “Levo isso muito a sério e farei tudo e qualquer coisa para retirá-lo”, disse outro.
“Isso tem um impacto enorme na vida de alguém”, diz Yvette van Bekkum, CEO da Orange Warriors, uma empresa que ajuda as pessoas a remover imagens vazadas, roubadas ou compartilhadas não consensualmente online, inclusive por meio de solicitações de DMCA. Van Bekkum diz que a organização está vendo um aumento no conteúdo deepfake online, e as vítimas enfrentam obstáculos para se apresentarem e pedirem que seu conteúdo seja removido. “Imagine passar por um processo de contratação e as pessoas pesquisarem seu nome no Google e encontrarem esse tipo de conteúdo explícito”, diz van Bekkum.
O porta-voz do Google, Ned Adriance, diz que seu processo DMCA permite que “detentores de direitos” protejam seu trabalho online e que a empresa possui ferramentas separadas para lidar com deepfakes – incluindo um formulário separado e processo de remoção. “Temos políticas para pornografia deepfake não consensual, para que as pessoas possam ter esse tipo de conteúdo que inclui sua imagem removida dos resultados de pesquisa”, diz Adriance. “E estamos desenvolvendo ativamente salvaguardas adicionais para ajudar as pessoas afetadas.” O Google diz que quando recebe um grande volume de remoções válidas de direitos autorais sobre um site, ele as usa como um sinal de que o site pode não estar fornecendo conteúdo de alta qualidade. A empresa também afirma que criou um sistema para remover duplicatas de pornografia deepfake não consensual depois de remover uma cópia dela, e que atualizou recentemente seus resultados de pesquisa para limitar a visibilidade de deepfakes quando as pessoas não os procuram.
