10 de abril foi um dia muito ruim na vida do jogador de celebridades e YouTuber Atrioc (Brandon Ewing). Ewing estava transmitindo uma de suas transmissões ao vivo habituais do Twitch quando a janela do navegador foi acidentalmente exposta ao público. Durante esses poucos momentos, os espectadores de repente ficaram cara a cara com o que pareciam ser vídeos pornográficos deepfake com YouTubers e jogadores femininos QTCinderella e Pokimane – colegas e, pelo que entendi, Ewing’s amigos. Momentos depois, um espectador perspicaz carregou uma captura de tela da cena no Reddit e, portanto, o escândalo era um fato.
Deepfakes referem-se amplamente à mídia adulterada por IA, geralmente para sobrepor o rosto de uma pessoa ao de, digamos, um ator em um filme ou videoclipe. Mas, infelizmente, conforme relatado pela vice-jornalista Samantha Cole, sua função principal tem sido criar pornô estrelado por celebridades femininas e, talvez mais alarmante, visualizar fantasias sexuais de amigos ou conhecidos. Dada a sua crescente sofisticação e disponibilidade, qualquer pessoa com uma foto do seu rosto agora pode basicamente transformá-la em um filme pornô. “Estamos todos fodidos”, como Cole coloca concisamente.
Para a maioria das pessoas, acredito, é óbvio que Ewing cometeu algum tipo de má conduta ao consumir a pornografia fictícia, mas não consensual, de seus amigos. De fato, os comentários no Reddit e as fortes (justificadas) reações das mulheres cujos rostos foram usados nos clipes testemunham um profundo sentimento de repulsa. Isso é compreensível, mas especificar exatamente onde está o crime é uma tarefa surpreendentemente difícil. Na verdade, a tarefa de fazê-lo traz à tona um problema filosófico que nos obriga a reconsiderar não apenas a pornografia, mas a própria natureza da imaginação humana. Eu chamo isso de dilema do pervertido.
Por um lado, pode-se argumentar que, ao consumir o material, Ewing estava incentivando sua produção e disseminação, o que, no final das contas, pode prejudicar a reputação e o bem-estar de suas colegas jogadoras. Mas duvido que o veredicto aos olhos do público teria sido muito mais brando se ele tivesse produzido os vídeos de próprio punho para prazer pessoal. E poucas pessoas veem sua falha em fechar a guia como o principal problema. Ou seja, o crime parece estar no próprio consumo dos deepfakes, não nos efeitos a jusante de fazê-lo. Consumir deepfakes é errado, ponto final, independentemente de as pessoas “protagonizarem” os clipes, ou qualquer outra pessoa, descobrirem isso.
Ao mesmo tempo, estamos igualmente certos de que as fantasias sexuais são moralmente neutras. De fato, ninguém (exceto talvez alguns católicos radicais) teria culpado Ewing por criar imagens pornográficas de QTCinderella em sua mente. Mas qual é a diferença, realmente? Tanto a fantasia quanto o deepfake são essencialmente imagens virtuais produzidas pela entrada de dados anteriores, apenas uma existe na cabeça de alguém, a outra em uma tela. É verdade que estes últimos podem ser mais facilmente compartilhados, mas se o crime reside no consumo pessoal, e não nos efeitos externos, isso deveria ser irrelevante. Daí o dilema do pervertido: pensamos que as fantasias sexuais são boas, desde que sejam geradas e contidas na cabeça de uma pessoa, e repugnantes no momento em que existem no cérebro com a ajuda de uma representação um tanto realista – mas lutamos para identificar qualquer moralmente distinção relevante para justificar esta avaliação.
A longo prazo, é provável que isso nos force a reavaliar nossas atitudes morais em relação a deepfakes e fantasias sexuais, pelo menos na medida em que queremos manter a consistência em nossa moralidade. Existem duas maneiras óbvias em que isso poderia acontecer.
