Como membros de o maior partido da oposição do Reino Unido reuniu-se em Liverpool para a sua conferência partidária – provavelmente a última antes de o Reino Unido realizar eleições gerais – um ficheiro de áudio potencialmente explosivo começou a circular no X, anteriormente conhecido como Twitter.
A gravação de 25 segundos foi postada por uma conta X com o identificador “@Leo_Hutz” que foi criada em janeiro de 2023. No clipe, Sir Keir Starmer, o líder do Partido Trabalhista, é aparentemente ouvido xingando repetidamente um funcionário. “Obtive o áudio de Keir Starmer abusando verbalmente de seus funcionários na conferência (do Partido Trabalhista)”, postou a conta X. “Este valentão nojento está prestes a se tornar nosso próximo primeiro-ministro.”
Não está claro se a gravação de áudio é real, gerada por IA ou gravada usando um imitador. A organização britânica de verificação de fatos Full Fact disse que ainda está investigando. “Como estamos conversando agora, não pode ser validado de uma forma ou de outra. Mas há características que apontam para que seja uma farsa”, diz Glen Tarman, chefe de defesa e política da Full Fact. “Há uma frase que parece ser repetida, em vez de (usar) uma entonação diferente na segunda vez que é usada, e há algumas falhas no ruído de fundo.”
Os deepfakes de áudio estão a emergir como um grande risco para o processo democrático, à medida que o Reino Unido – e mais de 50 outros países – avançam para as eleições em 2024. A manipulação do conteúdo de áudio está a tornar-se mais barata e fácil, enquanto os verificadores de factos dizem que é difícil de forma rápida e definitiva identificar uma gravação como falsa. Estas gravações podem passar horas ou dias a circular nas redes sociais antes de serem desmascaradas, e os investigadores temem que este tipo de conteúdo deepfake possa criar uma atmosfera política em que os eleitores não sabem em que informações podem confiar.
“Se você estiver ouvindo uma frase de efeito ou um vídeo online com essa semente de dúvida sobre se isso é genuinamente real, corre o risco de minar a base de como o debate acontece e a capacidade das pessoas de se sentirem informadas”, diz Kate Dommett, professora de política digital na Universidade de Sheffield.
Mídia manipulada de X política afirma que vídeos ou áudios que foram alterados ou manipulados de forma enganosa devem ser rotulados ou removidos. Nada disso aconteceu com a postagem, e X não respondeu ao pedido da WIRED para comentar se a plataforma investigou a autenticidade da gravação.
A equipe de Starmer ainda não comentou. Mas vários deputados do partido conservador no poder consideraram a gravação uma deepfake. “Há uma gravação de áudio falsa de Keir Starmer por aí”, disse o MP Tom Tugendhat no X. “Os últimos 30 anos de vida pública testemunharam um enfraquecimento catastrófico da fé nas instituições, por boas e más razões”, Matt Warman, outro conservador Deputado, publicado. “Mas o deepfake de Sir Keir Starmer de hoje é um novo ponto baixo, turbinado pela IA e pela mídia social. A democracia está sob ameaça real – a tecnologia para verificar o conteúdo é essencial.”
