Vários deepfakes do TikTok foram divulgados por celebridades cujas imagens foram roubadas. Estes incluem MrBeast, Tom Hanks e Gayle King.
O vídeo falso de MrBeast afirmava que os espectadores foram selecionados para receber um iPhone 15 Pro por apenas US$ 2, deixando a estrela do YouTube questionando se as redes sociais estão preparadas para golpes deepfake…
O que é um deepfake?
Um deepfake é um vídeo no qual a IA generativa é usada para falsificar imagens de um indivíduo, geralmente uma celebridade, político ou outra figura pública.
Os melhores podem parecer extremamente convincentes, geralmente combinando imagens de vídeo reais da pessoa com movimentos da boca gerados por IA para corresponder ao discurso falso. O áudio une palavras e frases reais de muitas horas de filmagem original ou gera personificações realistas da voz a partir dos mesmos dados de treinamento.
Obviamente, os deepfakes têm um enorme potencial de causar danos, desde roubar dinheiro às pessoas, passando por emprestar credibilidade, passando por boatos e desinformação política destinada a influenciar os resultados eleitorais.
Deepfake do TikTok
NBC relata o exemplo MrBeast.
A estrela do YouTube, MrBeast, cujo nome verdadeiro é Jimmy Donaldson, está perguntando se as plataformas de mídia social estão preparadas para lidar com anúncios falsos de IA depois que um anúncio fraudulento no TikTok apresentou um deepfake dele oferecendo iPhones de US$ 2.
“Muitas pessoas estão recebendo esse anúncio fraudulento meu… as plataformas de mídia social estão prontas para lidar com o aumento dos deepfakes de IA? Este é um problema sério”, Donaldson postou no X, anteriormente conhecido como Twitter. Quando solicitado a comentar, um porta-voz de Donaldson direcionou a NBC News para o post.
A TikTok disse que removeu o vídeo e apontou sua política que exige a divulgação de mídia sintética ou manipulada.
CNET relata que Tom Hanks é outra vítima, com sua imagem usada para promover um plano odontológico.
Tom Hanks é bastante reconhecível, esteja ele segurando uma caixa de chocolates em Forrest Gump ou vestindo um traje espacial na Apollo 13. Mas se você vir um anúncio de seguro odontológico com sua foto, olhe duas vezes. Não é realmente o ator vencedor do Oscar.
“Cuidado!” Hanks escreveu no Instagram este fim de semana. “Tem um vídeo por aí promovendo um plano odontológico com uma versão minha de IA. Não tenho nada a ver com isso.
CBS Manhãs a anfitriã Gayle King também.
Rei fez um postagem semelhante no Instagram na segunda-feira.
“As pessoas continuam me enviando este vídeo e perguntando sobre este produto e não tenho NADA a ver com esta empresa”, escreveu King. “Postei este vídeo promovendo meu programa de rádio em 31 de agosto (deslize para ver o original), e eles manipularam minha voz e vídeo para fazer parecer que estou promovendo… Nunca ouvi falar deste produto ou usei isto! Por favor, não se deixe enganar por esses vídeos de IA.”
Professor da NYU pede proibição do TikTok
A controvérsia mais ampla sobre o aplicativo de vídeos curtos administrado pela China continua, com muitos temendo que os feeds gerados por algoritmos possam ser usados para fornecer conteúdo pró-chinês e antiocidental aos usuários.
TNW relata o professor da NYU, Scott Galloway, dizendo em uma conferência em Helsinque que o aplicativo era uma ameaça à segurança nacional.
Galloway descreveu o TikTok como provavelmente “a empresa de tecnologia mais ascendente da história” – e “uma ameaça à defesa nacional” (…) “Eles implantaram um conector neural na questão da web da nossa juventude”, disse Galloway (…)
Galloway teme que este público esteja sofrendo uma lavagem cerebral pelo PCC. “Se eu fosse eles, colocaria o meu polegar de forma delicada, insidiosa, dissimulada e elegante na escala do conteúdo antiocidental e na escala do conteúdo pró-China”, disse ele.
Foto: Jacob Owens/Remover respingo
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
