parece Luke Combs e soa como Luke Combs, mas as palavras que a estrela country está “falando” em um anúncio online vendendo gomas “milagrosas” para perda de peso com certeza não são dele.
“Eu estava no ponto mais baixo de todos os tempos e então Deus me abençoou com as gomas de raiz milagrosas. Meu bom amigo Lainey Wilson me recomendou”, diz uma voz parecida com a de Combs no vídeo, que começou a circular no Facebook e no Instagram no mês passado.
Não é nenhuma surpresa que seja tudo besteira: a recomendação de Wilson, o depoimento de Combs de como ele “cortou 46 quilos” e, especialmente, a voz – um fac-símile meticuloso do barítono vibrante da Carolina do Norte de Combs.
Combs e Wilson são apenas os mais recentes cantores country, juntando-se a nomes como Tim McGraw, Garth Brookse Miranda Lambert, para ter suas imagens sequestradas online por golpistas de IA. O mais assustador é que alguns estão caindo nessa, porque, pelo menos no caso de Combs, a voz da IA é muito boa. E as pessoas na indústria da música country estão chateadas.
“A primeira versão dela, você pode dizer que definitivamente não era Luke. Mas a segunda e a terceira versões, onde eles continuaram ajustando a voz, ficaram cada vez mais próximas”, conta Chris Kappy, empresário de Combs. Pedra rolando. “Conheço a voz de Luke como a palma da minha mão, mas as pessoas que conheço estavam caindo nessa. Então comecei a receber e-mails de fãs dizendo, ‘Ei, eu ainda não peguei minhas gomas’ ou perguntando, ‘Isso é real?’ Eu estava tipo, oh meu Deus, eu tenho que dizer alguma coisa.”
Kappy postou sobre os anúncios falsos no Instagram para alertar os fãs e soar um alarme de IA para a indústria. “Para outros gerentes por aí, a IA é uma coisa assustadora e eles a estão usando contra nós”, escreveu ele. “Se você vir isso acontecendo, denuncie o mais rápido possível.”
“Os golpes acontecem na base de fãs de música country há muito tempo, e é porque a base de fãs é tão leal aos artistas que eles podem se aproveitar disso”, diz Kappy. “Tenho conversado com diferentes gerentes e dito: ‘você precisa prestar mais atenção nisso porque eles virão atrás de todos’. Precisamos manter a cabeça no lugar agora, porque só vai piorar. É nosso trabalho continuar educando a base de fãs sobre como isso está acontecendo e o que estamos fazendo.”
Infelizmente, como qualquer um que tenha sido representado online sabe (incluindo Pedra rolando jornalistas), acabar com os impostores pode ser, na melhor das hipóteses, um jogo de Whack-a-Mole. Tecnicamente, o Instagram tem políticas para prevenir a falsificação de identidade, mas tem havido dificuldades em aplicá-las, diz o gerente de Combs: “O Instagram está invadido por contas falsas”.
As equipes de Combs e Wilson exploraram uma ação legal, mas contra quem, exatamente, tem sido difícil para eles determinarem. De acordo com Kappy e um relatório sobre Snopes.com desmistificando os endossos dos cantores, os anúncios são originários de algum lugar da Índia.
“Não há uma maneira real de se antecipar porque, com certeza, você pode ir atrás dos criadores – se puder encontrá-los”, diz Mandelyn Monchick, gerente de Lainey Wilson. “Você não sabe a quem ir atrás. Você processa a pessoa que criou o anúncio falso? Ou a empresa de software? Quem é o alvo aqui?”
Enquanto sua equipe trabalhava para fechar os anúncios nos bastidores, Wilson, que se tornou a mais nova estrela country com o lançamento de seu álbum País Fundo do Sinouma série de prêmios CMA e uma abertura privilegiada para Combs em sua turnê pelo estádio, postou um vídeo pessoal online alertando os fãs sobre o golpe. “Tenho certeza que vocês já viram alguns anúncios sobre eu perdendo peso, sendo hospitalizada, e que comecei a tomar umas gomas para emagrecer e blá blá blá, isso salvou minha vida. Bem, surpresa, não é verdade,” ela disse. “Eu só não quero que vocês gastem dinheiro em algo que não é real.”
“Isso incomodou Lainey porque ela defende que as pessoas sejam autênticas e se sintam confortáveis em sua própria pele”, diz Monchick. “Ela disse: ‘Não quero que as pessoas pensem que sou uma farsa ou que se sintam mal consigo mesmas porque acham que precisam perder peso’. É irônico que a autenticidade seja o que leva (os cantores country) ao topo. É para isso que as pessoas são atraídas e gravitam – e é a tempestade perfeita para a IA entrar em cena.”
É uma tempestade alimentada por fãs de country que se identificam com os cantores e com a disponibilidade de tecnologia barata. Zach Wener, fundador da startup de voz de IA Uberduck, diz que recriar uma voz está entre os feitos de IA mais simples. “Existem produtos comerciais onde você pode sair e se inscrever por $ 10 por mês, pegar um clipe da voz de alguém e gerar uma voz que soe como essa pessoa. Em seguida, digite o que quiser em uma caixa de texto e gere uma saída de áudio”, diz ele.
É ainda mais bem-sucedido se houver entrevistas e áudio pré-existentes – e para celebridades, há uma tonelada. Para o falso Combs, os golpistas provavelmente selecionaram palavras e frases da aparição do cantor no podcast de Joe Rogan. “Com podcasts, como o de Joe Rogan, o áudio é obviamente superlimpo, eles usam microfones de alta qualidade e não há nenhum ruído de fundo”, diz Wener, “para que os dados tornem o trabalho de alguém que deseja recriar uma voz um sucesso. muito mais fácil.”
Também dá aos golpistas de IA uma vantagem se a pessoa que eles estão imitando tiver falado sobre o tópico específico no passado. Por exemplo, Combs tem falou abertamente sobre a imagem corporal, e Wilson reconheceu aos fãs que ela recentemente ficou mais magra, não por gomas de perda de peso, mas por uma agenda agitada de apresentações.
“Lainey é conhecida por ter mais curvas e depois perdeu peso. As pessoas estavam começando a comentar sobre isso”, diz Monchick. “Portanto, há aquela parte autêntica novamente.”
A autenticidade e a abertura inerentes à música country são indiscutivelmente o que também torna suas estrelas – e suas bases de fãs – tão exploráveis: os fãs querem acreditar. Até os próprios motoristas de ônibus de Wilson quase foram enganados pelos anúncios.
“Quando as gomas começaram, estávamos conversando sobre isso no ônibus”, diz Monchick, “e Lainey tem duas senhoras que dirigem, e uma delas disse: ‘Espere um segundo, são as mesmas gomas que Miranda Lambert tinha usando?'”
Jennifer Grygiel, professora associada de comunicação na Syracuse University e especialista em memes, diz que pode parecer que os golpistas estão se concentrando especificamente nos fãs do country, mas na verdade é mais sutil do que isso.
“É uma questão de público, e isso não é novidade”, dizem eles. “Mas se você está falando sobre aquelas duas estrelas country que você mencionou, haverá uma demografia ligeiramente diferente. Quem quer que esteja vendendo essas gomas para perda de peso disse essencialmente que é quem eles acham que será atraído por este produto. A cultura americana apresentou essa ideia de que você deve ter uma determinada aparência e isso é muito prejudicial à saúde”.
Embora qualquer truque para perder peso possa ter sérios efeitos colaterais, Kappy se preocupa com a possibilidade de as falsificações de IA um dia venderem mais produtos maliciosos. “O que acontece quando eles começam a dizer: ‘Invista nisso ou faça isso’?” ele diz. “Essa é a parte assustadora para mim, quando eles começam a usar isso ativamente contra o torcedor.”
“Isso pode diluir e destruir a confiança do consumidor nos artistas”, diz Monchick. “Eu odeio apocalipse, mas acho que alguma merda ruim vai acontecer antes que eles façam algo a respeito.”
Enquanto isso, Combs reconheceu os anúncios, mas de uma maneira sutil e autodepreciativa: “PS”, ele legendou uma recente postagem no Instagram de fotos de si mesmo, “as gomas de perda de peso não estão funcionando”.
