O gosto de Taylor Swift por Le Creuset é real: sua coleção de utensílios de cozinha apareceu em uma conta do Tumblr dedicada à decoração da casa da estrela do pop, se evidencia em os presentes de casamento que ele deu a uma seguidora e em um documento da Netflix que foi destacado na página do Facebook de Le Creuset.
O que não é real é o suposto patrocínio da Swift para os produtos da empresa, que nas últimas semanas apareceu em anúncios publicados no Facebook e outras mídias nos que vendem sua cara e sua voz.
Os anúncios são uma das muitas estações centradas em famosos que a inteligência artificial tem sido mais convincente. Em uma única semana de outubro, o ator Tom Hankso periodista Rei Gayle e a celebridade do YouTube MrBesta Digamos que você tenha usado versões de si mesmo com inteligência artificial, sem permissão, para promover planos dentais específicos, ofertas de presentes para iPhone e outros anúncios.
Segundo os especialistas, no caso do Swift, a tecnologia de inteligência artificial ajudou a criar uma versão sintética da voz do cantor, que foi combinada com imagens e vídeos de Le Creuset. Em vários anúncios, a voz clonada de Swift se dirigiu aos “Swifties”, seus seguidores, e decidiu que estava “encantada” de presentear utensílios de cozinha. Tudo o que você fez para receber os utensílios era apertar um botão e responder a uma pergunta antes do final do dia.
Le Creuset disse que não colaborou com o cantor em nenhuma sorte. A empresa instruiu os compradores a revisar suas contas oficiais on-line antes de clicar em anúncios específicos. Os representantes de Swift, que foram nomeados personalidade do ano pela revista Time em 2023, não responderam às solicitações de comentários.
Os famosos deram sua fama aos anunciantes desde que existe publicidade. Às vezes, pecado querer. Há mais de três décadas, Tom Waits exigiu um Frito-Lay —e ganhou cerca de 2,5 milhões de dólares— depois que a empresa de papas fritas imitava a voz do cantante em um anúncio de rádio sem permissão. A campanha de estada com Le Creuset também incluiu versões falsas de Martha Stewart e Oprah Winfrey, lançadas em 2022 um vídeo no que expressou sua molestia pela prevalência de anúncios falsos em redes sociais, emails eletrônicos e sites da web que afirmavam de maneira falsa que ela patrocinava umas gomitas para adelgazar.
No último ano, os grandes avanços na inteligência artificial mostraram que seria muito mais fácil produzir uma réplica digital não autorizada de uma pessoa real. As falsificações de áudio foram especialmente fáceis de produzir e difíceis de identificar, segundo Siwei Lyu, professor de informática que dirige o Laboratório Forense de Medios da Universidade de Búfalo, em Nova York.
É provável que a campanha de estada de Le Creuset tenha sido criada com um serviço de conversão de texto para voz, explicou Lyu. Essas ferramentas tendem a traduzir um guia em uma voz gerada por inteligência artificial, que depois pode incorporar sequências de vídeo já existentes por meio de programas de sincronização labial.
“Hoy en dia, estas ferramentas são muito acessíveis”, afirmou Lyu, que acrescentou que é possível fazer um “vídeo de qualidade decente” em menos de 45 minutos. “Se está voltando muito fácil e por isso estamos vendo mais”.
Décadas de vários anúncios de estafa de Le Creuset, mas semelhantes aos que mostram Swift —muitos dos que foram publicados neste mês— ficaram visíveis desde o final da semana passada na seleção pública de anúncios de Meta. (A empresa é a proprietária do Instagram e do Facebook). A campanha também foi publicada no TikTok.
Os anúncios foram enviados aos usuários para sites que imitam meios legítimos, como o Food Network, nos quais foram mostradas notícias falsas sobre a oferta do Le Creuset junto com depoimentos de clientes fictícios. Foi pedido aos participantes que pagassem uma “pequena tarifa de envio de 9,96 dólares” pelos implementos de cozinha. Os que cumprem serão enfrentados em cargas mensais não declaradas sem receber os utensílios de cozinha prometidos.
Alguns dos anúncios falsos de Le Creuset, como um que imitava a designer de interiores Joanna Gaines, tinham um brilho de legitimidade nas redes sociais graças às etiquetas que os identificavam como publicações patrocinadas ou que procediam de contas verificadas.
Em abril, no Better Business Bureau anúncio para os consumidores que as estafas de celebridades falsas hechas com IA eram “mais convincentes que nunca”. As vítimas são encontradas no menu com cargas mais altas do que o esperado e sem rastro do produto que havia pedido. Os bancos também denunciaram intenções de estafadores de usar capturas de voz ultrafalsas ou réplicas sintéticas de voz de pessoas reais, para cometer fraudes financeiras.
No último ano, vários personagens conhecidos tiveram que se distanciar de maneira pública de anúncios nos que apareciam sua imagem ou sua voz manipulada pela inteligência artificial.
Este verão foi divulgado na internet anúncios falsos nos quais o cantor country Luke Combs apareceu promovendo gomitas para adelgazar que ele havia recomendado seu colega Lainey Wilson. Wilson publicou um vídeo no Instagram denunciando os anúncios, no que dizia que “a gente vai fazer o que for para ganhar um dólar, embora seja mentira”. O gerente de Combs, Chris Kappy, também publicou um vídeo no Instagram negando sua implicação na campanha das gomitas e acusando empresas estranhas de usar inteligência artificial para replicar a aparência de Combs.
“Para os gerentes que me vêm, a inteligência artificial é algo aterrador e está sendo usada contra nós”, escreveu.
Um portavoz do TikTok disse que política de anúncios de aplicação exige que os anunciantes obtenham o consentimento para “qualquer meio sintético que contenha uma figura pública” e adiram que as normas de a comunidade do TikTok requer que os criadores se revelem quando há “meios sintéticos ou manipulados que mostram cenas realistas”.
Meta disse que tomou medidas sobre os anúncios que violaram seu políticas, os quais proíbem o conteúdo que utiliza figuras públicas de maneira engañosa para tratar de estafar com os usuários. A empresa sinalizou que havia emprendido ações legais contra alguns autores deste tipo de estafas, mas ela acrescentou que anúncios maliciosos só poderiam eludir os sistemas de revisão do Meta camuflando seu conteúdo.
Como não há leis federais que abordem as estações de inteligência artificial, os legisladores propuseram leis para limitar seus danos. Dos projetos de lei apresentados no Congresso no ano passado — a lei de responsabilidade sobre ultrafalsos na Câmara de Representantes e a lei contra as falsidades no Senado — exigiam salvaguardas como etiquetas de conteúdo ou permissão para usar a voz ou a imagem de alguém .
Pelo menos novos estados, entre os estados da Califórnia, Virgínia, Flórida e Havaí, há leis que regulam os conteúdos gerados pela inteligência artificial.
Por enquanto, Swift provavelmente seguirá sendo objeto de experimentos com essa tecnologia. Versões sintéticas de sua voz aparecem regularmente no TikTok, interpretando canções que nunca foram cantadas, criticando as críticas e sirviendo como tons de chamada. Uma entrevista em inglês concedida em 2021 ao programa Tarde da noite com Seth Meyers foi dobrada com uma interpretação artificial da sua voz em mandarim. Um site cobra até 20 dólares por mensagens de voz personalizadas do “clon de Taylor Swift por inteligência artificial”, prometendo “que a voz que você olha é indistinguível do real”.
