Em março, enquanto planejava uma viagem à França, Amy Kolsky, uma viajante internacional experiente que mora em Bucks County, Pa., visitou a Amazon.com e digitou alguns termos de pesquisa: viagem, guia, França. Títulos de várias marcas confiáveis apareciam no topo da página: Rick Steves, Fodor’s, Lonely Planet. Também entre os principais resultados da pesquisa estava o altamente avaliado “Guia de viagens da França”, de Mike Steves, que, de acordo com uma página de autor da Amazon, é um renomado escritor de viagens.
“Fui imediatamente atraída por todas as críticas incríveis”, disse Kolsky, 53, referindo-se ao que viu na época: raves universais e mais de 100 classificações de cinco estrelas. O guia prometia roteiros e recomendações dos locais. Seu preço – $ 16,99, em comparação com $ 25,49 para O livro de Rick Steves sobre a França – também chamou a atenção da Sra. Kolsky. Ela rapidamente encomendou uma cópia em brochura, impressa pelo serviço sob demanda da Amazon.
Quando chegou, a Sra. Kolsky ficou desapontada com suas descrições vagas, texto repetitivo e falta de itinerários. “Parecia que o cara simplesmente entrou na internet, copiou um monte de informações da Wikipedia e apenas colou”, disse ela. Ela devolveu e deixou uma crítica contundente de uma estrela.
Embora ela não soubesse na época, a Sra. Kolsky havia sido vítima de uma nova forma de golpe de viagem: guias de má qualidade que parecem ser compilados com a ajuda de inteligência artificial generativa, autopublicados e reforçados por avaliações falsas, que proliferaram nos últimos meses na Amazon.
Os livros são o resultado de uma mistura giratória de ferramentas modernas: aplicativos de IA que podem produzir texto e retratos falsos; sites com uma variedade aparentemente interminável de fotos e gráficos; plataformas de autopublicação – como o Kindle Direct Publishing da Amazon – com poucas barreiras contra o uso de IA; e a capacidade de solicitar, comprar e publicar análises on-line falsas, o que contraria as políticas da Amazon e pode em breve enfrentar maior regulamentação da Federal Trade Commission.
O uso dessas ferramentas em conjunto permitiu que os livros subissem perto do topo dos resultados de pesquisa da Amazon e, às vezes, obtivessem endossos da Amazon, como “# 1 Travel Guide on Alaska”.
Uma pesquisa recente na Amazon pela frase “Paris Travel Guide 2023”, por exemplo, rendeu dezenas de guias com esse título exato. Um deles, cujo autor é listado como Stuart Hartley, gaba-se, de forma não gramatical, de que é “Tudo o que você precisa saber antes de planejar uma viagem a Paris”. O livro em si não tem mais informações sobre o autor ou editora. Ele também não tem fotografias ou mapas, embora muitos de seus concorrentes tenham arte e fotografia facilmente rastreáveis a sites de banco de fotos. Mais de 10 outros guias atribuídos a Stuart Hartley apareceram na Amazon nos últimos meses, que contam com o mesmo design padrão e usam linguagem promocional semelhante.
O Times também encontrou livros semelhantes em uma gama muito mais ampla de tópicos, incluindo culinária, programação, jardinagem, negócios, artesanato, medicina, religião e matemática, bem como livros e romances de autoajuda, entre muitas outras categorias.
A Amazon se recusou a responder a uma série de perguntas detalhadas sobre os livros. Em comunicado enviado por e-mail, Lindsay Hamilton, porta-voz da empresa, disse que a Amazon está constantemente avaliando tecnologias emergentes. “Todos os editores da loja devem aderir aos nossos diretrizes de conteúdo,” ela escreveu. “Investimos tempo e recursos significativos para garantir que nossas diretrizes sejam seguidas e removemos os livros que não seguem essas diretrizes.”
O Times correu 35 passagens do livro de Mike Steves através de um detector de inteligência artificial de Originalidade.ai. O detector funciona analisando milhões de registros conhecidos por serem criados por IA e milhões criados por humanos, e aprendendo a reconhecer as diferenças entre os dois, explicou Jonathan Gillham, fundador da empresa.
O detector atribui uma pontuação entre 0 e 100, com base na chance percentual de seu modelo de aprendizado de máquina acreditar que o conteúdo foi gerado por IA. Todas as 35 passagens marcaram 100 pontos perfeitos, o que significa que quase certamente foram produzidas por IA
A empresa afirma que a versão de seu detector usada pelo The Times detecta mais de 99% das passagens de IA e confunde texto humano com IA em pouco menos de 1,6% dos testes.
O Times identificou e testou 64 outros guias de formato comparável, a maioria com pelo menos 50 avaliações na Amazon, e os resultados foram surpreendentemente semelhantes. Dos 190 parágrafos testados com Originality.ai, 166 pontuaram 100 e apenas 12 pontuaram abaixo de 75. Em comparação, as pontuações para passagens de marcas de viagens conhecidas como Rick Steves, Fodor’s, Frommer’s e Lonely Planet foram quase todas abaixo de 10, o que significa quase não havia chance de terem sido escritos por geradores de IA.
Amazon, IA e marcas de viagens confiáveis
Embora o aumento do crowdsourcing em sites como Tripadvisor e Yelp, para não mencionar sites de viagens on-line gratuitos e blogs e dicas de influenciadores do TikTok e do Instagram, tenham reduzido a demanda por guias impressos e suas versões em e-book, eles ainda são grandes vendedores. Em um dia recente de julho, nove dos 50 principais livros de viagens da Amazon – uma categoria que inclui ficção, não-ficção, memórias e mapas – eram guias europeus de Rick Steves.
Steves, contatado em Estocolmo por volta da meia-noite depois de um dia pesquisando o guia da Escandinávia para sua série, disse que não tinha ouvido falar do livro de Mike Steves e não parecia preocupado que a IA generativa representasse uma ameaça.
“Simplesmente não consigo imaginar não fazer isso usando sapatos”, disse Steves, que havia acabado de visitar um restaurante com tema viking e um concorrente com tema medieval, e determinou que o restaurante viking era muito superior. “Você tem que estar aqui conversando com as pessoas e caminhando.”
O Sr. Steves gasta cerca de 50 dias por ano na estrada na Europa, disse ele, e os membros de sua equipe gastam outros 300 para atualizar seus aproximadamente 20 guias, bem como subprodutos menores.
Mas Pauline Frommer, diretora editorial da série de guias Frommer’s e autora de um popular guia de Nova York, está preocupada que “pequenas mordidas” dos guias falsos estejam afetando suas vendas. A Sra. Frommer disse que passa três meses por ano testando restaurantes e trabalhando em outras atualizações anuais para o livro – e ganhando peso que ela está atualmente tentando trabalhar.
“E pensar que alguma entidade pensa que pode simplesmente varrer a internet e colocar lixo aleatório é incrivelmente desanimador”, disse ela.
A Amazon não tem regras que proíbam conteúdo gerado principalmente por inteligência artificial, mas o site oferece orientações para o conteúdo do livro, incluindo títulos, arte da capa e descrições: “Os livros à venda na Amazon devem proporcionar uma experiência positiva ao cliente. Não permitimos conteúdo descritivo destinado a enganar os clientes ou que não represente com precisão o conteúdo do livro. Também não permitimos conteúdo que costuma decepcionar os clientes.”
Gillham, o fundador da Originality.ai, com sede em Ontário, disse que seus clientes são em grande parte produtores de conteúdo que procuram descobrir contribuições escritas por inteligência artificial. “Em um mundo de conteúdo gerado por IA”, disse ele, “a rastreabilidade do autor ao trabalho será uma necessidade crescente”.
Encontrar os verdadeiros autores desses guias pode ser impossível. Não há vestígios de que o “renomado escritor de viagens” Mike Steves, por exemplo, tenha publicado “artigos em várias revistas e sites de viagens”, como afirma a biografia na Amazon. Na verdade, o The Times não encontrou nenhum registro da existência de nenhum desses escritores, apesar de realizar uma extensa pesquisa de registros públicos. (Tanto a foto do autor quanto a biografia de Mike Steves provavelmente foram geradas por IA, descobriu o The Times.)
O Sr. Gillham enfatizou a importância da prestação de contas. Comprar um guia decepcionante é um desperdício de dinheiro, disse ele. Mas comprar um guia que incentive os leitores a viajar para lugares inseguros – “isso é perigoso e problemático”, disse ele.
O Times encontrou vários casos em que omissões preocupantes e informações desatualizadas podem desviar os viajantes. Um guia sobre Moscou publicado em julho sob o nome de Rebecca R. Lim – “uma figura respeitada na indústria de viagens”, cuja foto do autor da Amazon também aparece em um site chamado Todo Sobre el Acido Hialurônico (“Tudo sobre o ácido hialurônico”) ao lado do nome Ana Burguillos – não faz menção à guerra em curso da Rússia com a Ucrânia e não inclui informações de segurança atualizadas. (O Departamento de Estado dos EUA aconselha os americanos não viajar para a Rússia.) E um guia sobre Lviv, na Ucrânia, publicado em maio, também não menciona a guerra e incentiva os leitores a “arrumar as malas e se preparar para uma aventura inesquecível em um dos destinos mais cativantes da Europa Oriental”.
Críticas falsas
A Amazon tem um política anti-manipulação para avaliações de clientes, embora um exame cuidadoso do The Times tenha descoberto que muitas das avaliações de cinco estrelas deixadas nos guias de má qualidade eram extremamente gerais ou sem sentido. A extensão do navegador Fakespotque detecta o que considera críticas “enganosas” e dá a cada produto uma nota de A a F, deu a muitos dos guias uma pontuação de D ou F.
Algumas avaliações são curiosamente imprecisas. “Este guia foi espetacular”, escreveu um usuário chamado Muñeca sobre o guia da França de Mike Steves. “Poder escolher a estação para saber qual o clima que mais gostamos, sabendo que a língua deles é o inglês.” (O guia mal menciona o clima e afirma claramente que a língua da França é o francês.)
A maioria das críticas elogiosas escritas questionavelmente para os guias surrados são de “compras verificadas”, embora a definição da Amazon de uma “compra verificada” possa incluir leitores que baixaram o livro gratuitamente.
“Essas avaliações estão enganando as pessoas”, disse Frommer. “É o que faz as pessoas desperdiçarem seu dinheiro e as mantém longe dos verdadeiros guias de viagem.”
A Sra. Hamilton, porta-voz da Amazon, escreveu que a empresa não tolera críticas falsas. “Temos políticas claras que proíbem o abuso de avaliações. Suspendemos, banimos e tomamos medidas legais contra aqueles que violam essas políticas e removemos avaliações não autênticas.” A Amazon não disse se alguma ação específica foi tomada contra os produtores do livro de Mike Steves e outros livros semelhantes. Durante a reportagem deste artigo, algumas das críticas suspeitas foram removidas de muitos dos livros que o The Times examinou e alguns livros foram retirados. A Amazon disse que bloqueou mais de 200 milhões de avaliações falsas suspeitas em 2022.
Mas mesmo quando a Amazon remove as avaliações, ela pode deixar avaliações de cinco estrelas sem texto. Em 3 de agosto, o “Guia de viagens da Espanha 2023” de Adam Neal teve 217 avaliações removidas pela Amazon, de acordo com uma análise do Fakespot, mas ainda obtém uma classificação de 4,4 estrelas, em grande parte porque 24 dos 27 revisores que omitiram uma avaliação escrita receberam o prêmio livro cinco estrelas. “Sinto que meu guia não pode ser o mesmo que todos avaliam tão bem”, escreveu um crítico chamado Sarie, que deu ao livro uma estrela.
Muitos dos livros também incluem “resenhas editoriais”, aparentemente sem supervisão da Amazon. Alguns são particularmente audaciosos, como o “Paris Travel Guide 2023” da Dreamscape Voyages, que inclui críticas falsas de pesos pesados como a revista Afar (“Prepare-se para se surpreender”) e Condé Nast Traveler (“Seu melhor companheiro para desvendar a verdadeira essência do Cidade das luzes”). Ambas as publicações negaram a revisão do livro.
‘Tem que estar lá no campo’
Os especialistas em inteligência artificial geralmente concordam que a IA generativa pode ser útil para os autores se usada para aprimorar seu próprio conhecimento. Darby Rollins, fundador da AI Author, uma empresa que ajuda pessoas e empresas a aproveitar a IA generativa para melhorar seu fluxo de trabalho e expandir seus negócios, achou os guias “muito básicos”.
Mas ele podia imaginar bons guias produzidos com a ajuda de inteligência artificial. “A IA vai aumentar, aprimorar e estender o que você já faz bem”, disse ele. “Se você já é um bom escritor e já é um especialista em viagens na Europa, então você está trazendo experiências, perspectivas e insights para a mesa. Você poderá usar a IA para ajudar a organizar seus pensamentos e ajudá-lo a criar coisas mais rapidamente.”
O verdadeiro Sr. Steves tinha menos certeza sobre os méritos do uso da IA “Não sei para onde a IA está indo, só sei o que faz um bom guia”, disse ele. “E eu acho que você tem que estar lá no campo para escrever um.”
A Sra. Kolsky, que foi enganada pelo livro de Mike Steves, concordou. Depois de devolver sua compra inicial, ela optou por uma marca confiável.
“Acabei comprando Rick Steves”, disse ela.
Desenhado por Gabriel Giordoli. Susan Beachy contribuiu com pesquisas.
