Quando a pesquisadora de IA Melanie Mitchell publicou Inteligência Artificial: Um Guia para Pensar Humanos em 2019, ela decidiu esclarecer o impacto da IA. Alguns anos depois, o ChatGPT desencadeou um novo boom de IA – com um efeito colateral que a pegou desprevenida. Uma imitação de seu livro gerada por IA apareceu na Amazon, em um aparente esquema para lucrar com seu trabalho. Parece mais um exemplo do problema contínuo da gigante do comércio eletrônico com um excesso de e-books gerados por IA de baixa qualidade.
Mitchell descobriu que pesquisar seu livro na Amazon revelou não apenas seu próprio livro, mas também outro e-book com o mesmo título, publicado em setembro passado. Tinha apenas 45 páginas e repetia as ideias de Mitchell em uma linguagem hesitante e estranha. O autor listado, “Shumaila Majid”, não tinha biografia, foto de rosto ou presença na Internet, mas clicar nesse nome trouxe dezenas de livros semelhantes resumindo títulos publicados recentemente.
Mitchell adivinhou que o e-book falsificado foi gerado por IA e seu palpite parece estar correto. WIRED pediu à startup de detecção de deepfake Reality Defender para analisar a versão ersatz de Inteligência Artificial: Um Guia para Pensar Humanos, e seu software declarou que o livro era 99% provavelmente gerado por IA. “Isso me deixou furioso”, diz Mitchell, professor do Instituto Santa Fé. “É simplesmente horrível como as pessoas estão sendo levadas a comprar esses livros.”
A Amazon retirou do ar a imitação do livro de Mitchell depois que a WIRED contatou a empresa. “Embora permitamos conteúdo gerado por IA, não permitimos conteúdo gerado por IA que viole nosso conteúdo do Kindle Direct Publishing diretrizesincluindo conteúdo que cria uma experiência decepcionante para o cliente”, disse Ashley Vanicek, porta-voz da Amazon.
Mas Mitchell está longe de ser o único pesquisador de IA aparentemente alvo de uso da mesma tecnologia em que trabalham. Novo livro de memórias do cientista da computação pioneiro Fei-Fei Li Os mundos que vejo: curiosidade, exploração e descoberta na era da IA mais de uma dúzia de resumos diferentes aparecem quando você pesquisa o livro na Amazon.
Ao contrário da decolagem do livro de Mitchell, os resumos de Li se anunciam como tal. Um, francamente intitulado Resumo e análise de Os mundos que vejo, tem uma descrição do produto que começa: “AVISO LEGAL!! ESTE NÃO É UM LIVRO DE FEI-FEI LI, NEM É AFILIADO A ELES. É UMA PUBLICAÇÃO INDEPENDENTE QUE RESUME O LIVRO DE FEI-FEI LI EM DETALHES.É UM RESUMO.” No entanto, estes livros também parecem ser gerados pela IA e acrescentam pouco valor para os leitores. O Reality Defender analisou uma amostra do Resumo e Análise livro e descobri que provavelmente também foi gerado por IA. “Uma reescrita completa e total do texto. Tipo, alguém consultou um LLM para reescrever o texto, não resumi-lo”, diz o chefe de marketing do Reality Defender, Scott Steinhardt. “É como uma versão KidzBop da coisa real.” Solicitada para comentar por e-mail, Li resumiu sua reação em um único emoji: 🤯.
Execução Resumida
Resumos de livros desprezíveis têm sido um problema antigo na Amazon. Em 2019, Jornal de Wall Street descobriu que muitos usou arte de capa e texto deliberadamente confusos, irritando escritores, incluindo o empresário Tim Ferriss. “Nós, junto com alguns editores, estamos tentando retirá-los já há algum tempo”, disse a CEO da Authors Guild, Mary Rasenberger. A ascensão da IA generativa sobrecarregou a indústria de resumos com spam. “É o primeiro mercado que esperávamos ver inundado pela IA”, diz Rasenberger. Ela diz que esses esquemas atendem aos pontos fortes de grandes modelos de linguagem, que são aceitáveis na produção de resumos do trabalho que recebem, e podem fazê-lo rapidamente. Os frutos dessa geração acelerada agora são comuns em buscas por títulos populares de não ficção na Amazon.
Os resumos gerados por IA e vendidos como e-books têm “aumentado dramaticamente em número”, diz a especialista da indústria editorial Jane Friedman – que foi ela mesma alvo de um esquema de livro diferente gerado por IA. Isso apesar da Amazon em setembro limitando os autores ao upload de no máximo três livros à sua loja todos os dias. “É comum hoje em dia que um autor de não ficção comemore o lançamento de seu livro e, em poucos dias, descubra um desses resumos à venda.”
