No domingo, Justine Moore, sócio da empresa de capital de risco do Vale do Silício, Andreessen Horowitz, tuitou sobre uma descoberta curiosa. Era uma conta do Instagram com o nome @ethos_atx, que pretendia representar um restaurante sofisticado chamado Ethos em Austin, Texas. Mas, como observou Moore, tal negócio não existe – apesar das dezenas de milhares de seguidores da conta e da marca de verificação azul. E toda a comida na página (junto com as fotos da “equipe”) é gerada por IA.
Os comentários nas postagens do Ethos sobre comidas bizarras como um salsicha do tamanho do braço ou pizza em forma de pé (“feetza”) são uma mistura de elogios genéricos de bots, algumas respostas aparentemente autênticas de seguidores crédulos e – neste ponto – muitas pessoas perplexas com o fato de alguém poder confundir as imagens falsas com refeições reais. Ainda não está claro quem dirige a página do Ethos, mas eles parecem pretender que seja uma piada elaborada: há uma postagem sobre o presidente da Amazon, Jeff Bezos servindo coquetéis no bar porque ele ficou em último lugar em uma liga de futebol fantasia, e o site vinculado afirma que as reservas estão disponíveis em “4h30 da primeira segunda-feira de cada mês”, em um golpe satírico em restaurantes exagerados de bougie. Parece também que o brincalhão encontrou uma maneira de monetizar sua piada, vendendo camisetas Ethos com frases de efeito piscantes como “Unreal Flavours”.
Mas, para além desta façanha específica, o conteúdo alimentar gerado pela IA infectou o lado culinário da Internet de formas mais preocupantes. No Facebook, uma plataforma que efetivamente incentivou todos os tipos de spam estranho de IA, as páginas de culinária estão repletas de imagens de IA que supostamente mostram os resultados finais de uma receita específica. Uma página chamada “Fórmula de receitas”, por exemplo, apresenta a foto do perfil de um “chef” que tem uma terceira mão inexplicável e compartilha imagem após imagem de pratos cuja textura e cor são ligeiramente estranhas – se você souber o que procurar. Eles são combinados com receitas de texto copiadas diretamente de outros sites ou geradas por programas de IA que coletaram esse material. (Isso por si só é um problema para os cozinheiros domésticos em uma época em que a IA do Google é recomendando a cola de Elmer como ingrediente de molho de tomate.) Apesar de tudo isso, a página conta com 44 mil seguidores.
Uma página semelhante no Facebook, “Cook Fastly”, descoberta pelo pseudônimo pesquisador de dados e desenvolvedor de software Conspirador Norteño esta semana, dá o nome de sua autora inexistente como “David” (embora um site separado a identifique como “Lojaine”) . Ele também atrai o envolvimento de dezenas de milhares de assinantes com imagens de jantares e produtos assados que têm uma espécie de brilho imaculado que você não veria em comida de verdade. É claro que ocasionalmente há pistas mais evidentes sobre o artifício, como quando o modelo de IA não consegue replicar o Logotipo Oreo.
Não faz muito tempo que a IA lutava para produzir de forma confiável alimentos que despertassem nosso apetite, gerando com mais frequência tarifa bizarra e desanimadora. Ainda em um trabalho acadêmico publicado pela revista Qualidade e Preferência Alimentar no início deste ano, os investigadores descobriram que os modelos de IA tendiam a fazer com que os alimentos “aparecessem um pouco mais brilhantes e com uma iluminação mais quente e uniforme”, aumentando o seu apelo. Na verdade, os participantes do estudo classificaram as imagens geradas por IA como “mais apetitosas do que as fotos reais” quando não foram informados sobre quais imagens eram falsas e quais eram autênticas. Embora os participantes também tenham sido bastante bons em detectar material de IA – especialmente quando os modelos tentaram imitar alimentos ultraprocessados, como batatas fritas e milkshakes – o psicólogo Charles Spence, da Universidade de Oxford, coautor do artigo, alertou sobre as possíveis consequências das marcas. e criadores da indústria alimentícia que contam com essa tecnologia.
“Embora os recursos visuais gerados por IA possam oferecer oportunidades de economia de custos para os profissionais de marketing e para a indústria, reduzindo o custo de encomenda de sessões fotográficas de alimentos, essas descobertas destacam os riscos potenciais associados à exacerbação da ‘fome visual’ entre os consumidores – o fenômeno em que a visualização de imagens de alimentos desencadeia o apetite e desejos”, disse Spence em um entrevista em seu trabalho. “Isso poderia potencialmente influenciar comportamentos alimentares pouco saudáveis ou fomentar expectativas irrealistas sobre os alimentos entre os consumidores”.
A lacuna entre a percepção da comida e a realidade já se tornou um problema no negócio de entrega de refeições. A empresa indiana de entregas Zomato, por exemplo, anunciou recentemente uma postura anti-IA e incentivou seus restaurantes parceiros a fazerem o mesmo, citando “preocupações com a confiança do cliente e o impacto negativo nos negócios”. Seu CEO, Deepinder Goyal prometeu “começar a remover ativamente essas imagens dos menus” e usar ferramentas de automação para “detectar e rejeitar” novas. Adotando exatamente a abordagem oposta, a empresa de entregas Foodora, que atende países do norte e centro da Europa, disse no início deste ano que estava “implementando IA para elevar as fotos dos nossos parceiros”.
Essa decisão produziu alguns resultados desastrosos, com os usuários do Foodora logo notando aberrações, incluindo sanduíches representados como baguetes simples e um prato de camarão frito com borboletas, onde um modelo de IA cuspia formas de borboletas que tinham a textura visual de camarão cozido. A empresa disse aos meios de comunicação que eles estavam conduzindo “testes” com ferramentas de IA e tomando medidas para remover as imagens falsas.
É apenas mais uma prova – como se precisássemos – de que nenhum sector da vida online está a salvo do flagelo do lixo da IA. Mesmo longe do pântano da política tóxica, da desinformação e das teorias da conspiração, este software está a minar a nossa confiança no que é verdade e a substituí-la por alucinações bizarras. Os evangelistas da tecnologia ainda podem acreditar no poder transformador de uma revolução em curso na IA, mas para todos os outros, o truque está a começar a deixar um sabor amargo.
