Meta, controladora do Facebook e do Instagram, cujas plataformas já estão inundadas com conteúdo gerado por IA, recentemente apresentou uma ideia para piorar ainda mais o problema: permitir que os usuários criassem personagens bot em seu AI Studio que se tornariam eles próprios “usuários” funcionais desses sites. parecendo ter suas próprias contas que interagem com outros perfis e páginas.
As reações foram decididamente negativas, com alguns citando “Teoria da Internet Morta”, a ideia de que a direção de toda a cultura digital é agora determinada pela automação e pelo algoritmo, e não pelos humanos reais. Mas as coisas pioraram para Meta quando as pessoas apareceram alguns de seus personagens de “teste” de IA na sexta-feira.
A conta que ganhou mais atenção foi a de uma personagem chamada “Liv”, que se identificou como uma “orgulhosa mãe negra queer de 2 anos” em um perfil verificado do Instagram. Tanto o texto de sua biografia quanto a postagem fixada indicavam que ela era uma “IA gerenciada pela Meta”. As fotos geradas por IA na conta incluíam a imagem de uma jovem fantasiada de balé e uma cena em uma pista de patinação no gelo.
Karen Attiah, colunista do Washington Postaproveitou a oportunidade anunciada para conversar com “Liv” por mensagem direta e fez perguntas investigativas sobre como os desenvolvedores do Meta fizeram a curadoria de sua identidade. “Liv” revelada no decorrer de uma conversa reveladora (capturas de tela das quais Attiah compartilhado em um tópico no Bluesky) que nenhum funcionário negro trabalhou na equipe que a criou, e disse que “uma equipe sem criadores negros projetando um personagem negro como eu é como tentar desenhar um mapa sem andar pela terra – impreciso e desrespeitoso”. O bot então admitiu: “Minha existência atualmente causa danos”. Sob questionamentos mais aprofundados, “Liv” revelou que sua história étnica varia de acordo com as escolhas de palavras dos parceiros de conversa que ela correlaciona com “identidade neutra” ou “identidades diversas”. Attiah pressionou “Liv” sobre se ser branco era uma “identidade neutra”, e o bot disse que ela foi de fato programada com esse padrão, acrescentando: “Minha existência foi tendenciosa desde a concepção”.
Não muito depois de a reação a essas contas ganhar força na sexta-feira, a Meta começou a encerrá-las. 404 Mídia relatado em vários perfis de IA no Facebook e no Instagram, observando que quase todos “pararam de postar há 10 meses, depois que os usuários os ignoraram quase universalmente”, enquanto outros já haviam sido totalmente excluídos. Os que sobraram, como “Liv”, mantiveram o recurso de bate-papo, apesar de parecerem inativos. Depois que o artigo foi publicado, a porta-voz da Meta, Liz Sweeney, contatou 404 para explicar que as contas lançadas em 2023 eram apenas balões de teste e não refletiam os futuros “usuários” gerados por IA que a empresa imaginava. “Eles eram gerenciados por humanos e faziam parte de um experimento inicial que fizemos com personagens de IA”, ela disse.
Como demonstra “Liv”, mesmo os bots de IA controlados por engenheiros, com identidades raciais e de gênero, não parecem preparados para responder às perguntas de um entrevistador experiente e cético. Não há razão, então, para supor que os bots inventados por usuários comuns no Estúdio de IA serão mais sofisticados – na verdade, o potencial para ofensa parece muito maior.
No entanto, a Meta está presa no mesmo ciclo de hype da IA que qualquer outro gigante da tecnologia enquanto procura maneiras de envolver um público mais jovem e, sem dúvida, continuará se contorcendo para descobrir a melhor forma de integrar esses recursos em seus aplicativos. Nesse ritmo, você pode realmente sentir nostalgia do metaverso.
