Em 2025, será comum conversar com um agente pessoal de IA que conheça sua agenda, seu círculo de amigos, os lugares que você frequenta. Isto será vendido como uma conveniência equivalente a ter um assistente pessoal e gratuito. Esses agentes antropomórficos são projetados para nos apoiar e encantar, para que os incluamos em todas as partes de nossas vidas, dando-lhes acesso profundo aos nossos pensamentos e ações. Com a interação habilitada por voz, essa intimidade será ainda mais próxima.
Essa sensação de conforto vem da ilusão de que estamos envolvidos com algo verdadeiramente humano, um agente que está do nosso lado. É claro que esta aparência esconde um tipo de sistema muito diferente em funcionamento, que serve prioridades industriais que nem sempre estão em linha com as nossas. Os novos agentes de IA terão um poder muito maior para direcionar sutilmente o que compramos, aonde vamos e o que lemos. Essa é uma quantidade extraordinária de poder. Os agentes de IA são projetados para nos fazer esquecer sua verdadeira lealdade enquanto sussurram para nós em tons humanos. Esses são mecanismos de manipulação, comercializados como uma conveniência perfeita.
É muito mais provável que as pessoas concedam acesso completo a um agente de IA útil que se sinta como um amigo. Isto torna os humanos vulneráveis à manipulação por máquinas que se aproveitam da necessidade humana de ligação social num momento de solidão e isolamento crónicos. Cada tela se torna um teatro algorítmico privado, projetando uma realidade criada para ser ao máximo atraente para um público de uma só pessoa.
Este é um momento sobre o qual os filósofos nos alertam há anos. Antes de sua morte, o filósofo e neurocientista Daniel Dennett escreveu que enfrentamos um grave perigo devido aos sistemas de IA que emulam as pessoas: “Estas pessoas falsificadas são os artefactos mais perigosos da história da humanidade… distraindo-nos e confundindo-nos e, ao explorar os nossos medos e ansiedades mais irresistíveis, levar-nos-ão à tentação e, a partir daí, em aquiescer à nossa própria subjugação.”
A emergência de agentes pessoais de IA representa uma forma de controlo cognitivo que vai além dos instrumentos contundentes de rastreamento de cookies e publicidade comportamental, rumo a uma forma mais subtil de poder: a manipulação da própria perspectiva. O poder já não precisa de exercer a sua autoridade com uma mão visível que controla os fluxos de informação; exerce-se através de mecanismos imperceptíveis de assistência algorítmica, moldando a realidade para se adequar aos desejos de cada indivíduo. Trata-se de moldar os contornos da realidade que habitamos.
Esta influência sobre as mentes é uma psicopolítico regime: Dirige os ambientes onde nossas ideias nascem, se desenvolvem e se expressam. O seu poder reside na sua intimidade – infiltra-se no âmago da nossa subjetividade, distorcendo a nossa paisagem interna sem que percebamos, ao mesmo tempo que mantém a ilusão de escolha e liberdade. Afinal, somos nós que pedimos à IA para resumir aquele artigo ou produzir aquela imagem. Podemos ter o poder do alerta, mas a verdadeira ação está em outro lugar: no design do próprio sistema. E quanto mais personalizado for o conteúdo, mais eficazmente um sistema poderá predeterminar os resultados.
Consideremos as implicações ideológicas desta psicopolítica. As formas tradicionais de controlo ideológico baseavam-se em mecanismos abertos – censura, propaganda, repressão. Em contraste, a governação algorítmica de hoje opera sob o radar, infiltrando-se na psique. É uma mudança da imposição externa da autoridade para a internalização da sua lógica. O campo aberto de uma tela de alerta é uma câmara de eco para um único ocupante.
Isto nos leva ao aspecto mais perverso: os agentes de IA gerarão uma sensação de conforto e facilidade que fará com que questioná-los pareça absurdo. Quem ousaria criticar um sistema que oferece tudo ao seu alcance, atendendo a todos os caprichos e necessidades? Como alguém pode se opor a remixes infinitos de conteúdo? No entanto, esta chamada conveniência é o local da nossa mais profunda alienação. Os sistemas de IA podem parecer responder a todos os nossos desejos, mas a situação está complicada: desde os dados utilizados para treinar o sistema, às decisões sobre como concebê-lo, aos imperativos comerciais e publicitários que moldam os resultados. Estaremos jogando um jogo de imitação que, em última análise, nos joga.
