Antes do amanhecer, Paolo Benanti subiu à torre sineira do seu mosteiro do século XVI, admirou o nascer do sol sobre as ruínas do fórum romano e refletiu sobre um mundo em mudança.
“Foi uma meditação maravilhosa sobre o que está acontecendo lá dentro”, disse ele, saindo para a rua em seu manto de frade. “E lá fora também.”
Há muita coisa acontecendo com o Padre Benanti, que, como especialista em inteligência artificial do Vaticano e do governo italiano, passa seus dias pensando no Espírito Santo e nos fantasmas nas máquinas.
Nas últimas semanas, o professor de ética, padre ordenado e autoproclamado geek, juntou-se a Bill Gates em uma reunião com a primeira-ministra Giorgia Meloni, presidiu uma comissão que busca salvar a mídia italiana das assinaturas do Chat GBT e do esquecimento geral da IA, e se reuniu com Autoridades do Vaticano devem promover o objetivo do Papa Francisco de proteger os vulneráveis da tempestade tecnológica que se aproxima.
Numa conferência organizada pelo antigo Cavaleiros de Malta ordem, ele disse a uma multidão de embaixadores que “a governança global é necessária, caso contrário o risco é o colapso social”, e ele falou sobre o Chamada de Romaum esforço do Vaticano, do governo italiano, do Vale do Silício e das Nações Unidas que ele ajudou a organizar para salvaguardar um admirável mundo novo que contém esses chatbots.
Autor de muitos livros (“Homo Faber: The Techno-Human Condition”) e presença constante em painéis internacionais de IA, o padre Benanti, 50 anos, é professor na Gregoriana, a Universidade Pontifícia de Harvard de Roma, onde ensina teologia moral. ética e um curso chamado “A Queda de Babel: Os Desafios do Digital, das Redes Sociais e da Inteligência Artificial”.
Para uma igreja e um país que procuram aproveitar e sobreviver à revolução da IA que se aproxima, o seu trabalho é fornecer aconselhamento de uma perspectiva ética e espiritual. Ele compartilha suas ideias com o Papa Francisco, que em sua mensagem anual do Dia Mundial da Paz, em 1º de janeiro, apelou por um tratado global para garantir o desenvolvimento ético e o uso da IA para evitar um mundo desprovido de misericórdia humana, onde algoritmos inescrutáveis decidem quem é quem recebe asilo, quem obtém uma hipoteca ou quem, no campo de batalha, vive ou morre.
Estas preocupações reflectem as do Padre Benanti, que não acredita na capacidade da indústria se auto-regular e pensa que são necessárias algumas regras de conduta num mundo onde falsificações profundas e desinformação podem corroer a democracia.
Ele está preocupado com o facto de os mestres dos universos da IA estarem a desenvolver sistemas que irão expandir os abismos de desigualdade. Ele teme que a transição para a IA seja tão abrupta que campos profissionais inteiros sejam deixados a fazer trabalhos braçais, ou nada, privando as pessoas da dignidade e desencadeando ondas de “desespero”. Isto, disse ele, levanta enormes questões sobre a redistribuição da riqueza num universo dominado pela IA.
Mas ele também vê o potencial da IA
Para a Itália, com uma das populações mais envelhecidas e em declínio do mundo, o Padre Benanti está a pensar seriamente sobre como a IA pode manter a produtividade à tona. E o tempo todo ele aplica sua perspectiva sobre o que significa estar vivo e ser humano, quando as máquinas parecem mais vivas e humanas. “Esta é uma questão espiritual”, disse ele.
Depois da meditação matinal, o padre Benanti caminhou para o trabalho, com a barra da calça jeans aparecendo sob a túnica preta. Ele passou pela coluna de Trajano do século II e entrou cuidadosamente na faixa de pedestres de uma das ruas mais movimentadas de Roma.
“Esta é a pior cidade para carros autônomos”, disse ele. “É muito complicado. Talvez no Arizona.
Seu escritório no Gregorian é decorado com impressões emolduradas de suas próprias fotografias de rua – imagens de romanos deprimidos fumando cigarros, um casal entediado preferindo seus celulares a seu bebê – e fotos dele e do Papa Francisco apertando as mãos. Sua vocação religiosa, explicou ele, veio depois da científica.
Nascido em Roma, seu pai trabalhava como engenheiro mecânico e sua mãe ensinava ciências no ensino médio. Enquanto crescia, ele adorava “O Senhor dos Anéis” e Dungeons and Dragons, mas não era um fechado em jogos, pois também era um escoteiro que colecionava distintivos de fotografia, navegação e culinária.
Quando sua trupe de crianças de 12 anos visitou Roma para fazer caridade, ele conheceu Mons. Vincenzo Paglia, que era então pároco, mas que, como ele, passaria a trabalhar para o governo italiano – como membro da comissão do país sobre o envelhecimento – e para o Vaticano. Agora o Cardeal Paglia é o superior do Padre Benanti na igreja Pontifícia Academia para a Vidaque é encarregado de descobrir como promover a ética da Igreja sobre a vida em meio a convulsões bioéticas e tecnológicas.
Na época em que o padre Benanti conheceu o monsenhor Paglia, um tio lhe deu de presente de Natal um computador doméstico da Texas Instruments. Ele procurou reprojetá-lo para jogar videogame. “Nunca funcionou”, disse ele.
Ele freqüentou uma escola secundária que enfatizava os clássicos – para provar sua credibilidade na antiguidade, ele explodiu, enquanto caminhava para o trabalho, com a abertura da Odisséia em grego antigo – e um professor de filosofia achava que ele teria um futuro ponderando o significado das coisas. Mas o funcionamento das coisas exerceu uma atração maior, e ele se formou em engenharia na Universidade Sapienza, em Roma. Não foi suficiente.
“Comecei a sentir que faltava alguma coisa”, disse ele, explicando que o avanço no curso de engenharia apagou a mística das máquinas que ele tinha. “Eu simplesmente quebrei a magia.”
Em 1999, sua então namorada pensou que ele precisava de mais Deus em sua vida. Eles foram a uma igreja franciscana em Massa Martana, na Úmbria, onde o plano dela funcionou muito bem porque ele percebeu que precisava de um espaço sagrado onde pudesse “não parar de questionar a vida”.
No final do ano, ele abandonou a namorada e ingressou na ordem franciscana, para consternação dos pais, que perguntaram se ele estava compensando demais o rompimento ruim.
Ele deixou Roma para estudar em Assis, casa de São Francisco, e durante a década seguinte fez os votos perpétuos como frade, foi ordenado sacerdote e defendeu sua dissertação sobre aprimoramento humano e ciborgues. Ele conseguiu seu emprego na Gregoriana e, eventualmente, como responsável pela ética de TI do Vaticano.
“Ele é convocado por muitas instituições”, disse o cardeal Gianfranco Ravasi, que dirigia o departamento de cultura do Vaticano, onde o padre Benanti era conselheiro científico.
Em 2017, o Cardeal Ravasi organizou um evento na embaixada italiana junto à Santa Sé, onde o Padre Benanti deu uma palestra sobre a ética da IA. Os funcionários da Microsoft presentes ficaram impressionados e pediram para manter contato. Nesse mesmo ano, o governo italiano pediu-lhe que contribuísse para documentos de política de IA e no ano seguinte candidatou-se com sucesso para fazer parte da sua comissão para o desenvolvimento de uma estratégia nacional de IA.
Então, em 2018, ele se reconectou com o agora cardeal Paglia, um dos favoritos de Francisco, e disse-lhe: “olha, algo grande está se movendo”. Pouco depois, os contactos do Padre Benanti na Microsoft pediram-lhe que ajudasse a organizar um encontro entre Francis e o presidente da Microsoft, Brad Smith.
O Padre Benanti, como parte da delegação do Vaticano, traduziu os termos técnicos durante a reunião de 2019. Francisco, disse ele, a princípio não percebeu o que a Microsoft realmente fazia, mas gostou que Smith tirasse do bolso um dos discursos do papa nas redes sociais e mostrasse ao pontífice as preocupações que o executivo havia destacado e compartilhado.
Francisco – que o padre Benanti disse ter se tornado mais alfabetizado em IA, especialmente depois que uma imagem do papa ostentando um casaco branco desenhado por IA se tornou viral – então ficou mais animado. O papa gostava quando a discussão era menos sobre a tecnologia, disse o Padre Benanti, e mais sobre “o que ele pode fazer” para proteger os vulneráveis.
No mês passado, o padre Benanti, que disse não receber nenhum pagamento da Microsoft, participou de uma reunião entre Gates, cofundador da empresa, e Meloni, que está preocupada com o impacto da IA na força de trabalho. “Ela tem que governar um país”, disse ele.
Ela agora nomeou Padre Benanti para substituir o líder da comissão de IA para a mídia italiana, com quem ela estava descontente.
“A obediência à autoridade é um dos votos”, disse o Padre Benanti enquanto mexia nos nós do cinto de corda do seu manto, significando a promessa de obediência, pobreza e castidade da sua ordem franciscana.
Essa comissão está a estudar formas de proteger os escritores italianos. O Padre Benanti acredita que as empresas de IA devem ser responsabilizadas pela utilização de fontes protegidas por direitos de autor para treinar os seus chatbots, embora receia que seja difícil provar porque as empresas são “caixas negras”.
Mas esse mistério também, para o Padre Benanti, mais uma vez imbuiu a tecnologia de magia, mesmo que seja do tipo sombrio. Dessa forma, não era tão novo, disse ele, argumentando que, à medida que as antigas brocas romanas se voltavam para o vôo dos pássaros em busca de orientação, a IA, com sua enorme compreensão de nossos dados físicos, emocionais e preferenciais, poderia ser os novos oráculos, determinar decisões e substituir Deus por falsos ídolos.
“É algo antigo que provavelmente pensamos ter deixado para trás”, disse o frade, “mas que está voltando”.
