Isso soou para mim como se ele estivesse antropomorfizando esses sistemas artificiais, algo que os cientistas constantemente dizem aos leigos e jornalistas para não fazer. “Os cientistas se esforçam para não fazer isso, porque antropomorfizar a maioria das coisas é bobagem”, admite Hinton. “Mas eles terão aprendido essas coisas conosco, eles aprenderão a se comportar como nós linguisticamente. Então eu acho que antropomorfizá-los é perfeitamente razoável.” Quando seu poderoso agente de IA é treinado na soma total do conhecimento digital humano – incluindo muitas conversas online – pode ser mais bobo não esperar que ele aja como humano.
Mas e a objeção de que um chatbot nunca poderia realmente entender o que os humanos fazem, porque esses robôs linguísticos são apenas impulsos em chips de computador sem experiência direta do mundo? Afinal, tudo o que eles estão fazendo é prever a próxima palavra necessária para produzir uma resposta que satisfaça estatisticamente um prompt. Hinton aponta que mesmo nós realmente não encontre o mundo diretamente.
“Algumas pessoas pensam, ei, existe essa barreira final, que é que temos experiência subjetiva e (os robôs) não, então nós realmente entendemos as coisas e eles não”, diz Hinton. “Isso é besteira. Porque, para prever a próxima palavra, você precisa entender qual era a pergunta. Você não pode prever a próxima palavra sem entender, certo? É claro que eles são treinados para prever a próxima palavra, mas como resultado da previsão da próxima palavra, eles entendem o mundo, porque essa é a única maneira de fazer isso.”
Então essas coisas podem ser… sencientes? Não quero acreditar que Hinton está dando tudo de Blake Lemoine para cima de mim. E ele não é, eu acho. “Deixe-me continuar minha nova carreira como filósofo”, diz Hinton, brincando, enquanto nos aprofundamos no mato. “Vamos deixar a senciência e a consciência fora disso. EU realmente não percebem o mundo diretamente. O que eu acho que está no mundo não é o que realmente está lá. O que acontece é que vem à minha mente, e eu realmente vejo o que está na minha mente diretamente. Isso é o que Descartes pensava. E então há a questão de como essas coisas em minha mente estão conectadas ao mundo real? E como eu realmente conheço o mundo real?” Hinton continua argumentando que, como nossa própria experiência é subjetiva, não podemos descartar que as máquinas possam ter experiências próprias igualmente válidas. “Sob essa visão, é bastante razoável dizer que essas coisas já podem ter uma experiência subjetiva”, diz ele.
Agora considere as possibilidades combinadas de que as máquinas podem realmente entender o mundo, podem aprender enganos e outros maus hábitos dos humanos e que sistemas gigantes de IA podem processar zilhões de vezes mais informações do que os cérebros podem lidar. Talvez você, como Hinton, agora tenha uma visão mais abrangente dos resultados futuros da IA.
Mas não estamos necessariamente em uma jornada inevitável rumo ao desastre. Hinton sugere uma abordagem tecnológica que pode mitigar um jogo de poder da IA contra os humanos: computação analógica, assim como você encontra na biologia e como alguns engenheiros acham que os computadores do futuro deveriam operar. Foi o último projeto em que Hinton trabalhou no Google. “Funciona para as pessoas”, diz ele. Adotar uma abordagem analógica para IA seria menos perigoso porque cada instância de hardware analógico tem alguma singularidade, argumenta Hinton. Assim como acontece com nossas pequenas mentes molhadas, os sistemas analógicos não podem se fundir tão facilmente em um tipo de inteligência de colmeia da Skynet.
