O custo de progredir ainda mais na inteligência artificial está se tornando tão surpreendente quanto uma alucinação do ChatGPT. A demanda por chips gráficos conhecidos como GPUs, necessários para treinamento de IA em larga escala, impulsionou os preços dos componentes cruciais através do telhado. A OpenAI disse que o treinamento do algoritmo que agora alimenta o ChatGPT custou à empresa mais de US$ 100 milhões. A corrida para competir em IA também significa que os data centers estão consumindo recursos preocupantes quantidades de energia.
A corrida do ouro da IA fez com que algumas startups traçassem planos ousados para criar novas pás computacionais para vender. As GPUs da Nvidia são de longe o hardware mais popular para o desenvolvimento de IA, mas esses novatos argumentam que é hora de repensar radicalmente como os chips de computador são projetados.
Computação Normaluma startup fundada por veteranos do Google Brain e do moonshot lab X da Alphabet, desenvolveu um protótipo simples esse é o primeiro passo para reiniciar a computação a partir dos primeiros princípios.
Um chip de silício convencional executa cálculos manipulando bits binários – 0s e 1s – que representam informações. A unidade de processamento estocástico da Normal Computing, ou SPU, explora as propriedades termodinâmicas dos osciladores elétricos para realizar cálculos usando flutuações aleatórias que ocorrem dentro dos circuitos. Isso pode gerar amostras aleatórias úteis para cálculos ou para resolver cálculos de álgebra linear, que são onipresentes na ciência, na engenharia e no aprendizado de máquina.
Faris Sbahi, CEO da Normal Computing, explica que o hardware é altamente eficiente e adequado para lidar com cálculos estatísticos. Um dia, isso poderá torná-lo útil para a construção de algoritmos de IA que possam lidar com a incerteza, talvez abordando a tendência de grandes modelos de linguagem de “alucinar” resultados quando não têm certeza.
Sbahi diz que o sucesso recente da IA generativa é impressionante, mas está longe da forma final da tecnologia. “É bastante claro que existe algo melhor em termos de arquiteturas de software e também de hardware”, diz Sbahi. Ele e seus cofundadores trabalharam anteriormente em computação quântica e IA na Alphabet. A falta de progresso no aproveitamento dos computadores quânticos para a aprendizagem automática estimulou-os a pensar em outras formas de explorar a física para alimentar os cálculos necessários à IA.
Outra equipe de ex-pesquisadores quânticos da Alphabet partiu para fundar Extrópico, uma empresa ainda furtiva que parece ter um plano ainda mais ambicioso para usar computação termodinâmica para IA. “Estamos tentando fazer toda a computação neural totalmente integrada em um chip termodinâmico analógico”, diz Guillaume Verdon, fundador e CEO da Extropic. “Estamos pegando nossos aprendizados com software e hardware de computação quântica e trazendo-os para o paradigma termodinâmico full-stack.” (Verdon foi recentemente revelado como a pessoa por trás da popular conta de meme no X Beff Jezosassociado ao chamado movimento de aceleracionismo eficaz que promove a ideia de um progresso em direção a uma “singularidade tecnocapital”.)
A ideia de que é necessário repensar mais a computação pode estar a ganhar força à medida que a indústria se depara com a dificuldade de manter a lei de Moore, a previsão de longa data de que a densidade dos componentes nos chips continua a diminuir. “Mesmo que a lei de Moore não estivesse desacelerando, você ainda teria um enorme problema, porque os tamanhos dos modelos que a OpenAI e outros vêm lançando estão crescendo muito mais rápido do que a capacidade do chip”, diz Peter McMahon, professor da Universidade Cornell que trabalha em novas formas de computação. Em outras palavras, talvez precisemos explorar novas formas de computação para manter o trem da campanha publicitária da IA no caminho certo.
