A Nvidia já vende muitos chips de computador para todas as grandes empresas que criam modelos proprietários de inteligência artificial. Mas agora, num momento em que o interesse público no código aberto e na IA do tipo “faça você mesmo” está aumentando, a empresa anunciou que também começará a oferecer um “supercomputador pessoal de IA” ainda este ano, a partir de US$ 3.000, que qualquer pessoa pode usar em suas vidas. própria casa ou escritório.
A nova máquina desktop da Nvidia, chamada Digits, estará à venda em maio e tem o tamanho aproximado de um pequeno livro. Ele contém um “superchip” da Nvidia chamado GB10 Grace Blackwell, otimizado para acelerar os cálculos necessários para treinar e executar modelos de IA, e vem equipado com 128 gigabytes de memória unificada e até 4 terabytes de armazenamento NVMe para lidar com programas de IA especialmente grandes.
Jensen Huang, fundador e CEO da Nvidia, anunciou o novo sistema, juntamente com várias outras ofertas de IA, durante um discurso hoje na CES, uma conferência anual para a indústria de computadores realizada em Las Vegas. (Você pode conferir todos os maiores anúncios no blog ao vivo da WIRED CES.)
“Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante capacita-os a se envolver e moldar a era da IA”, disse Huang em um comunicado divulgado antes de sua palestra.
A Nvidia diz que a máquina Digits, que significa “sistema de treinamento de inteligência de GPU de aprendizado profundo”, será capaz de executar um único modelo de linguagem grande com até 200 bilhões de parâmetros, uma medida aproximada da complexidade e tamanho de um modelo. Para fazer isso hoje, você precisaria alugar espaço de um provedor de nuvem como AWS ou Microsoft, ou construir um sistema personalizado com alguns chips projetados para executar IA. Se duas máquinas Digits estiverem conectadas usando um link de interconexão proprietário de alta velocidade, a Nvidia diz que elas serão capazes de executar a versão mais capaz disponível do modelo Llama de código aberto da Meta, que possui 405 bilhões de parâmetros.
Os dígitos tornarão mais fácil para amadores e pesquisadores experimentarem modelos que se aproximam dos recursos básicos do GPT-4 da OpenAI ou do Gemini do Google em seus escritórios ou porões. Mas as melhores versões desses modelos proprietários, alojados em centros de dados gigantes de propriedade da Microsoft e do Google, são provavelmente maiores e mais poderosas do que qualquer coisa que a Digits pudesse suportar.
A Nvidia foi uma das maiores beneficiárias do boom da IA. O preço das suas ações disparou nos últimos anos, à medida que as empresas tecnológicas clamavam pela compra de grandes quantidades dos chips de hardware avançados que produz, um ingrediente crucial para o desenvolvimento de IA de ponta. A empresa provou ser adepta da otimização de hardware e software para IA, e seu roteiro de produtos tornou-se um sinal importante de onde a indústria deverá seguir.
Quando for lançado, o Digits será o hardware de computação de consumo mais poderoso que a Nvidia oferece. Ela já vende uma variedade de chipsets para desenvolvimento de IA, conhecidos como Jetson, que custam cerca de US$ 250. Eles podem executar modelos menores de IA e ser usados como um minicomputador desktop ou instalados em um robô para testar diferentes programas de IA.