“Caso contrário, todos os titulares ganham”, disse Conrad.
Os investidores de capital de risco têm um objetivo semelhante. Este mês, a Index Ventures fechou uma parceria com a Oracle para fornecer uma mistura de chips H100 da Nvidia e uma versão mais antiga, chamada A100, para suas empresas de portfólio muito jovens, sem nenhum custo.
Erin Price Wright, investidora da Index Ventures, disse que a empresa viu suas startups lutarem para navegar no complicado processo de obter poder de computação e cair em listas de espera que chegavam a nove meses. Duas empresas devem usar o novo programa da empresa, com outras manifestando interesse.
Antes da escassez, George Sivulka, executivo-chefe da Hebbia, fabricante de software de produtividade de IA, simplesmente pedia a seu provedor de nuvem mais “instâncias”, ou servidores virtuais cheios de GPUs, à medida que a empresa se expandia. Agora, disse ele, seus contatos nas empresas de nuvem não respondem a seus pedidos ou o adicionam a uma lista de espera de quatro meses. Ele recorreu ao uso de clientes e outras conexões para ajudar a defender seu caso para as empresas de nuvem. E ele está constantemente à procura de mais.
“É quase como falar sobre drogas: ‘Conheço um cara que tem H100’”, disse ele.
Vários meses atrás, alguns engenheiros da Hebbia instalaram um servidor com algumas GPUs menos eficientes no escritório da empresa em Manhattan, guardaram a máquina em um armário e a usaram para trabalhar em projetos menores. As unidades de resfriamento líquido impedem o superaquecimento do servidor, disse Sivulka, mas são barulhentas.
“Fechamos a porta”, disse ele. “Ninguém se senta ao lado dele.”
A escassez criou um forte contraste entre os que têm e os que não têm. Em junho, a Inflection AI, uma startup de IA de Palo Alto, Califórnia, anunciou a aquisição de 22.000 chips H100 da Nvidia. Ele também disse que levantou US$ 1,3 bilhão da Microsoft, Nvidia e outros. Mustafa Suleyman, executivo-chefe da Inflection, disse em entrevista que a empresa planejava gastar pelo menos 95% dos fundos em GPUs.
