Se tudo isso for verdade – e não há como saber agora – Groq pode muito bem representar uma ameaça ao domínio da Nvidia. Ross é cuidadoso ao discutir isso. “Vamos ser claros: eles são Golias e nós somos Davi”, diz ele. “Seria muito, muito tolo dizer que a Nvidia está preocupada conosco.” Quando questionada sobre Groq, porém, a resposta imediata da Nvidia indica que a startup está realmente no seu radar. Com uma velocidade quase semelhante à do Groq, a equipe de relações públicas do Goliath me enviou um comunicado indicando que a vantagem de IA da Nvidia não está apenas em seus chips, mas em outros serviços que ela fornece aos clientes. como software de IA, memória, rede e outras vantagens. “A computação de IA no data center é um desafio complexo que requer uma solução full-stack”, afirma, o que implica que seu concorrente não identificado pode ser desafiado pela pilha.
De qualquer forma, Ross diz que não está competindo com a Nvidia, mas oferecendo uma experiência alternativa – e não apenas em termos de velocidade. Sua missão é garantir que Groq apresente resultados justos, imaculados por pontos de vista políticos ou pressões de interesses comerciais. “A Groq nunca se envolverá com publicidade”, diz ele. “Porque isso está influenciando as pessoas. A IA deve ser sempre neutra, nunca deve dizer o que você deveria estar pensando. Groq existe para garantir que todos tenham acesso. Está ajudando você a tomar sua decisão, não as decisões dela.” Grandes sentimentos, mas mesmo o chatbot Groq, quando o questionei sobre o idealismo em estágio inicial, é cético em relação a tais afirmações. “A pressão para gerar lucros e escala pode levar até mesmo fundadores bem-intencionados a comprometer os seus ideais”, respondeu prontamente.
Outra coisa. Você deve ter ouvido falar que Elon Musk deu o nome “Grok” ao LLM criado por sua empresa de IA. Isso pegou Ross de surpresa, já que ele diz que registrou o nome de sua empresa como marca registrada quando a fundou em 2016, e acredita que abrange o termo original foneticamente idêntico. “Nós chamamos a atenção”, diz ele. “Ele não pode ter isso. Enviamos uma carta de cessação e desistência.” Até agora ele não obteve resposta de Musk.
Quando perguntei a Groq sobre a disputa de nome, ele primeiro me avisou que não fornece pareceres jurídicos. “No entanto, posso fornecer algum contexto que pode ajudá-lo a entender melhor a situação”, disse. O bot explicou que o termo groque tem sido usado na indústria há décadas, então Musk teria o direito de usá-lo. Por outro lado, se Groq registrasse o termo como marca registrada, ele poderia muito bem ter uma reivindicação exclusiva. Tudo preciso e preciso – tudo o que você esperaria de um LLM moderno. O que você não esperaria é que a resposta aparecesse em menos de um segundo.
Viagem no tempo
Em meu livro no Google, No Plexo, expliquei como a empresa e seu cofundador Larry Page priorizaram a velocidade e reconheceram que produtos mais rápidos são usados não apenas com mais frequência, mas de maneira diferente. Tornou-se uma obsessão dentro do Google.
Os engenheiros que trabalhavam para Page aprenderam com rapidez suficiente sobre a prioridade (de sua velocidade). “Quando as pessoas fazem demonstrações e são lentas, às vezes sou conhecido por contar”, diz ele. “Um mil, dois mil. Isso tende a chamar a atenção das pessoas.” Na verdade, se o seu produto pudesse ser medido em segundos, você já teria falhado. Paul Buchheit se lembra de uma vez em que estava fazendo uma demonstração inicial do Gmail no escritório de Larry. Page fez uma careta e disse que era muito lento. Buchheit objetou, mas Page reiterou sua reclamação, alegando que a recarga demorou pelo menos 600 milissegundos. (Isso são seis décimos de segundo.) Buchheit pensou: Você não pode saber disso, mas quando voltou para seu escritório verificou os logs do servidor. Seiscentos milissegundos. “Ele acertou em cheio”, diz Buchheit.
