Home Economia Os próximos modelos Llama AI da Meta estão sendo treinados em um cluster de GPU “maior que qualquer outra coisa”

Os próximos modelos Llama AI da Meta estão sendo treinados em um cluster de GPU “maior que qualquer outra coisa”

Por Humberto Marchezini


Gerenciar uma gama tão gigantesca de chips para desenvolver o Llama 4 provavelmente apresentará desafios de engenharia únicos e exigirá grandes quantidades de energia. Os executivos da Meta evitaram na quarta-feira uma pergunta de analista sobre as restrições de acesso à energia em partes dos EUA que dificultaram os esforços das empresas para desenvolver uma IA mais poderosa.

De acordo com uma estimativaum cluster de 100.000 chips H100 exigiria 150 megawatts de energia. O maior supercomputador de laboratório nacional dos Estados Unidos, El Capitãopor outro lado, requer 30 megawatts de energia. A Meta espera gastar até US$ 40 bilhões em capital este ano para fornecer data centers e outras infraestruturas, um aumento de mais de 42% em relação a 2023. A empresa espera um crescimento ainda mais intenso nesses gastos no próximo ano.

Os custos operacionais totais da Meta cresceram cerca de 9% este ano. Mas as vendas globais – em grande parte provenientes de anúncios – aumentaram mais de 22%, deixando a empresa com margens mais gordas e lucros maiores, mesmo quando investe milhares de milhões de dólares nos esforços do Llama.

Enquanto isso, a OpenAI, considerada a atual líder no desenvolvimento de IA de ponta, está gastando dinheiro apesar de cobrar dos desenvolvedores pelo acesso aos seus modelos. O que por enquanto continua sendo um empreendimento sem fins lucrativos disse que está treinando o GPT-5, um sucessor do modelo que atualmente alimenta o ChatGPT. A OpenAI disse que o GPT-5 será maior que seu antecessor, mas não disse nada sobre o cluster de computadores que usa para treinamento. A OpenAI também disse que, além da escala, o GPT-5 incorporará outras inovações, incluindo uma abordagem de raciocínio recentemente desenvolvida.

CEOSam Altman disse que o GPT-5 será “um salto significativo” em comparação com o seu antecessor. Na semana passada, Altman respondeu a uma reportagem afirmando que o próximo modelo de fronteira da OpenAI seria lançado em dezembro escrevendo no X, “notícias falsas fora de controle”.

Na terça-feira, o CEO do Google, Sundar Pichai, disse que a mais nova versão da família Gemini de modelos generativos de IA da empresa está em desenvolvimento.

A abordagem aberta da Meta à IA revelou-se por vezes controversa. Alguns especialistas em IA temem que disponibilizar gratuitamente modelos de IA significativamente mais poderosos possa ser perigoso porque poderia ajudar os criminosos a lançar ataques cibernéticos ou automatizar o design de armas químicas ou biológicas. Embora o Llama seja ajustado antes de seu lançamento para restringir o mau comportamento, é relativamente trivial remover essas restrições.

Zuckerberg continua otimista em relação à estratégia de código aberto, mesmo enquanto o Google e a OpenAI promovem sistemas proprietários. “Parece bastante claro para mim que o código aberto será a opção mais econômica, personalizável, confiável, de desempenho e mais fácil de usar disponível para os desenvolvedores”, disse ele na quarta-feira. “E estou orgulhoso de que Llama esteja liderando isso.”

Zuckerberg acrescentou que os novos recursos do Llama 4 devem ser capazes de fornecer uma gama mais ampla de recursos nos serviços Meta. Hoje, a oferta de assinatura baseada nos modelos Llama é o chatbot do tipo ChatGPT conhecido como Meta AI, disponível no Facebook, Instagram, WhatsApp e outros aplicativos.

Mais de 500 milhões de pessoas usam Meta AI mensalmente, disse Zuckerberg. Com o tempo, a Meta espera gerar receita por meio de anúncios no recurso. “Haverá um conjunto cada vez maior de consultas para as quais as pessoas o utilizarão, e as oportunidades de monetização existirão ao longo do tempo, à medida que chegarmos lá”, disse Susan Li, CFO da Meta, na teleconferência de quarta-feira. Com o potencial de receita proveniente de anúncios, a Meta poderá conseguir subsidiar o Llama para todos os outros.



Source link

Related Articles

Deixe um comentário