OpenAI Jalapeño Chip: Explicação da Matemática e da Tecnologia por Trás Dele

A trajetória financeira da OpenAI depende fortemente de custos de infraestrutura, uma realidade que impulsionou o desenvolvimento do novo custom OpenAI Jalapeño chipDesenvolvido em colaboração com a Broadcom, o circuito integrado de aplicação específica (ASIC) representa uma tentativa direta de mitigar o elevado investimento de capital associado ao hardware de terceiros.

Embora a Nvidia atualmente detenha um valor estimado margem de lucro de 75% Em seus processadores de ponta, a OpenAI opera com margens mais apertadas, mantendo aproximadamente Lucro de 33 centavos para cada dólar gerado. levando em consideração suas enormes despesas operacionais, o ônus financeiro de executar grandes modelos de linguagem em larga escala é severo.

No ano passado, manter os servidores do ChatGPT responsivos custou à OpenAI uma quantia impressionante. US$ 8,4 bilhõesCom a plataforma agora atraindo 900 milhões de usuários semanais, que o custo operacional deverá atingir aproximadamente US$ 14 bilhões este ano.

Ao longo dos próximos oito anos, a OpenAI comprometeu-se aproximadamente US$ 1,4 trilhão para poder computacional, uma aposta enorme para uma empresa que atualmente gera US$ 25 bilhões em receita anual.

🔧 Projetando hardware para inferência LLM

O Chip de Jalapeño da OpenAI, apelidado de primeiro da empresa "Processador de Inteligência", foi desenvolvido especificamente para inferência de modelos de linguagem de grande porte (LLM, na sigla em inglês), em vez de cargas de trabalho de IA de propósito geral. A OpenAI forneceu o projeto arquitetônico principal com base em seus roteiros de modelos e sistemas de serviço específicos, enquanto a Broadcom gerenciou a engenharia de silício e a integração de redes de alto desempenho.

TSMC cuida da fabricação física em Taiwan, e Celestica tem a tarefa de construir as placas e os sistemas de racks. De acordo com a OpenAI, as primeiras amostras de laboratório já estão executando cargas de trabalho de ponta, incluindo uma ainda não lançada. Modelo GPT-5.3-Codex-Spark, na frequência e potência de produção desejadas.

Richard Ho, chefe do programa de hardware da OpenAI, observou que a arquitetura minimiza a movimentação de dados para aproximar a utilização efetiva do seu desempenho máximo teórico. Ao contrário dos aceleradores de uso geral adaptados de cargas de trabalho de IA legadas, esta arquitetura equilibra especificamente os recursos de computação, memória e rede para resolver os gargalos de movimentação de dados inerentes ao serviço interativo de LLM.

Para alcançar isso em grande escala, a plataforma integra O chip de rede Tomahawk da Broadcom diretamente no projeto, permitindo que os processadores personalizados se comuniquem em ambientes de data center massivos e agrupados.

⚙️ O Volante da Integração Vertical

Ao migrar para silício personalizado, a OpenAI deixa de ser uma mera camada de software para se tornar uma... empresa de infraestrutura verticalmente integradaEssa estratégia de pilha completa abrange todo o pipeline: arquitetura de chip, kernels de software, sistemas de memória, agendamento de rede e a camada de aplicação finalAssim como a Apple integra estreitamente seu hardware proprietário ao iOS, a OpenAI agora pode otimizar sua infraestrutura de acordo com seus próprios roteiros de modelos internos.

Essa integração alimenta um volante de operação contínuaA melhoria na eficiência da infraestrutura reduz o custo dos modelos de treinamento e de serviço. Um serviço mais acessível leva a produtos melhores e mais responsivos, o que impulsiona o volume de usuários e a receita, que são reinvestidos na próxima geração de infraestrutura personalizada.

🚀 Superando a desvantagem de quem entra por último

Ao introduzir seu próprio chip de silício, a OpenAI entra em um cenário onde seus principais concorrentes passaram quase uma década desenvolvendo hardware proprietário. Google começou a implantar suas Unidades de Processamento de Tensores (TPUs) em 2015 e agora controla aproximadamente um quarto da capacidade global de computação de IA fora da cadeia de suprimentos da Nvidia.

Amazon já foi enviado um milhão de seus chips personalizados, enquanto a Meta e a Microsoft continuam a expandir suas próprias infraestruturas.

"Jalapeño faz parte da nossa estratégia de infraestrutura completa a longo prazo para tornar a computação mais abundante", disse Greg Brockman, presidente e cofundador da OpenAI. "Ao projetarmos mais componentes da arquitetura nós mesmos, podemos oferecer mais inteligência com maior eficiência."

Para colmatar esta lacuna no cronograma, a OpenAI acelerou a fase de desenvolvimento. O chip OpenAI Jalapeño passou de um design totalmente novo para fabricação tape-out—a etapa final antes da produção física—em apenas nove mesesAs equipes de engenharia alcançaram esse cronograma utilizando os modelos de linguagem da OpenAI para automatizar e otimizar partes do processo de projeto de hardware.

Isso cria um ciclo de feedback único onde os modelos fornecidos aos usuários estão sendo ativamente utilizados para construir a infraestrutura física que executará as iterações futuras. A implantação inicial do hardware em data centers está prevista para começar em final de 2026.

CEO da Broadcom Bronzeado Hock confirmaram que a implementação será ampliada em conjunto com os parceiros de infraestrutura, incluindo Microsoft, para se preparar para a integração de data centers em escala de gigawatts.

(Foto por OpenAI)