OpenAI 墨西哥辣椒芯片详解：背后的数学和技术

OpenAI的财务前景很大程度上取决于 基础设施成本这一现实推动了新技术的开发。 定制 OpenAI 墨西哥辣椒芯片该专用集成电路 (ASIC) 由博通公司合作开发，旨在直接降低第三方硬件带来的巨额资本支出。

而英伟达目前估计拥有 75% 的利润率 OpenAI 在其高端处理器方面采用更严格的利润率，大致保持每台处理器 100% 的利润。 每产生一美元，就能获得 33 美分的利润。 考虑到其庞大的运营成本，大规模运行大型语言模型的财务负担十分沉重。

去年，为了保证 ChatGPT 服务器的响应速度，OpenAI 花费了巨额资金。 84亿美元该平台现在吸引了 每周用户数达 9 亿预计运营成本将达到约 140亿美元 今年。

在接下来的八年里，OpenAI 已投入了大约 1.4万亿美元用于计算能力对于一家目前年收入达 250 亿美元的公司来说，这是一笔巨大的赌注。

🔧 为LLM推理设计硬件

这 OpenAI 墨西哥辣椒芯片被誉为该公司首款 “智能处理器”该平台专为大型语言模型 (LLM) 推理而构建，而非通用人工智能工作负载。OpenAI 基于其特定的模型路线图和服务系统提供了核心架构设计，而 Broadcom 则负责芯片工程和高性能网络集成。

台积电 负责台湾的实体制造， Celestica 负责构建电路板和机架系统。据 OpenAI 称，早期实验室样品已经能够运行前沿工作负载，包括尚未发布的…… GPT-5.3-Codex-Spark 模型达到目标生产频率和功率。

OpenAI硬件项目负责人Richard Ho指出，该架构 最大限度减少数据传输 为了使实际利用率更接近其理论峰值性能。与从传统 AI 工作负载改造而来的通用加速器不同，这种架构专门平衡了计算、内存和网络资源，以解决交互式 LLM 服务固有的数据传输瓶颈。

为了大规模实现这一点，该平台集成了 博通的Tomahawk网络芯片 直接融入设计中，使定制处理器能够在庞大的集群数据中心环境中进行通信。

⚙️ 垂直整合飞轮

通过采用定制芯片，OpenAI 从单纯的软件层转变为…… 垂直整合基础设施公司这种全栈策略涵盖了整个流程： 芯片架构、软件内核、内存系统、网络调度以及最终应用层就像苹果公司将专有硬件与 iOS 紧密结合一样，OpenAI 现在可以根据其精确的内部模型路线图来优化其基础设施。

该集成为 连续运转飞轮基础设施效率的提升降低了训练和服务模式的成本。更经济的服务模式带来更优质、响应更迅速的产品，从而推动用户数量和收入的增长，并将这些增长再投资于下一代定制基础设施。

🚀 克服后发劣势

通过推出自己的芯片，OpenAI 进入了一个其主要竞争对手已经花费近十年时间开发专有硬件的领域。 Google 该公司于 2015 年开始部署其张量处理单元 (TPU)，目前控制着大约 全球人工智能计算能力的四分之一 在英伟达供应链之外。

亚马逊 已发货超过 其定制芯片一百万个与此同时，Meta 和微软也在继续扩展自己的基础设施。

“Jalapeño是我们长期全栈基础设施战略的一部分，旨在提高计算能力的可用性，”他说。 格雷格·布罗克曼OpenAI总裁兼联合创始人表示：“通过自主设计更多技术栈，我们可以更高效地提供更强大的智能服务。”

为了弥补时间上的差距，OpenAI加快了研发阶段。OpenAI Jalapeño芯片从一个空白设计过渡到…… 生产流片——实体生产前的最后一步——仅需 九个月工程团队利用 OpenAI 自身的语言模型来自动化和优化硬件设计流程的部分环节，从而实现了这一目标。

这会造成 独特的反馈回路 用户所使用的模型正被积极用于构建运行未来迭代版本的物理基础设施。硬件在数据中心的初始部署计划于……开始。 2026年底。

博通首席执行官 霍克坦 已确认该项目将与基础设施合作伙伴共同扩展，其中包括 微软为千兆瓦级数据中心集成做好准备。

（照片由 OpenAI）