Der OpenAI Jalapeño Chip erklärt: Die Mathematik und Technologie dahinter

Der finanzielle Erfolg von OpenAI hängt maßgeblich davon ab Infrastrukturkosten, eine Realität, die die Entwicklung des Neuen vorantrieb. Benutzerdefinierter OpenAI Jalapeño-ChipDer in Zusammenarbeit mit Broadcom entwickelte anwendungsspezifische integrierte Schaltkreis (ASIC) stellt einen direkten Versuch dar, die hohen Investitionskosten im Zusammenhang mit Hardware von Drittanbietern zu reduzieren.

Während Nvidia derzeit einen geschätzten Preis von 75% Gewinnspanne Bei seinen High-End-Prozessoren arbeitet OpenAI mit geringeren Gewinnmargen und hält etwa 33 Cent Gewinn pro erwirtschaftetem Dollar Nach Berücksichtigung der enormen Betriebskosten ist die finanzielle Belastung durch den Betrieb großer Sprachmodelle in großem Umfang beträchtlich.

Im vergangenen Jahr kostete die Aufrechterhaltung der Reaktionsfähigkeit der ChatGPT-Server OpenAI eine horrende Summe. 8,4 Milliarden US-DollarDie Plattform zieht nun an 900 Millionen wöchentliche NutzerDie Betriebskosten werden voraussichtlich etwa betragen. 14 Milliarden US-Dollar dieses Jahr.

OpenAI hat sich für die nächsten acht Jahre etwa verpflichtet 1,4 Billionen US-Dollar für RechenleistungFür ein Unternehmen, das derzeit einen Jahresumsatz von 25 Milliarden US-Dollar erwirtschaftet, ist das ein gewaltiges Wagnis.

🔧 Hardwareentwicklung für LLM-Inferenz

Der OpenAI Jalapeño Chip, das als erstes Produkt des Unternehmens bezeichnet wurde "Intelligenzprozessor"Es wurde speziell für die Inferenz großer Sprachmodelle (LLM) und nicht für allgemeine KI-Anwendungen entwickelt. OpenAI lieferte das Kernarchitekturdesign auf Basis seiner spezifischen Modell-Roadmaps und Serversysteme, während Broadcom die Siliziumentwicklung und die Integration des Hochleistungsnetzwerks übernahm.

TSMC übernimmt die physische Fertigung in Taiwan, und Celestica ist mit dem Bau der Platinen- und Racksysteme beauftragt. Laut OpenAI laufen erste Labormuster bereits mit anspruchsvollen Workloads, darunter eine noch unveröffentlichte Anwendung. GPT-5.3-Codex-Spark-Modell, bei der angestrebten Produktionsfrequenz und -leistung.

Richard Ho, Leiter des Hardwareprogramms von OpenAI, merkte an, dass die Architektur minimiert die Datenbewegung Um die tatsächliche Auslastung näher an die theoretische Spitzenleistung heranzuführen. Im Gegensatz zu universellen Beschleunigern, die von älteren KI-Workloads adaptiert wurden, optimiert diese Architektur Rechen-, Speicher- und Netzwerkressourcen gezielt, um die bei interaktiven LLM-Anwendungen auftretenden Datenbewegungsengpässe zu beheben.

Um dies in großem Umfang zu erreichen, integriert die Plattform Broadcoms Tomahawk-Netzwerksilizium direkt in das Design integriert, wodurch die kundenspezifischen Prozessoren über massive, geclusterte Rechenzentrumsumgebungen hinweg kommunizieren können.

⚙️ Das Schwungrad der vertikalen Integration

Durch den Umstieg auf kundenspezifische Siliziumchips wandelt sich OpenAI von einer bloßen Softwareschicht zu einem vertikal integriertes InfrastrukturunternehmenDiese Full-Stack-Strategie umfasst die gesamte Pipeline: Chiparchitektur, Softwarekernel, Speichersysteme, Netzwerkplanung und die letzte AnwendungsschichtÄhnlich wie Apple seine proprietäre Hardware eng mit iOS verknüpft, kann OpenAI seine Infrastruktur nun präzise auf seine internen Modell-Roadmaps abstimmen.

Diese Integration speist eine kontinuierlich arbeitendes SchwungradEine verbesserte Infrastruktureffizienz senkt die Kosten für Schulungs- und Bereitstellungsmodelle. Kostengünstigere Bereitstellung führt zu besseren, reaktionsschnelleren Produkten, was wiederum das Nutzeraufkommen und den Umsatz steigert, die in die nächste Generation kundenspezifischer Infrastruktur reinvestiert werden können.

🚀 Den Nachteil des späten Einstiegs überwinden

Mit der Einführung eigener Siliziumchips betritt OpenAI ein Terrain, auf dem die Hauptkonkurrenten fast ein Jahrzehnt lang proprietäre Hardware entwickelt haben. Google Das Unternehmen begann 2015 mit dem Einsatz seiner Tensor Processing Units (TPUs) und kontrolliert mittlerweile rund ein Viertel der globalen KI-Rechenkapazität außerhalb der Lieferkette von Nvidia.

Amazonas hat versendet über eine Million seiner kundenspezifischen ChipsWährenddessen bauen Meta und Microsoft ihre eigene Infrastruktur weiter aus.

„Jalapeño ist Teil unserer langfristigen Full-Stack-Infrastrukturstrategie, um Rechenleistung in größerem Umfang bereitzustellen“, sagte er. Greg Brockman, Präsident und Mitbegründer von OpenAI. „Indem wir mehr Komponenten des Technologie-Stacks selbst entwickeln, können wir mehr Intelligenz mit höherer Effizienz bereitstellen.“

Um diese zeitliche Lücke zu schließen, beschleunigte OpenAI die Entwicklungsphase. Der OpenAI Jalapeño-Chip entwickelte sich von einem komplett neuen Design zu einem Fertigungs-Tape-out—der letzte Schritt vor der physischen Produktion — in nur neun MonateDie Ingenieurteams erreichten diesen Zeitplan, indem sie die eigenen Sprachmodelle von OpenAI nutzten, um Teile des Hardware-Designprozesses zu automatisieren und zu optimieren.

Dadurch wird ein einzigartige Rückkopplungsschleife Die den Nutzern bereitgestellten Modelle werden aktiv genutzt, um die physische Infrastruktur aufzubauen, die zukünftige Iterationen ausführen wird. Die erste Bereitstellung der Hardware in Rechenzentren soll bis zum [Datum einfügen] beginnen. Ende 2026Die

Broadcom-CEO Hock Tan bestätigte, dass die Einführung in Zusammenarbeit mit Infrastrukturpartnern skaliert werden wird, einschließlich Microsoft, um die Integration von Rechenzentren im Gigawatt-Maßstab vorzubereiten.

(Foto von OpenAI)