Reduziere das Budget für KI-Token, ohne die Teamgröße zu verringern

Bild von kate.sade

Jensen Huang Es gibt einen Test, um festzustellen, ob es sich lohnt, einen Ingenieur zu behalten – und dieser ist mit einem symbolischen Budget verbunden. (Aussage zum Thema) All-In-Podcast Zum Abschluss der GTC 2026 sagte der Vorstandsvorsitzende von Nvidia, dass, wenn der jährliche Konsum von KI-Token durch einen Ingenieur mit einem Jahresgehalt von 500.000 US-Dollar weniger als die Hälfte seines Gehalts betrage, „Ich werde zutiefst beunruhigt sein.“ Nvidia, so bestätigte er, arbeitet an einem 2 Milliarden Dollar jährlicher symbolischer Rechnung für seine Ingenieursleistung.

Er beschrieb einen Kompromiss, den die meisten Unternehmen bereits ohne großes Aufsehen eingegangen sind: Geld, mit dem früher Menschen bezahlt wurden, fließt zunehmend in den Kauf von Token. Die vier größten Hyperscaler haben geführt rund 700 Milliarden US-Dollar an kombinierten Investitionsausgaben im Jahr 2026 – fast doppelt so viel wie im Vorjahr – laut Daten des Outplacement-Unternehmens Challenger, Gray & Christmas Shows KI als am häufigsten genannter Grund für Stellenabbau in den USA Rekordmonat im vierten Monat in FolgeDie

Ein internes Meta-Memo, das von Reuters beschrieb die Kürzungen im Mai 8.000 Rollen als Ausgleich für die beträchtlichen Investitionen des Unternehmens – in einem Quartal, in dem der Umsatz wuchs 33 %Die Entlassungen in solchen Unternehmen sind keine Überlebensmaßnahmen. Sie finanzieren.

📊 Wenn Kürzungen keine Rendite bringen

Das Problem ist, dass die Finanzierung nicht das gebracht hat, was sie versprochen hat. Gartner-Umfrage 350 Führungskräfte bei Unternehmen mit einem Umsatz von über 1 Milliarde Dollar – die alle KI-Agenten oder Automatisierung einsetzen – und fanden etwa 80 % hatten ihre Mitarbeiterzahl reduziert, ohne dass dies mit verbesserten Renditen in Zusammenhang stand.Die Analystin Helen Poitevin fällte ein eindeutiges Urteil:

„Personalabbau schafft zwar finanziellen Spielraum, aber keine Rendite.“

Uber lernte die Schattenseite dieser Lektion auf die teure Tour kennen und gab 5.000 Ingenieure KI-Codierungswerkzeuge im Dezember und bis April sein gesamtes KI-Budget für 2026 aufgebrauchtDer operative Geschäftsführer Andrew Macdonald räumte ein, dass trotz eines Anteils von 70 % KI-generiertem Code der Bezug zu etwas, das Kunden bemerken, fehlt:

„Diese Verbindung besteht noch nicht.“

Vergleicht man diese beiden Fehler miteinander, wird das eigentliche Problem deutlich. Die Unternehmen behandelten die symbolische Rechnung als fix und die Belegschaft als flexibel – dabei ist das Gegenteil der Fall. Personalabbau erfolgt einmalig und reißt institutionelles Wissen mit sich. Ein symbolisches Budget lässt sich hingegen an unzähligen Stellen knicken, wenn sich jemand die Mühe macht, es zu erstellen.

🔗 Wohin sich das Token-Budget verbiegt

Die billigste Lösung ist gleichzeitig die unglamouröseste: Die wiederholte Bearbeitung desselben Textes muss nicht mehr bezahlt werden.Schnelles Caching – mittlerweile Standard bei den großen API-Anbietern – reduziert die Kosten wiederholter Eingaben um bis zu 90 % under Anthropic's and OpenAI's published pricing, because static content like system instructions and reference documents gets processed once and reread at a fraction of the rate.

Der nächste Hebel ist Arbeitsabläufe dem passenden Modell zuweisenDie Preislisten der Anbieter zeigen, dass ihre Flaggschiffmodelle folgende Preise kosten: fünfmal so viel wie ihre kleineren Geschwister pro TokenDennoch senden viele Produktionsworkloads routinemäßige Klassifizierungs- und Zusammenfassungsvorgänge standardmäßig an die teuerste Verarbeitungsstufe. Die Stapelverarbeitung verursacht zusätzliche Kosten. 50 % Rabatt für alles, was keine Echtzeit-Antwort erfordert.

Die abrufbasierte Generierung geht das Problem aus einem anderen Blickwinkel an – dem Modell wird nur der relevante Ausschnitt einer Wissensbasis anstatt der gesamten Basis übermittelt. Die sofortige Komprimierung entfernt redundante Beispiele, die jeden Aufruf unnötig aufblähen. Modelle mit offener Gewichtung senken die Kosten weiter und bewältigen Routineaufgaben zu einem Bruchteil der Kosten moderner APIs für Teams, die bereit sind, die Infrastruktur zu verwalten.

💡 Diese Maßnahmen sind schlichtweg das KI-Äquivalent von das Licht in leeren Räumen ausschaltenUbers Monatliche Obergrenze von 1.500 US-Dollar pro Ingenieur Die nach den Budgetüberschreitungen im April eingeführte Maßnahme ist ein erstes Anzeichen dafür, dass Haushaltsdisziplin letztendlich doch noch Einzug hält. Die Unternehmen, die sich einen Wettbewerbsvorteil verschaffen, entscheiden sich einfach schon dafür, bevor der Haushalt sie dazu zwingt.

👥 Die andere Hälfte der Lösung ist menschlich.

Die Optimierung der symbolischen Ausgaben ist nur dann sinnvoll, wenn die Einsparungen produktiv eingesetzt werden – und die stärksten Indizien sprechen für die Mitarbeiter. Poitevins Forschung ergab, dass die Organisationen, die ihren ROI verbesserten, diejenigen waren, die… KI wird eingesetzt, um die Belegschaft zu erweitern, anstatt sie zu ersetzen.Die

Klarna führte das kontrollierte Experiment im Namen aller durch und ersetzte dabei etwa 700 Kundendienststellen mit einem OpenAI-gestützten Assistenten – bevor die Kundenzufriedenheit sank. CEO Sebastian Siemiatkowski sagte Bloomberg Was nur wenige Führungskräfte laut zugeben:

„Das Ergebnis war eine geringere Qualität, und das ist nicht tragbar.“

Das Fintech-Unternehmen betreibt nun ein gemischtes ModellKI übernimmt dabei Routineaufgaben, während wieder eingestellte Mitarbeiter alle Fälle bearbeiten, die Urteilsvermögen erfordern. Gartner geht davon aus, dass sich dieses Muster ausbreiten wird und prognostiziert, dass bis … Im Jahr 2027 wird die Hälfte der Unternehmen, die Kundendienstmitarbeiter aufgrund von KI-Problemen entlassen haben, diese wieder einstellen.Die

Ein Unternehmen, das gerade erst entwickelt hat 60 % Rabatt auf die symbolische Rechnung verfügt über den finanziellen Spielraum, um weiterhin Mitarbeiter auf der untersten Gehaltsstufe einzustellen. Ob es dazu kommt, ist eine Führungsentscheidung, keine finanzielle.

🎯 Fazit

Huangs Provokation bei Nvidia wird in den Telefonkonferenzen zu den Quartalsergebnissen weiterhin nachhallen, und die Investitionsausgaben werden weiter steigen. Die Unternehmen, die am Ende die Nase vorn haben, werden nicht diejenigen sein, die am meisten für Token ausgegeben oder die meisten Mitarbeiter entlassen haben, um sich diese leisten zu können.

Diejenigen, die bemerkten, dass das Token-Budget von Anfang an der flexible Faktor war – es wurde durch technische Maßnahmen statt durch Personalaufwand optimiert – und die Differenz wurde für die Menschen ausgegeben, die den Token überhaupt erst einen Wert verleihen.