Главные новости

Сократите бюджет токенов ИИ, не уменьшая численность команды.

2026-07-12 от AICC
Дженсен Хуанг выступает на GTC 2026, посвященном бюджетам токенов для ИИ и кадровым ресурсам в сфере разработки программного обеспечения.

Изображение предоставлено kate.sade

Дженсен Хуанг Существует тест, определяющий, стоит ли оставлять инженера на работе, и к нему прилагается символический бюджет. Говоря об этом... Подкаст All-In В конце конференции GTC 2026 генеральный директор Nvidia заявил, что если годовое потребление токенов ИИ инженером с зарплатой в 500 000 долларов составит менее половины его зарплаты, «Я буду крайне встревожен». Nvidia подтвердила, что работает над Ежегодный законопроект о жетонах на сумму 2 миллиарда долларов за его инженерный потенциал.

Он описывал компромисс, на который большинство компаний уже пошли, но без лишнего шума: деньги, которые раньше шли на оплату труда людей, теперь все чаще идут на покупку токенов. Четыре крупнейших гипермасштабных провайдера имеют с гидом грубо Совокупные капитальные затраты в 2026 году составят 700 миллиардов долларов. — почти вдвое больше, чем в прошлом году — при этом данные компании Challenger, Gray & Christmas, занимающейся трудоустройством уволенных сотрудников, подтверждают это. шоу Искусственный интеллект стал наиболее часто упоминаемой причиной сокращения рабочих мест в США. рекордный четвертый месяц подряд.

Внутренняя служебная записка Meta, полученная Рейтер описали сокращения, произведенные в мае. 8000 ролей в качестве компенсации значительных инвестиций компании — в квартале, когда выручка выросла. 33%Сокращения штата в подобных компаниях — это не меры по выживанию. Они занимаются финансированием.

📊 Когда сокращения не приводят к возврату инвестиций

Проблема в том, что финансирование не принесло обещанных результатов. (Опрос Gartner) 350 руководителей в компаниях с доходом более 1 миллиарда долларов — все они используют агентов искусственного интеллекта или автоматизацию — и обнаружили примерно следующее: 80% компаний сократили штат сотрудников, и это не привело к улучшению показателей прибыли.Вердикт аналитика Хелен Пуатевен был однозначным:

«Сокращение численности персонала может создать бюджетные возможности, но не принесет отдачи».

— Хелен Пойтевен, аналитик Gartner

Uber усвоил этот урок на собственном горьком опыте, предоставив пользователям возможность получать токены. 5000 инженеров Инструменты для программирования ИИ в декабре и исчерпать весь свой бюджет на ИИ на 2026 год к апрелюОперационный директор Эндрю Макдональд признал, что, несмотря на то, что 70% выделенного кода генерируется искусственным интеллектом, связь с тем, что замечают клиенты, отсутствует:

«Этой связи пока нет».

— Эндрю Макдональд, главный операционный директор Uber

Если сопоставить эти две неудачи, то станет ясна истинная суть проблемы. Компании рассматривали жетонную оплату как фиксированную сумму, а персонал — как гибкий, хотя на самом деле все наоборот. Сокращение заработной платы происходит один раз и влечет за собой накопленный опыт. Как оказалось, символический бюджет можно изменить в десятке мест, если кто-то удосужится его скорректировать.

🔗 Где изменяется бюджет токенов

Самое дешевое решение — наименее привлекательное: Прекратите платить за обработку одного и того же текста снова и снова.Кэширование запросов — теперь стандартная функция основных поставщиков API — снижает стоимость повторного ввода данных до определенного предела. 90% under Anthropic's and OpenAI's published pricing, because static content like system instructions and reference documents gets processed once and reread at a fraction of the rate.

✅ Пример из практики: ProjectDiscovery

Компания ProjectDiscovery, специализирующаяся на информационной безопасности, задокументировала повышение коэффициента попаданий в кэш. от 7% до 84% путем реструктуризации — сокращение общих расходов на программу магистратуры в области права на от 59 до 70% во время подачи 9,8 миллиарда токенов из кэша. Эта единственная инженерная работа позволила вернуть больше средств, чем большинство сокращений штата, инициированных с помощью ИИ.

Следующий рычаг — маршрутизация работы к модели подходящего размераВ собственных прайс-листах поставщиков указаны цены на флагманские модели. в пять раз больше, чем у их меньших собратьев, за каждый жетон.Однако во многих производственных процессах по умолчанию стандартная классификация и суммирование отправляются на самый дорогостоящий уровень. Пакетная обработка добавляет еще один важный момент. скидка 50% для всего, что не требует ответа в режиме реального времени.

Генерация с расширенными возможностями поиска решает проблему с другой стороны — отправляя модели только релевантный фрагмент базы знаний, а не всю базу целиком. Сжатие с помощью оперативного запроса удаляет избыточные примеры, которые увеличивают каждый вызов. Модели с открытыми весами еще больше снижают затраты, обрабатывая рутинные рабочие нагрузки за небольшую часть цен на API передовых технологий для команд, готовых управлять инфраструктурой.

💡 Эти меры — всего лишь эквивалент ИИ в действии. выключать свет в пустых комнатахUber Максимальная ежемесячная зарплата одного инженера — 1500 долларов. — Введенная после апрельского перерасхода средств — это раннее свидетельство того, что дисциплина в расходах в конечном итоге приходит. Компании, которые опережают график, просто выбирают ее до того, как бюджет вынудит их к этому.

👥 Вторая половина решения проблемы – человек.

Оптимизация системы жетонов имеет значение только в том случае, если сэкономленные средства используются продуктивно — а самые убедительные доказательства указывают на людей. Исследование Пуатевина показало, что организации, которые улучшили рентабельность инвестиций, — это те, которые использование ИИ для усиления своих кадровых ресурсов, а не для их замены.

Компания Klarna провела контролируемый эксперимент от имени всех участников, заменив примерно... 700 вакансий в сфере обслуживания клиентов с помощью голосового помощника на базе OpenAI — до того, как упал уровень удовлетворенности клиентов. Об этом заявил генеральный директор Себастьян Семиатковски. Блумберг То, о чём мало кто из руководителей признаётся вслух:

«В результате качество снизилось, а это нежизнеспособно».

— Себастьян Семятковски, генеральный директор Klarna

В настоящее время эта финтех-компания управляет смешанная модельИскусственный интеллект берет на себя рутинный объем работы, в то время как повторно нанятые люди занимаются всем, что требует принятия решений. Gartner ожидает распространения этой тенденции, прогнозируя, что к К 2027 году половина компаний, сокративших штат сотрудников службы поддержки клиентов для внедрения ИИ, вновь примут их на работу..

⚠ Предупреждение о неопытных кадрах

Институт человекоориентированного искусственного интеллекта Стэнфордского университета найденный трудоустройство разработчиков программного обеспечения в возрасте От 22 до 25 лет — снижение почти на 20%. по сравнению с уровнем 2024 года, даже несмотря на рост численности старших возрастных групп. Компании ликвидируют площадку для подготовки кадров. Через пять лет им понадобятся опытные инженеры для управления всеми этими системами..

Компания, которая только что разработала Скидка 60% на оплату жетона. имеет бюджетные возможности для дальнейшего найма сотрудников на самые низкие должности. Решение о том, будет ли это сделано, принимает руководство, а не руководство компании.

🎯 Итог

Провокации Хуанга из Nvidia будут продолжать звучать на конференциях по финансовым результатам, а показатели капитальных затрат будут продолжать расти. В выигрыше окажутся не те компании, которые потратили больше всего на токены или сократили больше всего сотрудников, чтобы их себе позволить.

Именно они заметили, что бюджет токенов изначально был гибкой линией — они сократили его за счет инженерных разработок, а не за счет сокращения штата, — и потратили разницу на людей, благодаря которым токены действительно чего-то стоят.

Более 300 моделей ИИ для
OpenClaw и агенты искусственного интеллекта

Сэкономьте 20% на расходах