Noticias destacadas

Reduzca el presupuesto para tokens de IA sin reducir el tamaño de su equipo.

12/07/2026 por AICC
Jensen Huang intervino en GTC 2026 para hablar sobre los presupuestos de tokens de IA y la fuerza laboral de ingeniería.

Imagen de Kate Sade

Jensen Huang tiene una prueba para determinar si vale la pena retener a un ingeniero, y viene con un presupuesto simbólico adjunto. Hablando sobre el Podcast All-In Al cierre de GTC 2026, el director ejecutivo de Nvidia dijo que si el consumo anual de tokens de IA de un ingeniero de $500,000 era inferior a la mitad de su salario, "Voy a estar profundamente alarmado." Nvidia, confirmó, está trabajando para lograr un factura simbólica anual de 2 mil millones de dólares por su fuerza de ingeniería.

Estaba describiendo una compensación que la mayoría de las empresas ya han hecho con menos fanfarria: el dinero que antes pagaba a las personas ahora paga cada vez más por tokens. Los cuatro hiperescaladores más grandes tienen guiado apenas 700 mil millones de dólares en gastos de capital combinados para 2026 — casi el doble que el año pasado — mientras que los datos de la firma de recolocación Challenger, Gray & Christmas programas La IA como la razón más citada para los recortes de empleo en EE. UU. cuarto mes consecutivo récord.

Un memorándum interno de Meta obtenido por Reuters describió los recortes de mayo de 8.000 puestos como contrarrestando las importantes inversiones de la empresa, en un trimestre en el que los ingresos crecieron 33%Los despidos en empresas como estas no son medidas de supervivencia. Ellos están financiando.

📊 Cuando los recortes no generan beneficios

El problema es que la financiación no ha cumplido lo prometido. Gartner encuestó 350 ejecutivos en empresas con más de mil millones de dólares en ingresos, todas implementando agentes de IA o automatización, y encontraron aproximadamente El 80% había reducido su plantilla sin correlación con una mejora en los resultados.El veredicto de la analista Helen Poitevin fue tajante:

“La reducción de plantilla puede generar margen presupuestario, pero no genera beneficios.”

— Helen Poitevin, analista de Gartner

Uber aprendió la parte simbólica de esa lección de la manera más costosa, dando 5.000 ingenieros Herramientas de codificación de IA en diciembre y agotando todo su presupuesto de IA para 2026 en abril.El director de operaciones, Andrew Macdonald, admitió que, a pesar de que el 70% del código implementado se genera mediante IA, falta la conexión con cualquier cosa que los clientes perciban:

“Ese enlace aún no existe.”

— Andrew Macdonald, director de operaciones de Uber

Si se comparan esos dos fallos, el problema real queda en primer plano. Las empresas consideraban el presupuesto para los billetes como fijo y la plantilla como flexible, cuando en realidad ocurre lo contrario. Los recortes salariales ocurren una sola vez y se llevan consigo el conocimiento institucional. Resulta que un presupuesto simbólico se puede modificar en media docena de puntos si alguien se molesta en diseñarlo.

🔗 Donde el presupuesto de tokens se dobla

La solución más barata es también la menos glamurosa: Deje de pagar para procesar el mismo texto repetidamente.El almacenamiento en caché de solicitudes, ahora estándar en los principales proveedores de API, reduce el costo de la entrada repetida hasta en un 10 %. 90% under Anthropic's and OpenAI's published pricing, because static content like system instructions and reference documents gets processed once and reread at a fraction of the rate.

✅ Caso práctico: ProyectoDiscovery

La empresa de seguridad ProjectDiscovery documentó el aumento de su tasa de aciertos de caché. Del 7% al 84% mediante la reestructuración de las directrices: reduciendo su gasto total en LLM en 59 a 70% mientras prestaba servicio 9.800 millones de tokens Desde la caché. Ese único ejercicio de ingeniería recuperó más presupuesto del que ahorran la mayoría de las rondas de despidos atribuidas a la IA.

La siguiente palanca es enrutar el trabajo al modelo del tamaño adecuadoLas listas de precios de los propios proveedores muestran que los modelos insignia cuestan cinco veces sus hermanos menores por fichaSin embargo, muchas cargas de trabajo de producción envían la clasificación y el resumen rutinarios al nivel más caro por defecto. El procesamiento por lotes añade un coste adicional. 50% de descuento Para cualquier cosa que no necesite una respuesta en tiempo real.

La generación con recuperación mejorada aborda el problema desde otro ángulo: envía al modelo solo la parte relevante de la base de conocimiento en lugar de la base completa. La compresión de solicitudes elimina los ejemplos redundantes que aumentan el tamaño de cada llamada. Los modelos de peso abierto reducen aún más los costos, gestionando cargas de trabajo rutinarias a una fracción del precio de las API de vanguardia para equipos dispuestos a administrar la infraestructura.

💡 Estas medidas son simplemente el equivalente en IA de apagar las luces en habitaciones vacíasUber Límite mensual de 1500 dólares por ingeniero. —Impuesta tras el sobrecoste de abril— es una prueba temprana de que la disciplina en el gasto acaba llegando. Las empresas que van por buen camino simplemente la eligen antes de que el presupuesto las obligue.

👥 La otra mitad de la solución es humana.

Optimizar la factura de tokens solo importa si los ahorros se destinan a algo productivo, y la evidencia más sólida apunta a las personas. La investigación de Poitevin descubrió que las organizaciones que mejoraron el ROI fueron aquellas utilizar la IA para potenciar su fuerza laboral en lugar de reemplazarla..

Klarna llevó a cabo el experimento controlado en nombre de todos, reemplazando aproximadamente 700 puestos de atención al cliente con un asistente impulsado por OpenAI, antes de que la satisfacción del cliente disminuyera. El director ejecutivo Sebastian Siemiatkowski dijo Bloomberg Lo que pocos ejecutivos admiten en voz alta:

“El resultado fue una menor calidad, y eso no es sostenible.”

— Sebastian Siemiatkowski, director ejecutivo de Klarna

La empresa fintech ahora gestiona una modelo combinado, con la IA absorbiendo el volumen rutinario mientras que los humanos recontratados se encargan de todo lo que requiere criterio. Gartner espera que el patrón se extienda, prediciendo que para En 2027, la mitad de las empresas que recortaron personal de atención al cliente por culpa de la IA los volverán a contratar..

⚠ Una advertencia sobre el talento juvenil

Instituto de IA centrada en el ser humano de la Universidad de Stanford encontró empleo para desarrolladores de software de edad De 22 a 25 años, la cifra cayó casi un 20%. desde los niveles de 2024, incluso a medida que crecían las cohortes más antiguas. Las empresas están eliminando el campo de entrenamiento para el En cinco años necesitarán ingenieros sénior para dirigir todos estos sistemas..

Un negocio que acaba de diseñar 60% de descuento en su factura de tokens tiene el presupuesto suficiente para seguir contratando personal en los puestos de menor categoría. Que así sea o no, es una decisión de liderazgo, no financiera.

🎯 El resultado final

La provocación de Huang, de Nvidia, seguirá resonando en las teleconferencias sobre resultados, y las cifras de inversión de capital continuarán aumentando. Las empresas que salgan beneficiadas no serán las que más invirtieron en tokens ni las que más personal despidieron para financiarlos.

Serán ellos quienes se dieron cuenta de que el presupuesto para tokens era la línea flexible desde el principio, lo ajustaron con ingeniería en lugar de con personal, y gastaron la diferencia en las personas que hacen que los tokens tengan algún valor.

Más de 300 modelos de IA para
OpenClaw y agentes de IA

Ahorre un 20% en costos