OpenAI presenta benchmarks de Jalapeño y reivindica ventaja de eficiencia sobre Nvidia
Los primeros números públicos del chip de OpenAI con Broadcom muestran hasta 1,9 veces más trabajo por vatio que Blackwell en InferenceX. El volumen llegará solo en 2027, y Nvidia divulga resultados hoy.
OpenAI publicó este martes, 25 de agosto, los primeros resultados de benchmark del Jalapeño, chip de inferencia desarrollado en colaboración con Broadcom. Medido en InferenceX, benchmark público mantenido por SemiAnalysis, el chip entregó entre 1,5 y 1,9 veces más trabajo por vatio que los sistemas Blackwell de Nvidia, y redujo la latencia de extremo a extremo de 1,7 a 3,6 veces. En cargas conversacionales como las que genera ChatGPT, los resultados alcanzaron hasta 4,1 veces de ventaja.
El anuncio fue realizado por Sam Altman, CEO de OpenAI, y Hock Tan, CEO de Broadcom. Charlie Kawwas, presidente de soluciones en semiconductores de Broadcom, entregó físicamente la primera unidad a Altman y a Greg Brockman, presidente de OpenAI. El sistema fue diseñado por OpenAI a partir de los requisitos de sus modelos, kernels y sistemas de servicio; Broadcom y Celestica asumieron la industrialización, la integración en rack, la red de alto rendimiento y el volumen de producción.
Lo que cambia para quienes pagan la cuenta de la inferencia
Jalapeño es un chip de inferencia, no de entrenamiento. La distinción importa. El entrenamiento es un gasto concentrado en ventanas cortas, con inversiones que se amortizan a lo largo de años. La inferencia es un gasto recurrente, manejado en milisegundos, que crece cada vez que un usuario hace una pregunta a ChatGPT. Si cada consulta cuesta una fracción menor de vatios, el margen operativo del producto cambia.
Según Tan, la colaboración apunta hacia "centros de datos en escala de gigavatios con Microsoft y otros socios comenzando en 2026". OpenAI estima implementar Jalapeño en volumen pequeño hasta el final de este año, con una escala mayor en 2027. La compañía no reveló el costo unitario. Analistas independientes que replicaron las pruebas indican un ahorro significativo en el costo por consulta, aunque el número final depende del precio que OpenAI decida asignar al chip en su base contable interna.
El comentario de Altman fue corto: "Hicimos el chip, y es rápido."
Cuatro clientes de Nvidia ahora hacen sus propios chips
Google ha utilizado TPUs durante una década. Microsoft anunció el Maia 200 este año. Meta acelera el MTIA para inferencia interna. Amazon utiliza Trainium e Inferentia en AWS. Con Jalapeño, OpenAI se une a este club, y lo hace mientras sigue siendo el mayor comprador individual de GPUs H200 y Blackwell en el planeta.
La lectura corta es que Nvidia está bajo ataque. La lectura más precisa es diferente. Los cuatro hyperscalers han construido silicio propio para casos específicos, no para reemplazar totalmente a Nvidia. Google ejecuta la mayor parte de sus cargas de inferencia en TPUs, pero aún compra H100 en volumen. Microsoft utiliza Maia para cargas seleccionadas de OpenAI, pero asigna la mayor parte de su capacidad en GPUs Nvidia. El estándar que se dibuja es de mezcla, no de sustitución.
Nvidia reporta hoy
Nvidia divulga los resultados del segundo trimestre fiscal 2027 tras el cierre del mercado estadounidense este miércoles. El consenso de analistas apunta a 92 mil millones de dólares en ingresos, un aumento del 97% interanual, con el segmento de centros de datos cerca de 85,7 mil millones de dólares. Microsoft, Alphabet, Amazon y Meta gastaron juntas 166 mil millones de dólares en capex en el trimestre de junio, un aumento del 87% interanual y 27% frente al trimestre anterior. La parte de ese dinero que se convierte en ingresos para Nvidia es el número que Wall Street leerá primero.
Jalapeño llega en vísperas de esta lectura. La pregunta que los analistas deben hacer en la llamada: cuál es la porción de la inferencia de OpenAI que hoy opera en Nvidia y migrará a Jalapeño en 2027. Lo que queda en el gráfico de ingresos del fabricante de chips. Lo que sale. Y si Broadcom, hoy clasificada como "networking y silicona personalizada" en el P&L, comienza a competir directamente con Santa Clara por dólares que antes iban íntegramente allí.
Lo que la economía de la inferencia ahora revalúa
Para el CIO que asigna presupuesto de infraestructura de IA, Jalapeño reorganiza la decisión a corto plazo. No porque haya un chip disponible para compra en 2027 fuera de OpenAI. Sino porque prueba, con números públicos en benchmarks abiertos, que la hipótesis del monopolio de eficiencia de Nvidia en la inferencia no se sostiene. Proveedores de servicio, especialmente en Europa y Japón, ya discuten cómo vender inferencia en nubes soberanas con márgenes competitivos. Los centros de datos en Brasil diseñados hoy para carga de IA necesitan considerar esta opción en los próximos ciclos de renovación.
El punto operativo es que el costo por token ha caído como fenómeno estructural. No como campaña comercial.