DATO CLAVE: OpenAI lanza su chip de inferencia ‘Jalapeño’, superando a Nvidia en rendimiento y latencia.
Contexto
OpenAI ha presentado su primer chip especializado en inferencia de IA, llamado ‘Jalapeño’. Este chip promete optimizar la ejecución de modelos de lenguaje, logrando resultados superiores a los chips Nvidia Blackwell en diversas pruebas de rendimiento.
Jalapeño supera a Blackwell en latencia y rendimiento por vatio en varias métricas.
- Hasta 3,6 veces menos latencia en comparación con Blackwell.
- Entre 1,5 y 1,9 veces más rendimiento por vatio.
- Diseñado específicamente para la inferencia de modelos de lenguaje.
A pesar de las ventajas de Jalapeño, Nvidia sigue dominando en el entrenamiento de modelos y en el ecosistema CUDA. OpenAI busca reducir costos y dependencia de Nvidia a través de este chip, que por ahora no se venderá a otras empresas.
Fuente: Xataka
