El chip Jalapeño, co-desarrollado por OpenAI y Broadcom, se implementará a finales de 2026

es.wedoany.com Noticia: El chip de inferencia Jalapeño, desarrollado en colaboración entre OpenAI y Broadcom, está previsto que comience su implementación a pequeña escala a finales de 2026. Ho estima que en la fase inicial se desplegará "en cantidades muy reducidas", y que una implementación a mayor escala llegará en 2027. Su punto de referencia de rendimiento es el sistema Blackwell de Nvidia, pero para cuando Jalapeño esté completamente desplegado, los productos de la competencia podrían haber avanzado significativamente.

Jalapeño se dio a conocer por primera vez en octubre del año pasado, desarrollado en estrecha colaboración entre OpenAI y Broadcom, y los propios modelos de OpenAI participaron en el proceso de desarrollo. La compañía planea convertir a Jalapeño en una plataforma multigeneracional que permita el desarrollo coordinado de productos de IA, modelos, chips y memoria.

Este enfoque de pila completa permite a OpenAI optimizar las etapas específicas que generan fricción durante la inferencia. El diseño de Jalapeño se centra en minimizar la latencia en las fases de prefill y comunicación, que OpenAI señala como los cuellos de botella habituales en la inferencia.

"Diseñamos Jalapeño para minimizar el movimiento de datos y la latencia de comunicación", afirma la compañía en una publicación de blog que presenta los resultados. "Esto significa que el estado del modelo, incluida la caché KV utilizada para generar respuestas, puede colocarse explícitamente y mantenerse localizado, mientras que el sistema activa la combinación correcta de cómputo, memoria y red para cada fase de inferencia".