OpenAI y Broadcom presentaron, Jalapeño, el primer Procesador de Inteligencia de OpenAI: un acelerador diseñado en torno a la visión de OpenAI para el futuro de la inferencia LLM (Modelo de Lenguaje). Además, es el primer acelerador de IA en una plataforma de computación multigeneracional que las empresas están construyendo juntas para hacer que la IA avanzada sea más rápida, fiable y accesible para más personas.
OpenAI diseñó el chip desde cero basándose en su profundo conocimiento de los fundamentos de los LLM. Informado por su hoja de ruta de modelos, kernels, sistemas de servicio y necesidades de productos, junto con los socios Broadcom y Celestica, ayudando a industrializar la plataforma mediante la implementación de chips, integración de sistemas de placas y racks, redes de alto rendimiento y sistemas de producción escalables.
Jalapeño está diseñado con flexibilidad para trabajar con todos los LLMs (Modelos de Lenguaje), guiado por la visión de OpenAI sobre las necesidades de inferencia de los modelos de IA actuales y futuros en toda la industria.
Aunque OpenAI sigue midiendo el rendimiento final, las primeras pruebas muestran que Jalapeño ofrecerá un rendimiento por vatio sustancialmente mejor que el estado actual de la tecnología. En los próximos meses se presentará un informe técnico detallado sobre el rendimiento.
La arquitectura reduce el movimiento de datos y equilibra los recursos de computación, memoria y red para lograr una utilización realizada mucho más cercana al rendimiento teórico máximo.
Mas información OpenAi.com
