Intel ha presentado el acelerador de IA Intel® Gaudi® 3, que ofrece una potencia de cómputo 4 veces superior para BF16, un aumento del 50% en el ancho de bandaEl ancho de banda es la capacidad máxima de transferencia d... de memoria y el doble de ancho de banda de red para un escalado masivo del sistema en comparación con su predecesor. Esto representa un salto significativo en rendimiento y productividad para el entrenamiento y la inferencia de IA en populares modelos de lenguaje grandes (LLM) y modelos multimodales. Basándose en el rendimiento y eficiencia probados del acelerador de IA Intel® Gaudi® 2 – la única alternativa en el mercado con puntuación MLPerf para LLM – Intel brinda a los clientes una opción con software de código abierto basado en la comunidad y redes Ethernet estándar para escalar sus sistemas con mayor flexibilidad.
Justin Hotard, vicepresidente ejecutivo y gerente general del Grupo de Centros de Datos e IA de Intel, afirma: «En el cambiante panorama del mercado de la IA, persiste una brecha significativa en las ofertas actuales. Los comentarios de nuestros clientes y el mercado en general subrayan el deseo de una mayor variedad de opciones. Las empresas evalúan consideraciones como disponibilidad, escalabilidad, rendimiento, costo y eficiencia energética. Intel Gaudi 3 se destaca como la alternativa de IA Generativa que presenta una convincente combinación de rendimiento por precio, escalabilidad del sistema y ventaja en tiempo de valor».
En la actualidad, las empresas de sectores críticos como finanzas, manufactura y salud buscan ampliar rápidamente el acceso a la IA y hacer la transición de proyectos de IA Generativa desde fases experimentales a implementaciones a gran escala. Para gestionar esta transición, impulsar la innovación y alcanzar objetivos de crecimiento de ingresos, las empresas requieren soluciones y productos abiertos, rentables y más eficientes energéticamente que cumplan con las necesidades de retorno de la inversión (ROI) y eficiencia operativa.
El acelerador Intel Gaudi 3 cumplirá con estos requisitos y ofrecerá versatilidad a través de software de código abierto basado en la comunidad y redes Ethernet estándar de la industria, ayudando a las empresas a escalar de manera flexible sus sistemas y aplicaciones de IA.
La arquitectura personalizada de Intel Gaudi 3, diseñada para un cómputo de IA eficiente a gran escala, está fabricada en un proceso de 5 nanómetros y ofrece avances significativos sobre su predecesor. Está diseñada para permitir la activación en paralelo de todos los motores, con el Motor de Multiplicación de Matrices (MME), los Núcleos de Procesamiento de Tensores (TPC) y las Tarjetas de Interfaz de Red (NIC), lo que posibilita la aceleración necesaria para un cómputo de aprendizaje profundo rápido y eficiente a escala.
vía: Intel
