Red Hat, líder mundial en soluciones de código abierto, ha anunciado la adquisición de Neural Magic, una empresa pionera en software y algoritmos diseñados para optimizar los modelos de IA generativa (GenAI) en entornos de inferencia. La experiencia de Neural Magic en ingeniería de rendimiento de inferencia y su compromiso con el código abierto se alinean con la visión de Red Hat de ofrecer soluciones de IA de alto rendimiento adaptadas a las necesidades específicas de sus clientes, en cualquier entorno de la nube híbrida.
La IA generativa sigue siendo una de las tecnologías más prometedoras, aunque requiere una infraestructura robusta y de alta capacidad para gestionar los modelos de lenguaje de gran tamaño (LLMs) que la sustentan. Estos modelos demandan un importante poder de procesamiento y recursos de energía, lo que a menudo limita su accesibilidad para muchas organizaciones. Con esta adquisición, Red Hat busca facilitar el acceso a la IA generativa mediante plataformas abiertas e innovadoras, integrando la tecnología de Neural Magic con su propia cartera de soluciones de IA en la nube híbrida.
Democratización de la IA a través de la tecnología vLLM y el código abierto
Red Hat y Neural Magic impulsarán el proyecto vLLM, una iniciativa de código abierto desarrollada en la Universidad de California, Berkeley, que permite la optimización de modelos generativos en una amplia variedad de hardware, desde GPUs AMD y NVIDIA hasta CPUs x86. La colaboración en vLLM permitirá a Red Hat brindar a las empresas un camino abierto para crear estrategias de IA que puedan implementarse en sus propios centros de datos, en la nube o en el edge.
Fundada en 2018 como un spin-off del MIT, Neural Magic se especializa en software de inferencia que mejora el rendimiento de los modelos de aprendizaje profundo. Al unirse a Red Hat, la empresa contribuirá a ampliar las capacidades de Red Hat AI, permitiendo que las empresas desplieguen modelos de lenguaje con más eficiencia y control, y facilitando el uso de la IA en entornos corporativos con altos estándares de seguridad.
Red Hat AI y Neural Magic: una plataforma completa para la IA en la nube híbrida
La integración de la tecnología de Neural Magic fortalecerá la oferta de Red Hat AI, una plataforma que incluye modelos con licencia de código abierto de hasta 405.000 millones de parámetros, adaptables a cualquier entorno de nube híbrida. Esta plataforma permite la personalización de modelos generativos, optimizando su funcionamiento y reduciendo costes operativos.
Entre las principales tecnologías que se beneficiarán de esta integración se encuentran:
- Red Hat Enterprise Linux AI (RHEL AI): una plataforma para el desarrollo y despliegue de modelos de IA sobre servidores Linux.
- Red Hat OpenShift AI: un entorno de KubernetesKubernetes (referido en inglés comúnmente como “K8s”) ... para el desarrollo, entrenamiento y monitoreo de modelos de IA en entornos distribuidos.
- InstructLab: un proyecto de código abierto en colaboración con IBM que permite a los usuarios participar en el perfeccionamiento de los modelos Granite LLM.
Un futuro de IA segura, flexible y escalable
Con esta adquisición, Red Hat refuerza su compromiso con una IA generativa abierta, segura y accesible, respaldada por una comunidad de colaboradores. La tecnología de Neural Magic no solo mejorará la eficiencia y el rendimiento de los modelos generativos, sino que también permitirá a las empresas adaptar la IA a sus necesidades, manteniendo el control de sus datos y políticas de seguridad.
Esta operación, que está sujeta a la aprobación regulatoria, marca un paso decisivo en la estrategia de Red Hat para consolidarse como líder en soluciones de IA de código abierto en la nube híbrida.
