Red Hat ha lanzado Red Hat AI 3.5, una actualización de su plataforma de inteligencia artificial orientada a llevar proyectos desde la fase piloto hasta entornos de producción con controles más propios de una infraestructura empresarial. La versión añade evaluación previa de modelos y agentes, nuevas métricas de observabilidad, capacidades de multitenencia sobre GPU compartidas y herramientas para desplegar aplicaciones RAG y agentes con más control operativo.
Las claves de Red Hat AI 3.5 en 20 segundos
- EvalHub llega con evaluación de seguridad y generación de informes auditables.
- Red Hat añade métricas de inferencia, consumo de tokens y utilización de GPU.
- La plataforma refuerza la multitenencia con aislamiento mediante OpenShift Virtualization.
- AutoRAG y las plantillas de agentes buscan acelerar proyectos empresariales con datos privados.
- Red Hat AI 3.5 ya está disponible de forma general.
La actualización refleja un cambio bastante claro en el mercado de IA empresarial. Muchas organizaciones ya han superado la fase de experimentar con modelos y ahora necesitan resolver problemas menos vistosos, pero más difíciles: quién consume cada GPU, cuánto cuesta cada carga, cómo se actualiza un modelo sin romper el servicio, qué nivel de aislamiento existe entre equipos y cómo se demuestra que un sistema ha pasado determinadas evaluaciones antes de entrar en producción.
Red Hat quiere cubrir precisamente esa capa operativa sobre OpenShift y su plataforma de IA.
EvalHub y Garak llevan la evaluación de seguridad antes del despliegue
Una de las principales novedades es EvalHub, disponible de forma general en Red Hat AI 3.5.
La herramienta está diseñada para evaluar modelos, sistemas RAG y agentes antes de su despliegue. Según Red Hat, permite automatizar pruebas de seguridad y generar informes destinados a procesos internos de cumplimiento y auditoría.
La compañía también incorpora puntuaciones de Garak, una herramienta de evaluación de vulnerabilidades y comportamiento de modelos de lenguaje, dentro de su catálogo de modelos validados.
Red Hat asegura haber añadido más de 20 nuevos modelos con pruebas de rendimiento y métricas relacionadas con seguridad, exposición de información de identificación personal y riesgo de toxicidad.
Entre los fabricantes representados aparecen Google, NVIDIA y Alibaba Cloud, con modelos como Gemma 4, Nemotron 3 y Qwen.
Conviene matizar qué significa esta validación. Una puntuación favorable en un conjunto de pruebas no convierte automáticamente un modelo en seguro para cualquier aplicación ni equivale por sí sola a cumplir una regulación concreta.
La utilidad está en disponer de evidencias reproducibles y comparables que puedan integrarse en el proceso de aprobación de una organización.
Red Hat también distingue algunos modelos como validados para tool calling, una capacidad especialmente relevante para agentes capaces de ejecutar acciones sobre sistemas externos.
| Área | Novedad en Red Hat AI 3.5 |
|---|---|
| Evaluación | EvalHub en disponibilidad general |
| Seguridad de modelos | Puntuaciones Garak y pruebas de riesgo |
| Agentes | Modelos validados para tool calling |
| Cumplimiento | Informes auditables de evaluación |
| Actualización | Despliegue controlado de nuevas versiones |
La GPU compartida se convierte en un problema de plataforma
Red Hat AI 3.5 también presta bastante atención a la gestión de GPU en entornos compartidos.
Cuando un proyecto experimental utiliza unas pocas GPU dedicadas, el reparto de recursos es relativamente sencillo. El problema cambia cuando decenas de equipos comparten aceleradores y algunas cargas necesitan baja latencia mientras otras pueden ejecutarse en segundo plano.
La nueva versión incorpora fair-share GPU scheduling, pensado para repartir recursos entre distintos inquilinos, y mecanismos de prioridad para el servicio de inferencia.
El sistema puede aplicar control de admisión y enrutamiento de peticiones según su prioridad. El objetivo es evitar que una carga secundaria ocupe toda la capacidad y afecte a una aplicación que necesita responder en tiempo real.
Red Hat añade además soporte oficial para ejecutar su plataforma de IA sobre hosted control planes de OpenShift desplegados mediante OpenShift Virtualization.
El planteamiento permite ofrecer a cada inquilino su propio plano de control mientras se consolida el hardware físico subyacente.
Las cargas de IA pueden ejecutarse dentro de máquinas virtuales sobre servidores con GPU compartidos, proporcionando un nivel adicional de aislamiento entre clientes o unidades de negocio.
No es aislamiento físico completo, pero puede ser útil para proveedores de servicios internos, nubes privadas o plataformas corporativas donde varios equipos utilizan la misma infraestructura.
Más métricas para saber quién consume tokens y GPU
La observabilidad es otra de las áreas reforzadas.
Red Hat AI 3.5 incorpora paneles para supervisar la salud de la inferencia, el rendimiento de los modelos y el nivel de utilización de las GPU.
También añade métricas de consumo de tokens por usuario.
Ese dato tiene un interés especialmente práctico para departamentos de plataforma y FinOps. Cuando la IA pasa de una prueba limitada a cientos o miles de usuarios, saber cuánto consume cada equipo puede ser necesario para repartir costes, detectar cargas anómalas o justificar ampliaciones de capacidad.
Red Hat habla de showback, no necesariamente de chargeback.
El primero consiste en mostrar a cada unidad cuánto consume aunque no se le facture internamente. El segundo implica trasladar directamente ese coste al departamento correspondiente.
La plataforma también incorpora trazado visual de agentes mediante MLflow, lo que permite seguir la ejecución de flujos con múltiples pasos, herramientas y llamadas a modelos.
La observabilidad en agentes resulta más complicada que en una API tradicional porque una única petición del usuario puede desencadenar varias llamadas, búsquedas, ejecuciones de herramientas y decisiones intermedias.
AutoRAG intenta reducir el trabajo de conectar modelos con datos empresariales
Red Hat amplía también sus herramientas para aplicaciones RAG, siglas de Retrieval-Augmented Generation.
AutoRAG busca automatizar parte del proceso de conectar repositorios internos con aplicaciones de IA.
La versión 3.5 añade soporte para documentos multilingües, pruebas conversacionales y recuperación contextual, además de compatibilidad con pgvector.
La compañía incluye una interfaz visual para diseñar y evaluar el flujo antes de llevarlo a producción.
El objetivo es reducir parte del trabajo manual necesario para decidir cómo se fragmentan documentos, cómo se generan los embeddings, qué método de recuperación se utiliza y cómo se evalúa la calidad de las respuestas.
Red Hat incorpora además AutoML y una función denominada Inference-Time Scaling, que ajusta dinámicamente el cómputo utilizado en función de la dificultad de una consulta.
La idea es evitar asignar el mismo nivel de recursos a una petición sencilla y a otra que requiere más razonamiento.
No implica necesariamente que el sistema conozca de antemano el coste óptimo de cada pregunta. Se trata de una capa de gestión que intenta adaptar el gasto de inferencia según la complejidad detectada.
Los agentes llegan con plantillas y controles de acceso
Red Hat AI 3.5 incorpora plantillas preconfiguradas para agentes orientados a tareas habituales como revisión de código, procesamiento documental e investigación.
Estas plantillas forman parte de AI Hub y proporcionan una base con frameworks, herramientas y configuraciones de despliegue.
La compañía quiere que los agentes nazcan ya dentro de los controles de seguridad y operación de la plataforma, en lugar de añadírselos después.
También llega soporte general para Responses API y RAG integrado, con una interfaz abierta para conversaciones de agentes con varios turnos.
Red Hat añade además integración con NVIDIA NeMo Guardrails para interceptar determinadas llamadas maliciosas o no permitidas a herramientas.
Esto resulta especialmente relevante cuando un agente tiene capacidad para modificar archivos, consultar bases de datos o ejecutar acciones sobre sistemas corporativos.
Un chatbot que responde mal puede generar información incorrecta. Un agente con acceso a herramientas puede además ejecutar una acción incorrecta.
La superficie de riesgo cambia.
Más opciones para descargar memoria fuera de la GPU
La gestión de memoria también recibe mejoras.
Red Hat declara disponible de forma general el CPU offloading, que permite trasladar parte de la información desde la memoria de GPU hacia la memoria principal del sistema.
El almacenamiento secundario entra además como developer preview mediante storage offloading.
Estas técnicas pueden permitir trabajar con conversaciones más largas o modelos mayores sin aumentar directamente la cantidad de HBM disponible.
El coste está en las transferencias.
Mover información entre GPU, RAM y almacenamiento es mucho más lento que mantenerla permanentemente dentro de la memoria de alta velocidad de la GPU, así que el resultado depende de cada carga de trabajo.
La función encaja con una tendencia más amplia en inferencia: tratar la memoria como una jerarquía de varios niveles en lugar de asumir que todo debe residir siempre en HBM.
llm-d amplía la inferencia distribuida fuera de OpenShift
Otra novedad es la expansión de llm-d, la tecnología de Red Hat para inferencia distribuida.
Red Hat AI 3.5 extiende su funcionamiento a servicios Kubernetes de terceros.
La compañía anuncia disponibilidad general sobre CoreWeave Kubernetes Service y Microsoft Azure, mientras Amazon EKS entra como technology preview.
Eso permite utilizar una capa de servicio de modelos más homogénea aunque la infraestructura Kubernetes no sea necesariamente OpenShift.
También aparece soporte temprano para vLLM Omni, pensado para servir texto, audio y generación de imágenes desde una capa común.
En este caso la funcionalidad todavía está en early access, así que no debe tratarse como una capacidad plenamente madura de producción.
Red Hat quiere que la IA se administre como cualquier otra infraestructura crítica
La dirección de Red Hat AI 3.5 es bastante clara.
La compañía está dedicando menos atención a competir por quién tiene el modelo más potente y más a resolver la capa que aparece alrededor del modelo cuando una organización quiere utilizarlo de forma continua.
Evaluaciones, aislamiento, uso de GPU, seguimiento de tokens, despliegues progresivos, RAG, agentes y trazabilidad forman parte de ese problema.
No todas las funciones anunciadas tienen el mismo nivel de madurez. Algunas están disponibles de forma general, mientras otras continúan como developer preview, technology preview o early access.
Esa distinción será importante para cualquier empresa que valore utilizar Red Hat AI 3.5 en producción.
La versión ya está disponible de forma general y también forma parte de Red Hat AI Factory with NVIDIA.
Más que una actualización centrada en nuevos modelos, Red Hat AI 3.5 intenta convertir la inteligencia artificial en algo que los equipos de plataforma puedan administrar con controles similares a los que ya utilizan para aplicaciones, clústeres y servicios críticos.
