Red Hat, líder global en soluciones de código abierto, ha anunciado la compra de Chatterbox Labs, empresa referente en el ámbito de la seguridad para modelos de inteligencia artificial y en el desarrollo de sistemas de protección para la IA generativa. Con esta operación, Red Hat incorpora funcionalidades clave de “seguridad aplicada a la IA” a su portfolio de Red Hat AI, fortaleciendo su objetivo de ofrecer una plataforma empresarial de IA abierta, completa y adaptada a entornos de nube híbrida.
La adquisición se produce en un contexto de intensa evolución de Red Hat AI, tras el lanzamiento de Red Hat AI Inference Server y la llegada de Red Hat AI 3. Organizaciones de múltiples sectores y regiones ya están adoptando estas soluciones para impulsar proyectos de IA generativa, predictiva y basada en agentes. En el paso de la fase experimental a la producción, las compañías se enfrentan al reto de implementar modelos que, además de avanzados, sean fiables, verificables y seguros. En este escenario, la seguridad y los mecanismos de protección se convierten en elementos esenciales de las MLOps actuales. Esta apuesta por la confianza y la protección subraya el compromiso de Red Hat e IBM con una adopción responsable de la IA en la nube híbrida. La integración de la tecnología de Chatterbox Labs permitirá ofrecer una plataforma unificada con la seguridad integrada desde el diseño, ampliando la capacidad de Red Hat para ejecutar cargas de trabajo de IA en producción con cualquier modelo, acelerador o entorno.
Abordando las repercusiones imprevistas de la IA
Fundada en 2011, Chatterbox Labs aporta tecnología y experiencia críticas en seguridad y transparencia de la IA. Su experiencia en riesgo cuantitativo de IA ha sido elogiada por grupos de expertos independientes globales y responsables políticos, y esta adquisición aporta tecnología clave de aprendizaje automático a Red Hat.
Chatterbox Labs ofrece capacidades automatizadas y personalizadas de pruebas de seguridad y protección de IA, proporcionando las métricas de riesgo objetivas que los líderes empresariales necesitan para aprobar el despliegue de la IA en producción. La tecnología ofrece un enfoque robusto y agnóstico al modelo para validar datos y modelos a través de:
- AIMI para IA generativa: Proporciona métricas cuantitativas de riesgo independientes para grandes modelos de lenguaje (LLM).
- AIMI para IA predictiva: Valida cualquier arquitectura de IA en pilares clave, incluyendo robustez, equidad y explicabilidad.
- Mecanismos de protección: Identifica y corrige prompts inseguros, tóxicos o sesgados antes de poner los modelos en producción.
Asegurando la próxima generación de cargas de trabajo de IA
Esta adquisición se alinea con la visión de Red Hat de dar soporte a diversos modelos y entornos de despliegue en la nube híbrida. También complementa las capacidades con visión de futuro introducidas en Red Hat AI 3, específicamente para la IA agéntica y el Protocolo de Contexto del Modelo (MCP). A medida que las empresas adoptan la IA agéntica, los modelos fiables y seguros se vuelven aún más críticos, dado el papel complejo y autónomo de los agentes de IA y su impacto potencial en los sistemas empresariales centrales.
Chatterbox Labs ha llevado a cabo un trabajo de investigación sobre seguridad agéntica holística, incluyendo la monitorización de las respuestas de los agentes y la detección de activadores de acciones del servidor MCP. Este trabajo se alinea con la hoja de ruta de Red Hat para el soporte de Llama Stack y MCP, posicionando a Red Hat para asegurar la próxima generación de cargas de trabajo inteligentes y automatizadas sobre una base de confianza y lista para empresas. Al combinar las capacidades de MLOps de Red Hat con las capacidades de mecanismos de protección de Chatterbox Labs, Red Hat permitirá a las organizaciones operacionalizar sus inversiones en IA con mayor confianza.
