La inteligencia artificial (IA) está revolucionando la productividad de los trabajadores del conocimiento en todo el mundo mediante agentes autónomos capaces de realizar tareas complejas. Sin embargo, la implementación segura y confiable de estos agentes plantea importantes desafíos relacionados con la confianza, seguridad y cumplimiento normativo. Para abordar estos retos, NVIDIA ha lanzado los microservicios NIM como parte de su colección NeMo Guardrails, diseñada para salvaguardar aplicaciones de IA generativa.
Microservicios NIM: una solución para agentes de IA más seguros
Los microservicios NIM son modelos de inferencia optimizados y portátiles que permiten a las empresas desarrollar agentes de IA más confiables y seguros. Estos servicios ayudan a prevenir respuestas inapropiadas o fuera de contexto y a proteger las aplicaciones de intentos de manipulación malintencionados, también conocidos como «jailbreak». Estos agentes ya están siendo utilizados en sectores como el financiero, el sanitario, el automotriz, la manufactura y el comercio minorista, mejorando la satisfacción y la confianza de los clientes.
Entre los nuevos microservicios lanzados por NVIDIA se incluyen:
- Moderación de contenido: Diseñado para evitar respuestas sesgadas o dañinas, garantizando alineación con estándares éticos.
- Control de temas: Mantiene las conversaciones centradas en temas aprobados, evitando desviaciones inapropiadas.
- Detección de intentos de jailbreak: Refuerza la integridad de los modelos de IA al identificar y mitigar intentos de manipulación.
Cómo funciona NeMo Guardrails
NeMo Guardrails es una plataforma dentro del ecosistema NeMo de NVIDIA que permite a los desarrolladores gestionar políticas de seguridad en aplicaciones que utilizan modelos de lenguaje de gran tamaño (LLM). Estas herramientas son esenciales para que los agentes de IA operen a gran escala mientras mantienen un comportamiento controlado y seguro.
Un aspecto clave de NeMo Guardrails es su enfoque en modelos más pequeños y especializados, lo que asegura baja latencia y una operación eficiente incluso en entornos con recursos limitados, como hospitales o almacenes. Además, la herramienta es compatible con otros sistemas de observación y control de IA, como ActiveFence, Hive, Fiddler AI y Weights & Biases, creando un marco integral para el desarrollo y la supervisión de aplicaciones de IA.
Casos de uso y adopción en la industria
Empresas líderes como Amdocs, Cerence AI y Lowe’s ya están utilizando NeMo Guardrails para garantizar la seguridad de sus aplicaciones de IA.
- Amdocs está empleando NeMo Guardrails en su plataforma amAIz, reforzando su capacidad de «IA confiable» para ofrecer interacciones más seguras y precisas con los clientes.
- Cerence AI, especializada en asistentes inteligentes para vehículos, utiliza estas herramientas para asegurar interacciones contextualmente adecuadas y evitar respuestas inapropiadas en su línea de modelos de lenguaje.
- Lowe’s está aplicando la tecnología para mejorar la experiencia de sus asociados en tiendas, facilitando respuestas seguras y confiables a las consultas de los clientes.
Estas implementaciones destacan la versatilidad de NeMo Guardrails, que también se ha integrado en soluciones de consultoras como Taskus, Tech Mahindra y Wipro para crear aplicaciones de IA generativa más controladas y confiables.
Herramientas de código abierto para probar la seguridad de la IA
NVIDIA también ha lanzado Garak, una herramienta de código abierto para evaluar la robustez de modelos LLM y sistemas de IA. Garak permite a los desarrolladores identificar vulnerabilidades como fugas de datos, inyecciones de prompts o errores de codificación. De este modo, los desarrolladores pueden fortalecer la seguridad y el rendimiento de sus aplicaciones antes de implementarlas.
Disponibilidad
Los microservicios NIM de NVIDIA, junto con NeMo Guardrails y la herramienta Garak, ya están disponibles para desarrolladores y empresas. Con esta tecnología, NVIDIA proporciona un marco robusto para que los agentes de IA no solo sean más efectivos, sino también más seguros y confiables.
NVIDIA reafirma su compromiso con la innovación en IA, al tiempo que aborda los desafíos críticos de seguridad y cumplimiento que enfrentan las empresas en su camino hacia la adopción de agentes autónomos.
vía: Nvidia
