Cato Networks ha anunciado el 17 de noviembre AgentSense, una función desarrollada por Cato AI Labs que evalúa de forma continua a los agentes de inteligencia artificial mientras trabajan y detiene acciones inseguras antes de que se ejecuten. Su primer componente detecta cuándo contenido no fiable empuja a un agente a hacer algo peligroso, el patrón típico de la inyección indirecta de instrucciones. La compañía la incluye sin coste adicional para los clientes con licencias Cato AI Usage.
Las claves de Cato AgentSense en 20 segundos
- AgentSense supervisa en tiempo de ejecución las decisiones, acciones y resultados de los agentes de IA.
- Untrusted Influence Detection bloquea acciones inducidas por contenido no fiable.
- Drift Detection, para detectar desviaciones de la tarea original, llegará más adelante.
- Cato ofrece 10.000 dólares a los tres primeros investigadores que logren burlarlo.

El problema: agentes que obedecen a quien no deben
Los agentes de IA leen correos, documentos y páginas web, y actúan en consecuencia. Eso los expone a la inyección indirecta de instrucciones: un atacante esconde órdenes en un contenido que el agente procesa y consigue que ejecute acciones no previstas. Las defensas basadas en patrones conocidos se quedan cortas porque cada ataque puede formularse de una manera distinta. AgentSense intenta resolverlo con Untrusted Influence Detection, que sigue cómo las instrucciones y los datos influyen en el comportamiento del agente y bloquea la acción cuando un contenido no fiable parece empujarlo hacia algo inseguro, aunque no coincida con ningún patrón conocido.
El segundo componente, Drift Detection, está anunciado como capacidad futura. Servirá para señalar cuándo las acciones de un agente se alejan de la tarea o la intención original, incluso si cada paso por separado está permitido. Grace Trinidad, directora de investigación de seguridad y confianza en IA de IDC, apunta precisamente a ese riesgo: acciones autorizadas por separado que, combinadas, producen un resultado no autorizado.
Dentro de la plataforma SASE de Cato
AgentSense se integra en la plataforma de Cato, que la empresa define como una nube convergente de red y seguridad, y figura en su web dentro del apartado de seguridad para IA. Cato la describe como patentada, aunque no ha facilitado el número de patente. Para respaldar la necesidad, cita datos de Gartner e IDC según los cuales el 71 % de las organizaciones espera desplegar IA agentiva en 12 meses pero solo el 21 % tiene capacidades de gobierno para ella, y previsiones que atribuyen al abuso de agentes sin gobierno el 25 % de las brechas empresariales en 2028.
Shlomo Kramer, consejero delegado y cofundador de Cato, compara el control del comportamiento de los agentes con los controles financieros de una empresa. Para poner a prueba su sistema, la compañía ha lanzado el AgentSense Challenge, en el que invita a investigadores a atacar un flujo de agentes protegido y pagará 10.000 dólares a cada uno de los tres primeros que lo consigan.
Preguntas frecuentes
¿Qué es Cato AgentSense?
Una función de Cato Networks que evalúa en tiempo real a los agentes de IA y bloquea acciones inseguras antes de que se ejecuten.
¿Protege contra la inyección de instrucciones?
Sí, su componente Untrusted Influence Detection está pensado para la inyección indirecta, incluidos ataques que no coinciden con patrones conocidos.
¿Cuánto cuesta?
Está incluido sin coste adicional para los clientes con licencias Cato AI Usage.
Fuentes: