Thales ha ampliado su colaboración con Google Cloud para reforzar la seguridad de los flujos de trabajo basados en inteligencia artificial (IA) agéntica. La integración de Thales AI Security Fabric con Google Cloud Gemini Enterprise busca ofrecer más visibilidad y control sobre las comunicaciones entre usuarios, agentes de IA, modelos, datos corporativos y herramientas, con políticas de seguridad aplicadas en tiempo real.

Las claves de la seguridad de la IA agéntica en 20 segundos

• Thales integra su plataforma AI Security Fabric con Google Cloud Gemini Enterprise.
• La solución busca controlar qué datos pueden consultar los agentes, qué información comparten y qué acciones pueden ejecutar.
• Entre los riesgos contemplados figuran la inyección de instrucciones maliciosas, las filtraciones de datos y las acciones no autorizadas.
• La colaboración pretende facilitar el despliegue empresarial de agentes autónomos con controles de seguridad, visibilidad y gobernanza.

La iniciativa responde a un cambio en la forma en que las empresas utilizan la IA. Los asistentes tradicionales suelen limitarse a responder consultas o generar contenido, mientras que los agentes pueden tomar decisiones y actuar sobre sistemas corporativos. Esa capacidad amplía las posibilidades de automatización, pero también obliga a revisar los permisos, los datos disponibles y los límites de actuación de cada sistema.

Thales sitúa la seguridad en las interacciones que se producen durante esos procesos. En lugar de centrarse únicamente en proteger una aplicación o un modelo, AI Security Fabric pretende supervisar las relaciones entre los distintos componentes que participan en un flujo de trabajo automatizado.

Qué riesgos pretende controlar Thales AI Security Fabric

La integración está diseñada para ayudar a las empresas a gestionar amenazas específicas de los sistemas agénticos. Thales identifica varios riesgos: la inyección de instrucciones maliciosas (prompt injection), la exposición de información sensible, las respuestas inseguras y las acciones que un agente ejecuta sin autorización. También contempla la complejidad de las comunicaciones entre distintos agentes.

Estos problemas pueden aparecer cuando un agente recibe acceso a datos empresariales o herramientas con capacidad para modificar información y ejecutar operaciones. Si sus permisos no están bien delimitados, podría utilizar información fuera del ámbito previsto o realizar acciones que no se ajusten a las políticas de la organización.

El ejemplo planteado por Thales es el de una aseguradora que utiliza agentes para tramitar siniestros. Un agente encargado de gestionar reclamaciones podría recurrir a información personal procedente de fuentes no aprobadas para influir en el importe de una indemnización. Ese comportamiento generaría riesgos relacionados con la privacidad y el cumplimiento normativo.

AI Security Fabric busca establecer controles alrededor de los agentes para limitar el acceso a los datos autorizados y bloquear acciones inadecuadas en tiempo real. La finalidad es que los sistemas puedan completar tareas legítimas sin sobrepasar los límites definidos por la empresa.

La compañía también destaca la detección de amenazas específicas de la IA y la supervisión del comportamiento de los agentes. La información disponible no detalla qué modelos de detección utiliza, qué métricas ofrece ni qué resultados ha obtenido en pruebas independientes. Por tanto, el anuncio describe las capacidades previstas para la integración, pero no aporta cifras que permitan medir su eficacia frente a ataques concretos.

Visibilidad y gobernanza para desplegar agentes en la empresa

La colaboración con Google Cloud pretende cubrir distintas fases del ciclo de vida de los sistemas de IA. Según Thales, AI Security Fabric permite descubrir y evaluar riesgos relacionados con la IA, proteger información sensible, ayudar a prevenir acciones no autorizadas y comprobar que la actividad de los sistemas se ajusta a las políticas corporativas y a la intención del usuario.

La plataforma incorpora también funciones de gobernanza centralizada y apoyo al cumplimiento. Estas capacidades buscan dar a los responsables de seguridad y a las áreas de negocio una visión más amplia de cómo se utilizan los agentes y de qué límites deben respetar.

La visibilidad adquiere especial importancia cuando varios agentes interactúan entre sí o utilizan herramientas diferentes para completar una tarea. En esos escenarios, controlar únicamente la solicitud inicial puede no ser suficiente para entender todas las operaciones que se producen durante el proceso. La propuesta de Thales consiste en aplicar controles a las interacciones entre usuarios, agentes, modelos y herramientas.

Sin embargo, el anuncio no especifica qué registros estarán disponibles, cómo se integrarán las políticas con cada aplicación corporativa ni qué opciones de configuración tendrán los administradores. Tampoco concreta los mecanismos técnicos empleados para bloquear cada tipo de acción. Esos detalles serán necesarios para valorar cómo encaja la solución en entornos con requisitos específicos de seguridad y cumplimiento.

Para Google Cloud, la colaboración se enmarca en el objetivo de facilitar el paso de las pruebas experimentales a la implantación de agentes en los procesos empresariales. Vineet Bhan, director de alianzas de seguridad e identidad de Google Cloud, señaló que las organizaciones necesitan incorporar seguridad y gobernanza a la forma en que operan estos sistemas, especialmente cuando acceden a información y aplicaciones críticas.

Eva Rudin, vicepresidenta sénior de productos de ciberseguridad de Thales, defendió igualmente que el despliegue de agentes capaces de actuar de forma autónoma exige un enfoque de seguridad adaptado a sus capacidades.

La ampliación de la colaboración sitúa así la protección de los agentes en el centro de la adopción empresarial de la IA. El anuncio, no obstante, no incluye información sobre precios, fechas de disponibilidad, requisitos de licencia o diferencias entre las modalidades de despliegue. Tampoco identifica sectores concretos en los que la integración esté ya operativa.

Preguntas frecuentes

¿Qué es Thales AI Security Fabric?

Es una plataforma de seguridad para sistemas de inteligencia artificial que busca proporcionar visibilidad y control sobre el acceso a datos, las interacciones entre agentes y las acciones que ejecutan.

¿Con qué servicio de Google Cloud se integra?

La colaboración anunciada contempla la integración de Thales AI Security Fabric con Google Cloud Gemini Enterprise para aplicar controles de seguridad y gobernanza a los flujos de trabajo con IA.

¿Qué amenazas pretende reducir?

La solución está diseñada para ayudar a controlar riesgos como la inyección de instrucciones maliciosas, las filtraciones de información sensible, las respuestas inseguras y las acciones no autorizadas.

¿Cómo ayuda a proteger los agentes autónomos?

Busca establecer políticas sobre sus interacciones, limitar el acceso a información y herramientas, detectar amenazas y ofrecer visibilidad sobre el comportamiento de los agentes.