La inteligencia artificial está obligando a redefinir uno de los pilares tradicionales de la protección de datos. Según una nueva previsión de Gartner, para 2029 la mayoría de los incidentes de privacidad ya no estarán provocados por la filtración directa de información personal, sino por las conclusiones que los sistemas de IA puedan extraer sobre las personas a partir de datos aparentemente inocuos. La consultora considera que las organizaciones deberán pasar de proteger únicamente los datos a gobernar también las inferencias generadas por sus modelos de inteligencia artificial.

Las claves del informe de Gartner en 20 segundos

• Gartner prevé que la mayoría de los incidentes de privacidad en 2029 estarán relacionados con inferencias realizadas por IA.
• Los modelos podrán deducir información sensible sin acceder directamente a datos personales identificables.
• La consultora recomienda incorporar la gobernanza de IA dentro de las estrategias de privacidad.
• Tecnologías como los datos sintéticos o la privacidad diferencial cobrarán más importancia.
• La inversión en integridad de datos crecerá hasta igualar la destinada a confidencialidad.

La advertencia refleja un cambio que comienza a preocupar tanto a responsables tecnológicos como a equipos de cumplimiento normativo. Durante años, proteger la privacidad significaba impedir el acceso no autorizado a bases de datos con nombres, direcciones, historiales médicos o información financiera. Sin embargo, los modelos actuales son capaces de reconstruir perfiles personales mediante correlaciones entre múltiples fuentes de información, incluso cuando los datos originales han sido anonimizados.

La IA puede descubrir información que nunca fue almacenada

Uno de los aspectos más interesantes del análisis de Gartner es que sitúa el foco en un problema diferente al de las filtraciones tradicionales.

Los modelos de inteligencia artificial ya no necesitan acceder directamente a un dato concreto para obtener información sensible. Combinando patrones de comportamiento, hábitos de consumo, localización, actividad digital o datos estadísticos, pueden inferir aspectos como posibles enfermedades, nivel socioeconómico, preferencias personales o comportamientos futuros.

Desde el punto de vista técnico, esto supone un cambio importante porque muchas de esas conclusiones no existen previamente en ninguna base de datos. Son generadas por el propio modelo durante el proceso de análisis.

Para Gartner, esta evolución convierte la privacidad en un desafío mucho más complejo que el simple control de acceso a la información.

La privacidad deja de ser solo un problema de protección de datos

La consultora sostiene que muchas organizaciones continúan abordando la privacidad desde una perspectiva tradicional centrada en la confidencialidad.

Reducir el volumen de datos almacenados sigue siendo una buena práctica, pero ya no basta cuando la inteligencia artificial puede reconstruir información sensible utilizando datos públicos, anonimizados o agregados.

Por ello, Gartner plantea ampliar el concepto de privacidad hacia lo que denomina gobernanza de las inferencias, es decir, controlar no solo qué datos utiliza un sistema de IA, sino también qué tipo de conclusiones puede generar y cómo se emplean posteriormente.

Este enfoque gana relevancia a medida que empresas y administraciones incorporan modelos generativos, asistentes inteligentes y agentes autónomos en procesos cada vez más críticos.

La inversión cambiará de prioridad

El informe también anticipa cambios en la forma en que las organizaciones distribuirán sus inversiones.

Según Gartner, en 2028 el gasto destinado a proteger la integridad de los datos alcanzará niveles similares al dedicado históricamente a la confidencialidad.

La razón es que los riesgos ya no estarán limitados al robo de información. También será necesario evitar perfiles erróneos, sesgos algorítmicos, decisiones automatizadas incorrectas o inferencias realizadas sin autorización.

En este contexto, la calidad, el contexto y la trazabilidad de los datos pasarán a tener un papel tan importante como su protección frente al acceso no autorizado.

Tecnologías para reducir los riesgos de inferencia

Para preparar este nuevo escenario, Gartner recomienda incorporar herramientas específicas de protección de la privacidad durante todo el ciclo de vida de los sistemas de inteligencia artificial.

Entre ellas destacan:

• Privacidad diferencial, que introduce ruido estadístico para dificultar la identificación de individuos.
• Datos sintéticos, utilizados para entrenar modelos sin exponer información real.
• Modelos de aprendizaje automático con protección de privacidad, diseñados para minimizar la posibilidad de reconstruir datos personales.

La consultora también aconseja integrar principios de privacy by design en el desarrollo de aplicaciones de IA, evaluar periódicamente posibles sesgos y mantener supervisión humana sobre aquellas decisiones que puedan afectar a derechos o libertades de las personas.

Un reto para empresas, desarrolladores y reguladores

La previsión de Gartner llega en un momento en el que la inteligencia artificial empieza a estar sometida a nuevas obligaciones regulatorias, especialmente en Europa con la entrada en vigor progresiva del AI Act y su convivencia con el Reglamento General de Protección de Datos (RGPD).

Aunque ambas normas ya contemplan aspectos relacionados con la transparencia y el tratamiento de datos personales, el crecimiento de los modelos capaces de inferir información sensible plantea nuevos desafíos técnicos y jurídicos.

El mensaje de Gartner es que la privacidad dejará de depender únicamente de los datos que una organización almacena. También dependerá de lo que sus algoritmos sean capaces de descubrir a partir de ellos, incluso cuando esa información nunca haya sido recopilada de forma explícita.

Preguntas frecuentes

¿Qué son las inferencias generadas por IA?

Son conclusiones obtenidas por un modelo de inteligencia artificial al analizar patrones y relaciones entre datos, incluso cuando esa información no aparece explícitamente en las bases de datos.

¿Por qué Gartner considera que serán un riesgo creciente?

Porque los modelos pueden deducir atributos sensibles sobre una persona sin necesidad de acceder directamente a datos personales identificables, dificultando además la detección de estos incidentes.

¿Qué tecnologías recomienda Gartner?

La consultora destaca el uso de privacidad diferencial, datos sintéticos, aprendizaje automático con protección de privacidad y una mayor gobernanza sobre los sistemas de IA.

¿Cómo cambiarán las estrategias de privacidad?

Las organizaciones deberán controlar no solo qué datos recopilan y almacenan, sino también qué inferencias generan sus algoritmos y cómo se utilizan posteriormente.

Fuente: Open Security