La advertencia de António Guterres sobre la inteligencia artificial no llega por sorpresa, pero sí marca un cambio de tono. La ONU ya no habla de la IA como una tecnología prometedora que conviene acompañar con principios éticos. Habla de una infraestructura capaz de alterar economías, empleo, elecciones, seguridad y distribución de poder. Y lo hace con una urgencia muy clara: la IA avanza más rápido que las normas que deberían encauzarla.

El secretario general de Naciones Unidas abrió el primer Diálogo Global sobre Gobernanza de la IA con una frase que resume bien el momento: la inteligencia artificial está avanzando a una velocidad desbocada. Según Guterres, se está desplegando más rápido de lo que pueden seguir incluso quienes la construyen, y por eso reclama reglas globales, salvaguardas y cooperación internacional.

El encuentro, celebrado en Ginebra los días 06/07/2026 y 07/07/2026, nace con una ambición difícil: sentar las bases de una conversación internacional sobre IA que no esté dominada solo por las empresas líderes ni por los países con más capacidad de cómputo. La propia ONU prevé una segunda sesión en Nueva York en mayo de 2027, lo que muestra que el proceso acaba de empezar y no desembocará de inmediato en un tratado vinculante.

El problema ya no es solo técnico

Durante años, buena parte del debate sobre IA se centró en sesgos, privacidad, derechos de autor, empleo y automatización. Todo eso sigue encima de la mesa, pero la conversación se ha desplazado hacia algo más profundo: quién controla los sistemas capaces de razonar, generar código, producir contenido, operar herramientas y actuar con cierto grado de autonomía.

El informe preliminar del Panel Científico Internacional Independiente sobre IA, formado por expertos de distintas regiones, advierte de que las salvaguardas actuales no pueden seguir el ritmo del crecimiento de las capacidades de estos sistemas. La ONU lo presenta como la primera evaluación científica global e independiente sobre oportunidades, riesgos e impactos de la IA.

La inquietud técnica se entiende mejor si se mira la evolución de los modelos. En muy poco tiempo han pasado de responder preguntas a escribir software, analizar documentos extensos, crear vídeo, navegar por interfaces, conectarse a APIs y formar parte de agentes que ejecutan tareas encadenadas. El riesgo ya no está solo en una respuesta errónea de un chatbot, sino en sistemas que pueden tomar decisiones, manipular información o actuar dentro de procesos críticos.

Reuters resumió la advertencia del panel de la ONU en varios frentes: desinformación, ciberataques, amenazas biológicas, comportamientos engañosos, pérdida de control humano y sistemas agentic capaces de realizar tareas complejas con cada vez más autonomía. No todos esos riesgos tienen la misma probabilidad ni el mismo horizonte temporal, pero comparten una característica: escalan más rápido cuando los modelos se conectan a herramientas reales.

Los niños, el límite que nadie quiere discutir tarde

Guterres ha puesto especial énfasis en la protección de menores. La ONU plantea que las empresas demuestren que sus productos son seguros para niños antes de desplegarlos, que exista tolerancia cero frente al abuso sexual infantil generado o facilitado por IA, y que se estudien límites de edad o controles equivalentes a los que ya se aplican en otros productos sensibles.

Este punto será uno de los menos discutibles desde el punto de vista político. Un sistema capaz de generar imágenes, simular vínculos emocionales, recomendar contenido o mantener conversaciones prolongadas con menores necesita reglas claras. No basta con incluir una advertencia en los términos de uso ni con delegar toda la responsabilidad en las familias.

Para un medio tecnológico, la pregunta importante está en la implementación. ¿Cómo se verifica la edad sin crear más problemas de privacidad? ¿Cómo se audita un modelo que cambia de comportamiento con cada actualización? ¿Qué se hace con modelos abiertos o desplegados fuera de las grandes plataformas? ¿Cómo se impide la generación de material ilegal cuando existen pesos descargables, modelos ajustados y servicios alojados en jurisdicciones distintas?

La seguridad infantil es una prioridad legítima, pero también será una prueba para toda la arquitectura regulatoria. Si la solución acaba siendo solo más verificación de identidad, más concentración en plataformas grandes y más restricciones para proyectos pequeños, el resultado puede reforzar a quienes ya dominan el mercado.

Regular también es intentar no perder el control

Hay una capa menos cómoda en este debate. La ONU, los gobiernos y los reguladores no solo están preocupados por los riesgos de la IA. También están intentando entender qué papel les queda si la infraestructura cognitiva del futuro queda en manos de unas pocas compañías, unos pocos países y una comunidad open source cada vez más capaz.

La concentración de cómputo lo explica bien. Guterres señaló que Estados Unidos concentra alrededor del 75 % de la supercomputación avanzada para IA, frente a un 15 % de China. Esa diferencia deja al resto del mundo en una posición secundaria para entrenar, desplegar y gobernar modelos propios.

Por eso la gobernanza de la IA no es solo una cuestión de seguridad. Es una cuestión de soberanía. Un país que depende de modelos externos, nubes externas, chips externos y plataformas externas puede usar IA, pero tendrá menos capacidad para decidir cómo se adapta esa IA a su idioma, sus leyes, sus servicios públicos, su sistema educativo o sus necesidades industriales.

Ahí encaja la intuición incómoda: ahora quienes mandan se preocupan por la IA porque no saben con claridad cómo quedará su propio papel. No necesariamente porque quieran frenar el progreso por capricho, sino porque la IA puede reordenar el poder antes de que las instituciones aprendan a gobernarla.

La historia se repite con otras tecnologías de propósito general. Internet también se desplegó antes de que muchos gobiernos entendieran su impacto en información, comercio, privacidad o propaganda. Las redes sociales fueron tratadas durante años como simples plataformas de comunicación hasta que se convirtieron en infraestructuras de influencia política. Con la IA, el margen de reacción puede ser menor porque su capacidad de automatización es mucho mayor.

El riesgo de una regulación que proteja al grande

La ONU pide reglas globales, pero regular la IA no será tan sencillo como aprobar un listado de prohibiciones. Los sistemas son distintos, los usos son muy variados y las arquitecturas cambian rápido. No es lo mismo un modelo cerrado de frontera usado en un banco que un pequeño modelo local para atención interna, una herramienta educativa, un agente de programación o un sistema militar.

El gran riesgo es que la regulación termine creando una barrera de entrada. Auditorías, evaluaciones, red teaming, documentación, trazabilidad, controles de edad, gestión de incidentes y reportes regulatorios pueden ser necesarios en sistemas de alto impacto, pero también cuestan dinero. Las grandes plataformas pueden absorber esos costes. Las startups, laboratorios, universidades y proyectos abiertos lo tendrán más difícil.

Si se regula mal, la IA puede quedar más concentrada. Y si queda más concentrada, los mismos actores que hoy preocupan a la ONU tendrán todavía más poder.

La alternativa no es dejarlo todo sin normas. Sería ingenuo pensar que una tecnología capaz de generar desinformación, automatizar ataques o mediar decisiones sensibles puede crecer sin límites. La alternativa es regular por riesgo, exigir más donde el impacto sea mayor, proteger a menores y ciudadanos, pero no convertir cualquier experimento de IA en una carrera burocrática imposible.

La IA no va a esperar

La ONU acierta al intentar abrir una mesa global. Ningún país puede resolver solo los riesgos de una tecnología que cruza fronteras por diseño. También acierta al recordar que la gobernanza debe incluir a países que hoy no tienen capacidad de entrenamiento ni infraestructuras propias, porque si no la IA será otra capa de dependencia tecnológica.

Pero hay una realidad difícil de esquivar: la IA no va a esperar a que el sistema multilateral encuentre consenso. Los modelos abiertos siguen avanzando, los agentes empiezan a integrarse en flujos reales, las empresas buscan automatizar más procesos y la presión geopolítica empuja a Estados Unidos, China, Europa y otros bloques a moverse rápido.

Las normas pueden reducir daños, exigir responsabilidades y definir límites. Lo que no podrán hacer es congelar el cambio. La IA ya está alterando el software, la educación, la producción de contenidos, la ciberseguridad, la investigación científica y la forma en la que las empresas organizan tareas.

Por eso el debate real no es “regular o no regular”. Es quién regula, con qué legitimidad, con qué capacidad técnica y a quién beneficia el resultado. La ONU quiere que la IA no se descontrole. Los gobiernos quieren no quedarse fuera. Las empresas quieren seguir corriendo. Y los usuarios ya están incorporando estas herramientas antes de que el marco jurídico llegue a tiempo.

La tecnología avanza, pero la política intenta recuperar el volante. La cuestión es si lo conseguirá sin pisar demasiado el freno.

Preguntas frecuentes

¿Qué ha dicho António Guterres sobre la IA?
Ha advertido de que la inteligencia artificial avanza más rápido que las normas y ha pedido reglas globales para gestionar riesgos, proteger a menores y evitar una concentración excesiva de poder tecnológico.

¿Qué es el Diálogo Global sobre Gobernanza de la IA?
Es una iniciativa de Naciones Unidas para reunir a gobiernos, empresas, academia y sociedad civil en torno a la gobernanza internacional de la inteligencia artificial. La primera sesión se celebró en Ginebra en julio de 2026.

¿Por qué preocupa la IA a la ONU?
Por su impacto potencial en empleo, elecciones, desinformación, ciberseguridad, menores, derechos humanos, seguridad internacional y desigualdad entre países con y sin capacidad de cómputo.

¿Regular la IA puede favorecer a las grandes tecnológicas?
Sí, si las obligaciones se diseñan de forma demasiado pesada o uniforme. Las grandes empresas pueden asumir costes de cumplimiento que serían difíciles para startups, universidades o proyectos open source.