OpenAI ha publicado un nuevo informe sobre las amenazas emergentes relacionadas con el uso indebido de sus modelos de inteligencia artificial. La compañía detalla cómo actores estatales y ciberdelincuentes han intentado aprovechar sus herramientas para campañas de desinformación, fraudes financieros y ataques cibernéticos.

Desinformación: la IA como arma en la manipulación global

Uno de los principales hallazgos del informe es la creciente utilización de IA en campañas de influencia política y desinformación en redes sociales. OpenAI detectó actores vinculados a China e Irán que utilizaron su tecnología para generar artículos, comentarios en redes y mensajes propagandísticos con narrativas diseñadas para influir en la opinión pública.

En un caso concreto, se descubrió que cuentas automatizadas utilizaban ChatGPT para redactar artículos en español criticando la política exterior de Estados Unidos, los cuales fueron publicados en medios digitales de América Latina. También se identificaron intentos de traducir y adaptar propaganda en múltiples idiomas para maximizar su impacto global.

OpenAI asegura que ha tomado medidas para bloquear y desmantelar estos esfuerzos, además de compartir sus hallazgos con plataformas como Meta y X (Twitter) para fortalecer la detección de contenidos generados artificialmente.

Fraudes digitales y estafas laborales con IA

Otro de los usos maliciosos identificados en el informe involucra esquemas de contratación fraudulenta y estafas amorosas.

Grupos vinculados a Corea del Norte han utilizado IA para generar respuestas automatizadas en entrevistas de trabajo falsas, con el objetivo de infiltrar operativos en empresas tecnológicas occidentales. Este tipo de ataques busca obtener acceso a información sensible o generar ingresos para financiar actividades ilícitas del régimen norcoreano.

En otra operación detectada en Southeast Asia, OpenAI identificó el uso de modelos de lenguaje para redactar mensajes persuasivos en estafas románticas y fraudes financieros. Las víctimas eran contactadas a través de redes sociales y, tras semanas de interacción con perfiles falsos, eran inducidas a invertir en plataformas fraudulentas de criptomonedas o forex.

Ciberataques: el uso de IA en la automatización del hacking

Además de la desinformación y el fraude, el informe de OpenAI revela que ciertos grupos han tratado de utilizar sus herramientas para optimizar actividades de ciberataque.

Se identificó a actores maliciosos que empleaban IA para generar código malicioso, depurar exploits y automatizar procesos de intrusión en redes. Estas tácticas han sido particularmente preocupantes en el caso de grupos vinculados a operaciones de espionaje cibernético en Asia y Oriente Medio.

Sin embargo, OpenAI señala que ha reforzado sus sistemas de detección y restricciones de uso, bloqueando miles de intentos de uso indebido de sus modelos y colaborando con agencias de ciberseguridad para mitigar estos riesgos.

Respuesta de OpenAI y medidas de seguridad

La compañía ha reiterado su compromiso con la seguridad y ha implementado nuevas salvaguardas para prevenir el abuso de sus herramientas. Entre las iniciativas destacan:

• Sistemas de detección mejorados para identificar patrones de uso indebido en tiempo real.
• Colaboración con gobiernos y empresas tecnológicas para compartir información sobre amenazas emergentes.
• Restricciones en el acceso a sus modelos para evitar su explotación en actividades maliciosas.

«La inteligencia artificial tiene un enorme potencial para beneficiar a la humanidad, pero también debemos estar atentos a los riesgos de su uso indebido. Seguiremos trabajando para garantizar que nuestras herramientas sean utilizadas de manera responsable y ética,» señaló OpenAI en el informe.

Con este nuevo análisis, OpenAI refuerza su postura de transparencia y seguridad en la industria de la inteligencia artificial, en un contexto donde el uso de estas tecnologías sigue evolucionando a gran velocidad.

Fuente: Noticias inteligencia artificial