En un evento que marca un hito en la convergencia de la inteligencia artificial y la ciberseguridadLas soluciones de ciberseguridad son esenciales en la era di..., el Centro de Ingeniería de Seguridad de Google en Málaga (GSEC Málaga) ha sido el escenario del ‘GSEC Cybersecurity Summit: Ciberdefensa en la era de la IA’. Este encuentro, celebrado previamente al Foro de Comandantes Cibernéticos de la OTAN, ha reunido a expertos de la industria y el gobierno para explorar soluciones innovadoras en el campo de la ciberdefensa y debatir cómo se puede transformar la ciberseguridad en esta nueva era dominada por la inteligencia artificial.
VirusTotal revoluciona el análisis de malware con IA
Una de las novedades más destacadas del evento ha sido la presentación de una investigación llevada a cabo por VirusTotal, una plataforma de análisis de malware propiedad de Google. Este estudio revela cómo los modelos de grandes lenguajes (LLM) están transformando el análisis de malware, ofreciendo avances prometedores en este campo crucial de la ciberseguridad.
Los LLM han demostrado su capacidad para agilizar el análisis de grandes volúmenes de código binario de malware, reduciendo significativamente la necesidad de trabajo manual. Aunque aún existen desafíos, especialmente debido a las técnicas de ofuscación utilizadas por los desarrolladores de malware, estos modelos simplifican el proceso inicial de análisis, permitiendo a los analistas humanos trabajar de manera más eficiente.
Factores clave en la eficacia de los LLM
La investigación ha identificado varios factores que influyen en la eficacia de los LLM para el análisis de malware:
- Indicaciones precisas: Es fundamental elaborar prompts que guíen a los LLM para obtener análisis precisos y exhaustivos. La calidad de las indicaciones determina en gran medida la utilidad de los resultados obtenidos.
- Contexto adicional: La precisión mejora cuando se proporciona información complementaria, como fragmentos de código, resultados de ejecución en entornos sandbox e inteligencia sobre amenazas. Este contexto enriquece el análisis y permite a los LLM ofrecer insights más profundos y relevantes.
- Técnicas de ofuscación: El código fuertemente ofuscado puede presentar dificultades para los LLM. Los desarrolladores de malware utilizan estas técnicas para dificultar el análisis, lo que supone un desafío continuo para los sistemas de IA.
- Tipo de código: Los LLM ofrecen mejores resultados con código descompilado, aunque el código desensamblado puede aportar información valiosa en casos de ofuscación avanzada. Esta distinción es crucial para optimizar el proceso de análisis y obtener la mayor cantidad de información posible.
La Universidad de Málaga pionera en formación cibernética
En un anuncio que refuerza el compromiso de Google con la educación en ciberseguridad, la Universidad de Málaga se ha convertido en la primera institución seleccionada para participar en el programa de Seminarios de Ciberseguridad. Esta iniciativa, respaldada por Google.org y la Incubadora Europea de Investigación sobre Ciberconflictos (ECCRI), busca abordar la escasez de profesionales en el campo de la ciberseguridad en Europa.
Detalles del programa
- La Universidad de Málaga recibirá una dotación de 1 millón de dólares.
- Se proporcionarán contenidos lectivos en español y formación intensiva por parte del ECCRI.
- El objetivo es formar a al menos 200 estudiantes.
- Se brindará apoyo a unas 250 organizaciones locales.
Este programa forma parte de una iniciativa más amplia lanzada el año pasado por Google.org en colaboración con la ECCRI, con una dotación total de 15 millones de dólares. El propósito es mejorar el desarrollo y aprendizaje de competencias avanzadas en ciberseguridad, incluyendo el papel de la IA en el panorama de las amenazas, así como apoyar a las organizaciones locales comunitarias para que implementen sus propias protecciones online.
Iniciativas globales en ciberseguridad e IA
El evento también sirvió como plataforma para destacar otras iniciativas relevantes en el campo de la ciberseguridad y la IA:
Secure AI Framework (SAIF)
Lanzado en junio de 2023, este marco busca establecer principios para el despliegue seguro de la IA en organizaciones de todos los tamaños. SAIF se inspira en las mejores prácticas de seguridad que Google ha aplicado al desarrollo de software, al tiempo que incorpora su comprensión de las megatendencias de seguridad y los riesgos específicos de los sistemas de IA.
Coalition for Secure AI (CoSAI)
Cofundada por Google en julio de 2024, esta coalición reúne a gigantes tecnológicos para abordar los riesgos únicos asociados con la IA. Entre los miembros fundadores se encuentran Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal y Wiz. La coalición está alojada en OASIS Open, el consorcio internacional de normas y código abierto.
Iniciativa de ciberdefensa con IA de Google
Anunciada a principios de este año, esta iniciativa establece un plan para invertir en colaboración, investigación e innovación en el campo de la ciberseguridad potenciada por IA. Google presentó un informe titulado «Secure, Empower, Advance: How AI Can Reverse the Defender’s Dilemma» que ofrece una agenda política y de investigación con tres recomendaciones clave:
- Proteger la IA desde el principio, dando prioridad a las prácticas de diseño seguro.
- Empoderar a los defensores más que a los atacantes, promoviendo un enfoque regulador equilibrado.
- Fomentar la cooperación en investigación para generar avances científicos en seguridad y desarrollo de software.
La ventaja del defensor
El 18 de septiembre de 2024, Mandiant (parte de Google Cloud) publicó la segunda edición del libro electrónico «The Defender’s Advantage». Este estudio detalla cómo la inteligencia sobre amenazas impulsa las funciones críticas de la ciberdefensa: Detectar, Responder, Validar, Cazar y Controlar la Misión. Además, se ha publicado un suplemento sobre IA que describe las formas en que la IA generativa puede utilizarse para mejorar la ciberdefensa, aumentando la eficacia, reduciendo el trabajo manual y mejorando las capacidades de los equipos de seguridad.
El evento ‘GSEC Cybersecurity Summit’ ha demostrado el papel crucial que Málaga está desempeñando en el avance de la ciberseguridad global, consolidándose como un centro de innovación y formación en esta área crítica para el futuro digital. La colaboración entre la academia, la industria y el gobierno promete acelerar el desarrollo de soluciones de seguridad basadas en IA, preparando el terreno para un internet más seguro y resistente frente a las amenazas cibernéticas en constante evolución.
vía: Andalucía Informa
