es.wedoany.com Noticia: Un equipo de investigación de la Academia China de Ciencias (Chinese Academy of Sciences) ha propuesto el concepto de "Científico de Inteligencia Artificial en Ciberseguridad" (Cybersecurity AI Scientist) y ha diseñado un sistema multiagente modular llamado Hefesto (Hephaestus), con el objetivo de automatizar todo el flujo de trabajo en la investigación de ciberseguridad. En un artículo reciente, el equipo describe este sistema de investigación capaz de completar de forma autónoma tareas que van desde la formulación de preguntas hasta el diseño experimental, la construcción de herramientas, la ejecución controlada, la evaluación y la generación de resultados escritos.
Los agentes autónomos de inteligencia artificial ya han comenzado a realizar tareas reales de seguridad, como explorar vulnerabilidades de software, ejecutar pruebas de penetración y encadenar pasos de ataque. Sin embargo, la investigación en ciberseguridad avanza lentamente y depende en gran medida del trabajo humano, limitada por la escasez de expertos y los experimentos diseñados manualmente. El equipo espera cerrar esta brecha.
Hefesto es un sistema multiagente modular que incluye agentes especializados en la construcción de marcos de problemas, modelado de amenazas, generación de herramientas y elaboración de informes. Su nombre proviene del dios herrero de la épica homérica, que forjaba lanzas y escudos, simbolizando la capacidad del sistema para producir tanto trabajos ofensivos como defensivos.
Los autores consideran que los sistemas de investigación automatizados existentes, como el Científico de IA (AI Scientist) y sus versiones posteriores para aprendizaje automático, así como el "Científico Colaborador" (Co-Scientist) y "Robin" para biología y biomedicina, no pueden transferirse directamente al ámbito de la ciberseguridad. Esto se debe a que los objetos de estudio en ciberseguridad se adaptan de forma autónoma al ser investigados, las plataformas de modelos, las barreras de protección y el acceso a herramientas se actualizan más rápido que un solo ciclo de investigación, y la confianza depende de métodos como los gemelos digitales, los campos de entrenamiento cibernético y las cadenas de evidencia.
El equipo ha propuesto el "marco de los cuatro ceros" (four-zeros frame), que define cuatro tipos de fallos que el sistema debe abordar: riesgo (risk), confianza (trust), incidente (incident) y energía (energy). El riesgo se refiere a defectos ocultos en el software; la confianza implica que las acciones auxiliares deben mantenerse calibradas para garantizar que el operador humano tenga el control; el incidente se refiere a errores operativos y la necesidad de entornos de prueba; y la energía se refiere a las consecuencias organizativas y éticas acumuladas a largo plazo. El sistema debe investigar y reducir cada tipo de fallo.
En el eje de riesgo, el artículo menciona el salto en capacidades de los modelos de vanguardia. Por ejemplo, la versión preliminar de Claude Mythos lanzada por Anthropic (parte del proyecto Project Glasswing) ha restringido el acceso público debido a su excesiva capacidad de ciberataque, y solo está disponible a través de un programa de socios con revisión estricta; se informa que este modelo ya se ha utilizado para descubrir vulnerabilidades a gran escala en software ampliamente utilizado, incluyendo algunos defectos de larga data. El punto de referencia CyberGym citado en el artículo prueba a los agentes con más de mil vulnerabilidades reales (provenientes de una gran cantidad de proyectos de código abierto), y la tasa de éxito única de los modelos de vanguardia oscila entre decenas de puntos porcentuales, siendo capaces de descubrir de forma autónoma nuevas vulnerabilidades de día cero.
El artículo también propone el concepto de "legiones de agentes resilientes" (resilient agent legions), que revoluciona el modelo de defensa tradicional. Se imagina una gran cantidad de agentes defensivos redundantes dispersos en el borde de la red, monitoreando cada capa, coordinando canales y tareas de recuperación. Cada agente lleva una "cápsula de eventos y defensa", un paquete compacto que asocia un tipo de evento de seguridad con su rutina de respuesta. Así, el concepto tradicional de seguridad de terminales se transforma en seguridad de agentes, y el trabajo se convierte en gestionar grupos de agentes, confiando en el comportamiento colectivo para lograr la protección.
El coautor Lidong Zhai (翟立东) explicó el método de evaluación del sistema. Considera las pruebas de referencia a largo plazo como un protocolo longitudinal, fijando objetivos y perturbando con el tiempo la pila de modelos, herramientas, barreras de protección y el entorno de amenazas. La salida es una matriz de perfil que informa sobre la producción de investigación, la calidad de la evidencia, la carga de calibración, la robustez frente al recambio de modelos y herramientas, el cumplimiento normativo y el manejo de consecuencias. Destacó que las pruebas de referencia deben ponderarse según las consecuencias, dando mayor peso a eventos de alta propagación y alta pérdida, ya que la priorización en sí misma es parte de la capacidad científica.
Lidong Zhai indicó que los mecanismos de contención se controlan en cuatro niveles: capacidad, rol, entorno y artefacto. La exploración ofensiva, el análisis defensivo, la evaluación y las decisiones de publicación siguen rutas de autorización independientes, y el trabajo sensible se aísla en gemelos digitales y campos de entrenamiento cibernético independientes. El artículo aún no ha construido un sistema completo, enfrentando desafíos abiertos como objetivos de defensa heterogéneos y la dificultad de distinguir a nivel de código entre usos ofensivos y defensivos. Lidong Zhai considera que el criterio final para evaluar al Científico de Inteligencia Artificial en Ciberseguridad no solo radica en acelerar la investigación, sino también en mejorar la serenidad estratégica, una priorización más precisa y un diseño de defensa más duradero.
