es.wedoany.com Noticia: Investigadores de Microsoft han descubierto una vulnerabilidad en el flujo de automatización de GitHub de Claude Code, de Anthropic, que podría provocar la filtración de información confidencial en flujos de trabajo de integración continua/despliegue continuo, permitiendo a los atacantes robar credenciales sensibles mediante ataques de inyección de indicaciones.
El equipo de inteligencia de amenazas de Microsoft inició esta investigación tras detectar intentos de inyección de indicaciones dirigidos a flujos de trabajo de GitHub asistidos por inteligencia artificial en repositorios de código público. La inyección de indicaciones es un tipo de vulnerabilidad de seguridad en inteligencia artificial donde los atacantes incrustan instrucciones engañosas en el contenido procesado por modelos grandes, manipulando el comportamiento del modelo para ignorar las instrucciones predefinidas. Los investigadores ejemplificaron que algunos atacantes ocultan instrucciones de inyección en comentarios HTML, que son invisibles en la interfaz de visualización de GitHub, pero que los modelos de inteligencia artificial que leen el código fuente Markdown original pueden identificar. En ese momento, el repositorio utilizaba la automatización de GitHub para procesar automáticamente las incidencias.
Los atacantes pueden disfrazar instrucciones maliciosas como solicitudes de funcionalidad comunes, sin necesidad de obtener permisos de modificación del proyecto; basta con enviar una incidencia de GitHub para engañar al robot de inteligencia artificial y que realice modificaciones en su lugar. Microsoft confirmó que el mismo tipo de inyección de indicaciones también puede atacar el flujo de automatización de GitHub de Claude Code de Anthropic. Anteriormente, Anthropic había establecido protecciones de sandbox para algunas herramientas, pero Microsoft descubrió que la herramienta de lectura utilizada por Claude para leer archivos no estaba sujeta a las mismas restricciones de seguridad. Los investigadores crearon una carga útil de ataque de inyección de indicaciones para realizar pruebas de verificación, y en las pruebas, las indicaciones maliciosas lograron eludir dos capas de protección, induciendo al asistente de inteligencia artificial a leer archivos del sistema que contenían claves de interfaz de programación de aplicaciones y otras credenciales.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
