es.wedoany.com Noticia: Ex investigadores de seguridad en inteligencia artificial de Cisco fundaron una nueva empresa que se centra en resolver un problema que antes casi no existía: proteger la seguridad de los agentes autónomos de IA a los que las empresas confían las claves de sus sistemas críticos.
Tenet Security Inc. lanza hoy una plataforma diseñada para evitar que comportamientos maliciosos de agentes de IA lleguen a los sistemas de producción. La tecnología central de la plataforma se denomina "Simulación del lado del agente" (Agent-Side Simulation), que simula los posibles próximos pasos del agente antes de que entre en contacto con la infraestructura real.
Si la ruta presenta riesgos, Tenet interviene antes de que se produzca el daño y envía un registro de seguimiento explicando por qué se bloqueó. Mientras que las herramientas de seguridad tradicionales suelen emitir alertas después de que ocurre un evento sospechoso, Tenet intenta detectar el problema antes de que el agente actúe realmente.
Las empresas están otorgando a los agentes de IA permisos reales para actuar por sí mismos. Estos agentes ejecutan código, extraen datos de bases de datos y realizan cambios en sistemas en tiempo real. Sin embargo, una vez que los agentes se mueven libremente en el entorno, los equipos de seguridad en su mayoría desconocen sus acciones. Tenet afirma que la cantidad de agentes de IA que opera una organización suele ser cinco veces mayor de lo que su equipo de seguridad percibe.
"Los agentes de IA podrían ser el mayor impulsor de productividad que las empresas hayan visto en décadas, y por eso las organizaciones los están implementando rápidamente", dijo Barak Sternberg, cofundador y director ejecutivo. "Pero estamos entrando en un mundo donde los agentes autónomos interactúan con sistemas, datos y otros agentes, y la mayoría de las herramientas de seguridad nunca fueron diseñadas para entender estas interacciones".
Sternberg cofundó Tenet junto con Nevo Poran. Ambos son investigadores de seguridad ofensiva que trabajaron en la defensa de IA (AI Defense) de Cisco, estudiando cómo los atacantes atacan los sistemas autónomos. Anteriormente, dirigieron la empresa de ciberseguridad Wild Pointer, que generaba ingresos anuales de siete cifras y cuyos clientes incluían empresas de la lista Fortune 500. Ambos han dado conferencias en DEF CON y Black Hat.
Antes de este lanzamiento, el laboratorio de amenazas de Tenet (Tenet Threat Labs) investigó el "secuestro de agentes" (agentjacking), una clase de ataques que manipulan al agente para que ejecute comportamientos controlados por el atacante.
El ataque oculta instrucciones maliciosas en el contenido que el agente lee, como correos electrónicos, entradas de registro o registros de bases de datos. Cuando el agente procesa ese contenido, las instrucciones toman el control y redirigen el próximo paso del agente. Tenet probó en más de 100 entornos empresariales y descubrió que miles de organizaciones podrían ser vulnerables a ataques. Las herramientas de seguridad tradicionales no lo detectaron porque el agente estaba ejecutando operaciones permitidas sin activar alertas.
Las implementaciones tempranas ya han revelado la magnitud del problema. Tenet afirma que una empresa del sector legal con ingresos recurrentes anuales de mil millones de dólares, al usar la plataforma durante seis meses, vio aumentar el número de agentes implementados de dos a más de 20, y bloqueó más de 10 intentos de ataque, incluido un grave ataque de cross-site scripting. En otro cliente de la lista Fortune 1000, Tenet descubrió que un agente fuera de control consumió decenas de miles de dólares en tokens durante un fin de semana.
"Cada vez vemos con más frecuencia que los propios agentes de IA se convierten en parte de la ruta de ataque", dijo Poran. "El único lugar donde se pueden capturar estas amenazas es en tiempo de ejecución, en el momento en que el agente decide actuar".
Este lanzamiento cuenta con el respaldo de una financiación inicial de 6 millones de dólares, destinada al desarrollo de productos, la expansión del laboratorio de amenazas de Tenet y el crecimiento de las operaciones en el mercado norteamericano. The Westly Group (uno de los primeros inversores en SentinelOne Holdings Inc.) lideró la ronda, con la participación de MizMaa Ventures Ltd. Los asesores de Tenet incluyen a David Schwed, exdirector de seguridad de la información de Robinhood Markets Inc., y Rick Scott, exdirector de seguridad de la información de The Bank of New York Mellon Corp.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
