es.wedoany.com Noticia: Trust3 AI ha anunciado sus planes de extender su Capa de Confianza Unificada (Unified Trust Layer) a la plataforma NVIDIA NeMo, una solución integral para el desarrollo de modelos y agentes de IA generativa personalizados. Como miembro del programa NVIDIA Inception, Trust3 AI avanza en esta integración con el objetivo de permitir que las empresas gestionen los agentes y aplicaciones que se ejecutan en NeMo sin necesidad de implementar sistemas de control independientes adicionales.
Cuando las organizaciones pasan de la fase piloto a la producción, el principal obstáculo ya no es la capacidad del modelo, sino los problemas de gobernanza. Los equipos operativos tienen dificultades para responder preguntas básicas sobre el control de agentes: qué agentes están en ejecución, a qué datos y herramientas tienen acceso, qué operaciones se han realizado realmente y si esta información puede ser auditada y verificada. La integración planificada de Trust3 AI con NeMo tiene como objetivo cerrar el ciclo de gobernanza a nivel operativo.
Una vez completada la integración, proporcionará a los equipos que trabajan con NeMo funciones de descubrimiento e inventario de agentes, cubriendo aquellos que puedan no estar registrados en el despliegue de NeMo; adoptará un control de acceso vinculado al propósito, donde los permisos de acceso de los agentes se asocian a su propósito declarado en lugar de a roles estáticos, con autorizaciones que caducan automáticamente; implementará políticas en el momento de la ejecución de la operación, donde cada solicitud, antes de activar una herramienta o mover datos, lleva consigo la identidad del agente, el propósito declarado y la información de linaje de datos; logrará una observabilidad de alta fidelidad, capturando indicaciones, recuperaciones, invocaciones de herramientas y accesos a datos, lo que permite la reproducción y revisión del comportamiento del agente; y generará una cadena de evidencia de auditoría que puede asignarse a estándares como la Ley de IA de la UE y el Marco de Gestión de Riesgos de IA del NIST.
Este enfoque complementa los mecanismos de control propios de NeMo (incluyendo NeMo Guardrails) mediante la superposición de una capa de confianza independiente y neutral respecto al proveedor. Esta capa de confianza se sitúa por debajo de los agentes, no en paralelo.
Neeraj Sabharwal, cofundador de Trust3 AI, señaló que el principal cuello de botella para las empresas que pasan de la experimentación a la producción en NVIDIA NeMo es la seguridad y la gobernanza. Esta integración coloca la capa de confianza por debajo de los agentes basados en NeMo, permitiendo que los equipos de seguridad y cumplimiento observen cada agente, protejan y gestionen cada operación, sin afectar al equipo de entrega de IA. Trust3 AI, fundada por los ingenieros principales de Apache Ranger y Apache Atlas, cuenta con una arquitectura de plano de control único y una capa de confianza unificada diseñada para gestionar agentes a través de cualquier marco, nube y fuente de datos.
