es.wedoany.com Noticia: Bryan Silverthorn, director del laboratorio de investigación de autonomía AGI (AGI Autonomy research lab) de Amazon, afirmó recientemente que la forma de medir la fiabilidad de los agentes de IA está pasando de métricas de rendimiento estáticas a centrarse en la consistencia, robustez, previsibilidad y seguridad. Silverthorn señaló que las puntuaciones EVAL, en las que se basan los estándares de la industria, solo ofrecen una instantánea estática del rendimiento y difícilmente reflejan completamente la previsibilidad de los sistemas de IA en diferentes escenarios, lo que supone un desafío principal para las empresas al otorgar acceso a los sistemas a los agentes de IA.
Silverthorn fue entrevistado antes de la conferencia VB Transform 2026, que se celebrará del 14 al 15 de julio en Menlo Park. Reveló que la estrategia de Amazon no asume que el modelo en sí sea seguro y fiable, sino que enfatiza una arquitectura de sistema desacoplada. Las medidas específicas incluyen la introducción de entornos sandbox, donde los agentes de IA proponen cambios dentro de un rango controlado, que luego son revisados por humanos antes de su ejecución. Este enfoque busca cerrar la brecha de confianza en aplicaciones empresariales priorizando interacciones verificables, especialmente en sectores de alto riesgo como el financiero.
Según la encuesta Q2 Pulse Research publicada por VentureBeat, entre más de 100 líderes tecnológicos y compradores de alto nivel, solo el 4% estaría dispuesto a depender únicamente de las barreras del modelo para garantizar la seguridad de la IA. Entre las principales preocupaciones de los encuestados, el 40% teme el acceso no autorizado a herramientas o datos, y el 27% menciona riesgos de manipulación o inyección de indicaciones. Silverthorn planea compartir en la conferencia VB Transform 2026 los detalles de cómo Amazon construye una IA agéntica confiable y presentar la transición de un encapsulamiento de agente único a una arquitectura de múltiples herramientas que puede autocorregirse durante la ejecución.
La conferencia también incluirá otras presentaciones centradas en la operación y evaluación de agentes, como la de Manasi Joshi, directora de inteligencia y aprendizaje automático de sistemas en Waymo, quien compartirá la experiencia de la empresa en la construcción de IA segura y eficiente en el mundo físico.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
