es.wedoany.com Noticia: El 12 de junio, la Autoridad de Desarrollo de Medios de Comunicación e Información de Singapur (IMDA) firmó un memorando de entendimiento sobre seguridad y garantía de inteligencia artificial con Microsoft. Ambas partes colaborarán en la evaluación de modelos de IA, la investigación sobre agentes autónomos, el intercambio de conocimientos y las políticas de acceso a modelos de IA de vanguardia. El Instituto de Seguridad en IA de Singapur también participará en los trabajos relacionados. El acuerdo se centra en las pruebas de seguridad, la identificación de riesgos y la construcción de mecanismos de gobernanza para los sistemas de IA avanzados una vez que entren en aplicaciones prácticas.
Esta cooperación se enfoca en los agentes autónomos, que son los que más atención generan en el desarrollo actual de la IA. En comparación con los chatbots tradicionales, los agentes autónomos pueden invocar herramientas, descomponer tareas, ejecutar operaciones y completar objetivos de forma continua dentro de un cierto rango. Su potencial de aplicación es mayor y sus límites de riesgo son más complejos. Al adoptar este tipo de sistemas, las empresas y el sector público deben verificar si el agente puede acceder a datos sin autorización, si puede ser monitoreado continuamente, si se mantiene la cadena de responsabilidad humana y si los comportamientos anómalos pueden detectarse a tiempo.
Anteriormente, Singapur ya había establecido la gobernanza de agentes como una prioridad en su política de IA. En enero de 2026, Singapur publicó un marco de gobernanza de IA para agentes autónomos, enfatizando que las empresas deben establecer mecanismos de clasificación de riesgos, responsabilidad del personal, control técnico y monitoreo operativo al implementar agentes. Esta cooperación con Microsoft lleva el marco de gobernanza un paso más allá, hacia herramientas de evaluación, métodos de prueba y niveles de implementación de políticas.
Un contenido importante del acuerdo es el desarrollo conjunto de métodos, herramientas y puntos de referencia para la evaluación de IA. Cuando los modelos de IA se implementan en escenarios gubernamentales, financieros, sanitarios, de comunicaciones, energéticos y de infraestructura crítica, las autoevaluaciones de los desarrolladores del modelo difícilmente satisfacen las necesidades de revisión externa. El sistema de evaluación debe cubrir aspectos como la capacidad del modelo, la fiabilidad de los resultados, los sesgos y la discriminación, la ciberseguridad, las filtraciones de datos, las operaciones no autorizadas y los riesgos de uso indebido. Para los sistemas de IA con capacidad de invocar herramientas, la evaluación debe extenderse a la cadena de ejecución, sin limitarse a los resultados de salida de texto.
La evaluación de seguridad de la IA multilingüe también se incluye en el ámbito de la cooperación. Singapur se encuentra en un entorno multilingüe, donde se utilizan simultáneamente el inglés, el chino mandarín, el malayo y el tamil. Un sistema de IA puede presentar diferentes comportamientos de seguridad en distintos idiomas. El hecho de que un modelo supere las pruebas de seguridad en inglés no garantiza que sea igualmente estable en otros idiomas. Las pruebas multilingües pueden ayudar a descubrir diferencias en el modelo en cuanto a la evasión de indicaciones, la identificación de contenido sensible, los malentendidos entre idiomas y el procesamiento de contextos culturales.
La cooperación también implica el intercambio de conocimientos. La IMDA y Microsoft compartirán resultados de investigación en seguridad de IA, marcos de gobernanza y experiencias prácticas, y, cuando sea apropiado, compartirán métodos relacionados con socios del ecosistema. Para los departamentos gubernamentales, las empresas tecnológicas poseen experiencia de primera línea en el entrenamiento, implementación, monitoreo y pruebas de equipos rojos de modelos. Para las empresas tecnológicas, el sector público se preocupa más por los riesgos sociales, la seguridad de la infraestructura y la viabilidad institucional. La conexión entre ambas partes puede acercar la investigación en seguridad de IA a entornos de implementación reales.
La política de acceso confiable a modelos de IA de vanguardia es uno de los temas más prácticos de este acuerdo. Los modelos avanzados suelen estar controlados por unas pocas empresas. Las instituciones externas necesitan acceder a los modelos para realizar pruebas de seguridad, pero el acceso a los modelos implica secretos comerciales, seguridad del sistema y riesgos de uso indebido. La IMDA, el Instituto de Seguridad en IA de Singapur, Microsoft y otras agencias gubernamentales estudiarán marcos de políticas relevantes para explorar cómo los gobiernos y los operadores de infraestructura pueden acceder a modelos de vanguardia bajo condiciones controladas para la evaluación de seguridad y la verificación de riesgos.
Este tipo de investigación de políticas puede influir en la forma futura de la regulación de la IA. Si el gobierno no obtiene suficientes permisos de prueba, la evaluación externa tiende a limitarse a interfaces públicas y muestras limitadas. Si el acceso es demasiado abierto, puede aumentar el riesgo de que el modelo sea sometido a ingeniería inversa o uso indebido. Un marco de acceso confiable debe equilibrar la profundidad de las pruebas, el control de permisos, los mecanismos de confidencialidad, la división de responsabilidades y el uso de los resultados.
En los últimos años, Singapur ha seguido integrando la gobernanza de la IA con sus políticas de economía digital. La seguridad de la IA ya no es solo una discusión sobre principios éticos, sino que está entrando en la fase de ciencia de la evaluación, puntos de referencia de pruebas e instrumentos de política. Tras la cooperación con Microsoft, Singapur puede aprovechar la experiencia en modelos empresariales y servicios en la nube para perfeccionar las vías operativas en temas como agentes autónomos, evaluación multilingüe y acceso a modelos de vanguardia.
Para Microsoft, participar en la cooperación de seguridad en IA de Singapur también contribuye a la implementación de su sistema de IA responsable en el mercado asiático. Cuando los clientes empresariales y el sector público adoptan servicios de IA, prestan cada vez más atención a la explicabilidad del modelo, la seguridad del sistema, la protección de datos y la certificación de cumplimiento. La investigación conjunta de métodos de evaluación y marcos de gobernanza puede establecer condiciones de confianza más claras para el uso de sistemas de IA avanzados en entornos gubernamentales, empresariales y de infraestructura.
Esta cooperación demuestra que la competencia en IA se ha expandido desde la capacidad del modelo hasta la capacidad de evaluación de seguridad y gobernanza. A medida que los agentes autónomos ingresen en más procesos de negocio, las herramientas de evaluación, las reglas de acceso y la colaboración entre departamentos se convertirán en elementos fundamentales para el desarrollo de la industria de la IA. El acuerdo entre Singapur y Microsoft no lanzará directamente un producto único, pero influirá en la metodología de prueba de modelos de IA, el diseño de políticas y la implementación confiable.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
