Google DeepMind impulsa la gobernanza de la IA física: el control de seguridad en sistemas autónomos, clave
2026-05-05 13:54
Favoritos

es.wedoany.com Noticia: A medida que los sistemas de IA autónomos se integran en robots, sensores y equipos industriales, la gobernanza de la IA física cobra cada vez más relevancia. El desafío central no solo radica en si los agentes de IA pueden completar tareas, sino en cómo probar, monitorear y detener eficazmente sus acciones al interactuar con el mundo real.

El ámbito de los robots industriales proporciona una base concreta para este debate. Según datos de la Federación Internacional de Robótica, en 2024 se instalaron 542.000 robots industriales en todo el mundo, más del doble que hace una década, y se prevé que la cifra aumente a 575.000 en 2025 y supere los 700.000 en 2028. La firma de investigación de mercado Grand View Research estima que el mercado global de IA física alcanzará los 81.640 millones de dólares en 2025, pudiendo llegar a los 960.380 millones para 2033, aunque esta clasificación depende de la definición de inteligencia en sistemas físicos por parte de los proveedores.

El trabajo más reciente de Google DeepMind muestra cómo los modelos de IA pueden adaptarse a entornos físicos. La compañía presentó Gemini Robotics y Gemini Robotics-ER en marzo de 2025, basados en Gemini 2.0. El primero es un modelo de visión-lenguaje-acción que puede controlar robots directamente; el segundo se centra en el razonamiento encarnado, incluyendo la comprensión espacial y la planificación de tareas. En abril de 2026, Google DeepMind lanzó Gemini Robotics-ER 1.6, que refuerza las capacidades de lógica espacial, planificación de tareas y detección de éxito, disponible a través de la API de Gemini. Estos modelos requieren que el sistema posea percepción visual, razonamiento espacial, planificación de tareas y detección de éxito para garantizar que las tareas se completen correctamente o se detengan de forma segura.

El control de seguridad es particularmente complejo en la IA física. Google DeepMind aborda la seguridad robótica como un problema estratificado, que abarca desde controles de bajo nivel como la evasión de colisiones hasta el razonamiento de alto nivel sobre la seguridad contextual operativa, e introduce el conjunto de datos ASIMOV para evaluar la seguridad semántica. El estudio de McKinsey de 2026 sobre la confianza en la IA señala que, incluso cuando los sistemas de IA asumen más funciones autónomas, solo alrededor de un tercio de las organizaciones alcanzan una alta madurez en la gobernanza de agentes de IA. Estándares como el Marco de Gestión de Riesgos de IA del NIST y la ISO/IEC 42001 proporcionan una estructura para la gobernanza de la IA física, pero requieren considerar simultáneamente el comportamiento del modelo, los dispositivos conectados y el entorno operativo.

Google DeepMind está colaborando con múltiples empresas de robótica, incluyendo el desarrollo de robots humanoides con Apptronik y pruebas de tareas como la lectura de instrumentos con Boston Dynamics. El núcleo de la gobernanza de la IA física reside en establecer límites de seguridad antes de la toma de decisiones y ejecución por parte de los sistemas autónomos, lo que ya se ha convertido en una cuestión clave en sectores como la inspección industrial, la fabricación y la logística.

Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com

Recomendaciones
ParityQC de Austria demuestra la computación cuántica con mediciones en el plano YZ, completando el rompecabezas de la universalidad en un solo plano y eliminando el cuello de botella de las interconexiones de largo alcance
2026-05-05
Ericsson de Suecia lidera el Radar Frost de infraestructura de redes 5G por sexto año consecutivo, con una inversión en I+D cercana al 21% de sus ingresos
2026-05-05
York Space Systems lanza en Estados Unidos una serie de plataformas satelitales estandarizadas
2026-05-05
CoreWeave de EE. UU. lanza SUNK Anywhere y capacidades de autoservicio, unificando el modelo operativo de infraestructura de entrenamiento de IA en múltiples nubes
2026-05-05
Cisco de EE. UU. lanza en código abierto el kit de herramientas de trazabilidad de modelos Model Provenance Kit, que rastrea los riesgos de la cadena de suministro de modelos de IA con una "prueba de ADN"
2026-05-05
Anthropic de EE. UU. se asocia con Blackstone, Goldman Sachs y otros para formar una empresa conjunta de 1.500 millones de dólares para promover el despliegue empresarial de la IA Claude
2026-05-05
El número de agentes de IA empresariales a nivel mundial alcanza los 28,6 millones, y las plataformas de gestión de agentes se convierten en una nueva categoría de infraestructura
2026-05-05
GlobalFoundries de EE. UU. lanza la plataforma óptica de coempaquetado de fotónica de silicio SCALE, demuestra DWDM bidireccional de 8λ y 16λ y supera la especificación OCI MSA
2026-05-05
El avance en tolerancia a fallos del programa cuántico de Harvard en EE. UU. impulsa tres empresas; Lukin afirma que "la era de la computación cuántica a gran escala se adelanta al menos cinco años"
2026-05-05
La india Pixxel se une a Sarvam AI para lanzar a finales de 2026 el primer satélite centro de datos orbital, Pathfinder
2026-05-05