es.wedoany.com Noticia: El fabricante estadounidense de equipos de red Cisco ha lanzado oficialmente en código abierto un kit de herramientas de trazabilidad de modelos de IA llamado Model Provenance Kit. La herramienta se publica como una interfaz de línea de comandos de Python y, mediante la toma de huellas dactilares a nivel de pesos de los modelos de IA, combinada con señales técnicas multidimensionales como metadatos, similitud de tokenizadores, geometría de incrustaciones, características de capas de normalización y distribución de energía, genera un identificador único para cada modelo, ayudando a las empresas a rastrear el origen, el historial de modificaciones y la seguridad de implementación de los modelos de IA obtenidos de plataformas de terceros.
Amy Chang, directora de Inteligencia de Amenazas e Investigación de Seguridad de IA de Cisco, describió la trazabilidad de modelos como la capa faltante en la gobernanza de la IA. Señaló que la industria se encuentra en las primeras etapas del desarrollo de la IA, donde la construcción de sistemas aún se centra en lograr avances en capacidades, pero a medida que la IA se acelera hacia áreas reguladas de alto riesgo, la trazabilidad de modelos sustentará el marco de gobernanza, los mecanismos de responsabilidad y la línea base digital para una ejecución confiable. Cisco comparó este conjunto de herramientas con una "prueba de ADN para modelos de IA" en su blog oficial: así como una prueba de ADN puede revelar el origen genético de un organismo, el Model Provenance Kit examina simultáneamente los metadatos del modelo y los parámetros de peso realmente aprendidos para determinar si existe un origen derivado común entre diferentes modelos e identificar si un modelo ha sido manipulado.
Este conjunto de herramientas ofrece dos modos de trabajo principales. El modo Compare permite la comparación directa de dos modelos cualesquiera, generando una puntuación de trazabilidad para determinar si existe un linaje compartido; el modo Scan compara un único modelo con la base de datos de huellas dactilares alojada por Cisco en Hugging Face, emparejando el modelo candidato más cercano y reconstruyendo posibles cadenas de derivación. Actualmente, esta base de datos cubre aproximadamente 150 modelos base, abarcando 45 familias de modelos, con escalas de parámetros que van desde 135 millones hasta 70 mil millones. Cisco también publicó la Model Provenance Constitution, un documento normativo que define los criterios para determinar las relaciones de derivación de modelos, proporcionando un marco de referencia basado principalmente en relaciones de derivación a nivel de pesos para una definición de trazabilidad que aún no está unificada en la industria.
La ruta técnica del Model Provenance Kit apunta a una brecha sistémica en la cadena de suministro de IA actual que ha sido ignorada durante mucho tiempo pero que continúa expandiéndose. Plataformas de modelos de código abierto como Hugging Face ya alojan más de 2 millones de modelos públicos, pero la documentación en la plataforma puede ser falsificada, los metadatos pueden ser eliminados o alterados, y los modelos etiquetados como "entrenados desde cero" pueden ser simplemente copias de otros modelos. Los casos de la industria en la primavera de 2026 amplificaron aún más la realidad de este problema: se descubrió que Composer 2 de la herramienta de programación de IA Cursor estaba parcialmente construido sobre el modelo de IA chino Kimi 2.5. Estas complejas dependencias en la cadena de suministro subrayan la urgencia de mecanismos de trazabilidad verificables. Una investigación conjunta publicada anteriormente por Anthropic, el Instituto de Seguridad de IA del Reino Unido y el Instituto Alan Turing mostró que solo se necesitan 250 documentos maliciosos para implantar una puerta trasera en un modelo de lenguaje grande, y cuanto más grande es el modelo, más fácil es contaminarlo. Una vez que un modelo envenenado ingresa en la pila tecnológica empresarial, la falta de herramientas especializadas dificultará el rastreo de la fuente de contaminación.
A nivel de aplicación práctica empresarial, la herramienta responde directamente a múltiples necesidades de cumplimiento y seguridad. La Ley de Inteligencia Artificial de la UE exige explícitamente el registro de los datos de entrenamiento, las características del método de entrenamiento y la evaluación de riesgos de los sistemas de alto riesgo; el Marco de Gestión de Riesgos de IA del NIST de EE. UU. considera el riesgo de los componentes de IA de terceros como un dominio de gobernanza independiente. Cuando se confirma que un modelo de IA tiene vulnerabilidades o sesgos, las organizaciones sin capacidad de trazabilidad no pueden determinar si el problema se ha propagado a través de la cadena de suministro de modelos a otros modelos en su pila tecnológica, afectando posteriormente a los chatbots internos, las aplicaciones de agentes inteligentes e incluso las herramientas de contacto con el cliente. Cisco también enumeró el riesgo de la cadena de suministro de IA como un peligro recurrente en su Informe de Seguridad de IA de 2026 ya publicado.
Con un conjunto claro de reglas de determinación de trazabilidad y una metodología técnica verificable, el conjunto de herramientas de Cisco impulsará a las empresas a realizar revisiones de seguridad y trazabilidad de gobernanza de manera más proactiva al implementar modelos de IA de terceros, convirtiéndose en un enlace de verificación clave antes de que las empresas en industrias altamente reguladas y sectores de infraestructura crítica implementen la IA. El código fuente completo del Model Provenance Kit está disponible públicamente en GitHub, y Cisco ha proporcionado simultáneamente una base de datos completa de huellas dactilares para uso conjunto de la industria.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
