es.wedoany.com Noticia: La Casa Blanca de Estados Unidos y la empresa de inteligencia artificial Anthropic están desarrollando conjuntamente una metodología para evaluar la gravedad de las vulnerabilidades en nuevos modelos de IA y determinar el momento adecuado para la intervención estatal. Según informó Politico citando a dos funcionarios gubernamentales, la controversia en torno al bloqueo del modelo más potente de la compañía está pasando de ser un conflicto privado a un intento de establecer reglas generales.
El detonante fue una medida de control de exportaciones. Esta medida obligó a Anthropic a cerrar Fable 5 y Mythos 5 para todos los usuarios debido a un supuesto "jailbreak" (un método para eludir las protecciones del modelo). El gobierno y el CEO de Anthropic, Dario Amodei, discreparon en la evaluación de la gravedad de esta vulnerabilidad, y se descubrió que el país carecía de herramientas para resolver este tipo de disputas. El desarrollo tecnológico ha superado a la infraestructura regulatoria.
El nuevo marco busca llenar este vacío. Ambas partes están desarrollando un conjunto unificado de estándares de pruebas de referencia para evaluar futuros jailbreaks: la profundidad de la elusión de protecciones, las capacidades del modelo expuestas y las consecuencias reales de la intrusión. Las negociaciones por parte de Anthropic están a cargo de la directora de relaciones gubernamentales, Sarah Heck, y del cofundador de la empresa, Tom Brown.
Este método incorpora el argumento original de la propia Anthropic en las reglas: no existe un modelo completamente inmune a las intrusiones. Al mismo tiempo, el gobierno ha obtenido un elemento que siempre le faltaba: una escala estándar y una base formal para la intervención. Una visión similar se transmitió esta semana en la reunión del G7 en Francia: los altos ejecutivos de las principales empresas de IA y los líderes nacionales coincidieron en que la formulación de reglas para la evaluación de riesgos debe ser asumida por los estados.
Las restricciones a la exportación aún no se han levantado, pero se observan avances. El viernes pasado, las negociaciones prácticamente colapsaron: Anthropic se negó a retirar Fable 5 de la plataforma pública, insistiendo en que el alcance de la vulnerabilidad era limitado y no una brecha total. En respuesta, la Casa Blanca impuso controles de exportación. Durante el fin de semana, ambas partes mantuvieron una serie de largas llamadas telefónicas —con la participación de Tom Brown, el secretario de Comercio Howard Lutnick y el director de ciberseguridad Sean Cairncross— seguidas de casi una semana de reuniones presenciales en Washington. Por el momento, no hay un cronograma para restablecer el modelo en la plataforma.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
