es.wedoany.com Noticia: Alemania La Oficina Federal de Seguridad de la Información (BSI, Bundesamt für Sicherheit in der Informationstechnik) y el Instituto Fraunhofer de Óptica, Sistemas Técnicos y Evaluación de Imágenes (Fraunhofer IOSB) han desarrollado conjuntamente un método de detección de deepfakes llamado RealOrRender, cuyo objetivo es identificar imágenes falsas generadas por IA y hacer que el proceso de detección sea trazable. Actualmente, el realismo de las imágenes y videos generados por IA sigue aumentando; los modelos de lenguaje grandes ya pueden representar extremidades anatómicamente correctas, sombras realistas e incluso simular latidos del corazón, lo que dificulta distinguir entre grabaciones reales y deepfakes. El endurecimiento de las leyes previsto por la Unión Europea podría no cambiar fundamentalmente esta situación, por lo que las soluciones técnicas se han convertido en el foco de la investigación.
La BSI señala que los métodos de detección automatizados suelen funcionar de manera fiable solo bajo condiciones específicas. Por ello, la BSI y Fraunhofer IOSB han colaborado para desarrollar el método RealOrRender. Este método emplea un proceso de dos partes: primero, utiliza un generador de imágenes de IA para reconstruir la imagen de entrada; luego, clasifica mediante un modelo de IA y calcula de forma mixta el error de reconstrucción. Andreas Specker, científico senior del grupo de investigación de Seguridad y Sistemas de Asistencia Basados en Video de Fraunhofer IOSB, explica que este proceso permite identificar si una imagen es un deepfake.
El mecanismo específico de RealOrRender es el siguiente: tras recibir una imagen, el sistema utiliza un modelo de difusión preentrenado para realizar un procesamiento inverso, generando la huella matemática de la imagen (mapa de ruido) y el resultado de la reconstrucción, es decir, una falsificación deliberada de la imagen original. Luego, el sistema escanea la imagen en busca de errores. La lógica del método es: si la imagen original es un deepfake, su huella matemática será similar al resultado de la reconstrucción de RealOrRender; si es una foto real, se generarán más errores de reconstrucción, ya que las fotos reales contienen más imprecisiones y ruido natural. El sistema utiliza un conjunto de datos de entrenamiento que incluye aproximadamente 120,000 imágenes de 18 generadores de imágenes para calcular la desviación estimada y proporcionar una evaluación sobre si es un deepfake. Según los investigadores, el rendimiento de detección oscila entre el 85% y el 91%.
RealOrRender también integra un componente de IA explicable (XAI, explainable AI), que al final del análisis genera un mapa de calor que marca los detalles de la imagen original que apuntan a la falsificación, incluyendo características como rostros, cabello, manos y objetos en el fondo. Esto ayuda a los usuarios a comprender qué indicios de deepfake ha detectado el sistema y aumenta la confianza en el modelo y los resultados. Se informa que RealOrRender ya se ha puesto en funcionamiento dentro de la BSI en forma de demostrador.
