es.wedoany.com Noticia: OpenAI anunció el lanzamiento de una herramienta de detección temprana de IA que ayuda a los usuarios a verificar si una imagen fue generada por ChatGPT, la API de OpenAI o Codex, reforzando su compromiso con la transparencia y el marcado de contenido falso.
A medida que mejora la calidad del contenido generado por inteligencia artificial, los reguladores aumentan la presión sobre las empresas de IA en cuanto a la transparencia en el uso de la tecnología. La frecuente propagación de contenido deepfake ha hecho sonar las alarmas, especialmente con la proximidad de elecciones, donde los anuncios engañosos generados artificialmente son cada vez más comunes. La herramienta adopta un enfoque cauteloso en la verificación; si no detecta metadatos, el chatbot no llega a una conclusión definitiva, ya que las señales de procedencia (provenance signals) pueden eliminarse en algunos casos. Actualmente, la herramienta solo puede detectar imágenes creadas por ChatGPT, no funciona con otras herramientas de IA y no puede determinar si la imagen es precisa o si se presenta en el contexto correcto. Se espera que en los próximos meses OpenAI apoye la colaboración entre industrias para lograr capacidades de verificación multiplataforma.
En el mismo anuncio, OpenAI indicó que está haciendo que las señales de procedencia sean más fáciles de identificar para otras herramientas, añadiendo marcas de agua digitales persistentes multiplataforma a las imágenes a través de SynthID. SynthID es una marca de agua digital invisible al ojo humano, previamente disponible en Gemini de Google, pero solo capaz de identificar imágenes y videos creados por herramientas propias de Google. En mayo de este año, durante la conferencia de desarrolladores I/O 2026, Google anunció que más empresas adoptarían SynthID, incluyendo OpenAI, Kakao y Eleven Labs. La empresa del CEO de OpenAI, Sam Altman, afirmó que esta colaboración busca reforzar la verificación de imágenes mediante múltiples capas de señales de procedencia. La compañía señaló en el anuncio que la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) ayuda a que el contenido lleve información contextual detallada, mientras que SynthID ayuda a retener señales cuando se pierden metadatos. Las marcas de agua digitales son más persistentes frente a transformaciones como capturas de pantalla, y los metadatos proporcionan información más rica que las marcas de agua por sí solas. Combinados, hacen que las señales de procedencia sean más resistentes que cualquier capa individual.
Los usuarios ya pueden identificar directamente si una imagen fue generada por IA a través del motor de búsqueda de Google y la función Circle to Search. En las próximas semanas, el navegador Google Chrome también obtendrá esta funcionalidad. Microsoft también está considerando seguir el ejemplo de Google, transfiriendo la responsabilidad de verificación a los metadatos de las imágenes. X AI Grok también cuenta con un sistema de verificación que puede recopilar información de otros sitios web para demostrar la autenticidad.
OpenAI ha estado reforzando su compromiso con la transparencia desde 2024, cuando comenzó a añadir credenciales de contenido a las imágenes generadas por DALL-E 3, ImageGen y Sora. Tras unirse al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), el gigante tecnológico comenzó a proporcionar a la plataforma formas más fiables de leer, guardar y transmitir información. Desde 2025, OpenAI publica periódicamente los resultados de evaluaciones internas de seguridad de sus modelos de IA para aumentar la transparencia sobre el rendimiento y los riesgos relacionados con su tecnología.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
