es.wedoany.com Noticia: La empresa estadounidense de inteligencia artificial OpenAI ha lanzado una nueva función de seguridad denominada "modo de bloqueo", diseñada para reforzar la protección de usuarios y organizaciones que manejan información sensible mediante modelos de lenguaje de gran escala.

Este modo está diseñado para detectar y prevenir intentos de filtrar datos sensibles a personas no autorizadas mediante ataques de inyección de instrucciones. OpenAI señala que el modo de bloqueo no está dirigido a todos los usuarios, sino a aquellas personas y organizaciones que manejan datos sensibles y desean una protección más estricta contra los riesgos de fuga de datos relacionados con la inyección de instrucciones.

Los ataques de inyección de instrucciones son un nuevo método empleado por hackers, donde los atacantes pueden ocultar instrucciones, como documentos de código, en páginas web y cargarlos en modelos de lenguaje de gran escala. Al procesar estos contenidos, los atacantes pueden manipular el sistema de IA para obtener información sensible. OpenAI ha optado por lanzar este modo en un contexto de aumento de esta tendencia de ataques.

Una vez activado el modo de bloqueo, ChatGPT restringirá varias funciones de los modelos de lenguaje de gran escala, incluyendo la imposibilidad de capturar imágenes de internet o generar imágenes, y también se limitará la capacidad de los usuarios para descargar archivos para su análisis. Sin embargo, los usuarios aún podrán cargar archivos, imágenes y documentos para su análisis. OpenAI aclara que este modo no afectará la memoria de las conversaciones ni la configuración de compartir conversaciones. En entornos empresariales, los administradores tendrán todos los permisos de configuración y modificación.

Además, ChatGPT ha añadido una herramienta llamada "gestor de sesiones activas", que permite a los usuarios ver los dispositivos e incluso navegadores en los que han iniciado sesión, y cerrar sesión de forma remota desde dispositivos no deseados.

Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com