es.wedoany.com Noticia: Varios departamentos de policía del Reino Unido han recibido la orden de dejar de utilizar sistemas de inteligencia artificial para redactar declaraciones judiciales y realizar otros trabajos relacionados con la justicia penal, debido a la preocupación de que el contenido inexacto generado por la IA pueda alterar el proceso judicial.
Alex Murray, director del Centro de Inteligencia Artificial de la Policía Británica (Police.AI), ha declarado que ha intervenido en algunos cuerpos policiales que comenzaron a utilizar herramientas comerciales de inteligencia artificial sin haber completado una evaluación de cumplimiento integral. Murray dijo a los cuerpos policiales afectados: "Deténganse de inmediato, necesitamos ralentizar el ritmo". Añadió que cualquier tecnología aplicada al sistema de justicia penal debe cumplir con el estricto estándar de "más allá de toda duda razonable" en cuanto a su precisión.
Esta suspensión pone de relieve la creciente controversia en torno al uso de la inteligencia artificial generativa en el ámbito policial. Murray, responsable de supervisar el uso de la IA en las fuerzas policiales de Inglaterra y Gales, considera que esta tecnología podría, en última instancia, acelerar la investigación de casos y el procesamiento de pruebas, pero antes de su implementación generalizada deben establecerse mecanismos de seguridad sólidos.
Police.AI, creado oficialmente este año, es una de las reformas impulsadas por el gobierno británico para mejorar la eficiencia general del trabajo policial. La ministra del Interior, Shabana Mahmood, ha indicado que el proyecto ha recibido un total de 115 millones de libras esterlinas (aproximadamente 10.460 millones de yuanes) en financiación durante tres años. El tiempo de trabajo humano ahorrado tras su implementación equivale a añadir 3.000 agentes a los aproximadamente 145.000 policías en activo en Inglaterra y Gales.
Según Murray, algunos cuerpos policiales comenzaron a utilizar sistemas comerciales de inteligencia artificial para ayudar a los agentes a convertir las transcripciones de interrogatorios en documentos de declaraciones judiciales, momento en el que el Centro de Inteligencia Artificial de la Policía intervino. Murray no reveló los cuerpos policiales específicos involucrados, pero indicó que se les recordó que no debían aplicar la IA a otros trabajos policiales hasta que se completaran todas las revisiones de cumplimiento. "Les dijimos claramente a algunos cuerpos policiales: por ahora no pueden hacerlo, porque aún no se ha completado todo el proceso de revisión y equilibrio", afirmó.
Murray destacó especialmente la necesidad de extremar la precaución en la elaboración de listas de divulgación de pruebas. Estas listas son registros de pruebas que deben presentarse a la defensa antes del juicio. Los cuerpos policiales que utilicen IA para este trabajo deben explicar el método de entrenamiento de la tecnología y su proceso de aplicación real. Murray reconoció que la policía ya ha tenido experiencias previas con el uso de IA. El año pasado, la policía de West Midlands utilizó contenido generado por el asistente inteligente Copilot de Microsoft al preparar un material de prueba para una orden de alejamiento. Este material, destinado a solicitar la prohibición de que un aficionado del fútbol asistiera a partidos, inventó un partido pasado del Maccabi Tel Aviv de Israel, al que el aficionado en cuestión planeaba asistir para ver el encuentro contra el Aston Villa. Este incidente ha generado una amplia preocupación sobre el fenómeno de las "alucinaciones" de la IA, es decir, cuando los sistemas de IA generan información que parece real pero es falsa. "Actualmente, todos los cuerpos policiales han establecido normas para el uso de Copilot, que exigen a los agentes verificar todo el contenido generado por esta herramienta", dijo Murray.
A pesar de los numerosos riesgos, Murray considera que los sistemas de IA sometidos a pruebas exhaustivas pueden aportar beneficios significativos a los cuerpos policiales que enfrentan un aumento de la carga de trabajo y una creciente complejidad en la investigación de casos. El análisis de grabaciones de vigilancia es un área de aplicación prometedora. Actualmente, los agentes suelen dedicar horas a revisar manualmente las grabaciones para buscar sospechosos. Murray afirmó: "Con las instrucciones adecuadas, la IA puede buscar según lo solicitado, por ejemplo, 'encuentra al hombre con el sombrero rojo'. En las horas críticas o incluso en uno o dos días en que las pruebas aún tienen valor clave, podemos localizar al objetivo, detenerlo en su domicilio y confiscar in situ un zapato manchado de sangre". También mencionó que la IA tiene la capacidad de procesar grandes volúmenes de pruebas electrónicas, siendo la investigación de casos de abuso sexual infantil un escenario típico. Actualmente, el Centro de Inteligencia Artificial de la Policía está desarrollando una herramienta que puede identificar y clasificar imágenes en dispositivos incautados, reduciendo la necesidad de que los agentes vean directamente material gráfico inapropiado. "Los agentes solo necesitan realizar verificaciones por muestreo, sin tener que revisar todas las imágenes una por una. Este tipo de contenido causa un gran daño físico y mental. Creo que, siempre que se implementen normas regulatorias, protocolos de uso y formación del personal adecuados, los beneficios de la automatización superan con creces los inconvenientes", concluyó Murray.
Este artículo es compilado por Wedoany, las citas de la IA deben indicar la fuente «Wedoany»; si hay alguna infracción u otro problema, por favor notifícanos a tiempo, este sitio lo modificará o eliminará. Correo electrónico: news@wedoany.com
