Científicos chinos desarrollan un fiscal de IA que puede presentar sus propias acusaciones

Investigadores de China afirman que han sido los primeros del mundo en desarrollar una máquina capaz de acusar a personas de delitos mediante inteligencia artificial.

Según los investigadores, el fiscal de IA puede formular una acusación con una precisión superior al 97 % a partir de una descripción oral del caso. El algoritmo fue creado y probado por la Fiscalía Popular del distrito de Pudong, en Shanghái, la fiscalía de distrito más grande y con mayor carga de trabajo del país.

Según el profesor Shi Yun, director del Laboratorio de Gestión de Big Data y Conocimiento de la Academia China de Ciencias y científico principal del proyecto, esta tecnología puede reducir la carga diaria de los fiscales, permitiéndoles centrarse en tareas más complejas.

«El sistema puede sustituir hasta cierto punto a los fiscales en el proceso de toma de decisiones», declaró Shi en un artículo publicado en la revista interna revisada por pares Management Review. El uso de la inteligencia artificial en las fuerzas del orden crece en todo el mundo.

Algunos fiscales alemanes han utilizado tecnologías de inteligencia artificial, como el reconocimiento de imágenes y la peritación judicial digital, para aumentar la velocidad y la precisión en la tramitación de los casos.

Los fiscales chinos fueron los primeros en empezar a usar IA en 2016. Muchos de ellos utilizan ahora una herramienta de IA conocida como «Sistema 206». La herramienta puede evaluar la solidez de las pruebas, las condiciones de detención y el grado en que se considera que el sospechoso es peligroso para la sociedad.

Pero todas las herramientas de inteligencia artificial existentes tienen un papel limitado, porque «no participan en el proceso de decisión sobre la formulación de cargos y la propuesta de condenas». 

Tomar este tipo de decisiones requeriría que la máquina identificara y eliminara cualquier contenido de los expedientes no relacionado con el delito, sin eliminar la información útil. El algoritmo también tendría que convertir el lenguaje humano, complejo y en constante cambio, en un formato matemático o geométrico estándar comprensible para el ordenador.

Las empresas de internet chinas han desarrollado potentes herramientas de procesamiento del lenguaje natural, pero su funcionamiento suele requerir grandes ordenadores, a los que la fiscalía no tiene acceso.

El fiscal de IA desarrollado por el equipo de Shi puede funcionar en un ordenador de sobremesa. Para cada sospechoso, formulará una acusación a partir de 1000 «rasgos característicos» extraídos del texto de la descripción del caso escrita por una persona, la mayoría de los cuales son demasiado pequeños o abstractos para tener sentido para las personas. Después, el «Sistema 206» evaluará las pruebas.

Entre 2015 y 2020, la máquina fue «entrenada» con más de 17 000 casos. Actualmente puede identificar y formular acusaciones por los ocho delitos más comunes de Shanghái:

• fraude con tarjetas de crédito
• organización de juegos de azar
  
• conducción peligrosa
  
• lesiones intencionadas
  
• obstrucción al ejercicio de funciones oficiales
  
• robo
  
• estafa
  
• «buscar pelea y provocar problemas» (cargo general, a menudo usado para reprimir la disidencia)
  

Shi y sus colegas afirmaron que el fiscal de IA pronto será más influyente gracias a las actualizaciones. Podrá reconocer delitos menos comunes y formular varios cargos contra un mismo sospechoso. Un fiscal de la ciudad sureña de Cantón declaró que tiene ciertas preocupaciones sobre el uso de la IA a la hora de formular cargos.

«Una precisión del 97 % puede ser alta desde el punto de vista tecnológico, pero siempre habrá posibilidad de error. ¿Quién asumirá la responsabilidad cuando ocurra? ¿El fiscal, la máquina o el desarrollador del algoritmo?», declaró un fiscal que pidió no revelar su nombre por lo delicado del asunto.

La participación directa de la IA en el proceso de decisión también podría afectar a la autonomía del acusador. Un fiscal de Cantón afirmó que la mayoría de los fiscales no quieren que los informáticos «se entrometan» en la resolución judicial.

Otro problema es que el fiscal de IA solo puede formular cargos basándose en su experiencia previa. No es capaz de prever la reacción pública ante un caso en un entorno social cambiante. «La IA puede ayudar a detectar un error, pero no puede sustituir a una persona en la toma de decisiones», declaró el fiscal.

No obstante, China utiliza activamente la IA en casi todos los sectores del gobierno para intentar aumentar la eficiencia, reducir la corrupción y reforzar el control. Según los investigadores, algunas ciudades chinas han usado máquinas para rastrear los círculos sociales de los funcionarios y sus actividades con el fin de detectar casos de corrupción.

Muchos tribunales chinos utilizan la IA para ayudar a los jueces a tramitar casos y tomar decisiones, por ejemplo, admitiendo o rechazando una apelación. La mayoría de las prisiones chinas también han implantado tecnología de inteligencia artificial para seguir el estado físico y mental de los reclusos con el fin de reducir los niveles de violencia.

Además, en toda China se utilizan sistemas de inteligencia artificial para la vigilancia total de los ciudadanos. Por ejemplo, en noviembre de 2021 se supo que las autoridades de la provincia china de Henán crearon un sistema de reconocimiento facial para rastrear a periodistas «peligrosos» y a otras «personas que generan preocupación». Además, el sistema está destinado a rastrear a mujeres migrantes. Se integra con la Oficina Nacional de Inmigración, el Ministerio de Seguridad Pública y la policía de la provincia de Henán.