Des scientifiques chinois ont développé un procureur IA capable de porter ses propres accusations

Des chercheurs chinois affirment avoir été les premiers au monde à concevoir une machine capable d'accuser des personnes de crimes à l'aide de l'intelligence artificielle.

Selon les chercheurs, le procureur IA peut porter une accusation avec une précision supérieure à 97 % à partir d'une description orale du dossier. L'algorithme a été créé et testé par le parquet populaire de Pudong à Shanghai, le plus grand et le plus chargé des parquets de district du pays.

Selon le professeur Shi Yun, directeur du laboratoire de gestion des mégadonnées et des connaissances de l'Académie chinoise des sciences et responsable scientifique du projet, cette technologie pourrait alléger la charge quotidienne des procureurs, leur permettant de se concentrer sur des tâches plus complexes.

« Le système peut, dans une certaine mesure, remplacer les procureurs dans le processus décisionnel », a déclaré Shi dans un article publié dans la revue interne à comité de lecture Management Review. L'utilisation de l'intelligence artificielle dans les forces de l'ordre se développe partout dans le monde.

Certains procureurs allemands ont utilisé des technologies d'intelligence artificielle, telles que la reconnaissance d'images et l'expertise judiciaire numérique, pour accélérer et fiabiliser le traitement des affaires.

Les procureurs chinois ont été les premiers à commencer à utiliser l'IA, en 2016. Beaucoup d'entre eux utilisent aujourd'hui un outil d'IA connu sous le nom de « Système 206 ». Cet outil peut évaluer la solidité des preuves, les conditions d'arrestation et le degré de dangerosité du suspect pour la société.

Mais tous les outils d'intelligence artificielle existants ont un rôle limité, car « ils ne participent pas au processus de décision concernant la mise en accusation et la proposition de peines ».

Prendre de telles décisions exigerait qu'une machine identifie et supprime tout contenu des dossiers sans rapport avec le crime, sans supprimer les informations utiles. L'algorithme devrait également convertir le langage humain complexe et en constante évolution en un format mathématique ou géométrique standard, compréhensible par un ordinateur.

Les entreprises internet chinoises ont développé de puissants outils de traitement du langage naturel, mais leur fonctionnement nécessite souvent de gros ordinateurs auxquels le parquet n'a pas accès.

Le procureur IA conçu par l'équipe de Shi peut fonctionner sur un ordinateur de bureau. Pour chaque suspect, il portera une accusation sur la base de 1000 « caractéristiques distinctives » extraites de la description du dossier rédigée par un humain, dont la plupart sont trop petites ou abstraites pour avoir un sens pour les humains. Le « Système 206 » évaluera ensuite les preuves.

Entre 2015 et 2020, la machine a été « entraînée » sur plus de 17 000 dossiers. À ce jour, elle peut identifier et porter des accusations pour les huit crimes les plus courants à Shanghai :

• fraude à la carte de crédit
• organisation de jeux d'argent
  
• conduite dangereuse
  
• infliction volontaire de blessures
  
• entrave à l'exercice des fonctions officielles
  
• vol
  
• escroquerie
  
• « provocation de querelles et de troubles » (chef d'accusation général, souvent utilisé pour réprimer la dissidence)
  

Shi et ses collègues affirment que le procureur IA deviendra bientôt plus influent grâce à des mises à jour. Il pourra reconnaître des crimes moins courants et porter plusieurs accusations contre un même suspect. Un procureur de la ville méridionale de Canton a déclaré avoir certaines inquiétudes quant à l'utilisation de l'IA pour porter des accusations.

« Une précision de 97 % peut sembler élevée d'un point de vue technologique, mais il y aura toujours un risque d'erreur. Qui en assumera la responsabilité lorsque cela arrivera ? Le procureur, la machine ou le développeur de l'algorithme ? », a déclaré un procureur qui a demandé à ne pas être nommé en raison de la sensibilité du sujet.

La participation directe de l'IA au processus décisionnel pourrait également affecter l'autonomie du procureur. Un procureur de Canton a déclaré que la plupart des procureurs ne veulent pas que des informaticiens « interfèrent » dans une décision judiciaire.

Un autre problème tient au fait que le procureur IA ne peut porter une accusation que sur la base de son expérience passée. Il est incapable de prévoir la réaction du public à une affaire dans un environnement social en mutation. « L'IA peut aider à repérer une erreur, mais elle ne peut pas remplacer un humain dans la prise de décision », a déclaré un procureur.

Néanmoins, la Chine utilise activement l'IA dans presque tous les secteurs du gouvernement, dans le but d'améliorer l'efficacité, de réduire la corruption et de renforcer le contrôle. Selon les chercheurs, certaines villes chinoises ont utilisé des machines pour suivre les cercles sociaux des fonctionnaires et leurs activités afin de détecter la corruption.

De nombreux tribunaux chinois utilisent l'IA pour aider les juges à traiter les affaires et à prendre des décisions, par exemple accepter ou rejeter un appel. La plupart des prisons chinoises ont également adopté une technologie d'intelligence artificielle pour suivre l'état physique et psychologique des détenus, dans le but de réduire les violences.

Par ailleurs, dans l'ensemble de la Chine, des systèmes d'intelligence artificielle sont utilisés pour une surveillance totale des citoyens. Par exemple, en novembre 2021, on a appris que les autorités de la province chinoise du Henan avaient créé un système de reconnaissance faciale pour suivre les journalistes « dangereux » et d'autres « personnes préoccupantes ». Ce système vise également à suivre les femmes migrantes. Il est intégré au Bureau national de l'immigration, au ministère de la Sécurité publique et à la police de la province du Henan.