La Chine développe une terrible IA juridique

En Chine, le gouvernement a annoncé qu’une intelligence artificielle était actuellement développée pour accompagner la justice.

Décidément, la Chine a de quoi nous surprendre. La raison ? Le pays a confirmé avoir récemment développé une intelligence artificielle judiciaire en mesure d’identifier les crimes, de déposer plainte et les juger avec une précision estimée à 97%. Cette IA a été développée et testée par le Parquet populaire de Shanghai Pudong. Elle a été développée afin d’identifier les huit crimes les plus courants à Shanghai. Un outil travaillé par le professeur Shi Yong, directeur du laboratoire de Big Data et de gestion des connaissances de l’Académie chinoise des sciences.

En revanche, l’IA ne peut (à ce stade) pas « participer au processus décisionnel consistant à porter des accusations et à proposer des peines ». En revanche, elle sert à évaluer les preuves et à déterminer si les criminels sont dangereux pour le public. L’IA développe ses propres accusations en utilisant la description d’une affaire criminelle présumée. À terme, les chercheurs pensent qu’il peut « remplacer les juges dans le processus décisionnel, mais dans une certaine mesure ». L’humain garde donc le contrôle et reste le seul décisionnaire sur la culpabilité (ou non) d’un suspect et sur sa peine.

Le système 206 est utilisé dans le traitement des dossiers depuis 2016, mais il n’a pas été conçu pour faire partie du processus décisionnel. Aujourd’hui toutefois, l’IA se développe et peut déterminer si une preuve est pertinente ou non. S’adressant à un média chinois, un procureur anonyme a déclaré que la justice restait toutefois préoccupée. En effet, l’IA est fonctionnelle à 97%, laissant ainsi une petite marge d’erreurs qui pourrait impacter un suspect. « Qui prendra la responsabilité quand cela arrivera ? Le procureur, la machine ou le concepteur de l’algorithme ?« . Pas vraiment un problème pour la Malaisie qui utilise carrément cette intelligence artificielle dans son processus de peine. Autre problème, aux USA, une IA a été testée et a annoncé des peines plus importantes en fonction du statut social et de la couleur de peau. Bref, l’humain devrait rester encore un moment aux manettes.