En Chine, une IA procureure dépose déjà des plaintes toute seule

Image d'illustration. | Unsplash

Des chercheurs chinois affirment avoir réalisé une première mondiale en mettant au point une machine capable d'inculper des personnes pour des crimes grâce à l'intelligence artificielle, écrit le South China Morning Post. Selon les chercheurs, cette IA serait capable de rédiger une accusation avec une précision de 97% sur la base d’une simple description verbale de l’affaire. Elle a été développée et testée par le parquet populaire de Shangai Pudong, l’une des autorités judiciaires les plus importantes du pays.

Pourquoi c’est important. Les technologies basées sur l’intelligence artificielle sont en vogue, y compris dans des domaines aussi sensibles que la justice. Le professeur Shi Yong, de l’Académie chinoise des sciences, à la tête du projet, estime qu’une telle technologie pourrait réduire la charge de travail quotidienne des procureurs, ce qui leur permettrait de se concentrer sur des affaires plus difficiles.

En Chine, les autorités utilisent une IA appelée System 206 depuis 2016 pour évaluer la solidité des preuves, les conditions d’une arrestation et le degré de dangerosité d’un suspect. Cet outil n’a toutefois qu’une portée limitée, car ils ne participent pas au processus décisionnel.

Selon le South China Morning Post, l’intelligence artificielle capable d’inculper des personnes a été entraînée sur la base de plus de 17’000 affaires qui se sont déroulées entre 2015 et 2020. Elle est déjà en mesure de déposer des plaintes pour les huit crimes les plus courants à Shanghai parmi lesquels le vol, la fraude, la conduite dangereuse ou encore les troubles à l’ordre public, ces derniers étant souvent invoqués pour étouffer la dissidence, note le journal. A terme, les chercheurs affirment que la machine pourra bénéficier de mises à jour qui lui permettront de poursuivre des crimes moins courants.

Une technologie qui inquiète. Un procureur de la ville de Guangzhou, dans le sud du pays, a fait part de ses inquiétudes quant à l’utilisation de l’intelligence artificielle dans le cas de poursuites pénales. Selon lui, la précision de 97% vantée par les chercheurs «peut être élevée d’un point de vue technologique, mais il y aura toujours une marge d’erreur». Et de s’interroger: «Qui assumera la responsabilité lorsque cela se produira? Le procureur, la machine ou le concepteur de l’algorithme?»

L’intrusion de l’intelligence artificielle dans le domaine de la justice ne se limite pas à la Chine. La justice prédictive est déjà appliquée aux Etats-Unis et à Londres dans une certaine mesure. Mais transférer la responsabilité d’une décision qui jusqu’ici devait être prise par un être humain est une nouvelle étape que la Chine semble avoir déjà franchie.

link

A lire sur le South China Morning Post