Justice Prédictive : Le Fantasme D’Une Justice Algorithmique

La récente publication du décret sur la mise en œuvre de l’open data des décisions de justice soulève de nombreux enjeux en matière de transparence, d’algorithmes ou encore d’anonymisation. Mais si la justice prédictive est encore à l’état de projet, voire de fantasme, il serait opportun de revenir aux fondamentaux pour concilier l’open data et les algorithmes avec la confiance des citoyens dans les pouvoirs publics.

L’open data pour une justice plus efficace et qualitative

L’open data ouvre un nouveau champ des possibles dans l’exercice de la justice. Outre le désencombrement des tribunaux, l’open data apporte davantage de clarté et de prévisibilité aux décisions de justice. Elle représente non seulement un enjeu démocratique, mais vise également à accélérer le règlement des litiges tout en améliorant la prévisibilité des décisions. Les juges peuvent avoir accès aux pratiques de leurs confrères et les justiciables sont en mesure d’estimer les chances de succès de leur procédure. Beaucoup craignent néanmoins que l’open data des décisions de justice couplée au développement des algorithmes et de l’Intelligence artificielle (IA) ouvre la voie à une « justice prédictive » dont les décisions pourraient être rendues grâce à l’IA sans l’intervention d’un juge.

Craintes légitimes ou fantasme digne d’un scénario de film hollywoodien ? Avant d’imaginer une quelconque justice prédictive, il convient de s’attarder sur les conditions indispensables à son développement. En effet, la mise en oeuvre de la justice prédictive suppose que toutes les précautions aient été prises en amont pour écarter certaines dérives. Toutes les mesures de confidentialité et d’anonymisation doivent être mises en place pour éviter des utilisations malveillantes des informations contenues dans les décisions. Une fois anonymisées, les décisions pourront alors être diffusées en open data.

Le risque de biais des algorithmes prédictifs

L’IA est performante lorsqu’il s’agit de faire du quantitatif et d’exécuter des tâches ciblées. Elle peut prédire approximativement l’heure d’arrivée lors d’un trajet ou réaliser un ciblage publicitaire détaillé. En cas d’erreur, l’impact sera alors relatif. Mais lorsqu’il s’agit de décisions de justice, les considérations et les enjeux ne sont évidemment plus les mêmes.

Des cas d’erreurs, il y en a eu, notamment aux États-Unis où des algorithmes sont utilisés pour évaluer les risques de récidive des détenus. Ces algorithmes sont en réalité un véritable échec puisqu’ils défavorisent largement les Afro-Américains dont le risque de récidive est souvent surévalué par rapport à des détenus Blancs.

Malgré les objectifs ambitieux en termes d’innovation jurisprudentielle et de justice prédictive, il faut réfléchir dès maintenant aux limites du développement d’un tel projet. Le décret « DataJust », entré récemment en vigueur, illustre parfaitement les difficultés substantielles de la robotisation de la justice. Ce décret vise à créer un référentiel afin de développer un algorithme prédictif en matière de réparation de préjudices corporels. Ainsi seront collectées les décisions de justice liées à des indemnisations de préjudice corporel. Un algorithme sera ensuite créé sur la base de ces données dans le but de guider le juge dans sa prise de décision.

Au-delà du risque d’éventuels biais de l’algorithme, il est légitime de craindre l’émergence d’une future justice dans laquelle l’évaluation des préjudices serait automatisée. Le juge ne prendrait plus en compte la singularité de la situation de chaque victime : à cas similaires, il prendrait continuellement les mêmes décisions et attribuerait toujours les mêmes indemnisations.

Ne pas faire la politique de l’autruche face aux évolutions technologiques

Revenir aux fondamentaux ne signifie pas pour autant rester paralysé par le fonctionnement poussiéreux de la justice et renoncer aux technologies. L’enjeu est de trouver la façon la plus saine de les introduire tout en garantissant les principes d’une justice impartiale et transparente. L’open data est un outil qui pourrait permettre d’arriver à cet équilibre. En effet, partager ses données instaure de la confiance. Cette confiance est bienvenue, lorsqu’on sait à quel point  la société se méfie de  la parole publique. 

Aujourd’hui le potentiel des technologies doit surtout être mis au service d’une justice plus transparente. Dans un contexte où la diffusion de l’information est de plus en plus rapide, la justice doit être modernisée et devenir plus efficace. Pour (re) créer le lien de confiance, il est primordial qu’il y ait une équité dans l’accès à l’information grâce à une démarche open data volontariste et proactive.

La circulation de l’information au sein même des pouvoirs publics est perfectible, à l’image d’une récente commission parlementaire pendant laquelle les parties prenantes semblaient découvrir en séance les chiffres des condamnations pour viols.

Par ailleurs, l’ouverture de ces données n’est pas nécessaire seulement au niveau national. En effet, au niveau local, le maire a besoin d’informations précises pour prendre des décisions éclairées et faire respecter les mesures au maintien de l’ordre, de la sécurité, de la tranquillité et de la salubrité publics sur le territoire de la commune. Par exemple, l’accès aux données concernant les condamnations pour délits routiers permet à un maire de s’appuyer sur des chiffres concrets afin de mener une réflexion détaillée à propos de l’aménagement de la ville.

Bien que la justice prédictive reste encore à l’état de projet, il convient dès maintenant de s’attarder sur les conditions sine qua non à son futur développement. Aujourd’hui, on plaide beaucoup pour le dialogue entre les différents acteurs, mais celui-ci reste vain s’il n’est pas nourri par des données sur lesquelles s’appuyer. Moderniser la justice oui, mais sans remettre en question les principes fondamentaux.

<<< À lire également : L’Open Data Va-T-Il Tuer Les Fournisseurs De Données ? >>>