Subjectivité nécessaire
Le recours à l’IA pour procéder à l’évaluation du risque consisterait dans les faits, selon Neha Chugh, à transférer des préjugés humains vers des algorithmes créés par des humains. L’utilisation de données de départ de mauvaise qualité entraîne inévitablement des résultats de mauvaise qualité. « Les partisans de ce type d’utilisation de l’IA renverront la responsabilité des lacunes aux concepteurs de l’algorithme. »
Me Chugh mentionne qu’on songe déjà à faire appel à l’IA dans certains tribunaux canadiens. En tant que membre du Conseil des gouverneurs de la Commission du droit de l’Ontario, elle admet éprouver des réserves face à l’ouverture manifestée par la commission quant à l’usage de l’IA dans le cadre de procédures judiciaires administratives ou d’enquêtes policières.
L’un des principaux inconvénients que Neha Chugh attribue à un recours excessif à l’IA pour l’évaluation du risque et d’autres fonctions est la disparition de la discrétion subjective et de la déférence du processus judiciaire que cette pratique entraînerait. Or, fait-elle remarquer, ce sont là des piliers essentiels à l’indépendance du système judiciaire. Les lois et les statuts fournissent des paramètres à l’intérieur desquels les juges peuvent rendre leurs décisions, tout en leur laissant une certaine latitude qui leur permet de prendre en compte des facteurs pertinents comme l’histoire personnelle et les circonstances individuelles.
« Je crois fermement à l’autorité de nos tribunaux, et que les décisions relatives à la détermination de la peine et aux libérations sous caution sont prises en fonction des intérêts de la communauté et des circonstances propres à chaque cas », affirme-t-elle.
« Nous nommons nos juges et nos décideurs en tenant compte de leur connaissance de la communauté. Avons-nous besoin d’externaliser ce processus de prise de décisions vers un système fondé sur de grands ensembles et des caractéristiques générales? Ou tenons-nous à nous appuyer sur un système où il est possible d’avoir des échanges personnalisés avec les contrevenants? Je préfère la seconde avenue, car je crois que les tribunaux peuvent avoir un impact important sur les personnes. »
Neha Chugh insiste pour dire qu’elle n’est pas complètement contre le recours à l’IA dans le système judiciaire, mais qu’à son avis, des recherches plus approfondies s’imposent.
« Sommes-nous arrivés à l’étape de la mise en œuvre? Selon moi, non. Mais si l’on me prouve que j’ai tort, je n’hésiterai pas à changer d’avis. »
Lisez l’article cité : « Risk Assessment Tools on Trial: AI Systems Go? ».