Cet article examine les enjeux juridiques soulevés par le recours, de plus en plus marqué, aux outils algorithmiques par les autorités gouvernementales et administratives. Ces technologies, qui font miroiter une amélioration de l’efficacité et de l’objectivité des processus décisionnels, s’accompagnent d’effets délétères qui heurtent les garanties fondamentales de l’État de droit.

Premièrement, l’utilisation d’algorithmes d’exploration des données par l’Administration caractérise un nouveau modèle de gouvernance axé sur la modélisation algorithmique des justiciables. Guidée par les inférences tirées de l’analyse des données numériques des citoyens, l’action étatique est portée à ne plus raisonner en fonction de leur situation singulière, mais plutôt selon celle de leur « double statistique ». Les décisions prises sur la base de telles prédictions constituent une normativité algorithmique qui cherche à personnaliser la règle juridique jusqu’au point de prescrire, à chaque citoyen, le comportement approprié en toutes circonstances. À l’heure actuelle, l’encadrement d’un tel usage des algorithmes oscille entre des principes empreints de bonne volonté, mais non contraignants et un droit positif applicable quoi qu’anachronique. De nombreux cas d’utilisation d’outils algorithmiques par différentes administrations à travers le monde illustrent comment ceux-ci peuvent se retourner contre les justiciables, souvent parmi les plus vulnérables, en portant atteinte à leurs droits fondamentaux. En outre, l’aura « scientificité » qui entoure ces outils leur confère une présomption de rationalité qui conduit à un dangereux phénomène de déresponsabilisation des décideurs publics. Phénomène qui ne fait qu’exacerber le risque que les algorithmes mènent à des décisions discriminatoires lorsque des biais s’infiltrent à l’étape de leur conception ou lors de leur utilisation. Il ne serait d’ailleurs pas étonnant que les tribunaux canadiens viennent à reconnaître que la prise de décision sur la base de recommandations algorithmiques biaisées constitue une violation du droit à l’égalité. Les outils algorithmiques ont néanmoins un réel potentiel de contribuer positivement à l’État de droit en améliorant l’accès à la justice tant formelle qu’informelle. En effet, une implantation raisonnée de l’intelligence artificielle permettrait de bonifier l’expérience des justiciables et accroître l’efficacité des tribunaux et des plateformes de résolution en ligne des conflits. Il faut toutefois faire preuve de précaution lorsqu’il est question d’introduire des outils algorithmiques dans les processus décisionnels qui affectent les droits des individus, puisque les algorithmes d’apprentissage automatique sont incompatibles avec certaines règles élémentaires de justice naturelle telles que le droit d’être entendu et l’exigence de motivation des décisions. À plus grande échelle, les algorithmes peuvent être mis à profit pour développer de nouveaux mécanismes juridiques qui contribuent à l’autonomisation des collectivités. À l’image de l’action collective, qui a permis d’équilibrer les relations entre consommateurs et commerçants, il est aujourd’hui nécessaire de réfléchir à des moyens de faire contrepoids aux rapports asymétriques entre utilisateurs et opérateurs de plateformes numériques.

Simon DU PERRON et Karim BENYEKHLEF, Les algorithmes et l'État de Droit, 2021,
document de travail n°28, 85p. <https://www.cyberjustice.ca/publications/les-algorithmes-et-
letat-de-droit/>