Aperçu du projet
Le projet pluriannuel de la Commission du droit de l’Ontario (CDO) sur la réglementation de l’IA et les droits de la personne réunit des décideurs, des professionnels du droit, des technologues, des ONG, des universitaires et des membres de la collectivité pour examiner le développement, la réglementation et l’impact de l’intelligence artificielle (IA), de la prise de décisions automatisée (PDA) et des algorithmes sur l’accès à la justice, les droits de la personne et l’équité procédurale.
Le projet a été lancé en réponse à l’adoption rapide de ces technologies par les gouvernements et l’industrie à l’échelle mondiale, alors que l’IA et la PDA ont de plus en plus d’influence sur les décisions liées à la liberté, aux prestations, à la conformité et à l’accès aux services. Le recours à ces technologies soulève des préoccupations concernant les biais préjudiciables, la discrimination fondée sur les données, les systèmes de type « boîte noire », ainsi que le manque de rétroaction du public, de transparence, de communication d’information et de responsabilisation – autant de questions qui posent des défis complexes sur le plan de la réforme du droit au Canada.
Groupe consultatif
Durant les premiers stades du projet, la CDO a pu compter sur les observations fournies par un comité consultatif d’experts.
- Christiaan van Veen – directeur, Digital Welfare State and Human Rights Project, école de droit, Université de New York
- Abdi Aidid – professeur adjoint, faculté de droit, Université de Toronto
- Raj Anand – président du Conseil des gouverneurs de la CDO, associé chez WeirFoulds LLP
- Amy Bihari – conseillère principale en données, gouvernement de l’Ontario
- Insiya Essajee – avocate, Commission ontarienne des droits de la personne
- Michelle Mann – avocate générale, ministère de la Justice
- Jonathon Penney – professeur de droit, Osgoode Hall
- Carole Piovesan – associée et cofondatrice, INQ Data law
- Marcus Pratt – Politiques et recherche stratégique, Aide juridique Ontario
- Jennifer Raso – professeure de droit, Université de l’Alberta
- Teresa Scassa – professeure de droit, Université d’Ottawa
- Julia Stoyanovich– professeure de science informatique, Université de New York
Sur quels enjeux se penche le projet?
La CDO a préparé bon nombre de rapports, mémoires et présentations, et a organisé plusieurs événements dans le cadre du projet sur la réglementation de l’IA et les droits de la personne. Ces travaux abordent notamment la façon de concevoir une IA digne de confiance, la réglementation de l’IA ainsi que la manière de veiller à ce que les systèmes d’IA respectent les droits de la personne et l’équité procédurale. Parmi les principaux rapports figurent les rapports de 2022 de la CDO sur l’IA responsable et 2021 sur la réglementation de l’IA. La CDO a également agi de façon proactive et réactive en formulant des recommandations fondées sur la recherche à l’intention des gouvernements, y compris notre mémoire sur le projet de loi 194 pour le gouvernement de l’Ontario, nos contributions au Sous-comité de l’intelligence artificielle du Comité des règles en matière civile de l’Ontario et notre mémoire présenté dans le cadre du Sprint national sur la stratégie canadienne en matière d’IA à l’échelle fédérale.
En novembre 2024, la CDO et la Commission ontarienne des droits de la personne (CODP) ont publié la première évaluation de l’impact de l’intelligence artificielle sur les droits de la personne (EIDP) fondée sur le droit canadien en matière de droits de la personne. Il s’agit d’un guide pratique étape par étape qui aidera les organismes des secteurs public et privé au Canada à intégrer les « droits de la personne dès la conception » dans leurs systèmes d’IA. La CDO a également publié un document d’information pour expliquer le développement de l’HRIA.
La CDO et la COPD révisent actuellement l’EIDP à la suite de consultations et de mises à jour touchant le cadre juridique qui régit l’IA. Une version actualisée suivra sous peu.
Nous continuons à surveiller les avancées dans ce domaine et à discuter avec les gouvernements, l’industrie et le public des enjeux émergents liés à la réglementation de l’IA et aux droits de la personne.
Phase actuelle du projet
La gouvernance de l’IA est un domaine en évolution, et la CDO est déterminée à réagir aux avancées dans la recherche, les politiques et les lois en Ontario, au Canada et dans le monde.
À l’heure actuelle, l’EIDP fait l’objet d’une révision à la suite des commentaires de parties prenantes, et une version à jour paraîtra prochainement.
Responsable du projet et coordonnées
La responsable du projet est Susie Lindsay. On peut communiquer avec elle par courriel à slindsay@lco-cdo.org.
Vous pouvez communiquer avec la CDO en écrivant à LawCommission@lco-cdo.org.