Normes pour le contrôle des biais algorithmiques : le contexte administratif canadien - Broché

par Natalie Heisler (Auteure), Maura R. Grossman (Auteure)

Les gouvernements du monde entier utilisent l'apprentissage automatique dans les systèmes de prise de décision automatisée pour un large éventail de fonctions. Cependant, le biais algorithmique dans l'apprentissage automatique peut entraîner des décisions automatisées qui produisent un impact disproportionné et peuvent compromettre les garanties d'égalité réelle de la Charte. Ce livre cherche à répondre à la question suivante : quelles normes devraient être appliquées à l'apprentissage automatique pour atténuer l'impact disproportionné de l'utilisation gouvernementale de la prise de décision automatisée ?

Le paysage réglementaire de la prise de décision automatisée, au Canada et dans le monde, est loin d'être stable. Des modèles législatifs et politiques émergent, et le rôle des normes évolue pour soutenir les objectifs réglementaires. Tout en reconnaissant les contributions des principales organisations d'élaboration de normes, les auteurs soutiennent que la justification des normes doit provenir de la loi et que la mise en œuvre de ces normes aiderait à réduire les plaintes futures de la part de ceux qui sont soumis à la prise de décision automatisée, et permettrait de manière proactive la protection des droits de l'homme pour ceux-ci. Le livre présente un cadre de normes proposé pour la prise de décision automatisée et fournit des recommandations pour sa mise en œuvre dans le contexte de la Directive sur la prise de décision automatisée du gouvernement du Canada.

Ainsi, ce livre peut aider les organismes publics du monde entier à développer et à déployer des systèmes de prise de décision automatisée de manière équitable, et intéresser également les entreprises qui utilisent des processus de prise de décision automatisée.

Biographie de l'auteur

Natalie Heisler a conseillé des organisations des secteurs public et privé du monde entier en matière de stratégie et de déploiement de données, d'analyse et d'intelligence artificielle pendant plus de vingt ans. Natalie apporte à son travail une perspective unique et multidisciplinaire, couvrant les dimensions sociales, réglementaires, politiques et techniques. Natalie est titulaire d'un BA en psychologie, d'un MSc en mathématiques et d'un MA en sciences politiques et vit à Toronto, au Canada.

Maura R. Grossman, JD, PhD, est professeure de recherche à la David R. Cheriton School of Computer Science de l'Université de Waterloo et membre du corps professoral affilié à l'Institut Vector d'intelligence artificielle, tous deux en Ontario, au Canada. Elle est également directrice de Maura Grossman Law, à Buffalo, New York, États-Unis. Les travaux multidisciplinaires de la professeure Grossman se situent à l'intersection du droit, de la santé, de la technologie, de l'éthique et de la politique.