Le cours se concentre sur les biais liés au sexe, à la race et à la situation socio-économique, ainsi que sur les biais dans les modèles de prédiction basés sur les données et menant à des décisions. 

Le cours s’adresse principalement aux professionnels et aux universitaires ayant des connaissances de base en mathématiques et en programmation. La richesse de ce cours sera également d’une grande utilité pour quiconque utilise l’IA ou s’y intéresse. Ces sujets sociotechniques se sont avérés très révélateurs pour les professionnels techniques.

La durée totale du contenu vidéo est d’une durée totale de de 7 h 30,  enregistré en anglais et sous-titré en français. Le contenu est découpé en segments que vous pouvez regarder à votre propre rythme. Des quiz complets sont également proposés à la fin de chaque segment pour évaluer votre compréhension du contenu.

IVADO est une plaque tournante de la science des données en économie qui réunit des partenaires industriels, universitaires et gouvernementaux ayant une expertise en intelligence numérique. L’une de ses missions est de contribuer à l’avancée des connaissances numériques et de former de nouvelles générations d’experts en science des données conscients des biais. Bienvenue dans le monde de l’IA éthique et responsable!

Objectifs du cours

Au terme de ce MOOC, vous serez en mesure de : 

• Comprendre les biais et la discrimination sous tous les aspects techniques et sociaux  
• Identifier les effets néfastes des biais en apprentissage automatique (effets discriminatoires de la prise de décision algorithmique)
• Identifier les sources de biais et de discrimination en apprentissage automatique
• Utiliser des méthodes pour atténuer les biais en apprentissage automatique (stratégies de lutte contre les biais)
• Émettre des recommandations pour guider le développement et l’évaluation éthiques des algorithmes en apprentissage automatique.

Prérequis

Une compréhension de base de l’apprentissage automatique est fortement recommandée pour ce MOOC.

Plan du cours

Module 1 Les concepts des biais et de l'équité dans le paradigme de l’IA

• Différents types de biais
• Critères et mesures d’équité

Module 2 Domaines dans lesquels des problèmes de biais algorithmiques ont été décelés

• Vie privée, travail et système judiciaire
• Politique et santé publique

Module 3 Tentatives institutionnelles visant à atténuer les biais et la discrimination en IA

• L’outil d’évaluation de l’incidence algorithmique du Canada (Aequitas)
• La Déclaration de Montréal pour une IA responsable

Module 4 Tentatives techniques visant à atténuer les biais et la discrimination en IA

• Contraintes d’équité dans les plongements de graphe
• Biais sexistes dans les textes