Risques de l'IA : les biais

Comprendre comment les biais peuvent se glisser dans les prédictions d'une IA et les risques associés.

Difficulté

Technical Technique

Durée

45 minute(s) minute(s)

Disciplines scientifiques

Informatique

1. IA

Risques_de_l_IA_-_les_biais_0_XP-kzQuPM6LPiiHm.jpg

• Matériel et outils

Tableau velleda

[[File:]]

Tableau blanc

Tableau velleda

Feutres velleda

[[File:]]

Feutres effaçables

Feutres velleda

Étape 1 - créer en amont des cartes de profil type

L'âge, le sexe, la profession, une image type (générer par l'IA par exemple)

Prévoir 15 profils type  ; soyez large dans vos profils

"Femme, 30 ans, ingénieure" ;

"Homme, 45 ans, médecin";

"Non Binaire, 21, artisan";

Préparez un scenario où une IA doit faire des prédictions.

trouver une personne pour un poste.

Qui va recevoir une promotion.

Étape 2 - Regle du jeu

Règles du Jeu :

• Divisez les participants en groupes.
• Chaque groupe reçoit un ensemble de cartes de profil et doit faire des prédictions basées sur des critères donnés.
• Encouragez les groupes à discuter de leurs choix et des raisons derrière leurs prédictions.

Étape 3 - les Biais

Discussion des Biais :

• Après avoir fait les prédictions, discutez des résultats en groupe.
• Parlez des stéréotypes et des biais implicites qui ont pu influencer les prédictions.
• Expliquez que les IA, entraînées sur des données biaisées, peuvent reproduire et amplifier ces biais.

Étape 4 - Temps de discussions

Exemples Réels :

• Donnez des exemples réels de biais dans les systèmes d'IA, comme les biais dans les algorithmes de recrutement ou de reconnaissance faciale.
• Discutez des risques de ces biais, comme la discrimination et les décisions injustes.

Exemple de la mariée : si on demande à un participant de visualisé une image de mariée, on a de grandes chances qu'il la visualise : en robe blanche. Mais dans notre multiculturalisme, la mariée n'est pas toujours en robe blanche. L'IA va reproduire ce biais, car elle a un regard très occidental

Étape 5 - Réflexion

Encouragez les participants à réfléchir sur les moyens de réduire les biais dans les données d'entraînement et les algorithmes.

Parlez des bonnes pratiques comme la diversification des données et l'audit régulier des systèmes d'IA.

Dernière modification 27/11/2024 par user:Nadialb.

Published