Biais, diversité et équité
D’où viennent les biais ?
Comprendre comment données, catégories et choix humains peuvent créer des écarts.
Imagine que
Tu entraînes un trieur de fruits avec un panier contenant presque uniquement des pommes rouges. Lorsqu’il rencontre une pomme verte ou un fruit photographié différemment, il hésite davantage. Ce n’est pas parce que le trieur « préfère » le rouge comme une personne : les exemples et les choix de conception ont limité ce qu’il a appris. Un biais est un décalage systématique qui peut favoriser certains résultats et en défavoriser d’autres.
Les biais peuvent apparaître à plusieurs étapes : problème mal défini, données peu représentatives, catégories trop simples, mesure de réussite incomplète, seuil de décision, contexte d’utilisation différent, ou confiance excessive accordée au résultat. Les données historiques peuvent aussi refléter des inégalités déjà présentes. Ajouter de la technologie sans examiner ces choix peut reproduire ou amplifier un problème.
Exemple
Un outil aide à choisir des illustrations pour une affiche. Si toutes ses propositions représentent les mêmes profils, le projet risque d’oublier une partie du public. Pour une activité créative, on peut demander plusieurs variantes et faire relire par des personnes différentes. Pour une décision qui touche l’accès à une opportunité, il faut des contrôles beaucoup plus exigeants, une possibilité de recours et un responsable humain identifiable.
À toi de jouer
Imagine une bibliothèque pour tous les habitants d’une ville. Dresse une liste de diversité utile : âges, langues, handicaps, habitudes, équipements disponibles. Demande-toi qui manque dans ton premier brouillon. L’exercice se fait en groupe, sur papier ou avec des cartes fictives, sans collecter d’informations personnelles. Pour les mineurs, un adulte encadre la discussion et évite d’étiqueter les participants.
Piège à éviter
Ne réduis pas une personne à une catégorie et ne conclus pas qu’un système est équitable parce que sa moyenne paraît bonne. Une moyenne peut cacher une difficulté concentrée sur un groupe ou une situation particulière.
À retenir
Un biais n’est pas seulement un défaut du modèle : il peut venir du besoin, des données, des choix et de l’usage. Cherche qui est représenté, qui manque, qui peut subir un tort et qui peut corriger la décision.