Que sont les biais de l’IA dans le recrutement?
Les biais de l’IA dans le recrutement sont des discriminations injustes qui peuvent se produire lorsque les systèmes d’intelligence artificielle sont utilisés pour le recrutement. Ces biais peuvent venir de diverses sources, comme les modèles d’apprentissage d’IA ou les algorithmes. Les biais peuvent avoir une incidence sur les décisions de recrutement fondées sur l’IA et soulever des questions juridiques. Si vous utilisez l’IA dans votre processus d’embauche, il peut être bénéfique de prendre en compte les divers types de biais qui peuvent survenir.
Le biais de données d’échantillon
Les données d’échantillon sont des données utilisées pour entraîner l’IA qui ne reflètent pas avec exactitude la population du monde réel. Par exemple, l’IA peut surreprésenter ou sous-représenter certains groupes.
Le biais d’algorithme
Ce biais vient de la conception de l’algorithme, et non des données. Les facteurs comme la complexité du réseau neuronal ou les renseignements antérieurs de l’algorithme peuvent introduire ce biais.
Le biais de représentation
Tout comme le biais d’échantillon, le biais de représentation peut survenir lors du recueil de données. Les enregistreurs de données peuvent ne pas distribuer les données uniformément, ne pas parvenir à justifier les cas particuliers et les exceptions, ou bien ne pas tenir compte de la diversité de la population, menant à une représentation inégale des groupes démographiques.
Le biais de mesure
Ce type de biais survient lorsque les conclusions du rapport comportent des erreurs ou lors de la constitution des ensembles de données d’apprentissage. Ces erreurs peuvent mener à des résultats biaisés à l’encontre de certains groupes.
Les causes des biais de l’IA dans le recrutement
Pour trouver une solution, il peut être utile de comprendre comment et pourquoi l’IA peut comporter des biais. Voici quelques raisons qui peuvent expliquer la survenue de biais de l’IA dans le recrutement.
Les données d’entraînement faussées
Les modèles d’IA fondent leurs décisions sur les données avec lesquelles ils apprennent. Si les données d’entraînement comportent des biais, alors l’IA peut prendre des décisions biaisées. Par exemple, si le recueil de données comporte des biais historiques ou si les données manquent de diversité, il est fort probable que l’IA en soit le reflet et mène à un recrutement biaisé, comme en favorisant des groupes en particulier.
La conception de l’algorithme
La conception de l’algorithme peut générer des biais dans le recrutement lorsque l’algorithme a une incidence sur le traitement des données et sur la prise de décision. Lorsque les équipes de développement incluent involontairement des présuppositions ou des paramètres biaisés dans l’algorithme, ces biais peuvent amplifier le processus de prise de décision de l’IA. Par exemple, si un algorithme donne la priorité à des mots-clés en particulier ou à des expériences communes à un groupe démographique précis, des candidats de ce groupe pourront être favorisés alors que d’autres candidats seront désavantagés. La complexité de l’algorithme et les données requises peuvent introduire des biais si les équipes de développement manquent de précision pour gérer ces facteurs. Même avec des données d’entraînement non biaisées, l’algorithme peut encore produire des résultats faussés en raison de sa conception.
La participation humaine
La participation humaine à l’IA peut ajouter des biais dans le recrutement, car les humains sont naturellement sujets aux biais, ce qui influence la façon dont ils conçoivent les systèmes d’IA et interagissent avec eux. Lorsque les équipes de développement et les utilisateurs fournissent à l’IA leurs présuppositions, leurs préférences ou leurs jugements subjectifs, ils ajoutent par inadvertance ces biais au système. L’IA utilise souvent l’apprentissage par renforcement et les boucles de rétroaction, ce qui signifie qu’elle apprend et s’adapte en fonction de la rétroaction fournie par les humains. Si cette dernière est biaisée, l’IA perpétue et amplifie ces biais dans le temps, sans le savoir.
Par exemple, si les équipes de développement alimentent le système avec des décisions biaisées en tant que résultats positifs, l’IA continue de favoriser ces décisions. Ce cycle peut mener à un biais continu et systémique dans le recrutement. Il est ainsi essentiel de surveiller et de réduire l’influence humaine dans les systèmes d’IA.
Quelques exemples de biais de l’IA dans le recrutement
L’IA peut comporter des biais à l’encontre de certains groupes en fonction de leur origine ethnique, de leur genre ou de leur handicap. Voici quelques exemples de biais possibles.
Le sexisme
Lorsqu’une entreprise utilise un outil d’IA afin de passer en revue des candidatures pour un poste technique, cet outil est généralement entraîné par l’équipe de développement avec des données de recrutement datant d’une période où l’entreprise favorisait les hommes pour des postes similaires. Ainsi, l’IA peut mettre la priorité sur des mots-clés et des compétences que les hommes incluent plus souvent dans leur CV. Par exemple, l’IA peut mieux classer une candidature si le CV comprend des termes comme « leadership technique » ou « gestion de projets ».
Par conséquent, l’IA peut passer à côté de candidates pertinentes, même si elles possèdent des compétences similaires, car elles n’utilisent pas les mêmes termes ou ont moins d’expérience traditionnelle. Ce scénario peut pousser l’entreprise à embaucher moins de femmes pour des postes techniques, renforçant ainsi les inégalités de genre dans ce secteur d’activité.
La discrimination fondée sur l’origine ethnique
Tout comme l’IA peut comporter des biais en fonction du genre, elle peut également comporter des biais à l’encontre de personnes de diverses origines ethniques. En raison des biais inconscients présents dans les données, les outils d’IA peuvent favoriser involontairement certains groupes d’origine ethnique au détriment d’autres. Depuis son avènement, l’IA est critiquée pour ses biais liés à l’origine ethnique. Certains modèles d’IA prennent de mauvaises décisions ou produisent des résultats incorrects pour des membres de groupes sous-représentés.
Par exemple, l’IA risque de mal évaluer les compétences de personnes issues de groupes sous-représentés, menant à moins d’entrevues d’emploi pour ces candidats. Ce problème peut se produire si l’IA s’appuie sur les tendances d’un bassin de candidats majoritairement blancs, ce qui fait passer d’autres CV au second plan.
Les implications juridiques et éthiques
Les biais de l’IA dans l’embauche sont source de problèmes pour votre entreprise. Au-delà des questions éthiques, ces problèmes peuvent aller à l’encontre d’organismes canadiens chargés de l’application de la loi comme la Commission canadienne des droits de la personne (CCDP) ou la Commission ontarienne des droits de la personne (CODP). Avec l’évolution rapide et constante de l’IA, il peut s’avérer laborieux de rester en adéquation avec les lois. Les services des RH doivent envisager de gérer de façon proactive les risques des outils d’IA dans l’embauche.
Lorsqu’il utilise l’IA pour embaucher, votre service des ressources humaines (RH) devrait chercher à mieux connaître les implications juridiques et éthiques de ses possibles biais. Voici quelques points importants à prendre en compte :
- Les lois contre la discrimination au travail, comme celles de la Commission canadienne des droits de la personne, de la Commission ontarienne des droits de la personne ou de l’organisme provincial ou territorial de régulation dans votre zone;
- Les directives en matière d’éthique pour les outils d’IA utilisés;
- L’assurance d’une utilisation raisonnable de l’IA et le maintien de l’imputabilité pour tout biais qui pourrait survenir.
Quelques stratégies pour réduire les biais de l’IA dans le recrutement
Vous pouvez constituer un recrutement intègre et impartial et assurer un processus d’embauche plus équitable en mettant en place les stratégies suivantes.
Vérifiez et mettez à jour les données d’entraînement de façon régulière
Examinez vos données d’entraînement de façon régulière pour confirmer qu’elles incluent un éventail de candidats et représentent avec exactitude différents groupes. Assurez-vous que les données ne contiennent pas de renseignements sur la démographie des personnes et corrigez tout déséquilibre qui favoriserait certains groupes.
Diversifiez votre équipe de développement de l’IA
Avec des perspectives variées, vous pouvez mieux cerner de possibles biais et y remédier qu’avec un groupe plus homogène. Une équipe diversifiée a de meilleures chances d’apporter une vision menant à des solutions d’IA plus équitables.
Mettez en place des outils de détection et de correction des biais
Les outils de détection et de correction des biais vous aident à trouver des schémas comportant des biais et à adapter le comportement de l’IA afin de promouvoir l’impartialité.
Définissez des directives et des normes éthiques claires
Pour remédier aux problèmes en matière de biais et d’impartialité, et pour conserver une embauche cohérente et équitable, définissez des normes de comportement de l’IA face à divers scénarios.
Formez vos équipes des RH à la prise de conscience des biais de l’IA
Plus vos équipes des RH disposent de renseignements sur les biais de l’IA et sur leur incidence sur la prise de décision, plus elles sont à même de superviser les outils d’IA et de s’assurer qu’ils apportent une dimension d’équité au processus d’embauche.
Faites preuve de transparence et d’ouverture face aux recours
Offrez aux candidats l’occasion de découvrir la façon dont les outils automatisés évaluent leur candidature. En faisant preuve de transparence quant à ces outils et en permettant aux candidats de former un recours contre les décisions, vous pouvez éviter les biais. Avec cette approche, les candidats ont une meilleure compréhension de votre processus d’embauche, ce qui leur permet de vous communiquer leurs préoccupations ou des erreurs possibles.
Adoptez des modèles d’IA axés sur l’équité
Alors que l’IA est de plus en plus courante, certaines équipes de développement se concentrent sur les algorithmes en prenant en compte l’équité afin de lutter contre les biais. Ces algorithmes examinent les données à la recherche de problèmes comme la discrimination ou le traitement inéquitable. Lorsque vous utilisez des modèles d’IA, assurez-vous de comprendre leur prise de décision et leur raisonnement. De plus, l’IA suit des règles afin d’éviter des biais liés au genre ou à l’origine ethnique, ce qui permet de réduire le risque de résultats inéquitables.
Instaurez une supervision humaine
Évitez de laisser l’IA gérer la prise de décision seule en matière d’embauche. Si vous intégrez l’IA à votre processus de recrutement, pensez à mettre en place une équipe pour la superviser afin de déceler des problèmes, d’y remédier et d’éviter les biais de l’IA. Une équipe diversifiée contribue à vérifier et à inspecter la prise de décision de l’IA.
L’IA offre de nombreux avantages, mais elle apporte également son lot de risques. En matière d’embauche, les décisions empreintes de biais prises par l’IA ou par des humains peuvent être néfastes à la réputation de votre entreprise et mener à des questions juridiques. En réduisant les biais de l’IA, vous faites la promotion de l’équité et permettez à votre équipe responsable de l’embauche de prendre de meilleures décisions pour votre entreprise.
