Comment les équipes de RH peuvent-elles utiliser l’IA dans l’embauche sans biais?

Une recruteuse débordée qui reçoit 300 candidatures pour un seul poste est exactement le genre de personne à qui l’on vend des outils d’IA. Le danger, c’est qu’un modèle apprenne en silence, ou reçoive, des schémas qui désavantagent des personnes en raison de leur âge, de leur sexe, d’un handicap, de leur origine ou d’un autre motif protégé. Au Canada, le droit de la personne, et ailleurs, les lois contre la discrimination, s’appliquent au résultat, qu’il soit produit par une personne ou par un programme.

La méthode sûre consiste à traiter l’IA comme une assistante qui lit et organise, jamais comme le juge. La personne qui décide reste responsable, les critères sont mis par écrit avant que quiconque regarde un curriculum vitæ, et les résultats sont vérifiés pour repérer les différences injustes entre les groupes. Ce guide offre de l’information générale, pas un avis juridique; une avocate ou un avocat en droit du travail devrait examiner tout processus avant que vous vous y fiiez.

Pourquoi le tri par IA peut mal tourner

Un modèle de langage a absorbé des schémas tirés d’énormes quantités de texte, y compris de vieux stéréotypes. Si on lui demande de « trouver les meilleurs candidats », il comble le vide avec ses propres suppositions sur ce à quoi ressemble « le meilleur ». Cela peut vouloir dire favoriser certains établissements d’enseignement, pénaliser les interruptions de carrière (qui reflètent souvent la parentalité, la maladie ou un handicap), ou lire les noms comme des indices d’origine.

La Commission ontarienne des droits de la personne et la Commission du droit de l’Ontario ont pris ce risque assez au sérieux pour publier, en novembre 2024, une Human Rights Impact Assessment for AI (évaluation de l’incidence de l’IA sur les droits de la personne). Une évaluation de l’incidence est un questionnaire structuré que l’on remplit avant et pendant l’utilisation : on évalue d’abord à quel point le système pourrait toucher les droits des personnes, puis on répond à des questions sur la façon de réduire les risques relevés. Les deux organismes invitent explicitement les employeurs à l’utiliser.

Un processus d’aide au tri, étape par étape

Voici un processus qui conserve les avantages et limite les risques. Le poste et les détails sont donnés à titre d’exemple.

1. Écrivez d’abord les critères. Pour un poste de commis comptable : connaissance des comptes fournisseurs, expérience d’un logiciel de comptabilité précis, exactitude avec les chiffres, français et anglais de niveau professionnel. Chaque critère doit être lié au poste.
2. Retirez ce dont le modèle n’a pas besoin. Supprimez les noms, photos, adresses, dates de naissance et années d’obtention des diplômes avant que le moindre texte n’atteigne l’outil.
3. Demandez des preuves, pas un classement. Le prompt ci-dessous demande au modèle de citer ce qu’il a trouvé pour chaque critère et de le dire quand aucune preuve n’est présente. Il ne demande jamais de note ni de oui ou non.
4. Une personne formée décide. La recruteuse lit le résumé et la candidature originale, puis décide qui passe à l’étape suivante et note pourquoi.
5. Vérifiez les résultats. Chaque mois, comparez la façon dont les candidats de différents groupes franchissent chaque étape, là où vous avez légalement recueilli des données d’auto-identification volontaire. Un grand écart est un signal pour arrêter et enquêter.
6. Informez les candidats. Indiquez dans l’offre d’emploi et dans votre avis de confidentialité qu’un outil d’IA aide à résumer les candidatures, que ce sont des personnes qui prennent les décisions, et comment poser des questions ou demander un examen par une personne.

Tu aides une recruteuse à examiner une candidature pour un poste de commis comptable.
Critères (liés au poste seulement) :
1. Expérience des comptes fournisseurs
2. Expérience de [logiciel de comptabilité]
3. Exactitude avec les chiffres (preuves comme des rapprochements, des vérifications)
4. Français et anglais de niveau professionnel

Pour chaque critère, cite les mots exacts de la candidature qui le démontrent,
ou écris « Aucune preuve trouvée. » Ne déduis rien des noms, de l’âge, des
interruptions d’emploi, des établissements d’enseignement, des adresses ou du
style d’écriture. Ne classe pas, ne note pas et ne recommande pas. Termine par
une liste de questions que la recruteuse pourrait poser pour combler les lacunes.

Candidature :
[colle le CV et la lettre de présentation anonymisés]

Les règles à connaître

Les lois varient selon l’endroit; vérifiez donc celles qui s’appliquent là où vous embauchez.

• Canada. Les codes des droits de la personne provinciaux et fédéral interdisent la discrimination en emploi fondée sur des motifs protégés. L’évaluation de l’incidence ontarienne, que la Commission canadienne des droits de la personne a aidé à élaborer, est un moyen pratique de documenter votre diligence.
• Ville de New York. La Local Law 144 de 2021 (règlement municipal no 144) prévoit qu’un employeur ou une agence de placement ne peut se fier à un outil automatisé pour trier ou sélectionner des candidats que si cet outil a fait l’objet d’une vérification des biais au cours de la dernière année, qu’un résumé de cette vérification est public, et que les candidats ou les employés en ont été avisés. Le service municipal de la protection des consommateurs et des travailleurs la fait appliquer depuis le 5 juillet 2023, et précise que l’avis doit être donné 10 jours ouvrables avant l’utilisation de l’outil.
• Québec. La Loi 25 a ajouté l’obligation d’informer les personnes lorsqu’une décision à leur sujet est prise uniquement au moyen d’un traitement automatisé, comme l’explique la section suivante.

Remarquez le fil conducteur : la transparence envers les candidats, la preuve que l’outil a été testé, et une personne qui peut intervenir.

Qu’exige la Loi 25 du Québec pour les décisions automatisées?

La Loi 25, la Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, a modernisé la loi québécoise sur la protection des renseignements personnels dans le secteur privé, et l’une de ses dispositions, l’article 12.1, s’applique depuis le 22 septembre 2023. Elle vise l’entreprise qui utilise des renseignements personnels afin que soit rendue une décision fondée exclusivement sur un traitement automatisé, c’est-à-dire sans qu’aucune personne n’y prenne réellement part. L’entreprise doit informer la personne concernée que la décision a été prise de cette façon, au plus tard au moment où elle l’informe de la décision elle-même.

Si la personne le demande, l’entreprise doit aussi lui expliquer trois choses : quels renseignements personnels ont été utilisés, les raisons de la décision ainsi que les principaux facteurs et paramètres sur lesquels elle s’appuie, et son droit de faire rectifier ces renseignements. La personne doit aussi pouvoir présenter ses observations à un membre du personnel qui a le pouvoir de réviser la décision. Par ailleurs, la loi exige que les renseignements utilisés pour prendre une décision au sujet de quelqu’un soient exacts et à jour.

Pour l’embauche, la voie la plus simple est le processus décrit plus haut : une personne lit la candidature et tranche, si bien que la décision n’est pas exclusivement automatisée. Même dans ce cas, dire aux candidats que l’IA aide à résumer les candidatures est une bonne pratique, qui cadre avec l’obligation générale de la loi d’expliquer pourquoi et comment les renseignements personnels sont recueillis. Un avis simple pourrait se lire ainsi : « Nous utilisons un outil d’IA pour résumer les candidatures en fonction des exigences du poste affiché. Un membre de notre équipe des RH examine chaque candidature et prend toutes les décisions. Pour poser des questions ou demander un examen, écrivez à [coordonnées]. » L’organisme québécois de surveillance de la vie privée, la Commission d’accès à l’information, ainsi qu’une avocate ou un avocat en protection de la vie privée peuvent confirmer ce dont votre processus particulier a besoin.