Les demandeurs d'emploi ont envie de transparence pour ADM dans le recrutement
Les candidats à l'emploi recherchent fortement la transparence dans l'utilisation de l'ADM dans le recrutement, voulant savoir quand et comment la prise de décision automatique est utilisée, quelles données sont traitées et comment les décisions sont prises.
Ces résultats proviennent de nouvelles recherches du Bureau du commissaire à l'information pour comprendre les perceptions du public envers ADM dans le recrutement, publiées hier aux côtés de la stratégie de l'ICO sur l'utilisation de l'IA et de la biométrie.
Comme les processus de recrutement utilisent de plus en plus l'AL pour filtrer les CV et les lettres de candidature, mener des entretiens initiaux et évaluer la pertinence des candidats, des préoccupations ont été soulevées concernant l'équité, la transparence et la responsabilité.
L'ICO a déclaré qu'il est particulièrement intéressé à comprendre comment ces technologies ont un impact sur les individus, en particulier les groupes marginalisés qui peuvent être affectés de manière disproportionnée par des algorithmes biaisés.
Il a commandé révélant la réalité pour recueillir des preuves qualitatives de la façon dont les gens éprouvent des ADM dans le recrutement et les effets qu'ils pensent qu'il a eu sur eux. La recherche a exploré les réactions à différents types d'outils ADM, qu'ils les aient expérimentés directement ou non.
Ils ont également capturé des preuves des attentes des gens concernant l'utilisation de l'ADM – en particulier en ce qui concerne l'article 22 du Règlement général sur la protection des données britanniques, qui protège les droits des individus en relation avec ADM.
L'étude a impliqué des groupes de discussion à distance avec 33 demandeurs d'emploi, divisés en quatre groupes pour représenter une gamme d'expériences et d'attitudes d'emploi.
Alors que de nombreux demandeurs d'emploi ont reconnu l'utilisation accrue de l'ADM, ils avaient généralement une compréhension limitée de son fonctionnement, le percevant souvent de manière binaire de prise de décision humaine ou entièrement automatisée.
Certains ont vu des avantages potentiels dans le filtrage à un stade précoce, mais il y avait des préoccupations importantes concernant l'utilisation de l'ADM pour les évaluations et la prise de décision finale. Tous les participants étaient fortement négatifs à propos de la prise de décision entièrement automatisée dans le recrutement.
La plupart ont exprimé des préoccupations concernant la nature déroutante des évaluations, où les tests étaient perçus comme illogiques, et ont exprimé leur frustration face à la conception de tâches de recrutement, telles que les jeux.
Un membre du groupe de diplômes a déclaré: «Je me souviens que l'un des jeux que j'ai obtenu était que vous avez dû gonfler un ballon. Vous aviez environ deux minutes et vous avez fait des ballons régulièrement en cliquant simplement sur votre souris et ils éclateraient à différents points…
«Le but était d'essayer de les pomper autant que vous le pouviez, puis laissez-les partir et continuez sans éclater… pour un rôle d'études supérieures, pensais-je, est-ce vraiment… une mesure de la compétence?»
Certains participants pensaient avoir connu des outils ADM, mais ont estimé que le processus global manquait de transparence. « La vitesse sur le délai d'exécution d'une réponse et c'est un rejet automatisé me fait penser que c'est ADM », a déclaré un participant.
« Recevoir des e-mails de rejet identiques dans de nombreux emplois différents est un signe (que cela pourrait être ADM) », a déclaré un autre.
Cependant, alors que les participants pensaient que ADM était largement utilisé, aucun ne pouvait se rappeler avoir vu des informations à ce sujet lors de la création de candidatures. Beaucoup pensaient qu'il y avait un manque de transparence des employeurs.
« Je suis convaincu qu'il est utilisé, mais je n'ai vu aucune transparence », a déclaré l'un des diplômés.
Les chercheurs ont mis en évidence les principaux domaines de préoccupation et ont souligné la nécessité de considérer attentivement les implications éthiques et les meilleures pratiques dans la conception et la mise en œuvre des systèmes ADM:
- La transparence est primordiale: Les participants ont souligné la nécessité de transparence concernant l'utilisation de l'ADM dans les processus de recrutement.
- La surveillance humaine est essentielle: Malgré la reconnaissance de l'efficacité potentielle, les participants pensaient que la participation humaine restait cruciale pour assurer l'équité, la lutte contre les biais et la fourniture de commentaires individuels.
- Les préoccupations concernant les biais doivent être traitées: Le potentiel de l'ADM à perpétuer ou à amplifier les préjugés sociétaux existants était une préoccupation majeure. On s'attendait à une forte attente que les systèmes ADM soient justes, impartiaux et non discriminatoires.
- L'expérience des candidats est importante: Les expériences des participants dans le processus de recrutement ont considérablement influencé leurs perceptions des systèmes ADM. Des problèmes, tels que le manque de communication, les commentaires vagues et les processus impersonnels, ont eu un impact négatif sur les attitudes envers Adm.
- La pertinence d'ADM est contextuelle: Les participants avaient des opinions mitigées sur la pertinence de l'ADM à différentes étapes du recrutement. Bien que le «coup léger» ADM pour le filtrage initial soit considéré comme acceptable, il y avait des préoccupations importantes concernant les systèmes plus complets ou entièrement automatisés.
Au cours de la prochaine année, l'ICO a déclaré qu'il consulterait une mise à jour de son ADM et de ses conseils de profilage, et élaborera un code de pratique statutaire sur l'IA et l'ADM.