Loi européenne sur l’IA : ce que les RH doivent savoir

La loi européenne sur l’IA devrait entrer en vigueur en février et aura un impact sur toute entreprise qui développe ou déploie de grands outils de modèle linguistique, y compris les employeurs britanniques. James Flint explique.

L’enthousiasme suscité par les avancées en matière d’IA au cours des 18 derniers mois environ, combiné au climat économique incertain, a poussé un large éventail de services RH à adopter rapidement cette technologie.

Les chatbots peuvent répondre aux questions des candidats dès le premier contact, aider à planifier des entretiens et fournir des mises à jour sur l'avancement des candidatures d'une manière plus personnalisée qu'un site Web traditionnel.

Les IA peuvent explorer les sites d'emploi, les sites de réseaux sociaux et professionnels et les bases de données internes pour trouver des candidats possédant des compétences particulières. Lorsque des CV arrivent, une IA peut les filtrer et les classer plus efficacement qu’une équipe humaine débordée.

La technologie peut également automatiser l'administration d'intégration de la vérification des documents, aider à concevoir et à organiser des formations, analyser des enquêtes internes et repérer les tendances dans l'opinion des employés, et même – de manière légèrement contre-intuitive – supprimer le type de préjugé humain inconscient qui s'insinue souvent dans les évaluations de performances.

Les lignes directrices pour le déploiement d'outils comme celui-ci étaient auparavant principalement définies par les principes de protection des données énoncés à l'article 5 du RGPD (y compris l'exactitude, l'équité, la transparence et la confidentialité) et les dispositions relatives à la « prise de décision automatisée » couvertes par l'article 5 du RGPD. 23.

Mais depuis le 2 février 2025, un petit nouveau s'ajoute au bloc réglementaire, la loi européenne sur l'IA, qui définit toute activité d'IA dans les domaines du recrutement, des ressources humaines ou de la gestion des travailleurs comme « à haut risque ».

Les entreprises britanniques qui développent ou déploient un système d’IA utilisé dans l’UE devront se conformer à la loi.

Et cela placera probablement tous les services RH tournés vers l’avenir dans le champ d’application d’une charge législative supplémentaire dont ils doivent être conscients.

La technologie devrait déjà soulever des questions telles que : si l’IA peut être utilisée si facilement dans tous ces domaines, que se passe-t-il lorsqu’elle commence à sous-performer ou à mal tourner ?

Si l’IA ajoute des biais au lieu de les supprimer, hallucine les qualités des candidats au lieu de les évaluer, ou analyse mal les données de la cohorte au lieu d’en identifier correctement les modèles, les résultats peuvent être catastrophiques tant pour l’employeur que pour l’employé.

Les mauvaises personnes peuvent être embauchées, les mauvaises équipes réprimandées et les mauvaises publicités publiées, ce qui a au mieux un effet néfaste sur la culture de l'entreprise et peut aboutir à des litiges coûteux, à des désastres en matière de relations publiques et pire encore une fois que ces effets se répercutent sur les gens. la vie de tous les jours.

C'est pourquoi la loi européenne sur l'IA a choisi d'ajouter les applications de l'IA en matière de recrutement, de ressources humaines et de gestion des travailleurs à sa catégorie « à haut risque », où elles côtoient des éléments tels que l'IA dans les dispositifs médicaux, les véhicules autonomes, les forces de l'ordre, l'identification biométrique et les systèmes critiques. infrastructure.

Si vous créez des systèmes d'IA pour ce type de cas d'utilisation, cela fait de vous un « fournisseur d'IA », et les fournisseurs d'IA sont soumis à toute une liste d'obligations réglementaires, notamment (mais sans s'y limiter) :

• Mettre en œuvre un processus de gestion des risques approprié
• Utiliser des ensembles de données adaptés à l'objectif et exempts de préjugés, maintenir la documentation technique et la surveillance humaine
• Réaliser ce qu'on appelle une évaluation de la conformité, qui s'apparente un peu à une évaluation d'impact sur la protection des données (DPIA), mais pour l'IA
• Enregistrement de votre modèle dans la base de données officielle de l'UE des systèmes d'IA à haut risque
• Surveiller et corriger les performances et la sécurité de votre système après son déploiement

Il est important de comprendre que vous serez classé comme fournisseur d'IA et chargé de toutes ces responsabilités même si vous utilisez simplement un modèle existant, par exemple un modèle open source en grand langage (LLM) comme Mistral ou Llama, et alors très bien -en le réglant avec vos propres ensembles de données ou une génération de récupération augmentée (RAG).

Donc, si vous disposez d'une équipe proactive qui vous a construit quelques outils sophistiqués avec toutes ces nouvelles technologies, méfiez-vous : vous pourriez avoir plus de paperasse que prévu.

Même si vous déployez simplement un système que vous avez acheté ailleurs, la loi vous tiendra toujours responsable d'une liste d'exigences qui incluent la limitation des objectifs, la surveillance humaine, la surveillance des données d'entrée, la tenue de dossiers, le rapport d'incident. , la transparence envers les parties concernées et l'atténuation des préjugés et des risques.

Et cela avant même d’aborder les considérations éthiques auxquelles les fournisseurs et les utilisateurs doivent adhérer et garantir que leurs systèmes s’alignent.

L'IA n'est pas comme les logiciels traditionnels. Les logiciels traditionnels sont déterministes : ils font ce qu'on leur dit, et lorsqu'ils ne le font pas, c'est un problème qui peut être résolu (en théorie, du moins) en apportant des modifications au programme. Mais les systèmes d’IA sont intrinsèquement probabilistes.

Ils fonctionnent sur la base de l’analyse statistique de grandes quantités de données, ce qui les rend beaucoup plus robustes que les systèmes logiciels traditionnels face à l’incertitude du monde réel, mais cela signifie également que leurs résultats sont intrinsèquement incertains.

Le respect de la loi de l’UE sur l’IA doit être considéré comme un moyen de contenir cette incertitude et de la surveiller en permanence.

L’accent doit être mis sur une surveillance complète des données, sur la promotion de la transparence et sur la conception de processus qui servent à la fois l’entreprise et ses candidats.

Cela implique de mener des audits approfondis des systèmes d’IA existants, de mettre en place des pratiques rigoureuses de conformité dès la conception pour les nouveaux systèmes et de former les équipes à l’utilisation éthique de l’IA.

En adoptant une approche proactive et en mettant en œuvre dès le départ une bonne gouvernance de l’IA, les services RH peuvent éviter les pièges d’une mise en œuvre précipitée et garantir que cette technologie passionnante s’avère une aubaine pour leurs organisations, et non une menace.