Stratégie ICO pour examiner l'utilisation de l'IA dans la technologie du recrutement
Le bureau du commissaire de l'information (ICO) intensifie sa supervision des technologies de l'IA et de la biométrique, lançant aujourd'hui une nouvelle stratégie au Parlement, qui comprend un examen de l'utilisation de la prise de décision automatique dans le recrutement.
Le régulateur des données britanniques a dévoilé des plans pour soutenir l'innovation responsable de l'IA en augmentant son examen minutieux dans les domaines des préoccupations publiques, afin que les gens puissent croire que leurs informations personnelles sont utilisées de manière responsable.
S'exprimant lors d'un événement ICO avec le groupe parlementaire multipartite pour l'IA (AI Appg) ce matin, le commissaire à l'information John Edwards a déclaré: «Nos informations personnelles alimentent l'économie, apportant de nouvelles opportunités pour les organisations d'innover avec l'IA et les technologies biométriques.
«Mais pour s'engager en toute confiance avec les produits et services alimentés par l'IA, les gens doivent avoir confiance que leurs informations personnelles sont entre des mains sûres. C'est notre travail en tant que régulateur pour examiner les technologies émergentes -« AI de l'agentique »par exemple – afin que nous puissions nous assurer que des protections efficaces sont en place et que les informations personnelles sont utilisées d'une manière à la fois conduite en innovation et en générant la confiance des gens.»
La nouvelle stratégie d'IA et de biométrie de l'ICO vise à s'assurer que les organisations développent et déploient les nouvelles technologies légalement, en les aidant à innover et à se développer tout en protégeant le public.
La recherche sur la prise de décision automatique (ADM) dans les technologies de recrutement et biométriques révèle que le public s'attend à comprendre exactement quand et comment les systèmes alimentés par l'IA les affectent.
Ils sont préoccupés par les conséquences lorsque ces technologies se trompent – par exemple, si une décision automatisée implique un impact sur leur demande d'emploi, ou si la technologie de reconnaissance faciale (FRT) est utilisée de manière inexacte. Plus de la moitié des personnes interrogées (54%) ont partagé des inquiétudes que l'utilisation de la FRT par la police porterait sur leur droit à la vie privée.
L'ICO a déclaré qu'elle fournirait à les organisations une certitude et le public rassurant par:
- Examiner l'utilisation des systèmes ADM dans le recrutement et travailler avec les premiers adoptants
- effectuer des audits et produire des conseils sur l'utilisation légale, équitable et proportionnée de FRT
- définir des attentes claires pour protéger les informations personnelles des gens lorsqu'ils sont utilisés pour former des modèles d'IA génératifs
- Développement d'un code de pratique statutaire pour le développement ou le déploiement de l'IA de l'IA pour soutenir l'innovation tout en protégeant la vie privée, et
- examiner les risques et tendances émergents de l'IA, tels que la montée de l'IA agentique, qui permettent aux systèmes de devenir de plus en plus capables d'agir de manière autonome.
L'ICO a lancé la stratégie à son 40e anniversaire avec l'AI APG au Parlement ce matin, où les politiciens, les chefs de l'industrie et la société civile se sont réunis pour discuter de la vie privée dans l'utilisation responsable de l'IA dans l'économie.
Edwards a ajouté: «Les mêmes principes de protection des données s'appliquent maintenant comme ils l'ont toujours fait – la confiance est importante et ne peut être construite que par des organisations utilisant les informations personnelles des gens de manière responsable.
«La confiance du public n'est pas menacée par les nouvelles technologies elles-mêmes, mais par des applications imprudentes de ces technologies en dehors des garde-corps nécessaires. Nous sommes ici, comme nous étions il y a 40 ans, pour faciliter la conformité et garantir que ces garde-corps sont en place.»
Lord Clement-Jones, Peer libéral-démocrate et coprésident AI de l'APPG, a déclaré: «La révolution de l'IA doit être fondée sur la confiance. La confidentialité, la transparence et la responsabilité ne sont pas des obstacles à l'innovation; ils constituent sa fondation. L'IA progresse rapidement, passant des modèles génératifs aux systèmes autonomes.
«Cependant, une vitesse accrue introduit la complexité. La complexité entraîne des risques. Nous devons garantir que l'innovation ne compromet pas la confiance du public, les droits individuels ou les principes démocratiques.»
Dawn Butler, député travailliste et vice-président de l'AI APG, a déclaré: «L'intelligence artificielle est plus qu'un simple changement de technologie; c'est un changement dans la société. Cela changera de plus en plus de la façon dont nous obtenons des soins de santé, de l'école, des voyages et même de l'expérience de la démocratie.
La stratégie de l'ICO s'appuie sur sa publication de postes politiques sur l'IA générative et les mesures qu'elle a prises contre les organisations, telles que l'ordre de Serco Leisure l'année dernière pour cesser d'utiliser la technologie biométrique pour surveiller ses employés.
L'ICO a déclaré qu'elle consulterait sur une orientation mise à jour pour ADM et le profilage, développer un code de pratique statutaire sur l'IA et l'ADM, et produire un rapport d'horizon sur les implications sur la protection des données de l'IA agentique.
Qu'est-ce que l'agent AI?
L'IA agentique est un modèle plus autonome et proactif de l'intelligence artificielle. Il peut agir sans guidage humain car il comprend les objectifs de l'utilisateur. Alors que les systèmes d'IA agentiques utilisent toujours les capacités créatives des modèles d'IA génératifs comme ChatGpt, ils se concentrent sur la prise de décisions au lieu de créer du contenu. Ils optimisent des objectifs spécifiques et peuvent entreprendre une série d'activités.
Edwards a déclaré: « L'IA agentique est le prochain chapitre de l'évolution de l'IA, les systèmes devenant de plus en plus capables d'agir de manière autonome. Alors que l'IA génératrice pourrait être en mesure d'écrire votre liste de courses, une IA agentique pourrait être en mesure d'accéder à une boutique en ligne et d'utiliser vos détails d'identité et de paiement pour passer une commande. »