La société d'IA n'a pas discriminé racialement contre le candidat chinois, Règlement Tribunal

Refuser d'employer des ressortissants chinois dans des emplois de sécurité nationale sensibles n'est pas une discrimination, un tribunal a jugé.

La décision s'applique également aux candidats potentiels en matière d'emploi de Russie, de Corée du Nord et de l'Iran.

La nouvelle décision intervient après qu'un scientifique chinois a poursuivi une entreprise d'IA britannique avec des liens vers des organisations de défense lorsqu'elle n'a pas décroché un rôle dans l'entreprise, malgré les courriels encourageants du fondateur de la société.

Tianlin Xu a postulé pour un rôle payant jusqu'à 220 000 £ de rôle en IA chez Binary AI Ltd, mais le seul directeur de la société de logiciels, le Dr James Patrick-Evans, l'a finalement rejetée en faveur d'un autre candidat.

Mlle Xu a tenté de poursuivre Binary Ai Ltd pour des raisons de discrimination raciale, affirmant que son rejet était une «stigmatisation raciale» et «stéréotypes», mais le tribunal a rejeté ses allégations.

La start-up du Dr Patrick-Evans utilise l'IA pour identifier les défauts dans les logiciels utilisés par les gouvernements occidentaux pour empêcher les pirates d'État de la Chine et la Russie les ciblant. Il a été «fortement conseillé d'embaucher un ressortissant chinois» par les hauts responsables de la défense avec lesquels il a travaillé, a entendu le tribunal.

Les Chinois – comme Miss Xu – n'obtiendraient pas l'autorisation de sécurité des gouvernements afin de réaliser le travail, a-t-on dit.

Mais le tribunal a constaté que le piratage de groupes de pays, dont la Chine, avait tenté d'obtenir un accès à distance «porte dérobée» ou malveillant à des logiciels qui constituent l'épine dorsale des infrastructures britanniques telles que les télécommunications 5G, les réseaux de santé du NHS, les contrôleurs de centrales électriques et les systèmes d'infrastructure d'eau. «Il est donc impératif que la sécurité du logiciel qui anime ces systèmes soit vérifiée, contrôlée et sécurisée. Le Dr Patrick-Evans a fourni dans sa déclaration de témoin et dans le paquet de preuves abondantes de ces types d'attaques.»

En septembre 2023, l'intimé a eu un contrat avec le Defense Science and Technology Laboratory (DSTL), une agence du ministère de la Défense, pour développer une IA qui pourrait identifier les portes cachées dans les logiciels. Le contrat obligeait les employés à passer les chèques de sécurité.

À la mi-septembre 2023, le Dr Patrick-Evans a annoncé un rôle de poste pour le poste de chercheur en plomb. Le rôle était essentiel à l'IA binaire en tant que start-up.

Mlle Xu a postulé pour le rôle mais a finalement été rejetée en faveur d'un ressortissant britannique qui avait plus d'expérience.

Bien que les antécédents et les compétences de Miss Xu n'étaient pas pertinents pour le poste, le Dr Patrick-Evans a été impressionnée par ses antécédents dans d'autres domaines de mathématiques et d'apprentissage automatique.

Dans son témoignage en contre-interrogatoire, Mlle Xu a accepté que le candidat finalement retenu était au moins aussi bon candidat qu'elle. Elle avait également eu des attentes salariales plus élevées que le candidat retenu et n'était pas un ressortissant britannique. Cela signifiait que l'IA binaire aurait dû organiser un visa, ce qui aurait été coûteux et long.

À cette époque, le Dr Patrick-Evans a été informé par les responsables de la défense qu'un ressortissant chinois ne pouvait pas travailler dans ce domaine en raison de contraintes de sécurité nationale.

Mlle Xu, le Tribunal, a admis qu'elle n'aurait même pas postulé pour le rôle de plomb de l'IA si elle avait connu au moment de l'application de cette autorisation de sécurité aurait été une exigence.

Le Dr Patrick-Evans était toujours intéressé par la candidature de Mlle Xu, car le candidat principal n'avait pas encore accepté le rôle. En octobre 2023, il a écrit à Mlle Xu: « Nous vous considérons comme un candidat extrêmement solide pour le poste et nous serais heureux de payer votre visa. À l'avenir, je devrais soumettre vos coordonnées et effectuer une vérification rapide des antécédents. »

Plus tard ce mois-ci, cependant, le candidat principal a signé son contrat et le Dr Patrick-Evans a écrit à Mlle Xu: «Je pense que vous êtes très intelligent et un candidat brillant pour le rôle. Je n'ai toujours pas eu de réponse de la vérification des antécédents, mais je suppose que ce sera bien. Cependant, malheureusement, je suis arrivé à la décision de ne pas procéder avec votre demande sur la base de votre nationalité.

«En tant qu'entreprise, nous travaillons en étroite collaboration dans des zones sensibles avec les gouvernements occidentaux et souhaitons continuer à le faire. Nous ne sommes tout simplement pas assez grands pour assurer les contrôles de séparation et de sécurité nécessaires pour embaucher quelqu'un de votre nationalité à ce stade. Je m'excuse de ne pas connaître toute l'étendue de cette situation à l'avance.

Le juge de l'emploi, Richard Baty, a commenté ceci: «Si vous lisez les mots« Je suis venu à la décision de ne pas procéder à votre demande sur la base unique de votre nationalité »en isolement complet, il ressemble à une admission de discrimination raciale directe sur la base de la nationalité.» Mais le contexte plus large du rejet a indiqué une image complètement différente, a-t-il déclaré.

Le juge a jugé que la demande d'emploi pour le rôle de responsable de l'IA n'était pas interrompue en raison de sa nationalité chinoise, mais parce qu'il y avait un meilleur candidat qui a ensuite accepté ce rôle.

Il a également fait une distinction entre l'origine ethnique et l'origine nationale, affirmant que les personnes atteintes de l'ethnicité russe, iranienne, chinoise et nord-coréenne ne seraient pas nécessairement interdites de ce travail; Il ne s'appliquait qu'à ceux qui tenaient la nationalité pour ces pays.