En Bref
- Les outils d’IA peuvent standardiser les étapes du cycle de vie des employés, telles que le recrutement, l’embauche, les évaluations et la surveillance de la productivité, mais ils peuvent toutefois aussi créer des risques pour la confidentialité, l’efficacité et la discrimination.
- Les employeurs doivent évaluer les lois locales, provinciales, fédérales et internationales applicables, effectuer les examens appropriés en matière de biais et de confidentialité, fournir les avis et accommodements nécessaires, et maintenir une supervision humaine significative.
- Les entreprises qui utilisent l’IA dans plusieurs juridictions pourraient souhaiter instaurer des pratiques continues en matière de conformité, de surveillance, de gestion des fournisseurs et de protection des données alors que le droit du travail lié à l’IA continue d’évoluer.
Les entreprises disposent d’un nombre croissant d’outils d’IA novateurs pour accomplir des tâches liées à l’emploi, notamment le recrutement, l’embauche, l’évaluation des employés et des programmes de productivité et de sécurité, ainsi que la gestion des départs. Ces outils peuvent, par exemple, filtrer les candidatures, analyser les CV, classer les candidats, générer des évaluations des employés, évaluer l’équité salariale, surveiller la fatigue des conducteurs ou encore détecter les faux candidats.
Si l’utilisation de ces technologies présente de nombreux avantages, elle nécessite une analyse approfondie lorsque l’IA se substitue à la prise de décision humaine. Ainsi, si la technologie classe les candidats et que le professionnel chargé d’examiner les CV ne peut pas tous les passer en revue, c’est en réalité l’IA qui a effectivement sélectionné les personnes admissibles au poste. Cela signifierait que le décideur humain se trouve alors remplacé par l’IA. Il convient toutefois de noter que de nombreuses lois ne se limitent pas aux outils remplaçant totalement un décideur humain; certaines concernent aussi des outils qui apportent une aide substantielle, exercent une influence significative ou facilitent la prise de décision humaine.
Les principales préoccupations associées à ces technologies portent sur :
- Préoccupations relatives à la confidentialité des données lorsque celles-ci sont accessibles à un fournisseur de services tiers,
- Efficacité de la technologie (c’est-à-dire sa capacité à remplir la fonction qu’elle est censée faire), et
- Biais (si l’IA est susceptible de produire un résultat défavorable ou de biaiser un groupe spécifique).
Par exemple, si l’IA constate que, historiquement, les individus vivant dans un quartier particulier occupent davantage de rôles de leadership et commence à sélectionner des candidats en fonction de leur quartier, et que le quartier est corrélé à une caractéristique protégée telle que la race ou la nationalité, l’outil pourrait avoir un effet discriminatoire involontaire sur les individus appartenant à ce groupe protégé. Si une technologie vise à évaluer la productivité, elle pourrait ne pas tenir compte du fait qu’un employé bénéficie de mesures d’aménagement liées à un handicap. Pour les technologies qui ont un impact sur les employés, comme les évaluations conduisant à des augmentations de salaire ou à la sélection pour une promotion, les conséquences potentielles, notamment l’exposition à des plaintes pour discrimination, peuvent être importantes.
Lois fédérales, étatiques et locales
Bien que l’utilisation de l’IA soit relativement récente, de nombreuses lois méritent d’être prises en compte lors de la mise en œuvre de tout outil d’IA, comme les lois fédérales et provinciales qui traitent de la discrimination (par exemple, Title VII of the Civil Rights Act of 1964, the Americans with Disabilities Act (ADA), and the Age Discrimination in Employment Act), les accommodements et la réalisation de vérifications des antécédents (par exemple, Fair Credit Reporting Act).
En plus de ces lois existantes qui peuvent s’appliquer à tout nouvel outil d’IA, il existe également certaines lois et règlements étatiques et locaux spécifiques qui pourraient exiger un avis d’utilisation, des audits de biais et des évaluations des risques. Par exemple, la New York City Local Law 144 exige que les employeurs qui utilisent des outils automatisés de décision en matière d’emploi pour le recrutement ou la promotion obtiennent un audit indépendant des biais, publient un résumé des résultats et informent les candidats et les employés. Les réglementations californiennes en matière de droits civils permettent de prendre en compte les preuves de tests visant à détecter les biais, ou leur absence, dans les plaintes pour discrimination, et ses réglementations en matière de protection de la vie privée exigeront des évaluations des risques, des avis et des droits de retrait et d’accès pour certaines décisions d’emploi automatisées à partir de 2027. L’Illinois interdit l’utilisation d’IA ayant un effet discriminatoire ou l’utilisation des codes postaux comme substitut aux catégories protégées et exige un avis d’utilisation de l’IA, tandis que le Colorado, le Connecticut et le Texas ont également adopté des exigences liées à l’IA.
D’autres juridictions exigent, ou exigeront bientôt, que les entreprises expliquent aux individus le fonctionnement de leur outil d’IA, notamment les facteurs et critères qui guident la décision. Dans certaines juridictions, les individus peuvent aussi avoir le droit de demander qu’un humain examine les résultats.
Il est raisonnable de s’attendre à ce que l’utilisation de l’IA fasse l’objet de lois et de réglementations supplémentaires à l’avenir, et un contentieux est déjà en cours, notamment des litiges déjà en instance, y compris des dossiers visant à déterminer si les fournisseurs d’IA peuvent être tenus responsables aux côtés des employeurs en cas de sélection discriminatoire et si les classements des candidats générés par l’IA déclenchent l’application des lois fédérales sur le rapport de solvabilité des consommateurs. Étant donné que les résultats des tests de biais peuvent constituer des éléments de preuve dans de tels litiges, les entreprises pourraient souhaiter effectuer des audits de biais à la demande de leur avocat afin de préserver le secret professionnel, bien que ce privilège puisse ne pas couvrir les données sous-jacentes ou les résultats qui doivent être publiés, tels que les résumés d’audit de biais de la ville de New York.
Le test de biais ne se limite pas à un exercice ponctuel. Les outils peuvent évoluer au fil de leurs mises à jour ou des changements dans les données qu’ils traitent. À titre d’exemple, la ville de New York exige qu’un audit de biais ait été réalisé au cours de l’année précédant l’utilisation d’un outil. Les entreprises qui recourent à l’IA pour prendre des décisions en matière d’emploi pourraient donc prévoir une surveillance continue des biais, comme un coût récurrent associé à l’utilisation de ces outils.
Questions à considérer avant d’acheter un outil d’IA
En réfléchissant à la façon dont une entreprise utilisera l’IA, comprendre quelles obligations peuvent s’appliquer à l’outil d’IA concerné et à l’utilisation proposée peut éclairer la décision. Les questions que les entreprises peuvent souhaiter considérer avant d’acheter un outil d’IA peuvent être regroupées en deux catégories : « Portée réglementaire, efficacité et équité » et « Confidentialité et sécurité des données ».
Portée réglementaire, efficacité et équité
- L’utilisation proposée est-elle soumise à une réglementation? Dans l’affirmative, quelles sont les obligations réglementaires? L’entreprise peut-elle se conformer à la réglementation? L’utilisation proposée de l’IA justifie-t-elle l’effort et les dépenses nécessaires pour se conformer aux obligations réglementaires? L’entreprise est-elle prête à prévoir un budget pour la surveillance continue des biais?
- Comment fonctionne l’outil? Est-il possible d’expliquer les résultats aux individus concernés ou de faire examiner les résultats par un humain?
- L’outil est-il efficace, c’est-à-dire fait-il ce pour quoi il est conçu?
- L’outil est-il discriminatoire ou révèle-t-il un biais à l’encontre d’individus appartenant à un groupe particulier? L’entreprise effectuera-t-elle des tests de biais avec ses propres données, existe-t-il un plan de surveillance continue, et les tests sont-ils structurés de manière à contribuer à préserver le secret professionnel?
- L’entreprise peut-elle fournir des accommodements raisonnables, comme une évaluation ou un processus alternatif, aux candidats et employés en situation de handicap qui pourraient être désavantagés par l’outil?
- Si l’outil est fourni par un fournisseur, les conditions contractuelles traitent-elles des risques de biais, de la coopération aux audits et de la répartition de la responsabilité?
Confidentialité et sécurité des données
- L’outil est-il conforme aux lois applicables en matière de confidentialité des données?
- Une analyse d’impact relative à la protection des données ou une évaluation similaire des risques en matière de confidentialité a-t-elle été réalisée, comme l’exige la législation applicable, afin d’évaluer les risques que l’outil représente pour les personnes dont les données sont traitées?
- L’outil implique-t-il une prise de décision automatisée ou un profilage qui produit des effets juridiques ou des effets significatifs similaires, tout aussi importants, sur les individus? Dans l’affirmative, l’entreprise peut-elle fournir des informations pertinentes sur la logique impliquée et garantir une supervision humaine?
- L’entreprise dispose-t-elle de mécanismes adéquats de notification et de recueil du consentement pour informer les employés et les candidats de l’utilisation de l’outil d’IA, des catégories de données collectées et des objectifs de traitement?
- L’outil respecte-t-il les principes de collecte et de conservation des données, c’est-à-dire qu’il ne collecte et ne conserve que les données personnelles nécessaires à l’objectif déclaré, et l’entreprise dispose-t-elle d’un calendrier de conservation conforme à la loi applicable?
- Si l’outil est fourni par un fournisseur tiers, l’entreprise a-t-elle conclu un accord de traitement des données ou une disposition contractuelle équivalente qui définit les obligations du fournisseur en matière de sécurité des données, de sous-traitance ultérieure, de notification des violations et de restitution ou de suppression des données?
- L’outil transfère-t-il des données personnelles au-delà des frontières? Dans l’affirmative, l’entreprise s’est-elle assurée que des garanties adéquates sont en place pour se conformer aux restrictions de transfert transfrontalier prévues par les lois applicables?
- L’outil dispose-t-il de mesures de sécurité techniques et organisationnelles appropriées pour protéger les données personnelles contre tout accès non autorisé, toute perte ou toute violation, conformément aux exigences applicables en matière de cybersécurité et aux normes du secteur?
- L’outil traite-t-il des catégories de données personnelles sensibles (par exemple, informations de santé, données biométriques ou données révélant l’origine raciale ou ethnique)? Dans l’affirmative, les protections renforcées et les exigences accrues de conservation prévues en vertu de la Health Insurance Portability and Accountability Act (HIPAA), de la Biometric Information Privacy Act de l’Illinois et de lois similaires sont-elles respectées?
- L’entreprise peut-elle donner suite aux demandes relatives aux droits des personnes en lien avec l’outil, notamment les droits d’accès, de rectification, d’effacement, de portabilité et le droit de s’opposer à la prise de décision automatisée, comme l’exigent les lois applicables en matière de protection de la vie privée? Si un fournisseur traite les données, existe-t-il un accord de traitement des données concernant la sécurité, la sous-traitance, la notification des violations et la restitution ou la suppression des données?
Lors de la mise en œuvre de tout outil d’IA, les entreprises disposant d’une main-d’œuvre mondiale peuvent être soumises aux lois de plusieurs juridictions. La Loi sur l’IA de l’Union européenne, par exemple, établit un cadre réglementaire complet qui classe les systèmes d’IA selon leur niveau de risque et considère de nombreux outils d’IA utilisés dans le recrutement et la gestion de la main-d’œuvre comme présentant un risque élevé. Les employeurs qui achètent de tels outils auprès de fournisseurs peuvent être des « déployeurs », avec des obligations comprenant la surveillance humaine, la surveillance et l’information des représentants des travailleurs et des travailleurs concernés avant utilisation, dont l’entrée en vigueur est prévue en 2027.
Au-delà de l’UE, de nombreux pays disposent de leur propre mosaïque de lois susceptibles d’être déclenchées par l’utilisation de l’IA dans le contexte de l’emploi. Par exemple, en Ontario, au Canada, certains employeurs sont tenus d’indiquer l’utilisation de l’IA dans les offres d’emploi, et au Québec, les employeurs doivent faire preuve de transparence quant à l’utilisation de l’IA, et les employés ont le droit de demander un examen humain; chaque province canadienne dispose de ses propres lois en matière de discrimination et d’accommodement, qui peuvent être concernées par le déploiement d’outils d’IA. Pour les entreprises opérant au-delà des frontières, les obligations peuvent varier considérablement selon la juridiction, ce qui rend particulièrement important l’examen, juridiction par juridiction, des exigences locales, nationales et supranationales applicables régissant l’IA en milieu de travail.
À mesure que les entreprises adoptent cette technologie, en pleine expansion et en constante évolution, il est crucial d’avoir une vision d’ensemble, y compris du paysage réglementaire, pour déterminer quel outil d’IA acheter et comment l’utiliser.
Le groupe de pratique en intelligence artificielle et innovation d’Ogletree Deakins, le groupe de pratique en cybersécurité et vie privée, ainsi que le groupe de pratique en analytique et conformité de la main-d’œuvre continueront de suivre les développements et publieront des mises à jour sur l’intelligence artificielle et l’innovation, la transfrontière, la cybersécurité et la vie privée, les développements étatiques, et des blogues sur l’analytique de la main-d’œuvre et la conformité au fur et à mesure que des informations supplémentaires deviennent disponibles.
Suivez-nous et abonnez-vous
LinkedIn | Instagram | Webinaires | Balados
