La Californie propose une nouvelle loi anti-discrimination en matière d’IA
L’intelligence artificielle (IA) s’est rapidement intégrée dans divers secteurs, transformant des domaines tels que l’emploi, la santé et les services financiers. Cependant, cette adoption rapide a soulevé des préoccupations concernant les biais potentiels et la discrimination inhérente aux systèmes automatisés. Pour répondre à ces enjeux, la Californie a récemment introduit l’Assembly Bill 1018 (AB 1018), visant à réguler les systèmes de décision automatisés (SDA) afin de prévenir la discrimination et de promouvoir l’équité.
Aperçu de l’Assembly Bill 1018
Introduite le 20 février 2025 par la députée Rebecca Bauer-Kahan, présidente du Comité de la vie privée et de la protection des consommateurs de l’Assemblée de Californie, l’AB 1018 propose un cadre réglementaire exhaustif pour les SDA utilisés dans des décisions ayant un impact significatif sur les individus. Le projet de loi définit un SDA comme tout système basé sur l’apprentissage automatique qui assiste ou remplace la prise de décision humaine et affecte de manière significative des individus, y compris dans des domaines tels que l’emploi, le logement et les soins de santé.
Principales dispositions de l’AB 1018
- Droit de retrait et examen humain : Les employeurs doivent offrir aux employés et aux candidats la possibilité de se retirer des décisions automatisées dans certains cas et doivent divulguer si une révision humaine est effectuée avant de finaliser une décision basée sur l’IA.
- Transparence et droit d’appel : Les employeurs doivent fournir aux candidats et aux employés des informations sur les décisions automatisées, leur permettre de se retirer dans certains cas et offrir un processus d’appel pour les résultats défavorables.
- Définition élargie des “décisions conséquentes” : Le projet de loi couvre non seulement l’embauche et le licenciement, mais aussi les salaires, les avantages sociaux, la planification, les promotions, les évaluations de performance, l’accès à la formation et les décisions relatives à la sécurité au travail, élargissant ainsi les obligations de conformité pour les fonctions RH utilisant l’IA.
- Obligations pour les employeurs qui modifient les systèmes d’IA : Les employeurs qui ajustent un outil d’IA en dehors de son champ d’application initial peuvent assumer des responsabilités légales généralement attribuées aux développeurs d’IA, augmentant les risques de conformité pour les entreprises personnalisant des outils d’IA.
- Évaluations de performance obligatoires : Les développeurs d’IA doivent effectuer des audits annuels et divulguer les impacts disparates potentiels de leurs systèmes.
- Audits tiers pour les employeurs : Les entreprises utilisant des outils d’IA dans l’embauche, les promotions ou d’autres décisions importantes doivent engager des auditeurs tiers pour évaluer les impacts potentiels sur les groupes protégés.
Contexte législatif et tentatives précédentes
L’AB 1018 n’est pas la première tentative de la Californie pour réguler l’utilisation de l’IA. En 2024, l’Assembly Bill 2930 (AB 2930) avait été introduite avec des objectifs similaires, mais n’avait pas réussi à être adoptée. Cette précédente initiative visait à exiger des évaluations d’impact avant le déploiement des outils automatisés de décision et à empêcher leur utilisation si l’algorithme était jugé discriminatoire. Malgré le soutien de certaines entreprises technologiques, le projet de loi avait rencontré une opposition significative de la part d’autres acteurs de l’industrie, préoccupés par les implications potentielles sur l’innovation et la compétitivité.
Implications pour les employeurs et les développeurs d’IA
Si l’AB 1018 est adoptée, elle imposera des obligations substantielles aux employeurs et aux développeurs d’IA. Les employeurs devront assurer la transparence dans l’utilisation des SDA, offrir des options de retrait et mettre en place des processus d’appel pour les décisions automatisées. Ils devront également effectuer des audits réguliers pour identifier et atténuer les biais potentiels. Les développeurs d’IA, quant à eux, seront tenus de réaliser des évaluations de performance annuelles et de divulguer les impacts disparates potentiels de leurs systèmes.
Défis potentiels et considérations
Bien que l’objectif de l’AB 1018 soit de promouvoir l’équité et de prévenir la discrimination, sa mise en œuvre pourrait présenter des défis pour les entreprises. Les exigences en matière d’audits tiers, de transparence et de droits d’appel pourraient entraîner des coûts supplémentaires et des complexités opérationnelles. De plus, la nécessité pour les employeurs de comprendre et de surveiller les systèmes d’IA qu’ils utilisent pourrait les dissuader d’adopter ces technologies, freinant potentiellement l’innovation.
Conclusion
L’Assembly Bill 1018 représente une étape significative dans les efforts de la Californie pour réguler l’utilisation de l’intelligence artificielle et prévenir la discrimination algorithmique. En imposant des obligations de transparence, d’audits et de droits pour les individus affectés par des décisions automatisées, le projet de loi vise à assurer une utilisation équitable et responsable de l’IA. Cependant, il est essentiel que les législateurs, les entreprises et les développeurs collaborent pour équilibrer la protection contre les biais et la promotion de l’innovation technologique.
Sources :