Wortlaut

Les systèmes algorithmiques et les prises de décision automatisées sont de plus en plus fréquents. Ils sont notamment utilisés dans la recherche d’emploi, les diagnostics médicaux, le travail de prévention de la police ou le calcul de risques. Plusieurs exemples ont déjà montré que l’utilisation de tels systèmes peut induire des discriminations ou renforcer celles qui existent déjà. La raison en est que les systèmes algorithmiques ne sont pas neutres, car les modèles et les données sur lesquels ils reposent, la manière dont ils sont utilisés ou encore les boucles rétroactives qu’ils utilisent peuvent confirmer voire renforcer les modèles structurels en place. La discrimination par les algorithmes peut toucher un nombre important de personnes sans qu’elles en aient conscience. En outre, indépendamment de la question des algorithmes, la protection légale contre la discrimination est lacunaire en Suisse, comme l’a démontré le Conseil fédéral dans son rapport en exécution du postulat Naef 12.3543, en particulier lorsqu’il est question d’acteurs privés et non étatiques. Dans ce contexte, je prie le Conseil fédéral de répondre aux questions suivantes.

1. Est-il lui aussi préoccupé par le fait que l’utilisation de systèmes algorithmiques puisse conduire à des discriminations ?

2. Quelles sont les mesures prévues pour lutter contre ces discriminations ?

3. le Conseil fédéral prévoit-il une analyse d’impact factuelle concernant l’utilisation des systèmes algorithmiques dans l’administration, afin d’évaluer notamment les conséquences sur les droits fondamentaux ?

4. Comment garantir que les personnes concernées puissent exercer leurs droits lorsqu’elles sont victimes d’une discrimination algorithmique, même lorsqu’il s’agit d’une discrimination structurelle systématique ?

5. Quels sont les moyens d’action prévus par la loi pour lutter contre la discrimination des particuliers ?

6. Est-il prévu de renforcer la protection légale contre la discrimination ?

7. Que pense le Conseil fédéral de l’idée de créer un cadre juridique général pour une protection renforcée contre la discrimination, entre autres (mais pas exclusivement) pour la protection contre la discrimination algorithmique ?

Stellungnahme des Bundesrates

1. Le Conseil fédéral est conscient du fait que les discriminations qui existent dans la société peuvent être reproduites de manière systématique, voire amplifiées, par le recours à des systèmes algorithmiques. Il n’est pas non plus exclu que de nouveaux risques apparaissent. Ces risques sont documentés dans le rapport « Défis de l’intelligence artificielle » de 2019 (www.admin.ch > Documentation > Communiqués > Intelligence artificielle : la Suisse bénéficie de bonnes conditions). Le Conseil fédéral s’est également déjà exprimé à ce sujet dans sa réponse à la question Balthasar Glättli 23.7270 « Intelligence artificielle générative et discrimination. Faut-il une loi antidiscrimination pour mettre en œuvre l’art. 8, al. 2, de la Constitution ? ». Le risque de discrimination constitue un des défis majeurs de l’intelligence artificielle (IA). En même temps, l’IA, si elle est bien conçue, entraînée et régulièrement revue, pourrait aussi être utilisée pour déceler ou prévenir les discriminations.2./6. Le rapport « Défis de l’intelligence artificielle » montre que le risque de discrimination posé par les systèmes algorithmiques est, dans une certaine mesure, appréhendé par le droit existant. Ainsi, la loi fédérale sur l’égalité entre femmes et hommes (RS 151.1), qui interdit les discriminations fondées sur le sexe à l’embauche et dans les rapports de travail de droit privé et de droit public, s’appliquerait à un processus de recrutement basé sur un système algorithmique. Le Conseil fédéral a adopté en 2020 des Lignes directrices sur l’IA pour la Confédération (www.admin.ch > Documentation > Communiqués > « Intelligence artificielle » - adoption des lignes directrices pour l’administration fédérale). Celles-ci mettent en évidence la nécessité de protéger les personnes ou groupes de personnes contre les discriminations et la stigmatisation, ce qui exige de prévoir des mesures de protection et de contrôle aux niveaux technique et organisationnel, d’utiliser des données équilibrées et d’une qualité élevée ou de renforcer les mesures de protection par des mesures d’accompagnement. Enfin, comme annoncé dans son avis concernant le postulat 23.3201 Dobler « Situation juridique de l’intelligence artificielle. Clarifier les incertitudes et encourager l’innovation », le Conseil fédéral devrait déterminer d’ici fin 2024 s’il existe un besoin d’agir en matière d’IA. Dans ce cadre, il s’attachera à examiner dans quelle mesure les dispositions légales existantes offrent une protection suffisante contre les discriminations, compte tenu des risques particuliers des systèmes algorithmiques. Il suivra également avec attention les travaux du Comité sur l’intelligence artificielle du Conseil de l’Europe ainsi que des travaux de l’Union européenne sur l’ « AI Act ». 3. La loi fédérale sur la protection des données (LPD ; RS 235.1) prévoit à son art. 22 l’obligation de procéder à une analyse d’impact relative à la protection des données lorsque le traitement envisagé est susceptible d’entraîner un risque élevé pour la personnalité ou les droits fondamentaux de la personne concernée. Le traitement de données personnelles par le biais d’algorithmes peut, selon les cas, rendre nécessaire une telle analyse d’impact. Le Conseil fédéral déterminera, dans le cadre de l’état des lieux précité qu’il effectuera d’ici fin 2024, si une obligation d’analyse des impacts des systèmes algorithmiques s’étendant à l’ensemble des droits fondamentaux est nécessaire. Il se référera à cet égard en particulier aux travaux du Conseil de l’Europe déjà mentionnés.4./5. Les moyens juridiques à disposition des personnes victimes de discrimination varient en fonction du type de discrimination et selon que la discrimination est le fait des autorités ou de particuliers. Une analyse détaillée à ce sujet a été faite par le Centre suisse de compétence pour les droits humains (CSCH) en 2015 (Etude « Accès à la justice en cas de discrimination », www.skmr.ch > Publications et projets > Etudes et rapports > L’accès à la justice en cas de discrimination, dernière mise à jour en 2022). La protection offerte par les dispositions légales en matière de discrimination ne fait pas de distinction selon que la discrimination résulte de l’utilisation de systèmes algorithmiques ou non. La LPD prévoit toutefois le droit pour la personne concernée de faire valoir son point de vue lorsqu’elle fait l’objet d’une décision individuelle automatisée au sens de l’art. 21, al. 1 LPD, ainsi que d’exiger que cette décision soit revue par une personne physique (art. 21, al. 2 LPD).7. Dans son rapport de 2016 en réponse au postulat Naef 12.3543 « Le droit à la protection contre la discrimination », le Conseil fédéral a exprimé des réserves concernant la proposition de renforcer la protection contre les discriminations en complétant les art. 27 ss du Code civil (RS 210). Il a souligné qu’une telle mesure s’apparenterait à une loi générale sur la discrimination qui a toujours été rejetée par le Parlement. Le Conseil fédéral ne souhaite pas anticiper à ce stade la suite des travaux relatifs à l’IA concernant les mesures visant à renforcer le cadre légal en la matière.