Wortlaut

L’utilisation de l’intelligence artificielle (IA) peut accentuer les inégalités sociales. Dans le monde entier, des exemples montrent que les décisions reposant sur l’IA peuvent frapper durement les groupes socialement et économiquement défavorisés. En Suisse aussi, les algorithmes exercent de plus en plus une influence dans des domaines importants de la vie : ils évaluent les candidatures à un poste, examinent la capacité d’une personne à rembourser un crédit et recommandent des contenus sur les réseaux sociaux. Des études démontrent que des personnes peuvent être désavantagées par la discrimination algorithmique. Les systèmes d’IA peuvent par exemple privilégier les hommes à l’embauche et durcir les conditions d’octroi de crédits des femmes par rapport aux hommes dont la situation financière est comparable. L’IA générative renforce en outre les stéréotypes de genre.

Les personnes concernées ont du mal à identifier si elles ont subi un désavantage, car les systèmes d’IA sont souvent utilisés sans qu’elles le sachent et ont pour la plupart un fonctionnement opaque à l’image d’une boîte noire. Des effets de rétroaction peuvent par ailleurs renforcer des préjugés existants. Le Conseil fédéral reconnaît dans une décision de principe qu’il est nécessaire de fixer des règles dans le domaine et déclare par ailleurs qu’il compte ratifier la convention du Conseil de l’Europe sur l’IA. Cet instrument porte toutefois sur les acteurs étatiques et ne traite pas des risques pour le secteur privé. Il n’existe pas en Suisse une loi générale protégeant les acteurs privés de la discrimination. Si le cadre légal n’est pas adapté de façon claire, un vide juridique persistera. Les défis posés par la discrimination algorithmique, tels que les effets d’échelle ou les biais dans les données d’entraînements, requièrent des mesures ciblées.

1. Que souhaite faire le Conseil fédéral pour remédier à ces lacunes ?

2. La convention du Conseil de l’Europe sur l’IA se rapporte avant tout aux acteurs étatiques. Comment le Conseil fédéral entend-il protéger la population de la discrimination, alors que les systèmes d’IA sont également de plus en plus utilisés par les acteurs privés ?

3. Des cas concrets montrent que l’utilisation de systèmes d’IA peut par exemple entraîner des discriminations à l’égard des femmes à l’embauche, au moment de déterminer leur solvabilité pour un crédit, dans le domaine de l’IA générative ou sur les réseaux sociaux. Comment le Conseil fédéral peut-il remplir son obligation de protection contre de telles discriminations dans le secteur privé ?

4. Comment le Conseil fédéral compte-t-il s’assurer que les systèmes de recrutement reposant sur l’IA garantissent l’égalité des chances et qu’ils ne pénalisent pas systématiquement les candidatures des femmes ou des autres groupes discriminés ?

Stellungnahme des Bundesrates

Le Conseil fédéral répond de manière globale aux questions posées. Il est conscient du fait que l’utilisation croissante des systèmes d’intelligence artificielle comporte certains risques pour les individus, notamment s’agissant des droits à l’égalité de traitement et à la non-discrimination, également dans le secteur privé (voir notamment sa réponse à l’interpellation Marti Min Li 23.4133 La protection légale contre la discrimination est-elle suffisante quand il est question de discrimination algorithmique?). La conception de l’IA doit tenir compte des risques de renforcer et systématiser les discriminations, en particulier à l’égard des femmes et des personnes appartenant à des minorités. En effet, les algorithmes sont entraînés sur la base de données qui reflètent les biais de la société et ils tendent à les reproduire. La complexité de l’émergence et de l’impact des biais est la raison pour laquelle une attention particulière doit être accordée à l’ensemble du cycle de vie de l’IA. D’un autre côté, l’IA pourrait aussi aider à détecter les biais de sélection lors du recrutement par exemple. La Convention du Conseil de l’Europe sur l’IA et les droits de l’homme, la démocratie et l’État de droit s’applique au secteur public et au secteur privé. Toutefois, dans le secteur privé, les Etats disposent d’une plus grande marge de manœuvre dans l’étendue et l’intensité des mesures à prendre pour atteindre les objectifs de la convention. Le Conseil fédéral a fait usage de cette liberté dans sa décision du 12 février 2025 (voir le communiqué de presse : https://www.bj.admin.ch/bj/fr/home/aktuell/mm.msg-id-104110.html), en se positionnant en faveur d’une législation adressée principalement au secteur public, mais susceptible d’inclure le secteur privé lorsque les droits fondamentaux des individus sont en jeu. Le DFJP, dans le projet législatif qu’il élaborera d’ici fin 2026, devra ainsi, au vu du mandat reçu, aborder notamment les défis liés à la transparence, à la protection des données, à la non-discrimination et à la surveillance. Le Conseil fédéral portera une attention particulière aux enjeux liés à la discrimination dans le cadre de ses travaux. Il est toutefois trop tôt pour dire de quelle manière il le fera.