Wortlaut

Le Conseil fédéral est chargé de créer ou de modifier les bases légales afin de garantir un niveau de protection adéquat contre la discrimination lors des procédures de décision partiellement ou entièrement automatisées.

Begründung

Il est de notoriété publique que les procédures de décision partiellement ou entièrement automatisées représentent l’un des plus grands risques en matière de discrimination. Celles-ci ont des conséquences importantes notamment sur l’attribution de logements, sur le calcul des primes d’assurance, sur l’accès à un crédit ou encore sur le traitement des candidatures à un emploi.
Malheureusement, le principe général de non-discrimination prévu par l’art. 8, al. 2, de la Constitution (qui, en lien avec l’art. 35, al. 3, de la Constitution, devrait aussi s’appliquer entre particuliers) ne trouve actuellement sa concrétisation dans aucune loi. Il faut y remédier. Dans le cas des procédures de décision (partiellement) automatisées, il faut en particulier tenir compte du fait que la discrimination peut être directe ou indirecte (par proxy) et que, par effet d’échelle, de très nombreuses personnes peuvent être concernées.
Selon le risque que présente l’application, il faut donc suffisamment insister sur le devoir de transparence et de diligence et sur l’évaluation de l’impact.
Il faut également accorder une attention particulière à l’application du droit, qui ne doit pas échouer au motif que l’administration individuelle des preuves est techniquement très compliquée, voire impossible, notamment dans le cas des applications IA qui utilisent des mécanismes flous et opaques pour prendre des décisions (problème de la boîte noire).
Le 22 novembre 2023, le Conseil fédéral a déjà reçu le mandat d’établir un état des lieux interdépartemental en matière de réglementation de l’IA. Il est envisageable d’intégrer la protection contre la discrimination dans la procédure législative qui suivra, en se coordonnant avec la réglementation internationale, lorsque c’est possible et utile.

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

Le Conseil fédéral est conscient du fait que l'utilisation croissante de systèmes de décision algorithmiques comporte, outre de nombreuses opportunités, certains risques. Par exemple, dans ses "Lignes directrices sur l'intelligence artificielle (IA) pour la Confédération" de 2020, il indiquait déjà que les personnes, quel que soit leur sexe, et les groupes devaient être protégés contre la discrimination et la stigmatisation. En 2023 également, dans son "Code de bonnes pratiques de la Confédération pour une science des données centrée sur l’être humain et digne de confiance", il définit la non-discrimination comme principe fondamental et critère de confiance, tout comme l’explicabilité, la traçabilité et la transparence notamment. Comme mentionné dans la motion, le Conseil fédéral a demandé, le 22 novembre 2023, au DETEC (OFCOM) et au DFAE (Division Europe) d'établir un état des lieux quant aux approches réglementaires possibles pour l'utilisation de l'IA. Le document, qui devrait être disponible d'ici fin 2024, devra également examiner la problématique de la discrimination algorithmique. Sur la base de l'état des lieux quant à la réglementation de l'IA, le Conseil fédéral estimera s'il est nécessaire de légiférer sur la protection contre la discrimination causée par des processus décisionnels partiellement ou entièrement automatisés, comme le demande la motion, et, dans l'affirmative, de quelle manière cette protection pourrait être abordée concrètement. Pour l’heure, il ne faut pas préjuger des résultats de ces travaux.

Le Conseil fédéral propose de rejeter la motion.