Wortlaut

Le Conseil fédéral est chargé d’obliger l’administration fédérale à réaliser une étude d’impact relative aux risques pour les droits fondamentaux et la société lors de l’utilisation de systèmes fondés sur l’IA et sur des algorithmes. Cette obligation s’appliquera à tous les systèmes que l’administration fédérale utilise pour des procédures de décision ou d’aide à la prise de décision.

Begründung

Les systèmes fondés sur l’intelligence artificielle (IA) ou sur des algorithmes peuvent établir des prévisions, faire de recommandation, prendre des décisions et générer du contenu. En Suisse, les administrations publiques testent ou utilisent de plus en plus ce type de système. Même si ces systèmes représentent un moyen d’améliorer leur efficience, ils constituent aussi un risque en ce qui concerne les droits fondamentaux et les procédures démocratiques de l’État de droit.
Ils peuvent notamment entraîner la discrimination de certains groupes de populations. Aux Pays-Bas, des milliers de familles se sont retrouvées en situation précaire lorsqu’un algorithme discriminatoire leur a par erreur demandé de rembourser des allocations étatiques pour la garde d’enfants. En Autriche, un algorithme chargé de calculer la probabilité de réinsertion sur le marché du travail a pénalisé des chômeurs qui avaient des obligations d’assistance, mais uniquement s’il s’agissait de femmes.
Les risques dépendent du contexte, de la finalité et du type d’application. C’est pourquoi les autorités doivent systématiquement les analyser.
Un premier niveau de l’analyse des risques permet d’effectuer rapidement et sans trop d’efforts un premier tri entre les applications risquées et moins risquées. Si ce premier tri révèle des risques, il faut alors procéder à une analyse d’impact plus complète. Les résultats doivent être transparents et donc publiés dans un répertoire prévu à cet effet.
La Convention du Conseil de l’Europe sur l’IA retient déjà la nécessité d’une telle analyse d’impact. La Suisse devra donc mettre en place un mécanisme de ce type avant de pouvoir ratifier la convention. Le règlement relatif à la législation sur l’IA de l’Union européenne prévoit lui aussi une analyse de l’impact sur les droits fondamentaux lors de l’utilisation de systèmes d’IA à risque élevé dans l’administration publique et l’assortit d’une obligation de transparence.

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

Le droit actuel prévoit déjà des instruments pour prévenir d’éventuelles violations des droits fondamentaux en lien avec des systèmes d’intelligence artificielle (IA). Par exemple, en vertu de l’art. 22 de la loi fédérale sur la protection des données (LPD ; RS 235.1), les organes fédéraux ont l’obligation de procéder à une analyse d’impact relative à la protection des données lorsque le traitement envisagé est susceptible d’entraîner un risque élevé pour la personnalité ou les droits fondamentaux de la personne concernée. Le recours à une nouvelle technologie comme l’IA peut constituer un facteur de risque notoire (cf. l’Aide-mémoire du Préposé fédéral à la protection des données et à la transparence concernant l’analyse d’impact relative à la protection des données personnelles (AIPD) au sens des art. 22 et 23 LPD ; www.edoeb.admin.ch > Protection des données > Bases légales protection des données > Principales nouveautés > Analyse d’impact relative à la protection des données personnelles, page 12). Le risque à prendre en compte peut aussi être un risque matériel, comme un traitement de données erroné pouvant mener à un refus d’embauche (cf. Commentaire romand de la Loi fédérale sur la protection des données, ad art. 22 LPD, N 24).Les Directives du Conseil fédéral concernant l’examen préalable des risques et l’analyse d’impact relative à la protection des données personnelles en cas de traitement de données personnelles par l’administration fédérale (Directives AIPD ; FF 2023 1882) prévoient en outre que le département responsable du dossier et la Chancellerie fédérale informent des résultats de l’AIPD et, le cas échéant, de la prise de position du PFPDT, notamment dans le rapport explicatif, le message et la brochure des Explications du Conseil fédéral (cf. art. 4.2, al. 3, Directives AIPD). En outre, dans le domaine de l’informatique, les directives en matière de cybersécurité prévoient notamment une analyse des besoins de protection (Schuban) qui documente les exigences en matière de sûreté de l’information et de protection des données (www.ncsc.admin.ch > Documentation > Directives de sécurité informatique > Procédure de sécurité > Appréciation des besoins de protection).Le 22 novembre 2023 le Conseil fédéral a chargé le DETEC (OFCOM) et le DFAE (Division Europe) de livrer un état des lieux de la règlementation en matière d’intelligence artificielle en Suisse et des approches de régulation possibles d’ici fin 2024. La question de l’éventuelle introduction d’une obligation de procéder à une analyse d’impact sur les droits fondamentaux des systèmes d’IA et à la publication de ses résultats est examinée dans ce cadre, en particulier en lien avec l’examen de la convention du Conseil de l’Europe sur l’IA, les droits de l’homme, la démocratie et l’Etat de droit. Le Conseil fédéral estime donc plus judicieux d’attendre le résultat de ces travaux avant de décider si des obligations plus étendues pour l’administration fédérale sont nécessaires.

Le Conseil fédéral propose de rejeter la motion.