Wortlaut

Le Conseil fédéral est chargé de créer un registre public de tous les systèmes de prise de décision automatisée fondés sur des algorithmes utilisés dans l'administration fédérale. Le registre rendra publiques des informations sur l'utilisation prévue du système, sur son fonctionnement, sur son développeur et, si disponibles, sur les résultats d'une analyse d'impact.

Begründung

Les systèmes de prise de décision fondés sur des algorithmes sont des instruments importants pour l'efficacité des procédures administratives, mais ils comportent des risques auxquels il faut faire face activement. La numérisation croissante de l'administration et le volume de données de plus en plus important entraîneront une utilisation accrue de ces systèmes. Il est donc indispensable de réfléchir dès à présent à la manière de les utiliser. Dans un premier temps, il faut être transparent sur le nombre de systèmes de ce type utilisés dans l'administration et sur leurs domaines d'utilisation. Cela permet non seulement à toutes les parties concernées et intéressées, y compris de la société civile, d'accéder à l'information mais cela facilite aussi en particulier la recherche d'intérêt public sur l'utilisation de ces systèmes. Il s'agit d'un élément essentiel pour un débat de société éclairé sur cette utilisation, ses conséquences et les conditions requises.

Dans le rapport " Avenir du traitement et de la sécurité des données ", le Conseil fédéral dit qu'il faut notamment être transparent sur les algorithmes (voir mesure 50). Cette transparence n'est actuellement pas donnée. Pour savoir où la Confédération utilise des algorithmes le cas échéant, il faut soit qu'elle le communique activement soit que quelqu'un lui pose la question.

Pour que l'action de l'administration soit facilement accessible au public, compréhensible et vérifiable, il faut que les choses changent : la création d'un registre public peut ici contribuer à la transparence.

Le document de position rédigé par AlgorithmWatch Suisse en collaboration avec un consortium interdisciplinaire d'universitaires et soutenu par le DSI Strategy Lab (Université de Zurich) sur la réglementation des systèmes d'IA en Suisse exprime la même exigence.

Antrag des Bundesrates

Le Conseil fédéral propose de rejeter la motion.

Stellungnahme des Bundesrates

Le 25 août 2021, le Conseil fédéral a décidé de créer un réseau de compétences en intelligence artificielle (CNAI) qui devra être opérationnel au printemps 2022.

Un des mandats attribués au CNAI est la création, la mise en service et la mise à disposition dans le domaine public d'une base de données structurée présentant un aperçu de l'ensemble des projets en cours et des applications, référencés au sein du portefeuille informatique de la Confédération, ayant recours à l'intelligence artificielle (IA) ou en lien avec cette dernière, donc aussi aux systèmes décisionnels automatisés. Elle fournit des informations centrales telles que le nom du projet, le domaine thématique, l'institution concernée et les interlocuteurs, mais aussi des aspects importants en matière d'IA, tels que le type de données utilisées ainsi que les composants de l'apprentissage automatique. D'autres informations (par ex : le fabricant du système, l'analyse de l'impact sur la protection des données qui fait partie de la méthode de gestion de projet Hermes, etc.) pourront être demandées directement aux interlocuteurs mentionnés dans la base de données. Les projets et applications militaires classifiés, ainsi que ceux liés aux activités de renseignement sont explicitement exclus et ne figurent pas dans cette base de données. Une version minimale de cette base de données (liste publique) est d'ailleurs disponible depuis le 1er janvier 2022 sur le site Internet du CNAI (www.cnai.swiss).

En outre, plusieurs dispositions de la nouvelle loi fédérale sur la protection des données adoptée le 25 septembre 2020, améliorent la transparence. Si une décision individuelle automatisée émane d'un organe fédéral, elle doit être en principe qualifiée comme telle (art. 21, al. 4) ; l'existence d'une décision individuelle automatisée ainsi que la logique sur laquelle se base la décision doivent désormais aussi être communiquées à la personne qui exerce son droit d'accès (art. 25, al. 2, let. f). Enfin, une base légale formelle est exigée lorsque le mode du traitement (qui inclut aussi le recours à des algorithmes) est susceptible de porter gravement atteinte aux droits fondamentaux (art. 34, al. 2, let. c).

Le Conseil fédéral propose donc de rejeter la motion, son objectif étant déjà atteint.

Le Conseil fédéral propose de rejeter la motion.