Assurer l'exhaustivité du registre de transparence sur l'utilisation de l'intelligence artificielle par l'administration fédérale

Wortlaut

Le Conseil fédéral est chargé d’examiner :

1. comment il peut garantir que toutes les utilisations de l’intelligence artificielle (IA) par l’administration fédérale soient répertoriées dans un registre public de transparence ;

2. comment ces informations peuvent être mises à disposition sous la forme d’une banque de données lisible par une machine.

Begründung

Les systèmes de prise de décisions basés sur des algorithmes sont des instruments importants pour l’efficacité des procédures administratives, mais ils comportent des risques qui doivent être combattus activement. Dans le rapport concernant l’avenir du traitement et de la sécurité des données, le Conseil fédéral affirme qu’il faut notamment être transparent sur les algorithmes (cf. recommandation 50). La transparence est particulièrement importante dans le cadre de l’utilisation de l’IA, qui implique des algorithmes et des procédures statistiques très performants, mais pas toujours faciles à comprendre.

Dans sa réponse à la motion Schlatter (21.4508), le Conseil fédéral indique qu’un aperçu des projets de l’administration fédérale ayant recours à l’IA est disponible sur le site Internet du CNAI (www.cnai.swiss). Toutefois, il n’existe aucune obligation de déclarer toutes les utilisations de l’IA au sein de l’administration. En outre, le fait que la liste des projets ne soit aujourd’hui disponible qu’au format PDF, ne permettant pas d’effectuer des recherches, pose problème.

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

1. Le Conseil fédéral s’attache depuis longtemps à promouvoir la transparence dans le domaine de l’intelligence artificielle (IA). En 2018, il a pris connaissance du rapport du groupe d’experts concernant le traitement et la sécurité des données. Celui-ci recommande à la Confédération de veiller à ce que les processus numériques et les algorithmes respectent une transparence suffisante. En 2019, le Conseil fédéral a adopté des lignes directrices sur l’intelligence artificielle, puis créé en 2021 le Réseau de compétences en intelligence artificielle (CNAI).

Le CNAI a notamment pour tâche de gérer une banque de données des projets d’IA menés par l’administration fédérale. Les acteurs concernés lui annoncent les projets d’IA sur une base volontaire. Mise à jour régulièrement, la liste de ces projets garantit au grand public une pleine transparence sur les projets de la Confédération. Chaque entrée de la liste décrit l’objectif du projet, son contexte, les offices responsables et les composantes de l’apprentissage automatique. Comme le Conseil fédéral l’a déjà expliqué dans sa réponse à la motion 21.4508 Schlatter, la nouvelle loi fédérale sur la protection des données, qui entrera en vigueur le 1er septembre 2023, contribue à améliorer la transparence lors du traitement de données personnelles.

Une évaluation du CNAI devra être présentée au Conseil fédéral au plus tard fin mars 2024. Cette évaluation fera un état des lieux des projets annoncés, en particulier pour ce qui est de l’exhaustivité des informations transmises, et examinera l’opportunité d’introduire une obligation d’informer sur les projets d’IA menés par la Confédération.

Comme déjà mentionné dans l’avis concernant le postulat 23.3201 Dobler, le Conseil fédéral analyse simultanément et jusqu’à fin 2024 d’éventuelles autres mesures à la lumière de la réglementation européenne sur l’IA (AI Act). L’approche européenne prévoit une obligation d’informer sur les systèmes d’IA à haut risque, tels ceux utilisés dans des infrastructures critiques. Bien qu’il soit approprié, cet outil ne se limiterait pas à l’administration.

Au vu de la situation des finances fédérales et des déficits prévus pour les années 2025 et suivantes, toute nouvelle mesure fera l’objet d’une analyse coût-bénéfice approfondie et d’une mise en perspective plus large (révision des priorités et planifications d’autres projets, abandon de tâches le cas échéant, etc.).

2. La liste des projets d’IA est régulièrement mise à jour et publiée sous forme de catalogue au format PDF sur le site Web du CNAI. Elle sera par ailleurs prochainement disponible sous forme lisible par machine sur la plateforme SAIROP.