Wortlaut

1. Comment la Confédération entend-elle mieux promouvoir les instruments existants pour avoir un aperçu des avantages et des risques que représente l'intelligence artificielle (IA) en dehors du contexte de l'administration fédérale

2. Comment la Confédération peut-elle faire pour suivre au plus près les progrès de l'IA, en particulier là où celle-ci a un impact direct sur le bien-être de la population suisse (par ex. diagnostic de maladies, pannes de courant)?

3. Comment le Centre national pour la cybersécurité (NCSC) pourrait-il jouer un rôle plus important dans la surveillance des incidents liés à l'IA ? L'ordonnance sur les cyberrisques (OPCy) inclut déjà l'IA dans la notion de cyber-incident qui, contrairement à la cyber-attaque, comprend les dysfonctionnements involontaires et non uniquement ceux dus à une attaque extérieure.

4. Le NCSC est en passe de devenir un office fédéral. Est-il prévu d'y créer un département dédié à l'IA ?

Begründung

Dans son avis sur la motion 22.3298, le Conseil fédéral évoque les différentes activités menées par la Confédération en lien avec l'IA. Ces travaux sont certes à saluer, mais ne sauraient constituer un pôle de compétence en matière d'IA au niveau suisse. En effet, ils ne se concentrent que sur l'administration fédérale. Or, il faudrait aller plus loin, car la grande majorité des systèmes faisant appel à l'IA sont utilisés en dehors de celle-ci, notamment dans des domaines critiques comme les hôpitaux ou les fournisseurs d'énergie.

Concrètement :

Les travaux du CNAI (réseau de compétences en IA, rattaché à l'OFS) sont à saluer. Toutefois, pour des raisons de ressources, ils ne portent que sur la terminologie et une base de données de projets internes à l'administration fédérale recourant à l'IA. On est donc loin d'un suivi global des progrès en IÀ qui documenterait, sur la base de données concrètes prélevées par échantillonnage, les capacités, les domaines d'application et l'impact social de l'IA.

Les travaux du DSCC (centre de compétences en science des données, rattaché à l'OFS) visant à développer les compétences en IA dans l'administration fédérale sont une bonne initiative. Ils complètent certes le suivi de l'IA, mais ne sauraient le remplacer.

Il est important que le DETEC surveille l'application et le développement des grandes lignes que l'administration fédérale suit en matière d'IA. Toutefois, une fois de plus, seule l'administration est étudiée, et non l'ensemble du paysage suisse en matière d'IA.

La plateforme tripartite de l'OFCOM est outil plein de sens, mais elle a le désavantage de ne réunir des acteurs du monde l'IA que sporadiquement.

Les instruments dont la Confédération dispose actuellement ne permettent donc pas d'évaluer correctement les avantages et les risques que l'IA représente en Suisse.

Stellungnahme des Bundesrates

1.

Nous renvoyons à l'avis du Conseil fédéral du 18 mai 2022 sur la motion 22.3298. Le 25 août 2021, le Conseil fédéral a demandé à l'Office fédéral de la statistique de mettre en place un réseau de compétences en intelligence artificielle (Competence Network for Artificial Intelligence, CNAI). Conçu de manière ouverte, ce réseau vise à faciliter les échanges entre les acteurs existants, c'est-à-dire entre les spécialistes de l'IA au sein et en dehors de l'administration fédérale. Le but de la Confédération est de renforcer la collaboration avec les nombreuses parties prenantes de l'IA (administration, milieux scientifiques et secteur économique) et de créer une vision d'ensemble des procédures liées à l'IA en Suisse. Or la mise en place du CNAI vient de commencer.

La plateforme tripartite coordonnée par l'Office fédéral de la communication (OFCOM) est un outil essentiel pour le dialogue et l'échange d'informations et de connaissances importantes dans le domaine de l'IA, notamment sur les plans politique, social ou économique. Elle est ouverte à toutes les organisations et personnes intéressées de l'administration, du secteur privé, de la société civile et des milieux scientifiques. Ces trois dernières années, les avantages et les risques liés à l'IA ont par ailleurs été examinés lors du Swiss Internet Governance Forum, placé sous le patronage de l'OFCOM.

Mené par swisstopo en collaboration avec les cantons, le projet Swiss Territorial Data Lab contribue également à identifier, dans le cadre de projets exploratoires, les avantages et les risques liés à l'utilisation de l'IA dans le domaine des géodonnées.

2.

En application de l'art. 11 de la loi fédérale sur l'encouragement de la recherche et de l'innovation, les Académies suisses des sciences sont notamment tenues de contribuer au dialogue entre science et société, et de promouvoir des études sur les avantages et les risques liés aux innovations et aux technologies. La fondation TA-SWISS, qui est membre des académies, publiera en octobre 2022 une étude sur la reconnaissance automatisée de la voix, de la parole et du visage et sur les défis techniques, juridiques et sociaux en la matière. En outre, le programme prioritaire de l'Académie des sciences techniques vise à aider la Suisse à jouer un rôle de premier plan dans le développement et l'application de l'IA. Le Secrétariat d'État à la formation, à la recherche et à l'innovation conclut périodiquement des conventions de prestations de ce type avec les académies suisses.

Enfin, la Suisse participe au Comité sur l'intelligence artificielle du Conseil de l'Europe, qui est chargé de développer un instrument juridique contraignant en matière d'IA. Celui-ci devra comprendre une méthode d'évaluation des risques et des effets liés à l'utilisation de l'IA.

3.

Selon l'ordonnance sur les cyberrisques (OPCy), la définition d'un cyberincident inclut les incidents en rapport avec l'IA. Le champ d'application de cette ordonnance est toutefois limité à l'administration fédérale. L'OPCy ne dispose pas que le NCSC doit effectuer une surveillance systématique des incidents liés à l'IA. De nombreux secteurs économiques critiques sont déjà soumis à l'obligation de signaler les pannes ou les dysfonctionnements à leurs autorités de surveillance. Le cas échéant, le NCSC peut aider ces autorités à analyser les problèmes.

4.

La structure organisationnelle du NCSC n'est pas encore définie. Il est cependant prévu de renforcer les compétences de ce centre dans le domaine de l'évaluation des risques que l'utilisation de l'IA fait peser sur la cybersécurité.

Réponse du Conseil fédéral.