Wortlaut

Le Conseil fédéral est chargé d'examiner dans une étude quelles règles sont nécessaires pour les applications de l'intelligence artificielle (IA) reposant sur des algorithmes d'apprentissage automatique (AA ; machine learning) et utilisées dans des domaines technologiques automatisés à risque et dans les domaines qui touchent à la sphère privée. Il analysera la nécessité d'informer la population sur les applications de l'IA. L'étude évaluera quelles réglementations sont nécessaires en complément de ce qu'a élaboré le groupe de travail interdépartemental Intelligence artificielle (2019).

Begründung

Les nouvelles technologies informatiques d'IA reposant sur des algorithmes et des modèles d'AA offrent de grandes opportunités dans de nombreux domaines : médecine, gestion des ressources, etc. Elles sont désormais largement répandues et sont en train de devenir tentaculaires et ubiquitaires au travers de l'informatique en périphérie (edge computing).

Les modèles d'AA visant l'analyse de données personnelles pour cibler la publicité et les comportements d'achat, la reconnaissance vocale, la traduction, pour ne citer que quelques exemples, sont utilisés au quotidien.

Ce sont d'autres applications plus délicates, dans lesquelles l'IA a une interaction physique avec l'environnement, par exemple la conduite autonome, qui requièrent un niveau élevé de sécurité et de robustesse technique.

Les mécanismes de fonctionnement des modèles d'AA et les décisions prises par ces derniers reposent sur des niveaux multiples de réseaux neuronaux ; ils ne sont pas transparents, contrairement aux algorithmes classiques reposant sur des règles qui, pour les applications critiques (avionique, médecine, etc.), sont soumis à une certification selon des normes de sécurité définies.

L'IA ne prévoit pas impérativement de programmation mais constitue un apprentissage autonome parfois opaque.

Il convient de définir des règles et des processus pour que l'IA puisse elle aussi être certifiée fiable et utilisée dans des environnements sensibles des points de vue de l'intégrité physique des personnes et de la protection de l'environnement, à l'instar des réglementations adoptées entre autres dans le domaine des installations ou des appareils électriques.

Il faut également réglementer l'utilisation de l'IA pour les applications qui reposent sur la reconnaissance biométrique en vue du profilage, de l'identification et du traçage de personnes, c'est-à-dire tout ce qui concerne la sphère privée et les droits fondamentaux.

Il faut aussi analyser le droit de la population d'être informée lorsqu'elle est confrontée à une application d'IA reposant sur l'AA (registre d'algorithmes IA).

Le Conseil fédéral est chargé d'approfondir les travaux menés par le groupe de travail interdépartemental Intelligence artificielle 2019 et de définir le cadre et les bases légales pour ces applications de l'IA.

Antrag des Bundesrates

Le Conseil fédéral propose de rejeter le postulat.

Stellungnahme des Bundesrates

Le Conseil fédéral cherche à répondre de manière appropriée aux défis posés par l'intelligence artificielle (IA). En 2018 déjà, il a fait de l'IA une thématique centrale de sa stratégie "Suisse numérique" et créé un groupe de travail interdépartemental Intelligence artificielle (IDAG KI). Publié en décembre 2019, le rapport de ce groupe de travail procède à un vaste état des lieux et à une analyse détaillée des conditions-cadres pertinentes pour une utilisation responsable de l'IA. Il met en lumière les défis spécifiques qui se présentent dans les différents champs d'application en passant en revue tous les secteurs politiques de l'administration fédérale. Il en ressort que, de manière générale, le cadre juridique suisse est approprié et suffisant à l'heure actuelle pour répondre aux défis soulevés par l'AI. Le projet de révision de la loi sur la protection des données, adopté lors de la session d'automne 2020, apporte également des améliorations sur plusieurs points dans ce domaine, notamment concernant les décisions automatisées.

Des mesures sont toutefois nécessaires à des degrés divers dans différents domaines. Elles ont été identifiées et déjà lancées. Le groupe de travail Intelligence artificielle a présenté en novembre 2020 des lignes directrices sur l'utilisation de l'IA au sein de l'administration fédérale. Celles-ci doivent fournir un cadre d'orientation général et garantir une politique cohérente en matière d'IA. L'annexe 2 des lignes directrices, "Applicabilité de l'ordre juridique en vigueur", indique expressément que l'ordre juridique existant s'applique également à l'IA. En collaboration avec les services fédéraux concernés, l'OFCOM assurera une évaluation régulière de l'application et du développement de ces lignes directrices.

Le Conseil fédéral a commandé plusieurs analyses au sein de l'administration, afin de traiter les points identifiés dans le rapport comme appelant des mesures, notamment en droit international et dans l'utilisation de l'IA dans le domaine de la formation de l'opinion et de la volonté des citoyens. Les deux rapports seront présentés en 2021. Enfin, le Conseil fédéral a décidé en décembre 2020 d'examiner la mise en place d'un réseau de compétences sur l'IA dans l'administration fédérale d'ici mi-2021. Ce réseau devrait lui permettre de s'appuyer sur une large expertise.

Outre les activités du groupe de travail Intelligence artificielle mentionnées ci-dessus, des programmes sont déjà en cours, dans le cadre desquels les nouveaux risques découlant de l'IA peuvent être traités en coopération entre des organes fédéraux et des entreprises. Citons par exemple la Stratégie nationale de protection des infrastructures critiques 2018-2022 (Stratégie PIC) et la Stratégie nationale de protection de la Suisse contre les cyberrisques 2018-2022 (Stratégie SNPC). Les deux stratégies prévoient la réalisation régulière d'analyses de risques et de vulnérabilité dans des secteurs critiques tels que l'approvisionnement en énergie, la santé ou les transports. Dans ce cadre, les nouveaux risques liés à l'IA peuvent être systématiquement répertoriés et des mesures visant à les réduire recommandées. L'état d'avancement de la mise en oeuvre des deux stratégies est communiqué au Conseil fédéral à intervalles réguliers.

Le Conseil fédéral dispose de divers canaux qui lui permettent de suivre l'évolution de l'IA et des risques qui en découlent pour la société et l'économie. Si nécessaire, il peut prendre des mesures pour accroître la sécurité et la fiabilité des systèmes basés sur l'IA, en se référant à des analyses correspondantes.

Le Conseil fédéral va continuer à observer attentivement l'évolution des différents domaines dans lesquels l'IA est employée, et il interviendra si nécessaire. En outre, la Suisse participe activement aux travaux des organismes internationaux sur les questions de réglementation de l'IA, tels que ceux du Conseil de l'Europe concernant un cadre juridique pour l'IA. Au vu du rapport détaillé de décembre 2019 et des travaux de suivi mentionnés ci-dessus ainsi que d'autres programmes actuellement en cours, il ne voit pas la nécessité de réaliser une nouvelle étude.

Le Conseil fédéral propose de rejeter le postulat.