Wortlaut

Le Conseil fédéral est donc prié de présenter un plan pour encourager la promotion de l'IA explicable et de confiance en Suisse, par exemple :

- En encourageant la recherche et l'innovation, en collaboration avec les autres écoles et le secteur privé

- En investissant des ressources et en assurant que la population puisse bénéficier des recherches et développements dans le domaine

- En mettant en place des programmes de sensibilisation à destination de la population et des entreprises

- En collaborant avec les autres pays dans ce domaine de façon proactive

- En réfléchissant aux adaptations des bases légales qui pourraient faciliter le développement des IA Explicables plutôt que de celles qui sont opaques

- En proposant un système permettant de reconnaitre les bonnes pratiques en matière d'IA

- En garantissant la disponibilité des infrastructures et de la puissance de calcul pour les questions liées à l'intelligence artificielle.

Begründung

L'intelligence artificielle se révèle être l'une des grandes opportunités que nous aurons ces prochaines années, mais celle-ci amène son lot de risques. La Suisse doit être une pionnière en matière d'utilisation de l'intelligence artificielle pour le bien commun. Un enjeu fondamental est l'existence d'intelligences artificielles explicables, ou plus généralement, celles en lesquelles on peut avoir confiance (Trustworthy AI).

Les mécanismes derrière beaucoup d'intelligences artificielles aujourd'hui sont basés sur l'analyse et la restitution de grandes quantités de données et sur l'apprentissage. Malheureusement, selon comment une IA est conçue, il peut être difficile voir impossible pour les être humains de comprendre exactement comment elles fonctionnent, et pourquoi elles arrivent à un résultat donné. Cela va à l'encontre d'un des principes importants qui doivent exister si l'on souhaite garder la maîtrise sur cette technologie : la transparence.

L'IA de confiance (Trustworthy AI) consiste à développer des systèmes d'intelligence artificielle qui ne sont pas opaque, et dont on peut expliquer les paramètres, les sources d'informations et pour lesquels on peut comprendre les risques. Il s'agit donc d'avoir des systèmes compréhensibles pour garantir la confiance, la responsabilité, et l'éthique dans l'utilisation de l'IA. Cela a déjà été reconnu à l'international. De nombreuses approches dont envisagées mais de la recherche et du développement sont nécessaires. Le Royaume-Uni a par exemple investi 1 milliards de francs en puissance de calcul seulement à cet effet.

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

L’exigence de traçabilité et de fiabilité de l’IA est largement reconnue, mais sa mise en œuvre présente divers défis au niveau technique, juridique et social. Au plan international, des travaux visant à définir des exigences appropriées en matière de traçabilité et de fiabilité de l'IA sont actuellement en cours. Le Conseil fédéral suit de près ces initiatives. Au sein du Conseil de l'Europe la Suisse participe en tant que délégation dans le Comité sur l’IA, qui négocie la première convention internationale sur l’IA, les droits de l'homme, la démocratie et l'État de droit. Cette convention vise à promouvoir entre autres une intelligence artificielle explicable et de confiance. La mise en place d’une coopération internationale en matière d’intelligence artificielle en vue de la réalisation des buts de la convention est aussi discutée.

Concernant la recherche et l’innovation, et plus particulièrement la coordination de la politique des hautes écoles à l’échelle nationale pour les années 2025-2028, l’IA fait partie des objectifs stratégiques inscrits dans la planification de swissuniversities. Les scientifiques peuvent demander des soutiens pour des projets au Fonds national suisse ou à Innosuisse, selon le principe ʺbottom-upʺ. Les académies suisses des sciences contribuent à l’information et à la sensibilisation sur l’IA. Ainsi, la Fondation pour l’évaluation des choix technologiques TA-SWISS promeut le débat dans la société et la prise de décisions démocratique en donnant accès aux résultats de ses travaux d’évaluation à un large pan de la population et à des décideurs ; elle s’occupe aussi de l’IA, parmi lesquels figurent les enjeux d’explicabilité. Des centres de compétences sur l’intelligence artificielle ont également été créés dans les hautes écoles et peuvent être utilisés pour répondre aux préoccupations mentionnées dans la motion. Il en va de même de la puissance de calcul et des infrastructures. Le nouveau supercalculateur suisse "alps", qui est actuellement en cours d’acquisition par l’ETH Zurich et que remplacera le calculateur existant "Piz Daint", sera à nouveau l’un des supercalculateurs les plus puissants au monde. Le superordinateur devrait être opérationnel dès T1/2024.

Au niveau fédéral, une science des données et IA centrée sur l'humain et digne de confiance est au cœur de la stratégie en science des données de la Confédération (DSStB), avec le développement d’ici fin 2023 d’un Code de conduite détaillant les bonnes pratiques en science des données et IA. De plus la mission du Centre de compétences en science des données (DSCC), rattaché à l’OFS, est de proposer des services en science des données et IA pour le bien commun à l’ensemble de l’administration publique suisse. Il est également utile de relever que pouvoir utiliser de manière judicieuse les outils numériques basés sur l’IA, l’acquisition de compétences numériques est aussi centrale. Dans le domaine de la formation il est donc important que le corps enseignant ainsi que les jeunes disposent des compétences nécessaires à cette fin, étant rappelé que la souveraineté en matière d’éducation est du ressort des cantons. Ainsi, les plans d’études de tous les niveaux du système éducatif intègrent déjà le développement de compétences numériques, mais aussi de compétences transversales.

Concernant la question de la réglementation en vue du développement d’une IA de confiance, le Conseil fédéral a déjà annoncé dans sa réponse au postulat Dobler (23.3201) qu'il élaborera un état des lieux avec des options possibles pour des mesures réglementaires sectorielles et, si nécessaire, transversales dans le domaine de l'IA, une fois que les réglementations internationales correspondantes seront finalisées (notamment la législation sur l’IA de l’UE et la Convention IA du Conseil de l’Europe). Les analyses seront effectuées jusqu'à fin 2024 dans le cadre des instances existantes (notamment la Plateforme Tripartite et le groupe de coordination interdépartemental sur la politique numérique de l'UE, le réseau de compétences en intelligence artificielle (CNAI) et le monitoring des lignes directrices sur l'IA) et avec la participation de tous les services fédéraux concernés.

Au vu de ce qui précède, le Conseil fédéral considère que la Suisse dispose déjà de structures et conditions permettant d’agit en faveur d’une IA de confiance à plusieurs niveaux.