Wortlaut

Le Conseil fédéral est chargé de présenter un rapport qui montrera où une régulation est opportune dans le domaine des systèmes de prise de décision automatisée (ADM) et de l'intelligence artificielle. L'accent sera mis sur la garantie de la transparence, le respect des directives éthiques et la prévention de la discrimination ou de la manipulation. Le rapport envisagera aussi l'attribution et la gestion des responsabilités lorsque des clarifications juridiques sont nécessaires en cas de prévisions, de recommandations ou de décisions élaborées par des systèmes ADM. Il faudra vérifier si les bases et instruments légaux disponibles sont suffisants pour faire face aux risques encourus. Dans ce contexte, la création d'une commission nationale d'éthique sera également examinée. Enfin, le rapport indiquera où les services publics utilisent déjà de tels systèmes (par ex. poursuite pénale) et dans quels secteurs les bases légales font défaut.

Begründung

Les domaines d'utilisation se multiplient pour les système ADM et l'intelligence artificielle, tant dans le secteur privé que public. Mais ces technologies comportent certains risques. D'une part, certains exemples montrent que des distorsions dans les modèles ou les données d'entraînement ou des raisons socio-économiques peuvent engendrer des décisions discriminatoires (par ex. Amazon et systèmes de postulation), erronées voire dangereuses (outil IBM Watsons Diagnostic pour l'oncologie). De même, ces décisions peuvent impliquer d'importantes restrictions des droit fondamentaux ou avoir un effet néfaste sur l'exercice de ces droits, comme dans le domaine de la police préventive. Même les systèmes que la Commission européenne considèrent comme à faible risque peuvent être très problématiques (par ex. infox vidéo).

Tant dans le secteur privé que public, il est souvent difficile de savoir où les systèmes ADM sont utilisés et qui est concernés. Il est aussi souvent difficile de savoir comment fonctionnent ces systèmes et par qui et dans quel but ils sont utilisés. Le rapport permettra d'y voir plus clair. Il proposera des possibilités d'amélioration de la transparence pour les personnes concernées et pour le public en général (par ex. grâce à une obligation de renseigner et d'informer les personnes concernées ou par la création d'un registre contenant des informations de base sur les systèmes ADM utilisés dans le secteur public). La nécessité d'agir a également été soulignée dans la prise de position sur un cadre juridique pour l'intelligence artificielle de la Digital Society Initiative de l'Université de Zurich.

Antrag des Bundesrates

Le Conseil fédéral propose de rejeter le postulat.

Stellungnahme des Bundesrates

L'intelligence artificielle (IA) soulève une multitude de questions pour les places économiques innovantes et tournées vers l'avenir, qui se réclament de l'État de droit. Sur la base d'un état des lieux, le Conseil fédéral (CF) s'est déjà penché sur le sujet en 2019, en prenant connaissance du rapport du groupe de travail interdépartemental "Intelligence artificielle". Il a adopté en 2020 des lignes directrices concernant l'utilisation de l'IA et chargé le Département fédéral de l'environnement, des transports, de l'énergie et de la communication (DETEC) d'évaluer régulièrement l'application et le développement de celles-ci en collaboration avec les offices concernés. Le CF a chargé en 2021 le Département fédéral de l'intérieur (DFI) de mettre en place au printemps 2022 un réseau de compétences en IA (CNAI). L'analyse des défis et des opportunités coïncide donc en grande partie avec la prise de position de la Digital Society Initiative de l'Université de Zurich mentionné dans le postulat.

Concernant la nécessité de légiférer, le CF est arrivé à la conclusion sur la base du rapport susmentionné qu'aucun nouveau cadre juridique général n'est nécessaire pour le moment. L'IA peut certes soulever des questions dans les différents secteurs (p. ex. diagnostic médical, agriculture, tribunaux), mais celles-ci s'inscrivent déjà dans le droit en vigueur et trouvent généralement une bonne réponse. Lorsque ce n'est pas le cas, des solutions ponctuelles doivent être trouvées. Dans certains domaines, cela peut conduire à la révision d'une loi ou d'une ordonnance. À cet égard, la nouvelle loi fédérale sur la protection des données adoptée en 2020 prévoit déjà plusieurs dispositions qui améliorent la transparence dans ce domaine, tant pour le secteur privé que pour le secteur public. Ainsi, l'art. 21 introduit un devoir d'information en cas de décision individuelle automatisée et le droit pour la personne concernée d'exiger que la décision soit revue par une personne physique ; l'existence d'une décision individuelle automatisée ainsi que la logique sur laquelle se base la décision doivent désormais aussi être communiquées à la personne qui exerce son droit d'accès (art. 25, al. 2, let. f). Enfin, pour les traitements de données des organes fédéraux, une base légale formelle est exigée lorsque le mode du traitement (qui inclut le recours à des algorithmes) est susceptible de porter gravement atteinte aux droits fondamentaux (art. 34, al. 2, let. c). Enfin, le CF a chargé le Département fédéral des finances (DFF) de fournir une analyse du cadre légal pour l'application de l'IA en lien avec le secteur financier, d'ici fin 2022. Le CNAI renforcera la confiance et la transparence dans ces technologies via sa base de données structurée disponible dans le domaine public. De plus, la Suisse participe activement aux travaux de l'OCDE, du Conseil de l'Europe, de l'UNESCO et de l'Union internationale des télécommunications (UIT) en vue de l'élaboration d'un cadre réglementaire international sur l'IA. La Confédération suit ainsi de près les discussions sur le projet de réglementation de l'IA dans l'UE et analyse les conséquences possibles pour la Suisse. Dans ce contexte, le DETEC a montré en 2021 dans son rapport au CF comment les intermédiaires et les plateformes de communication basés sur l'IA influent sur la communication publique en Suisse et sur la formation de l'opinion de la population suisse, et le CF a chargé le DETEC de lui indiquer d'ici fin 2022, si et comment les plateformes de communication doivent être réglementées. Le CF a chargé le Département fédéral des affaires étrangères (DFAE) d'élaborer un rapport sur le cadre réglementaire international en cours d'élaboration concernant l'IA et sur la manière dont la Suisse peut participer activement à son élaboration. Concernant la nécessité ou non de créer une commission nationale d'éthique, le CF a déjà répondu en mai 2021 par la négative à cette question dans le cadre de l'interpellation 21.3239 Schlatter. Pour mémoire, la Plateforme Tripartite, dirigée par le DETEC, sert d'ailleurs d'organe d'échange ouvert à toutes les parties prenantes sur les questions relatives à l'IA et dispose d'un comité administratif chargé de coordonner les positions suisses dans les instances et processus internationaux. Finalement, dans le cadre de la stratégie "Suisse numérique" et de la stratégie de politique extérieure numérique 2021-2024, le CF fera à nouveau un rapport à ce sujet. Compte tenu des travaux nationaux et internationaux déjà en cours concernant le cadre réglementaire de l'IA, un mandat parlementaire ne semble pas nécessaire pour l'instant.

Le Conseil fédéral propose de rejeter le postulat.