Wortlaut

Je prie le Conseil fédéral de répondre aux questions suivantes.

1. Comment la Confédération s'assure-t-elle que les principes de la stratégie en matière de science des données et les principes comparables figurant dans les lignes directrices de la Confédération en matière d'IA (par ex. sécurité) sont mis en oeuvre dans ses systèmes d'IA actuels ? Comment s'assure-t-elle que les systèmes d'IA déployés sont sûrs, robustes et résilients et qu'ils ne sont pas vulnérables aux abus ou aux mauvaises utilisations ?

2. Le Conseil fédéral peut-il expliquer l'application concrète des principes à l'aide, par exemple, des systèmes suivants, qui figurent sur la liste du CNAI : KD Chatbot (DFAE), COALITION-4 (DFI), NILM4BAL (DETEC) ?

3. Comment la Confédération s'assure-t-elle que les sous-traitants, notamment dans le domaine des logiciels, respectent ces directives, lorsqu'on sait par exemple qu'une grande partie des développeurs de logiciels écrivent aujourd'hui leur code source en utilisant des outils de codage d'IA comme GitHub Copilot, basé sur le codex OpenAl ?

4. Comment la Confédération évalue-t-elle le respect de principes de base similaires concernant l'IA dans le secteur privé ? Certains principes sont inscrits dans la Constitution (par ex. la non-discrimination).

Begründung

La stratégie de la Confédération en matière de science des données, publiée le 2 décembre 2022, est une approche progressiste de la question. Des principes fondamentaux y sont énoncés, tels que

- l'explicabilité

- la non-discrimination

- la reproductibilité

Ces principes sont cruciaux pour l'utilisation des méthodes relatives à la science des données, en particulier de l'intelligence artificielle.

Le Réseau national de compétences en intelligence artificielle (CNAI) prévoit déjà de travailler avec l'Office fédéral de la communication (OFCOM) afin de compléter sa banque de données de projets par les résultats d'une enquête interne sur l'utilisation de l'intelligence artificielle (IA) dans l'administration fédérale.

Dans le contexte de cette mesure et d'autres mesures de monitorage, je prie le Conseil fédéral de répondre aux questions ci-dessus.

Stellungnahme des Bundesrates

1. Les lignes directrices - principes - pour la Confédération en matière d'intelligence artificielle (IA) fournissent à l'administration fédérale et aux organes chargés de tâches administratives de la Confédération un cadre d'orientation général. Les lignes directrices IA et leur utilisation font l'objet d'évaluations régulières. Ce monitoring est assuré par l'OFCOM qui évalue notamment dans quel contexte les lignes directrices sont appliquées. Le rapport " Évaluation de l'application et de l'actualité des lignes directrices " a été publié le 9 décembre 2022. Le même principe s'appliquera au code de bonnes pratiques pour une science des données centrée sur l'humain et digne de confiance que le DFI (OFS) a reçu le mandat de rédiger d'ici fin 2023, et ceci en collaboration avec les autres départements et la Chancellerie fédérale, dans le cadre de la mise en oeuvre de la stratégie de la Confédération en matière de science des données. Chaque office est responsable des systèmes IA qu'il développe ou déploie, et est ainsi chargé d'appliquer les lignes directrices pour la Confédération en matière d'IA. Si dans le cadre d'un de ses projets, un office souhaite une expertise en matière d'application concrète de ces lignes directrices ou d'une science des données centrée sur l'humain et digne de confiance, conforme au code de bonnes pratiques, il peut consulter le CNAI (Réseau de compétences en IA), respectivement mandater le centre de compétences en science des données (DSCC).

2. Le CNAI maintient une liste de projets IA menés au sein de l'administration fédérale ainsi que le nom de la personne responsable de chaque projet. Les projets KD Chatbot (mené de septembre 2020 à février 2021) et NILM4BAL (mené de février 2019 à novembre 2020) sont des prototypes. La sécurité, tout comme la centricité sur l'humain, ont cependant été des préoccupations centrales de ces projets. L'algorithme développé par MeteoSuisse (en collaboration avec Eumetsat) dans le contexte du projet COALITION-4 n'utilise aucune donnée personnelle. "Placer l'être humain au centre" fait partie du mandat légal de MétéoSuisse et les résultats du projet apporteront un bénéfice concret à la population, en améliorant les alertes en cas de dangers météorologiques. Encore au stade de prototype, l'algorithme ne peut être intégré de manière compréhensible (traçable) dans la chaîne d'alerte opérationnelle qu'après un test réussi. Les responsabilités en matière d'alertes et de prévisions sont clairement définies au sein de MétéoSuisse.

3. Comme évoqué dans les lignes directrices pour la Confédération en matière d'IA, "la manière dont l'IA peut être employée en Suisse est subordonnée à l'ordre juridique national et international, notamment à la Constitution fédérale de la Confédération suisse (RS 101) et aux normes de la Convention de sauvegarde des droits de l'homme et des libertés fondamentales (Convention européenne des droits de l'homme) ". En cas de traitement de données personnelles, la loi sur la protection des données (LPD, RS 235.1) doit être respectée. La nouvelle loi sur la protection des données, qui entrera en vigueur le 1er septembre 2023 (FF 2020 7397) prévoit des mesures qui peuvent s'appliquer à l'utilisation de l'intelligence artificielle, telles que l'obligation d'effectuer une analyse d'impact (art. 22) ou l'exigence de base légale formelle lorsque le mode du traitement des données par les organes fédéraux est susceptible de porter gravement atteinte aux droits fondamentaux de la personne concernée (art. 34, al. 2, let. c). Dans le domaine de l'acquisition, c'est aux offices qu'il incombe d'intégrer dans le cahier des charges de l'appel d'offres les éléments qu'ils jugent nécessaires pour que règles légales et les lignes directrices en matière d'IA soient respectées. S'ils ont besoin dans le contexte d'une acquisition de conseils ou d'expertises concernant l'application des lignes directrices en matière d'IA, ils peuvent s'adresser au CNAI, respectivement au DSCC.

4. Les lignes directrices pour la Confédération en matière d'IA, ainsi que le futur code de bonnes pratiques issu de la stratégie de la Confédération en matière de science des données, s'adressent à l'administration fédérale uniquement. Le Conseil fédéral ne peut donc pas conjecturer sur le respect de celles-ci dans l'économie privée. En cas de traitement de données personnelles, le recours à l'IA est soumis à la surveillance du Préposé fédéral à la protection des données et à la transparence pour ce qui est du respect de la LPD, qu'il s'agisse du secteur privé ou du secteur public fédéral.

Réponse du Conseil fédéral.