Wortlaut

La stratégie nationale de protection contre les cyberrisques souligne l'importance de l'anticipation des tendances et des technologies de cybersécurité. Elle confirme en outre que la Suisse est exposée à une situation de cybermenace claire et permanente. La cyberstratégie du Département fédéral de la défense, de la protection de la population et des sports (DDPS) relève également ces deux points.

La situation de la cybermenace est largement connue grâce aux rapports réguliers des médias sur les cyberattaques contre l'économie suisse. Dans ce contexte, le DDPS gère notamment le campus de cyberdéfense à l'EPFL.

Les applications d'intelligence artificielle (IA, en particulier les algorithmes d'apprentissage automatique) représentent en soi un risque de sécurité ; ces systèmes sont d'ailleurs de plus en plus utilisés pour des cyberattaques (par ex. les hypertrucages à des fins d'hameçonnage). Des dysfonctionnements dans les systèmes d'IA peuvent avoir des effets dévastateurs dans des domaines d'application critiques pour la sécurité (par ex. coupure de courant provoquée par un algorithme, sans intervention de pirates informatiques).

Je prie dès lors le Conseil fédéral de répondre aux questions suivantes :

1. Le DDPS prévoit-il d'intégrer davantage les systèmes d'IA dans ses cyberactivités, malgré le risque qu'ils représentent en soi pour la sécurité (sans intervention extérieure)?

2. Dans quelle mesure prévoit-il d'utiliser les augmentations de budget prévues, en particulier dans les domaines cyber et IA ?

3. Utilise-t-il des systèmes d'IA pour la défense ? Si oui dans quels domaines ?

4. Où voit-il un potentiel particulier pour une plus grande intégration de l'IA ? En particulier lorsqu'il s'agit

- de l'anticipation des tendances : anticipation et veille technologique (https ://tmm.dslab.ch)

- de la recherche et de l'innovation technologique : Cyber Startup Challenge (https ://www.ar.admin.ch/fr/armasuisse-wissenschaft-und-technologie-w-t/cyber-defence_campus.html)

- de la formation des cyberspécialistes : partenariats public-privé avec l'industrie ; bourses d'études.

Stellungnahme des Bundesrates

1. L'intégration de l'intelligence artificielle comporte à la fois des avantages et des risques. Cela vaut surtout pour les domaines d'application primaires des technologies d'IA au sein du DDPS, c'est-à-dire pour l'évaluation des informations, des signaux et des images, mais aussi pour le fonctionnement de robots ou pour la mise en oeuvre de solutions dans le cadre de la cyberdéfense. Les risques liés à ces technologies sont étudiés au sein de différents projets de recherche d'armasuisse Sciences et technologies. Dès la conception, puis lors de leur acquisition et de leur utilisation, les solutions spécifiques font l'objet d'observations et d'évaluations constantes quant à leur potentiel de menace pour la sécurité. Les dangers spécifiques à l'IA sont intégralement pris en compte dans la gestion des risques de tout système ou solution à l'étude ou en utilisation.

2. De nombreux projets impliquant des systèmes TIC comportent déjà une composante d'IA et fixent donc des investissements destinés à l'autoprotection dans le cyberespace. Le nombre de ces composantes devrait continuer à augmenter à l'avenir. Dans le message sur l'armée 2022, il est prévu de consacrer environ 3,5 % des 110 millions de francs d'investissements destinés à l'autoprotection dans le cyberespace et l'espace électromagnétique aux domaines d'application de l'IA. Selon la planification actuelle des investissements de l'armée, des placements supplémentaires sont prévus dans les années à venir pour les centres de calcul du DDPS, notamment pour améliorer la cyberdéfense, la sécurité de la communication et l'uniformisation de l'image de la situation à tous les niveaux. En outre, quelque 5 millions de francs sont versés chaque année au campus de cyberdéfense à des fins de recherche et d'innovation. Le domaine armasuisse procède actuellement à des études complémentaires sur les possibilités d'investissement afin d'aborder la robustesse des composants d'intelligence artificielle intégrés dans tous les systèmes dans le cadre de la gestion des risques transversaux.

3. Aucun système d'armes autonome n'est utilisé au DDPS pour la défense. L'IA est en autres utilisée dans le cadre d'activités de renseignement et d'autoprotection cyber. Dans d'autres domaines d'application, elle est consacrée à l'analyse et à la fusion de grandes quantités de données, trop importantes pour être traitées manuellement. A titre d'exemple, les éventuelles irrégularités ou menaces dans les réseaux de données militaires sont détectées et analysées à l'aide de l'IA.

4. Les technologies d'IA jouent d'ores et déjà un rôle important dans tous les domaines susmentionnés.

- Dans le cadre du monitoring technologique et commercial, l'IA permet d'explorer et d'analyser les bases de données et les sources publiques répertoriant les tendances technologiques (Open Source Intelligence). Son potentiel dans ce domaine est important et le DDPS l'utilise déjà de manière ciblée.

- Dans le cadre de la recherche et de l'innovation dans les cybertechnologies, par exemple dans la reconnaissance d'images ou la traduction, une attention particulière est accordée à la fiabilité, à la sécurité et à la traçabilité des algorithmes et des méthodes de machine learning. Le concours annuel du Cyber Startup Challenge offre la possibilité de tester concrètement des cas d'utilisation précis pour évaluer l'avancée de solutions prometteuses et les risques liés à leur utilisation. Le DDPS exploite également le potentiel de l'IA dans ce domaine.

- En ce qui concerne la formation cybernétique, le DDPS estime que le potentiel de l'IA est important et doit être mis à profit des cyberspécialistes. Grâce aux différents programmes de Cyber Defence Fellowship, couvrant une multitude de sujets liés à l'IA, les spécialistes peuvent se former à l'utilisation des technologies d'IA. Les Private Public Partnerships permettent non seulement aux chercheurs et chercheuses de travailler sur l'application pratique des avancées technologiques, mais ils offrent également au DDPS une meilleure compréhension des menaces pesant sur les chaînes d'approvisionnement dans le domaine numérique.

Réponse du Conseil fédéral.