Klare Regeln für autonome Waffen und künstliche Intelligenz

Fivaz Fabien · Mit-M · Nationalrat · Neuenburg · Grüne Fraktion

La Commission de la politique de sécurité vous propose d'accepter un postulat visant à obtenir un rapport sur les armes autonomes et l'intelligence artificielle dans le domaine militaire. En octobre 2020, la commission a débattu plusieurs heures des nouvelles formes de guerre et de l'utilisation, entre autres, des drones - à propos desquels vous avez adopté mardi le postulat 21.3013 de la CPS-N -, des armes autonomes et de l'intelligence artificielle.

L'idée des robots tueurs qui font la guerre à la place des hommes a longtemps été de l'ordre de la dystopie ou de la science-fiction. Ce n'est plus le cas. Dans un récent rapport d'experts pour le compte du Conseil de sécurité de l'ONU sur l'application de l'embargo en Libye, on peut lire qu'il n'est pas impossible que, pour la première fois, des drones aient été utilisés pour cibler et tuer des soldats de manière autonome, sans aucune intervention humaine significative. C'est un changement important.

Dans sa réponse à l'interpellation 21.3223 que j'ai déposée en mars dernier sur le sujet, le Conseil fédéral donne sa vision du problème. Il estime que "le développement de capacités autonomes dans les systèmes d'armes est une tendance qui, outre les opportunités, pose également des défis en termes de politique étrangère et de sécurité, de droit (international) et d'éthique". Le Conseil fédéral estime qu'en fonction "du type d'engagement et de son contexte, les systèmes à autonomie accrue pourraient améliorer la sécurité et contribuer à épargner les personnes et les biens civils". Il estime en revanche que les systèmes d'armes létales autonomes "en mesure d'utiliser la force de manière autonome sans aucun contrôle humain ne sont ni dans l'intérêt de la Suisse ni admissibles en vertu du droit international".

La Suisse a participé aux travaux pour l'élaboration des onze principes directeurs dans le cadre de la Convention internationale sur l'interdiction ou la limitation de l'emploi de certaines armes classiques. Elle participe donc déjà à un cadre international et remplit ainsi déjà en partie la deuxième demande formulée dans le postulat, qui vise à s'engager internationalement en faveur de standards éthiques.

Pour le reste, le postulat vise à ce que le Conseil fédéral examine quels pourraient être les effets des armes autonomes sur l'infrastructure de sécurité de la Suisse et quelle sera la doctrine d'engagement de l'armée à ce sujet.

Une minorité de la commission estime que ce postulat est superflu, que le problème est intéressant mais qu'un rapport n'apporterait finalement pas grand-chose. Elle estime que les informations disponibles, par exemple sur Internet, sont suffisantes et que la Suisse n'a pas un poids suffisant pour peser dans les décisions internationales.

La commission vous propose, par 14 voix contre 8 et 1 abstention, d'accepter le postulat.

Cassis Ignazio · VPBR-M · Bundesrat · Tessin

Das Postulat 21.3012 der Sicherheitspolitischen Kommission des Nationalrates fordert den Bundesrat auf, über mögliche Einsatzdoktrinen von autonomen Waffen und künstlicher Intelligenz sowie über Möglichkeiten, wie sich die Schweiz international für ethische Standards einsetzen kann, Bericht zu erstatten.

Der Bundesrat empfiehlt Annahme des Postulates, dies aus folgenden Überlegungen. Die Entwicklung autonomer Fähigkeiten von Waffensystemen bietet je nach Kontext Chancen: Erstens führt sie zu gewissen militärischen Vorteilen und zweitens zu Autonomie; drittens kann künstliche Intelligenz helfen, die Zivilbevölkerung und Zivilobjekte zu verschonen. Gleichzeitig bringt dieser Trend aber auch aussen- und sicherheitspolitische, völkerrechtliche sowie ethische Herausforderungen mit sich, dies insbesondere dann, wenn die Wirkung von autonomen Waffensystemen nicht vernünftig vorhergesagt werden kann. Die Schweiz beteiligt sich deshalb aktiv an Expertengesprächen zu autonomen Waffensystemen, die in Genf im Rahmen der UNO-Konvention über bestimmte konventionelle Waffen erfolgen.

Die Schweiz unterstützt die Erarbeitung eines normativen und operationellen Rahmenwerkes. Dieses Rahmenwerk könnte das Fundament für ein rechtlich verbindliches Instrument legen und damit zu international klaren Regeln führen. Die Sicherstellung der menschlichen Kontrolle und die Einhaltung des Völkerrechts stehen dabei im Zentrum. Thematisiert werden aber auch ethische Aspekte.

Le Conseil fédéral propose de réaliser le postulat dans le cadre de la stratégie de désarmement et de maîtrise des armements 2022-2025 actuellement en cours d'élaboration. Dans la stratégie, la position de la Suisse sur les armes autonomes peut être développée premièrement en vue de considérations de politique de sécurité, donc de considérations doctrinales, deuxièmement, en vue du processus international en cours.

Ces processus parallèles, national et international, sont liés. La stratégie de désarmement et de maîtrise des armements 2022-2025 offre le format approprié. En effet, les nouvelles technologies et leur impact sur la sécurité internationale seront au coeur de cette stratégie. Des représentants de diverses agences de l'administration fédérale participent aux travaux préparatoires, sous la direction de notre département.

Hurter Thomas · Mit-M · Nationalrat · Schaffhausen · Fraktion der Schweizerischen Volkspartei

Herr Bundesrat, ich habe eine kurze Frage. Sie haben jetzt ausgeführt, dass das bereits am Laufen sei, auch mit den Organisationen in Genf, und dass Sie in diesem Bereich eigentlich bereits tätig seien. Was ist jetzt genau der Mehrwert dieses Berichtes?

Cassis Ignazio · VPBR-M · Bundesrat · Tessin

Herr Nationalrat Hurter, ich habe es Ihnen gesagt: Der Bundesrat beantragt die Annahme dieses Postulates, wird aber keinen separaten Bericht machen, sondern wird auch dieses Thema, selbstverständlich akzentuiert, im Rahmen der bundesrätlichen Strategie zur Rüstungskontrolle und Abrüstung behandeln. Es wird also kein separater Bericht sein.

Aebi Andreas · P-M · Nationalrat · Bern · Fraktion der Schweizerischen Volkspartei

Präsident (Aebi Andreas, Präsident): Die Kommission und der Bundesrat beantragen die Annahme des Postulates.

Angenommen - Adopté