Wortlaut

Die Nationale Cyber-Strategie unterstreicht die Bedeutung der Früherkennung von Trends und Technologien für die Cybersicherheit. Zudem hält sie fest, dass in der Schweiz eine klare und andauernde Cyber-Bedrohungslage besteht. Diese beiden Punkte hebt auch die Cyber-Strategie des VBS hervor.

Die Cyber-Bedrohungslage ist durch regelmässige Medienberichte zu Cyber-Angriffen auf die Schweizer Wirtschaft weithin bekannt. Das VBS betreibt in diesem Zusammenhang unter anderem den Cyber-Defence Campus an der EPFL.

Während Anwendungen der künstlichen Intelligenz (KI, insbesondere Algorithmen für maschinelles Lernen) vermehrt für Cyber-Angriffe verwendet werden (z.B. Deepfakes für Phishing), stellen diese Systeme auch ohne Angreifer ein Sicherheitsrisiko dar. Fehlfunktionen in KI-Systemen können in sicherheitskritischen Einsatzgebieten verheerende Auswirkungen haben (z.B. durch Algorithmus verursachter Stromausfall - ohne Fremdeinwirkung durch Hacker). In diesem Zusammenhang bitte ich den Bundesrat, folgende Fragen zu beantworten:

1. Sieht das VBS einen stärkeren Einbezug von KI-Systemen als eigenständiges Sicherheitsrisiko (ohne Fremdeinwirkung von aussen) in seinen Cyber-Aktivitäten vor?

2. In welchem Umfang plant das VBS, die vorgesehenen Budgeterhöhungen, speziell in den Bereichen Cyber und KI, einzusetzen?

3. Werden im VBS KI-Systeme zur Verteidigung eingesetzt? Wenn ja, in welchen Bereichen?

4. In welchen Gefässen wird besonderes Potenzial für einen stärkeren Einbezug von KI geortet? Namentlich bei:

- Früherkennung von Trends im Cyber-Bereich: Technologie- und Marktmonitoring (https://tmm.dslab.ch)

- Forschung und Innovation von Cyber-Technologien: Cyber Startup Challenge (https://www.ar.admin.ch/de/armasuisse-wissenschaft-und-technologie-w-t/cyber-defence_campus.html)

- Ausbildung von Cyberspezialistinnen und Cyberspezialisten: Public Private Partnership mit Industriepartnern; Cyber-Defense Fellowships.

Stellungnahme des Bundesrates

1. Die Integration von KI-Systemen bringt sowohl Vorteile als auch Risiken mit sich. Dies gilt vor allem für die primären Einsatzdomänen von KI-Technologien im VBS, d.h. für Informations-, Signal- und Bildauswertungen, aber auch für die Verwendung von KI in Robotern oder die Nutzung von KI-Lösungen im Rahmen der Cyberabwehr. Im Rahmen verschiedener Forschungsprojekte von armasuisse Wissenschaft und Technologie werden die Risiken von KI-Technologien untersucht. Sicherheitsrisiken solcher Technologien werden bereits in der Konzeption von spezifischen Lösungen, in der Beschaffung und auch während der Nutzung stetig verfolgt und bewertet. KI-spezifische Risiken sind daher ein integraler Bestandteil des Risikomanagements jedes Systems oder jeder Lösung, die untersucht oder eingesetzt werden.

2. Schon heute beinhalten viele Projekte mit IKT-Systemen eine KI-Komponente und damit Investitionen für den Eigenschutz im Cyberraum. Diese KI-Komponenten werden künftig wohl weiter zunehmen. In der Armeebotschaft 2022 sind rund 3.5 Prozent der Investitionen von CHF 110 Mio. in Eigenschutz im Cyber- und Elektromagnetischen Raum für KI-Anwendungsgebiete vorgesehen. Gemäss aktuellem Stand der Investitionsplanung der Armee sind in den kommenden Jahren zusätzliche Investitionen in die Rechenzentren VBS geplant, so zur verbesserten Cyberabwehr, zur sicheren Kommunikation und für ein einheitliches Lagebild auf allen Stufen. Weiter fliessen jährlich rund CHF 5 Mio. zu Forschungs- und Innovationszwecken in den Cyber-Defence Campus. armasuisse macht derzeit zusätzliche Abklärungen und prüft Investitionen, um die allgemeine Robustheit der in allen Systemen integrierten KI-Komponenten als Querschnittsrisiko zu adressieren.

3. Im VBS werden für die Verteidigung keine autonomen Waffensysteme eingesetzt. KI wird im Rahmen von nachrichtendienstlichen und Cyber-Eigenschutz-Tätigkeiten eingesetzt. Die Anwendungsgebiete fokussieren auf die Analyse und Fusion von grossen Datenmengen, die zu gross sind, um manuell analysiert werden zu können. So werden beispielsweise Unregelmässigkeiten oder Bedrohungen in militärischen Datennetzen mittels KI detektiert und analysiert.

4. Bereits heute spielen KI-Technologien in allen erwähnten Bereichen eine wichtige Rolle.

- Beim Technologie- und Marktmonitoring können Mittels KI Datenbanken und öffentliche Quellen für technologische Trends gescannt und analysiert werden (Open Source Intelligence). Das Potenzial von KI in diesem Bereich ist gross und wird vom VBS bereits heute gezielt genutzt.

- Bei der Forschung und Innovation von Cyber-Technologien, z. B. in der Bilderkennung oder der Sprachübersetzung, wird ein besonderes Augenmerk auf die Zuverlässigkeit, die Sicherheit sowie die Nachvollziehbarkeit der Algorithmen und maschineller Lern-Methoden gelegt. Die Cyber Startup Challenges bieten die Möglichkeit, die Reife von zukunftsträchtigen Lösungen und die mit ihrer Nutzung verbundenen Risiken in ausgewählten Anwendungsfällen konkret zu testen. Das VBS nutzt folglich das Potenzial von KI in diesem Bereich.

- Auch was die Ausbildung im Cyberbereich angeht, beurteilt das VBS das Potenzial von KI als gross und nutzt es in der Ausbildung von Cyberspezialistinnen und Cyberspezialisten. Die Cyber Defence Fellowship Programme decken eine Vielfalt von KI-Themen ab. Cyberspezialistinnen und Cyberspezialisten können sich im Rahmen dieser Programme auf die Anwendung von KI-Technologien spezialisieren. Private Public Partnerships ermöglichen es nicht nur Forscherinnen und Forschern, an der praktischen Anwendung technologischer Fortschritte zu arbeiten, sondern sie ermöglichen dem VBS auch ein besseres Verständnis von Bedrohungen der Lieferketten im digitalen Bereich.

Antwort des Bundesrates.