Wortlaut

1. Wie plant der Bund die bestehenden Instrumente stärker zu fördern, damit zu Chancen und Risiken von KI ein Blick über die Bundesverwaltung hinaus ermöglicht wird?

2. Wie kann der Bund den Puls der KI-Lanschaft messen, insbesondere dort, wo es direkt um das Wohl der Schweizer Bevölkerung geht (z.B. Diagnose von Krankheiten; Stromausfälle)?

3. Wie kann das Nationale Cyber-Security Zentrum (NCSC) eine stärkere Rolle in der Überwachung von KI-Vorfällen spielen? Die Cyberrisikenverordnung (CyRV) umfasst KI bereits im Begriff des Cybervorfalls, der im Gegensatz zum Cyberangriff keinen Angreifer von aussen erfordert, sondern auch unbeabsichtigte Funktionsstörungen.

4. Das NCSC wird aktuell zu einem Bundesamt ausgebaut. Wird im Rahmen des neuen Bundesamts eine Abteilung für KI geprüft?

Begründung

Der Bundesrat weist in seiner Antwort auf die Motion 22.3298 auf die verschiedenen Aktivitäten des Bundes bezüglich Künstlicher Intelligenz (KI) hin. Diese sind begrüssenswert, stellen aber keine umfassende KI-Kompetenz der Schweiz dar. Der Fokus des KI-Monitorings liegt auf der Bundesverwaltung. Dies greift zu kurz, da die allermeisten KI-Systeme ausserhalb der Bundesverwaltung eingesetzt werden - auch in kritischen Bereichen wie bei Spitälern oder Energieversorgern.

Konkret:

Die CNAI-Initiative (Kompetenznetzwerk KI, angesiedelt am BFS) ist begrüssenswert, dessen Fokus ist aber ressourcenbedingt sehr eingeschränkt auf Terminologie-Arbeiten sowie auf eine Projektdatenbank für bundesinterne KI-Anwendungen. Dies ist von einem KI-Monitoring, das zu den Fähigkeiten, Einsatzbereichen und gesellschaftlichen Auswirkungen von KI-Systemen stichprobenartig evidenzbasierte Aussagen macht, weit entfernt.

Die DSCC-Initiative (Data Science Kompetenzzentrum beim BFS) zum KI-Kompetenzaufbau innerhalb der Bundesverwaltung ist ein guter Schritt, der zum KI-Monitoring komplementär ist, es aber nicht ersetzt.

Die Überprüfung der Anwendung und Entwicklung der KI-Leitlinien für die Bundesverwaltung durch das UVEK ist eine wichtige Arbeit. Es wird aber mit dem Fokus auf die Bundesverwaltung lediglich ein Teil der Schweizer KI-Landschaft abgedeckt.

Die Plateforme Tripartite (BAKOM) ist ein sinnvolles Gefäss, beschränkt sich jedoch auf einen sporadischen Multistakeholder-Austausch.

Die aktuellen Instrumente des Bundes vermögen demnach keine Einschätzung über die Chancen und Risiken von KI in der Schweiz abzugeben.

Stellungnahme des Bundesrates

Zu Frage 1:

Wir verweisen auf die Stellungnahme des Bundesrates vom 18.05.2022 zur Motion 22.3298. Der Bundesrat hat am 25. August 2021 das Bundesamt für Statistik beauftragt, ein Kompetenznetzwerk für künstliche Intelligenz (CNAI) aufzubauen. Das Netzwerk ist offen konzipiert, um den Austausch bereits bestehender Netzwerke bzw. zwischen KI-Experten innerhalb und ausserhalb der Bundesverwaltung zu erleichtern. Somit plant der Bund, die Zusammenarbeit mit allen KI-Akteuren (Verwaltung, Wissenschaft und Wirtschaft) zu stärken und einen Überblick über KI-Verfahren in der Schweiz zu schaffen. Es ist ein Entwicklungsprozess mit vielen Stakeholdern, und der Aufbau des CNAI hat erst begonnen.

Ein wichtiges Gefäss für den Dialog sowie Informations- und Wissensaustausch zu politischen, gesellschaftlichen, wirtschaftlichen und anderen relevanten Aspekten von Kl ist die vom BAKOM koordinierte "Plateforme Tripartite". Die Plattform steht allen interessierten Organisationen und Personen aus Verwaltung, Privatwirtschaft, Zivilgesellschaft und Wissenschaft offen. Die Chancen und Risiken von KI waren in den letzten drei Jahren zudem auch Thema am Swiss Internet Governance Forum (Swiss IGF), welches unter dem Patronat des BAKOM steht.

Das Swiss Territorial Data Lab Projekt, das Swisstopo in Zusammenarbeit mit den Kantonen durchführt, trägt über explorative Projekte ebenfalls dazu bei, Chancen und Risiken beim Einsatz von KI in Bezug auf Geodaten zu identifizieren.

Zu Frage 2:

Artikel 11 des Bundesgesetzes über die Förderung der Forschung und der Innovation beauftragt die Schweizerischen Akademien unter anderem, zum Dialog zwischen Wissenschaft und Gesellschaft beizutragen und Studien zu den Chancen und Risiken von Innovationen und Technologien zu fördern. Die Stiftung TA-SWISS - ein Mitglied der Akademien - veröffentlicht im Oktober 2022 eine Studie über "Automatisierte Erkennung von Stimme, Sprache und Gesicht: Technische, rechtliche und gesellschaftliche Herausforderungen". Zudem soll das Schwerpunktprogramm der Akademie der technischen Wissenschaften dazu beitragen, dass die Schweiz in der Entwicklung und Anwendung von KI eine führende Rolle einnimmt. Das SBFI schliesst periodisch Leistungsvereinbarungen mit den Schweizer Akademien ab.

Schliesslich gilt es die Beteiligung der Schweiz im "Committee on Artificial Intelligence" (CAI) des Europarats zu erwähnen, welches mit der Entwicklung eines verbindlichen Rechtsinstruments zur KI beauftragt ist. Das Instrument soll eine Methode zur Beurteilung von Risiken und Auswirkungen bei der Nutzung von KI beinhalten.

Zu Frage 3:

Die Definition eines Cybervorfalls in der Cyberrisikenverordnung (CyRV) schliesst KI-Vorfälle ein. Ihr Geltungsbereich ist jedoch auf die Bundesverwaltung beschränkt. Eine systematische Überwachung von KI-Vorfällen durch das NCSC ist nicht vorgesehen. In vielen besonders kritischen Wirtschaftssektoren bestehen bereits heute Meldepflichten gegenüber den Aufsichtsbehörden bei Ausfällen und Funktionsstörungen. Werden diesen durch KI ausgelöste Störungen gemeldet, kann sie das NCSC bei der Analyse unterstützen.

Zu Frage 4:

Die Organisationsstruktur des NCSC ist noch nicht festgelegt. Es ist jedoch vorgesehen, die Kompetenzen des NCSC zur Beurteilung der Cybersicherheit beim Einsatz von KI weiter auszubauen.

Antwort des Bundesrates.