Wortlaut

Ich bitte den Bundesrat um die Beantwortung folgender Fragen:

1. Wie stellt der Bund sicher, dass die Prinzipien der Datenwissenschaftsstrategie sowie vergleichbare Prinzipien in den KI-Leitlinien des Bundes (z.B. Sicherheit) in den gegenwärtigen KI-Systemen des Bundes umgesetzt werden? Wie stellt er sicher, dass eingesetzte KI-Systeme sicher, robust und resilient sind, um nicht anfällig für Missbrauch oder Fehlanwendungen zu sein?

2. Kann der Bundesrat die konkrete Anwendung der Prinzipien beispielhaft anhand von folgenden Systemen auf der CNAI-Liste erläutern: KD Chatbot (EDA), COALITION-4 (EDI), NILM4BAL (UVEK).

3. Wie stellt der Bund sicher, dass Zulieferer gerade im Software-Bereich diese Richtlinien einhalten (z.B. ein Grossteil von Software-Entwicklern nutzt heute KI-Instrumente - wie z.B. GitHub Copilot auf Basis von OpenAI Codex - um Quelltext zu schreiben)?

4. Wie schätzt der Bund die Einhaltung ähnlicher Grundprinzipien zu KI in der Privatwirtschaft ein? Einige der Prinzipien sind verfassungsmässig festgehalten (z.B. Nichtdiskriminierung).

Begründung

Der Bund verfolgt mit der am 2. Dezember 2022 veröffentlichten Datenwissenschaftsstrategie einen fortschrittlichen Ansatz. Die darin festgehaltenen Grundprinzipien wie:

- Erklärbarkeit

- Nichtdiskriminierung

- Reproduzierbarkeit

sind zentral im Umgang mit datenwissenschaftlichen Methoden, insbesondere Künstlicher Intelligenz (KI).

Schon jetzt plant das nationale Kompetenznetzwerk für Künstliche Intelligenz (CNAI) in Zusammenarbeit mit dem Bundesamt für Kommunikation (BAKOM) ihre Projektdatenbank mit den Resultaten einer bundesinternen Erhebung zur KI-Nutzung zu ergänzen. Im Zusammenhang mit dieser und weiteren Monitoring-Massnahmen stellen sich oben genannte Fragen, um deren Beantwortung ich den Bundesrat hiermit bitte.

Stellungnahme des Bundesrates

1. Die Prinzipien bzw. Leitlinien "Künstliche Intelligenz (KI)" für den Bund bieten der Bundesverwaltung sowie den Trägern von Verwaltungsaufgaben des Bundes einen allgemeinen Orientierungsrahmen. Die Leitlinien und deren Anwendung werden regelmässig einem Monitoring durch das BAKOM unterzogen, das insbesondere beurteilt, in welchem Kontext die Leitlinien angewandt werden. Der Bericht "Evaluation der Anwendung und Aktualität der Leitlinien" wurde am 9. Dezember 2022 publiziert. Der gleiche Grundsatz wird für den Verhaltenskodex für menschenzentrierte und vertrauenswürdige Datenwissenschaft gelten, den das EDI (BFS) zusammen mit anderen Departementen im Rahmen der Umsetzung der Datenwissenschaftsstrategie des Bundes bis Ende 2023 verfassen soll. Jedes Amt ist für die KI-Systeme verantwortlich, die es entwickelt oder einsetzt, und entsprechend auch beauftragt, die Umsetzung der KI-Leitlinien für den Bund sicherzustellen. Möchte ein Amt im Rahmen eines seiner Projekte eine Expertise zur konkreten Anwendung dieser Leitlinien oder einer menschenzentrierten und vertrauenswürdigen Datenwissenschaft gemäss dem Verhaltenskodex einholen, kann das Kompetenznetzwerk für KI (CNAI) zu Rate gezogen oder das Kompetenzzentrum für Datenwissenschaft (DSCC) beauftragt werden.

2. Das CNAI führt eine Liste der in der Bundesverwaltung durchgeführten KI-Projekte einschliesslich der Namen der für die jeweiligen Projekte verantwortlichen Personen. Bei den Projekten KD-Chatbot (Durchführungszeitraum: September 2020 bis Februar 2021) und NILM4BAL (Durchführungszeitraum: Februar 2019 bis November 2020) handelt es sich um Prototypen. Dennoch waren die Sicherheit und ein menschenzentrierter Ansatz wesentliche Anliegen dieser Projekte. Der von MeteoSchweiz in Zusammenarbeit mit EUMETSAT für das Projekt COALITION-4 entwickelte Algorithmus nutzt keine Personendaten. "Den Menschen in den Mittelpunkt stellen" ist Teil des gesetzlichen Auftrags von MeteoSchweiz. Die Bevölkerung wird dank verbesserter Warnungen vor wetterbedingten Gefahren direkt von den Ergebnissen des Projekts profitieren können. Da sich der Algorithmus noch im Prototypstadium befindet, kann er erst nach einem erfolgreichen Test auf verständliche (nachvollziehbare) Weise in die operative Warnkette integriert werden. Die Zuständigkeiten für Warnungen und Vorhersagen sind bei MeteoSchweiz klar geregelt.

3. Die KI-Leitlinien für den Bund halten fest: "Die Grundlage für den Umgang mit KI ist die für die Schweiz geltende nationale und internationale Rechtsordnung, insbesondere die Bundesverfassung der Schweizerischen Eidgenossenschaft (BV, SR 101) und die Normen der Europäischen Konvention zum Schutze der Menschenrechte und Grundfreiheiten (EMRK)." Bei der Bearbeitung von Personendaten muss das Datenschutzgesetz (DSG, SR 235.1) eingehalten werden. Das neue Datenschutzgesetz, das am 1. September 2023 in Kraft treten wird (BBl 2020 7639), sieht Massnahmen vor, die sich auf den Einsatz von KI anwenden lassen, wie die Pflicht zur Erstellung einer Folgenabschätzung (Art. 22) oder das Erfordernis einer formellen gesetzlichen Grundlage, wenn die Art und Weise der Datenbearbeitung durch die Bundesorgane zu einem schwerwiegenden Eingriff in die Grundrechte der betroffenen Person führen kann (Art. 34 Abs. 2 Bst. c). Im Bereich der Beschaffung liegt es in der Verantwortung der Ämter, die für sie notwendigen Elemente ins Pflichtenheft der Ausschreibung aufzunehmen, damit die gesetzlichen Vorschriften und die KI-Leitlinien eingehalten werden. Für Ratschläge oder Expertisen zur Anwendung der KI-Leitlinien im Rahmen einer Beschaffung können sich die Ämter an das CNAI oder das DSCC wenden.

4. Die Leitlinien "Künstliche Intelligenz" für den Bund sowie der künftige Verhaltenskodex aus der Datenwissenschaftsstrategie des Bundes richten sich ausschliesslich an die Bundesverwaltung. Ob sie in der Privatwirtschaft eingehalten werden, kann der Bundesrat daher nicht einschätzen. Bei der Bearbeitung von Personendaten unterliegt der Einsatz von KI hinsichtlich der Einhaltung des DSG der Aufsicht des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten, unabhängig davon, ob es sich um den privaten Sektor oder um den öffentlichen Sektor des Bundes handelt.

Antwort des Bundesrates.