Wortlaut

Der Bundesrat wird beauftragt, in einem Bericht die Notwendigkeit von Vorschriften für Anwendungen von künstlicher Intelligenz (KI) genauer zu untersuchen. Gemeint sind Anwendungen, die auf Algorithmen des maschinellen Lernens (ML) basieren, die in risikoreichen automatisierten Technologiebereichen eingesetzt werden und den privaten Bereich betreffen. Dabei muss er auch die Notwendigkeit der Information der Bevölkerung über die Anwendungen von KI beurteilen. Der Bericht soll in Ergänzung zu dem Bericht der IDAG-KI von 2019 den Regulierungsbedarf bewerten.

Begründung

Die neuen KI-Technologien, die auf Algorithmen und Modellen des ML basieren, eröffnen in vielen Bereichen tolle Chancen, so zum Beispiel in der Medizin, bei der rationellen Nutzung von Ressourcen und in vielen mehr. Die Technologien sind bereits weit verbreitet. Durch Edge-Computing werden sie immer allgegenwärtiger und breiten sich flächendeckend aus.

ML-Modelle zur Analyse von personenbezogenen Daten, um personalisierte Werbung auszuspielen und auf das Kaufverhalten einzuwirken, und Modelle zur Spracherkennung oder zur Übersetzung, um nur die bekanntesten zu nennen, sind heute im täglichen Einsatz.

Anwendungen von KI, bei denen diese eine direkte physische Interaktion mit der Umgebung hat, also zum Beispiel autonomes Fahren, sind kritischer und erfordern ein hohes Mass an Sicherheit und technischer Robustheit.

Die Funktionsmechanismen und Entscheidungen von ML-Modellen basieren auf verschiedenen Schichten von neuronalen Netzen. Diese sind nicht transparent, im Gegensatz zu klassischen regelbasierten Algorithmen, die für kritische Anwendungen (Avionik, Medizin usw.) nach vorgegebenen Sicherheitsbestimmungen zertifiziert werden müssen.

KI arbeitet nicht mit imperativer Programmierung, sondern lernt selbstständig, was dazu führt, dass die Methode nicht immer transparent ist.

Es müssen Regeln und Prozesse festgelegt werden, damit auch die KI als zuverlässig und geeignet zertifiziert werden kann, um in für die Unversehrtheit von Personen und für den Schutz der Umwelt kritischen Bereichen eingesetzt zu werden. Dabei kann man sich an den Bestimmungen orientieren, die zum Beispiel im Bereich von Installationen oder elektrischen Geräten angewendet werden.

Weiter müssen auch die auf biometrischer Erkennung basierenden Anwendungsmöglichkeiten von KI reglementiert werden. Dies können Anwendungen für das Profiling, die Personenidentifikation oder die Überwachung von Personen sein, also alles, was mit der Privatsphäre und den Grundrechten einer Person zu tun hat.

Ausserdem muss das Recht auf Information der Bevölkerung analysiert werden, wenn diese mit einer Anwendung von KI und ML konfrontiert ist (ein Register für KI-Algorithmen).

Es wird eine Vertiefung der Arbeiten der IDAG KI aus dem Jahr 2019 und die Festlegung von Grenzen und gesetzlichen Grundlagen für die Anwendungen von KI verlangt.

Antrag des Bundesrates

Der Bundesrat beantragt die Ablehnung des Postulates.

Stellungnahme des Bundesrates

Dem Bundesrat ist es ein Anliegen, angemessen auf die Herausforderungen der künstlichen Intelligenz (KI) zu reagieren. Er hat daher bereits 2018 KI als ein zentrales Thema der Strategie "Digitale Schweiz" definiert und eine interdepartementale Arbeitsgruppe (IDAG) KI ins Leben gerufen. Der Bericht der IDAG KI vom Dezember 2019 nimmt eine breite Auslegeordnung und sorgfältige Analyse der relevanten Rahmenbedingungen im Hinblick auf eine verantwortungsvolle Nutzung von KI vor. Weiter beleuchtet er die spezifischen Herausforderungen in verschiedenen Anwendungsfeldern über alle Politikbereiche der Bundesverwaltung hinweg. Dabei wird aufgezeigt, dass der allgemeine Rechtsrahmen in der Schweiz zum gegenwärtigen Zeitpunkt grundsätzlich geeignet und ausreichend ist, um mit den Herausforderungen der KI umzugehen. Auch der Revisionsentwurf zum Datenschutzgesetz, der in der Herbstsession 2020 verabschiedet worden ist, führt in diesem Bereich in mehreren Punkten zu Verbesserungen, insbesondere in Bezug auf automatisierte Einzelentscheidungen.

In verschiedenen Bereichen besteht jedoch in unterschiedlichem Ausmasse Handlungsbedarf. Dieser ist erkannt und wird bereits angegangen. So hat die IDAG KI im November 2020 Leitlinien für den Umgang mit KI in der Bundesverwaltung vorgestellt. Diese dienen als allgemeiner Orientierungsrahmen und gewährleisten eine kohärente Politik in Bezug auf KI. Im Anhang 2 der Leitlinien "Anwendbarkeit der geltenden Rechtsordnung" wird zudem spezifisch aufzeigt, dass die bestehende Rechtsordnung auch für KI gilt. Eine regelmässige Beurteilung hinsichtlich der Anwendung und Weiterentwicklung der Leitlinien wird vom BAKOM zusammen mit den betroffenen Bundesstellen sichergestellt.

Zur Bearbeitung des im Bericht der IDAG KI identifizierten zusätzlichen Handlungsbedarfs hat der Bundesrat zudem weitere verwaltungsinterne Prüfaufträge erteilt, namentlich im Bereich Völkerrecht sowie zur Nutzung von KI bei der öffentlichen Meinungs- und Willensbildung. Die beiden Berichte werden im Verlauf des Jahres 2021 vorliegen. Schliesslich hat der Bundesrat im Dezember 2020 entschieden, dass bis Mitte 2021 die Ausgestaltung eines Kompetenznetzwerkes zu KI in der Bundesverwaltung geprüft werden soll. Mit einem solchen Kompetenznetzwerk soll unter anderem auf ein breites Expertenwissen zurückgegriffen werden können.

Neben den genannten Aktivitäten der IDAG KI sind zudem bereits Programme im Gange, bei denen in Zusammenarbeit zwischen Bundesstellen und Unternehmen neue Risiken ausgehend von KI behandelt werden können. Als Beispiele sind die Nationale Strategie zum Schutz kritischer Infrastrukturen 2018-2022 (SKI-Strategie) sowie die Nationale Strategie zum Schutz der Schweiz vor Cyber-Risiken 2018-2022 (NCS-Strategie) zu erwähnen. Beide Strategien sehen vor, dass in kritischen Sektoren wie z.B. der Energieversorgung, des Gesundheitswesens oder dem Verkehr auf regelmässiger Basis Risiko- und Verwundbarkeitsanalysen durchgeführt werden. Im Rahmen dieser können neue, KI-basierte Risiken systematisch erfasst und Massnahmen zu deren Reduktion empfohlen werden. Der Stand der Umsetzung beider Strategien wird in regelmässigen Abständen dem Bundesrat rapportiert.

Insofern verfügt der Bundesrat über verschiedene Kanäle, die ihm ein Verfolgen von KI-Entwicklungen sowie den damit zusammenhängenden Risiken für Gesellschaft und Wirtschaft ermöglichen. Bei Bedarf kann er, abgestützt auf entsprechende Analysen, Massnahmen zur Erhöhung der Sicherheit und Zuverlässigkeit KI-basierter Systeme treffen.

Der Bundesrat wird die Entwicklungen in den verschiedenen Bereichen, in denen KI angewendet wird, weiterhin aufmerksam verfolgen und bei Bedarf agieren. Zudem arbeitet die Schweiz aktiv in internationalen Gremien an Regulierungsfragen zu KI mit, wie z.B. den Arbeiten des Europarates an einem rechtlichen Rahmen für KI. Vor dem Hintergrund des ausführlichen Berichts der IDAG KI vom Dezember 2019 und den oben erwähnten Folgearbeiten sowie weiteren Programmen, die aktuell im Gange sind, sieht er derzeit jedoch keinen Bedarf für eine zusätzliche Studie.

Der Bundesrat beantragt die Ablehnung des Postulates.