Wortlaut

Der Bundesrat wird aufgefordert, ein öffentliches Verzeichnis aller algorithmenbasierten, automatisierten Entscheidungssysteme anzufertigen, welche in der Bundesverwaltung im Einsatz sind. Das Verzeichnis soll publizieren, welchen Einsatzzweck das System verfolgt, wie es funktioniert, wer die Software hergestellt und entwickelt hat und (falls vorhanden) die Resultate einer vorgenommenen Folgeabschätzung.

Begründung

Algorithmenbasierte Entscheidungssysteme sind wichtige Instrumente für effiziente Verfahren in der Verwaltung, gleichzeitig bergen sie Risiken, denen man aktiv begegnen muss. Mit der zunehmenden Digitalisierung der Verwaltung und den vermehrt anfallenden Daten wird der Einsatz von automatisierten Entscheidungssystemen zunehmen - umso wichtiger ist es, sich jetzt Gedanken über den Umgang damit zu machen. Ein erster Schritt ist die Transparenz darüber, wie viele solcher Systeme in der Verwaltung im Einsatz sind und welche Bereiche sie betreffen. Dies ermöglicht nicht nur den Zugang zu Information für Betroffene und die interessierte Zivilgesellschaft, sondern insbesondere auch Forschung im öffentlichen Interesse zum Einsatz von algorithmischen Entscheidungssystemen. Dies ist zentral, um eine evidenzbasierte gesellschaftliche Debatte zu diesem Einsatz, seinen Auswirkungen und den notwendigen Rahmenbedingungen zu ermöglichen.

Im Bericht zur Zukunft der Datenbearbeitung und Datensicherheit hält der Bundesrat fest, dass es unter anderem Transparenz über Algorithmen geschaffen werden muss (Vgl. Massnahme 50). Diese Transparenz gibt es heute nicht - ob bekannt ist, wo der Bund Algorithmen einsetzt, hängt heute davon ab, ob dies aktiv kommuniziert wird oder jemand nachgefragt hat.

Im Sinne eines für die Öffentlichkeit gut zugänglichen, belegbaren und nachvollziehbaren Handelns der Verwaltung ist ein Paradigmenwechsel nötig: Ein öffentliches Verzeichnis kann hier Transparenz schaffen.

Dieselbe Forderung findet sich auch im Positionspapier zur Regulierung von KI-Systemen in der Schweiz, welches gemeinsam von AlgorithmWatch Schweiz mit Wissenschaftler*innen verschiedener Disziplinen verfasst und vom DSI Strategy Lab der Universität Zürich unterstützt wurde.

Antrag des Bundesrates

Der Bundesrat beantragt die Ablehnung der Motion.

Stellungnahme des Bundesrates

Am 25. August 2021 hat der Bundesrat die Einrichtung eines Kompetenznetzwerks für künstliche Intelligenz (CNAI) beschlossen. Das CNAI wird im Frühling 2022 den Betrieb aufnehmen.

Eine der Aufgaben des CNAI besteht in der Entwicklung, Umsetzung und Bereitstellung einer strukturierten Datenbank für die öffentliche Verwaltung; diese Datenbank soll einen Überblick über sämtliche laufenden Projekte sowie die Anwendungen im IT-Portfolio des Bundes, die künstliche Intelligenz (KI) nutzen oder damit zusammenhängen, bieten. Dazu gehören folglich auch die automatisierten Entscheidungssysteme. Die Datenbank enthält wichtige Informationen wie den Namen des Projekts, den Themenbereich, die Institution und die Ansprechpartner sowie grundlegende Aspekte im Bereich KI, u.a. den Datentyp und die Komponenten des maschinellen Lernens. Weitere Informationen (z.B. Hersteller des Systems, Datenschutzanalyse im Rahmen der Hermes-Projektmanagementmethode) können direkt bei den in der Datenbank erwähnten Ansprechpartnern eingeholt werden. Militärisch klassifizierte sowie nachrichtendienstliche Projekte und Anwendungen sind explizit ausgeschlossen und werden somit in der Datenbank nicht geführt. Seit dem 1. Januar 2022 ist eine Minimalversion der Datenbank (öffentliche Liste) auf der Website des CNAI (www.cnai.swiss) verfügbar.

Mehrere Bestimmungen im neuen Datenschutzgesetz, das am 25. September 2020 verabschiedet wurde, tragen ebenfalls zur Verbesserung der Transparenz bei. Ergeht eine automatisierte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen (Art. 21 Abs. 4). Personen, die das Auskunftsrecht geltend machen, werden über das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht, informiert (Art. 25 Abs. 2 Bst. f). Eine Grundlage in einem Gesetz im formellen Sinn ist erforderlich, wenn die Art und Weise der Datenbearbeitung (dazu gehört auch die Verwendung von Algorithmen) zu einem schwerwiegenden Eingriff in die Grundrechte der betroffenen Person führen können (Art. 34 Abs. 2 Bst. c).

Der Bundesrat beantragt die Ablehnung der Motion, da deren Ziel bereits erreicht ist.

Der Bundesrat beantragt die Ablehnung der Motion.