Schlatter Marionna · Nationalrat · 2024-09-11

Wortprotokoll

Algorithmenbasierte Entscheidungssysteme, insbesondere solche, die auf künstlicher Intelligenz basieren, sind mittlerweile zentrale Werkzeuge in einer effizienten Verwaltung. Diese Systeme bergen jedoch auch erhebliche Risiken: mangelnde Transparenz und Nachvollziehbarkeit, Diskriminierung durch verzerrte Daten, fehlende Verantwortlichkeiten, Datenschutzprobleme sowie die Gefahr von Manipulation und Missbrauch.

Ich gebe Ihnen gerne ein Beispiel, um das zu veranschaulichen. Im Jahr 2018 führte der österreichische Arbeitsmarktservice ein algorithmisches System ein, das Arbeitslose in[NB]Kategorien einteilte, um deren Chancen auf dem Arbeitsmarkt zu bewerten. Ziel war es, die Ressourcen effizienter zu verteilen und gezielt Arbeitsvermittlungsmassnahmen einzusetzen. Das Problem: Der Algorithmus stufte bestimmte Gruppen, darunter Frauen, systematisch als weniger vermittlungsfähig ein. Das führte dazu, dass diese Menschen weniger Unterstützung und Weiterbildung erhielten, was ihre Chancen auf dem Arbeitsmarkt weiter verschlechterte.

Solche Effekte können wir nicht wollen, solche Effekte untergraben das Vertrauen der Bevölkerung. Staatliche Entscheidungen, die auf algorithmischen Systemen beruhen, sind häufig schwer nachvollziehbar. Ein Schritt, Vertrauen zu schaffen, ist, Transparenz zu schaffen.

In seinen Leitlinien "Künstliche Intelligenz" für die Bundesverwaltung nahm der Bundesrat das Anliegen aus dem Schlussbericht der Expertengruppe "Zukunft der Datenbearbeitung und Datensicherheit" auf, dass dringend Transparenz über Algorithmen geschaffen werden muss. Mein Postulat fordert nun, dass der Bundesrat prüft, wie er diese Transparenz schaffen kann. Konkret soll er sicherstellen, dass ein öffentliches Transparenzregister über den Einsatz von künstlicher Intelligenz in der Bundesverwaltung sämtliche Einsätze von künstlicher Intelligenz in der Bundesverwaltung enthält und dass diese Information in Form einer auch maschinenlesbaren Datenbank zur Verfügung gestellt werden kann.

Der Bundesrat verweist in seiner Stellungnahme zu meiner Motion 21.4508, "Öffentliches Verzeichnis der in der Verwaltung eingesetzten Algorithmen", darauf, dass bereits ein Verzeichnis über den Einsatz von künstlicher Intelligenz durch Bundesstellen existiere. Allerdings tut es dies nur in einer Minimalversion, in Form einer öffentlichen Liste in PDF-Form auf der Website des Kompetenznetzwerks für künstliche Intelligenz. Es gibt erhebliche Defizite. Es besteht nämlich weder eine Pflicht zur Erfassung sämtlicher Einsätze künstlicher Intelligenz in der Verwaltung, noch ist diese Datenbank durchsuchbar.

Ein Blick auf die internationale Ebene zeigt, dass wir hier hinterherhinken. Die Europäische Union geht mit dem AI Act deutlich weiter und plant die Einführung einer EU-Datenbank für risikoreiche KI-Systeme, die in öffentlichen Einrichtungen eingesetzt werden. Solch ein Ansatz stellt sicher, dass die Öffentlichkeit und Organisationen, die das öffentliche Interesse vertreten, genau wissen, wo und zu welchem Zweck solche Systeme eingesetzt werden. Das ermöglicht nicht nur Transparenz, sondern eben auch die nötige kritische externe Überprüfung der Auswirkungen solcher Systeme.

Auch in den Kantonen gibt es erste Schritte. Der Kanton Zürich bereitet ein Verzeichnis im Rahmen des Informations- und Datenschutzgesetzes vor, und der Kanton Appenzell[NB]Innerrhoden hat bereits ein solches Verzeichnis veröffentlicht.

Ich komme zum Schluss: Vertrauen schaffen kann nur ein verbindliches, vollständiges Verzeichnis der eingesetzten Algorithmen. Freiwilligkeit ist zwar gut, aber Verbindlichkeit ist besser. Mit Ihrer Unterstützung schaffen wir Vertrauen in die Institutionen.