Obligation de déclarer les recours à l'intelligence artificielle et aux systèmes de décision automatisés

Marti Min Li · Mit-F · Conseil national · Zurich · Groupe socialiste

Eigentlich hätte ich gehofft, der Bundesrat wäre selber tätig geworden und ich müsste diese Motion gar nicht begründen und könnte sie jetzt zurückziehen. Wie wir alle wissen, hat der Bundesrat das aber nicht getan. Er hat sowohl bei der Plattformregulierung bis jetzt noch gar nichts entschieden als auch bei der Regulierung der künstlichen Intelligenz. Er hat zwar quasi eine Auslegeordnung beschlossen, aber die Frage der Regulierung eigentlich auf die lange Bank geschoben. Es ist sogar zu befürchten, dass hier höchstens eine Light-Variante kommen wird. Man möchte zwar das Abkommen des Europarates ratifizieren, man möchte aber insbesondere gegenüber nichtstaatlichen Akteuren eher ein bisschen in einem Bereich ohne grosse Verpflichtung bleiben.

Die Frage der Transparenz ist eine der entscheidenden Fragen, wenn es um die Anwendungen von algorithmischen Systemen geht. Diese sind nämlich schon an verschiedenen Orten im Einsatz, gerade auch bei staatlichen Stellen. Man weiss aber teilweise nicht, ob das so ist, und auch die Leute, die von solchen Entscheidungen betroffen sind, wissen zu wenig, wie sie damit umgehen sollen. Deshalb wäre eine Deklarations- und Transparenzpflicht auch bei solchen algorithmischen Systemen nötig, die vielleicht noch nicht so intelligent sind, wie es gewisse Versprechungen der künstlichen Intelligenz manchmal glauben machen. Das wäre entscheidend, um wirklich zu wissen, dass hier algorithmische Systeme im Einsatz sind, damit Betroffene allenfalls gegen solche Entscheidungen vorgehen können.

Ich bitte Sie daher, meinen Vorstoss zu unterstützen.

Jans Beat · BR-M · Conseil fédéral · Bâle-Ville

Am 12. Februar 2025 hat der Bundesrat seinen Ansatz für die Regulierung von KI beschlossen. Er will damit drei gleichwertige Ziele verfolgen: den Innovationsstandort Schweiz stärken, die Wahrung des Grundrechtsschutzes sicherstellen und das Vertrauen der Bevölkerung in die KI verbessern.

Um diese Ziele zu erreichen, hat Bundesrat Albert Rösti am 27. März die Konvention des Europarates über Künstliche Intelligenz in Strassburg unter dem Vorbehalt einer Ratifizierung unterzeichnet. Der Bundesrat strebt die Ratifizierung der KI-Konvention des Europarates durch die Schweiz an. Es sind gewisse Gesetzesanpassungen nötig, namentlich in den Bereichen Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht.

Der Bundesrat hat deshalb das EJPD zusammen mit dem UVEK und dem EDA sowie weiteren betroffenen Bundesstellen beauftragt, bis Ende 2026 eine Vernehmlassungsvorlage zu erarbeiten. Die Frage der Schaffung von Transparenz bei der Anwendung von KI-Systemen wird auch in diesen Arbeiten eine wichtige Rolle spielen. Die KI-Konvention des Europarates hält in Artikel 8 fest, dass die Vertragsparteien angemessene Transparenzanforderungen für KI-Systeme und die Identifizierung von KI-generierten Inhalten vorsehen sollten.

Es bestehen aber auch bereits gesetzliche Pflichten in diesem Bereich. Das revidierte Datenschutzgesetz, welches am 1. September 2023 in Kraft getreten ist, also vor noch nicht so langer Zeit, sieht gemäss Artikel 21 bereits eine Informationspflicht bei Entscheidungen vor, die ausschliesslich auf einer automatisierten Datenbearbeitung beruhen. Unter diese Bestimmungen fallen Entscheidungen, die eine gewisse Komplexität aufweisen und die für die betroffenen Personen mit einer Rechtsfolge verbunden sind oder sie erheblich beeinträchtigen. Die Bestimmung findet sowohl im öffentlichen als auch im privaten Bereich Anwendung.

Nach Artikel 25 Absatz 2 Buchstabe f des revidierten Datenschutzgesetzes ist die für die Bearbeitung verantwortliche Person zudem verpflichtet, der betroffenen Person im Zuge des Auskunftsrechts die Logik mitzuteilen, auf der die automatisierte Einzelentscheidung beruht. Darüber hinaus muss sie aber auch über die Menge und die Art der verwendeten Informationen sowie über deren Gewichtung informiert werden. Mit diesen Angaben soll der Betroffene in die Lage versetzt werden, die Entscheidung nachzuvollziehen und gegebenenfalls anzufechten.

Die Anliegen der Motion sind also in den laufenden Arbeiten bereits adressiert und werden insbesondere im Rahmen der Arbeiten zur Vernehmlassungsvorlage des EJPD angeschaut werden.

Aus all diesen Gründen beantragt der Bundesrat Ihrem Rat die Ablehnung der Motion. - Und ich bedanke mich für die Stille im Saal. Ich glaube, wir haben soeben einen Rekord gebrochen. (Heiterkeit)

Vote

Präsidentin (Riniker Maja, Präsidentin): Der Bundesrat beantragt die Ablehnung der Motion.

Abstimmung - Vote

Für Annahme der Motion ... 65 Stimmen

Dagegen ... 117 Stimmen

(0 Enthaltungen)