Loi sur la protection des données. Ajouter une disposition sur les décisions automatisées qui se fondent sur l'intelligence artificielle

Riniker Maja · 1VP-F · Conseil national · Argovie · Groupe libéral-radical

Antrag der Mehrheit

Der Initiative keine Folge geben

Antrag der Minderheit

(Klopfenstein Broggini, Flach, Glättli, Gysin Greta, Marti Samira, Masshardt, Schläfli, Tschopp, Widmer Céline)

Der Initiative Folge geben

Proposition de la majorité

Ne pas donner suite à l'initiative

Proposition de la minorité

(Klopfenstein Broggini, Flach, Glättli, Gysin Greta, Marti Samira, Masshardt, Schläfli, Tschopp, Widmer Céline)

Donner suite à l'initiative

Präsidentin (Riniker Maja, erste Vizepräsidentin): Sie haben einen schriftlichen Bericht der Kommission erhalten.

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

Sie haben es gesehen: Die parlamentarische Initiative hat in der Kommission keine Mehrheit gefunden. Aber, das muss ich Ihnen sagen, in der Debatte wurde durchaus anerkannt, dass es in diesem Bereich der Entscheidungen, die auf künstlicher Intelligenz beruhen, Handlungsbedarf gibt, also Bedarf zu agieren. Sie werden es nachher von Herrn Wasserfallen noch hören. Man wollte aber dann die Auslegeordnung des Bundesrates abwarten und auf die Erfahrungen der EU mit dem AI Act warten.

Was heisst das? Wir warten zuerst zwei Jahre, bis der AI Act überhaupt anwendbar ist. Dann warten wir zwei weitere Jahre, weil wir erst Erfahrungen machen müssen. Und am Schluss werfen wir unsere Gesetzgebungsmaschinerie an, und das geht dann auch nicht von einem Tag auf den anderen.

Ich bin der Meinung, dass diese parlamentarische Initiative, die ursprünglich von meiner Kollegin Natalie Imboden eingereicht wurde, ein ganz spezifisches Ziel verfolgt und eine gute, brauchbare, an die jetzige schweizerische Gesetzgebung angelehnte Lösung bietet. Es gibt im Datenschutzgesetz bereits eine Regel, wonach bei vollständig automatisierten Entscheidungen, die für die Betroffenen mit einer erheblichen Folge verbunden sind, eine Transparenzpflicht besteht. Dann gibt es auch das Recht der betroffenen Person, eine Entscheidung durch einen Menschen zu verlangen. Ich will nun die gleiche Informationspflicht bei wichtigen Entscheiden einführen, wenn sie massgeblich auf KI gestützt sind. Ich will also kein Verbot, sondern Transparenz und das Recht, zu verlangen, dass eine Entscheidung durch einen Menschen gefällt wird.

Warum ist das so wichtig, und was ist der Unterschied zu Entscheidungsunterstützungssystemen, wie wir sie schon seit Langem kennen und die ja nicht völlig neu sind? Bis heute basieren Entscheidungsunterstützungssysteme auf Algorithmen mit klaren Berechnungsanweisungen. Sie sagen: Wenn diese Bedingung vorliegt, dann gibt es dieses Resultat, wenn jene Bedingung vorliegt, dann gibt es jenes Resultat. Das heisst, es ist determiniert. Bei Input-Situation A kommt immer 1 heraus, bei Input-Situation B immer 2. KI funktioniert anders. KI ist kein künstliches Regelwerk, sondern eine Korrelationsmaschine. Sie alle wissen: Korrelation hat mit Kausalität, mit Begründung nichts zu tun. Ich bringe jetzt nicht das bekannte Beispiel der Störche, sondern ein anderes. Nehmen wir an, es gibt eine positive Korrelation zwischen der Menge an verkauftem Glace und der Anzahl von Sonnenbränden. Je mehr Glace verkauft wird, desto mehr Sonnenbrände gibt es. Aber niemand von uns würde sagen, die Sonnenbrände sind da, weil so viel Glace verkauft wurde. Wir sagen vielmehr, dass es hier einen dritten Faktor gibt, nämlich starken Sonnenschein, der zu Hitze führt, und Hitze wiederum führt zu Glacekonsum. Starker Sonnenschein führt auch zu Sonnenbrand.

Wenn Sie, wie das eine künstliche Intelligenz machen würde, einfach Korrelation und Kausalität verwechseln, dann verpassen Sie etwas Wichtiges. Hier werden wichtige Entscheidungen zum Teil innert Sekunden von Menschen auf der Grundlage von Vorschlägen aus der Maschine, aus dem Computer, gefällt, hier können wichtige Entscheidungen auf diese unkorrekte Art und Weise zustande kommen. Deshalb ist es wichtig, dass wir allen, die von diesen Entscheidungen betroffen sind, die Möglichkeit geben, zu erfahren, dass es nicht ein Mensch war, der die Entscheidung gut überlegt hat, sondern dass es ein Mensch war, der noch ganz kurz gesagt hat: Ja, es ist okay, der Computer sagt A; ja, es ist okay, der Computer sagt B. Wenn das Resultat aus dem Computer kommt, gibt es eine Scheinsicherheit. Das ist unproblematisch, wenn es darum geht, welche Werbung wir angezeigt erhalten. Problematisch ist es hingegen, wenn mit der Entscheidung wichtige Rechtsfolgen verbunden sind.

KI kann die Regeln, nach denen sie entscheidet, nicht transparent machen. Das ist systembedingt. KI entscheidet sogar den exakt gleichen Fall nicht bei jedem Entscheid auf die gleiche Art und Weise, weil sie eben mit Wahrscheinlichkeiten operiert. Und Menschen, die einen solchen Vorschlag vom Computer erhalten, haben dann die schwierige Aufgabe, zu sagen: "Der Computer hat nicht recht, der Computer hat nicht recht!" Das können sie nicht machen, das macht niemand.

Nehmen Sie deshalb diese kluge Lösung, die wir schon für vollautomatisierte Entscheidungen haben, und machen Sie hier einen kleinen, aber sehr wichtigen Teil einer KI-Regulierung. Diese können wir nach unserer guten, schweizerischen Tradition selber machen, ohne auf Europa warten zu müssen.

Grüter Franz · Mit-M · Conseil national · Lucerne · Groupe de l'Union démocratique du Centre

Besten Dank, Herr Glättli. Sie haben jetzt ausgeführt, was Sie reguliert haben möchten. Aber können Sie mir trotzdem sagen, was Sie von einer Anpassung der Datenschutzgesetzgebung und dem Einfügen dieser Punkte zur KI erwarten? Meine Furcht ist ein wenig die, dass Sie so etwas wie einen EU AI Act, 500 Seiten lang, schaffen und zu einem Riesenmonster aufplustern, was dann wirklich zu vielen Nachteilen führt. Wie umfangreich soll denn das sein, was Sie hier angedacht haben?

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

Ich danke sehr für die Frage. Es handelt sich lediglich um einen zusätzlichen Artikel, der genauso lang ist wie Artikel 21 DSG. Wo es in Artikel 21 DSG "automatisiert" heisst, würde es im neuen Artikel 21bis an der entsprechenden Stelle "teilautomatisierte Entscheidung mit KI" heissen. Schlanker geht es also wirklich kaum mehr.

Man kann sich fragen, was dieses Thema im Datenschutzgesetz zu suchen hat. Man könnte ein eigenes Gesetz machen. Nein - wir brauchen kein eigenes Gesetz für diesen spezifischen Aspekt, weil die automatisierten Entscheidungen schon heute im Datenschutzgesetz geregelt sind. Das ist einfach, schweizerisch, kompakt, verlässlich, brauchbar, gut. Auch die Rechtsgelehrten, die ich vorgängig konsultiert habe, haben alle gesagt, das sei ein schlanker, ein guter, ein wichtiger Vorschlag.

Reimann Lukas · Mit-M · Conseil national · St-Gall · Groupe de l'Union démocratique du Centre

Lieber Herr Kollege Glättli, wenn ich KI den Smartvote-Fragebogen ausfüllen lasse, erhalte ich einen Smartspider, der Ihrem entspricht und der sich sehr stark von meinem unterscheidet. Wie finden Sie es, dass KI ein Bias hat und sehr weit links steht? Müsste man das nicht auch regulieren, damit sie neutral ist?

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

Sie können noch ganz vieles regulieren. Wir werden hier vermutlich noch zehn-, zwanzig-, fünfzigmal über KI und Regulierung reden. Genau das, was Sie jetzt gesagt haben, ist ein Punkt. Wenn heute eine wichtige Entscheidung getroffen wird - etwa eine Businessentscheidung, eine vertragliche Entscheidung -, wird das vielleicht mithilfe einer KI gemacht, die nicht neutral gefüttert wurde. Heute ist es so: Sie wissen nicht, dass der Mensch, der das am Schluss noch zwei Sekunden lang anschaut und dann abnickt, aufgrund einer solchen "neutralen" KI-Empfehlung entschieden hat. Das will ich nicht. Ich will, dass Sie wissen, dass etwas mit Unterstützung einer KI entschieden wurde, und dass Sie dann sagen können: "Halt, ich will, dass jemand noch einmal in Ruhe darüberschaut", wenn Sie der Meinung sind, die KI habe ein Bias, sei vielleicht zu links oder zu "whatever". Es geht um wichtige Entscheidungen mit einer Rechtsfolge, um Entscheidungen, aus denen für Sie wesentliche Nachteile erwachsen könnten; es geht nicht darum, welche Werbung Sie vorgespielt kriegen.

Genau das will ich. Sie müssten dafür sein.

Graber Michael · Mit-M · Conseil national · Valais · Groupe de l'Union démocratique du Centre

Herr Kollege Glättli, ich habe Ihnen vorhin zugehört. Sie haben gesagt, es gebe keine Korrelation zwischen Sonnenbrand und Glaceverkauf, wenn die Sonne scheint. Herrn Grüter haben Sie geantwortet - wenn ich Sie richtig verstanden habe -, es gebe dann ja nur eine knappe Ergänzung und das wäre ein sehr einfacher Artikel. Wie kommen Sie dazu, zu behaupten, dass vermeintlich einfach abgefasste Gesetze in der Praxis dann auch sehr einfach umgesetzt werden?

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

Auch eine gute Frage, weil manchmal ein kurzer Gesetzestext einen Rattenschwanz an Folgen haben kann. Das ist hier nicht der Fall, weil der Geltungsbereich wirklich sehr eingeschränkt ist. Diese Bestimmung gilt nur für den Fall, dass es wirklich wesentliche Nachteile oder eine Rechtsfolge für Sie haben kann, sie gilt also nicht für jede Entscheidung. Die allermeisten Entscheidungen, die wir im Alltag treffen, haben für Sie keine wesentlichen Nachteile. Nur in dem besagten Fall und nur dann, wenn eben wirklich mit Unterstützung von KI eine solche Entscheidung getroffen wird, käme das zur Anwendung. Und dann hätten Sie nichts anderes als einen kleinen Hinweis, nämlich "wurde mit KI erstellt". Sie können das dann nochmals beurteilen, und Sie entscheiden danach selbst, ob Sie das wollen oder nicht.

Riniker Maja · 1VP-F · Conseil national · Argovie · Groupe libéral-radical

Präsidentin (Riniker Maja, erste Vizepräsidentin): Herr Christian Wasserfallen, der Berichterstatter deutscher Sprache, ist nicht im Saal.

Klopfenstein Broggini Delphine · Mit-F · Conseil national · Genève · Groupe des VERT-E-S

Après les explications bien détaillées données par mon collègue Glättli, je vais encore apporter un éclairage sur cette thématique d'actualité.

La numérisation, en particulier l'automatisation des processus et des procédures, a pour conséquence que les décisions humaines reposent de plus en plus souvent sur des systèmes qui sont algorithmiques, mais il convient de distinguer différents niveaux d'automatisation.

Premièrement, les systèmes entièrement automatisés exécutent eux-mêmes, c'est-à-dire sans l'intervention humaine, chaque étape jusqu'à la décision. Deuxièmement, les systèmes partiellement automatisés peuvent, quant à eux, fournir une aide décisionnelle ou aider à l'établissement des faits. Ainsi, un système peut, par exemple, chercher des informations, les rassembler, les évaluer, et les résultats ainsi obtenus peuvent, mais ne doivent pas obligatoirement être pris en compte par la personne physique qui prend cette décision. Il y a donc une intervention humaine, la décision définitive appartient à un humain; on n'est donc pas dans une situation automatique.

Il est théoriquement imaginable d'utiliser l'intelligence artificielle pour les systèmes automatisés et semi-automatisés. Toutefois, l'intelligence artificielle est bien plus souvent utilisée dans les procédures dites semi-automatisées, en particulier comme aide décisionnelle; on l'utilise pour nous aider à prendre des décisions, plus que dans les procédures où aucune intervention humaine n'est nécessitée. Or, pour la personne concernée, une décision semi-automatisée reposant sur l'intelligence artificielle peut justement avoir des conséquences aussi graves qu'une décision entièrement automatisée.

J'en viens à la proposition de cette initiative parlementaire. La version actuelle de la loi sur la protection des données prévoit une qualification spécifique et certains droits pour la personne concernée uniquement en cas de décision automatisée; elle ne fait pas référence aux décisions prises semi-automatiquement, ce qui n'est pas suffisant compte tenu des défis posés par l'intelligence artificielle. C'est pourquoi il est judicieux d'ajouter un article 21bis à la loi actuelle. Il ne s'agit donc pas d'une interdiction, vous l'avez bien compris; il s'agit de transparence. Tout comme la situation juridique actuelle permet de continuer à prendre des décisions entièrement automatisées, les décisions basées sur l'intelligence artificielle doivent également rester autorisées naturellement à l'avenir.

Alors, en résumé, et pour reprendre en partie les mots de mon collègue Glättli, les règles selon lesquelles une intelligence artificielle prend ses décisions ne peuvent être rendues transparentes en raison du système lui-même, car l'intelligence artificielle décide en principe selon des corrélations et non des causalités. C'est important de dire que l'intelligence artificielle ne décide pas toujours de la même manière - on le sait et on l'a déjà testé, vous l'avez certainement testé: pour un cas exactement identique, elle n'opère pas forcément de la même manière. Les personnes qui approuvent une proposition de l'intelligence artificielle sont soumises au biais de l'automatisation.

Pour toutes ces raisons et avec toutes ces explications, également soutenues par mon collègue Glättli tout à l'heure, je vous invite à adapter cet article 21bis de manière à ajouter une disposition sur les décisions automatisées qui se fondent sur l'intelligence artificielle. Je vous remercie d'avance de votre soutien.

Vote

Präsidentin (Riniker Maja, erste Vizepräsidentin): Die Mehrheit der Kommission beantragt, der Initiative keine Folge zu geben. Eine Minderheit Klopfenstein Broggini beantragt, der Initiative Folge zu geben.

Abstimmung - Vote

Für Folgegeben ... 70 Stimmen

Dagegen ... 123 Stimmen

(0 Enthaltungen)