preparatory:AB 342834

Wortprotokoll

Sie haben es gesehen: Die parlamentarische Initiative hat in der Kommission keine Mehrheit gefunden. Aber, das muss ich Ihnen sagen, in der Debatte wurde durchaus anerkannt, dass es in diesem Bereich der Entscheidungen, die auf künstlicher Intelligenz beruhen, Handlungsbedarf gibt, also Bedarf zu agieren. Sie werden es nachher von Herrn Wasserfallen noch hören. Man wollte aber dann die Auslegeordnung des Bundesrates abwarten und auf die Erfahrungen der EU mit dem AI Act warten.

Was heisst das? Wir warten zuerst zwei Jahre, bis der AI Act überhaupt anwendbar ist. Dann warten wir zwei weitere Jahre, weil wir erst Erfahrungen machen müssen. Und am Schluss werfen wir unsere Gesetzgebungsmaschinerie an, und das geht dann auch nicht von einem Tag auf den anderen.

Ich bin der Meinung, dass diese parlamentarische Initiative, die ursprünglich von meiner Kollegin Natalie Imboden eingereicht wurde, ein ganz spezifisches Ziel verfolgt und eine gute, brauchbare, an die jetzige schweizerische Gesetzgebung angelehnte Lösung bietet. Es gibt im Datenschutzgesetz bereits eine Regel, wonach bei vollständig automatisierten Entscheidungen, die für die Betroffenen mit einer erheblichen Folge verbunden sind, eine Transparenzpflicht besteht. Dann gibt es auch das Recht der betroffenen Person, eine Entscheidung durch einen Menschen zu verlangen. Ich will nun die gleiche Informationspflicht bei wichtigen Entscheiden einführen, wenn sie massgeblich auf KI gestützt sind. Ich will also kein Verbot, sondern Transparenz und das Recht, zu verlangen, dass eine Entscheidung durch einen Menschen gefällt wird.

Warum ist das so wichtig, und was ist der Unterschied zu Entscheidungsunterstützungssystemen, wie wir sie schon seit Langem kennen und die ja nicht völlig neu sind? Bis heute basieren Entscheidungsunterstützungssysteme auf Algorithmen mit klaren Berechnungsanweisungen. Sie sagen: Wenn diese Bedingung vorliegt, dann gibt es dieses Resultat, wenn jene Bedingung vorliegt, dann gibt es jenes Resultat. Das heisst, es ist determiniert. Bei Input-Situation A kommt immer 1 heraus, bei Input-Situation B immer 2. KI funktioniert anders. KI ist kein künstliches Regelwerk, sondern eine Korrelationsmaschine. Sie alle wissen: Korrelation hat mit Kausalität, mit Begründung nichts zu tun. Ich bringe jetzt nicht das bekannte Beispiel der Störche, sondern ein anderes. Nehmen wir an, es gibt eine positive Korrelation zwischen der Menge an verkauftem Glace und der Anzahl von Sonnenbränden. Je mehr Glace verkauft wird, desto mehr Sonnenbrände gibt es. Aber niemand von uns würde sagen, die Sonnenbrände sind da, weil so viel Glace verkauft wurde. Wir sagen vielmehr, dass es hier einen dritten Faktor gibt, nämlich starken Sonnenschein, der zu Hitze führt, und Hitze wiederum führt zu Glacekonsum. Starker Sonnenschein führt auch zu Sonnenbrand.

Wenn Sie, wie das eine künstliche Intelligenz machen würde, einfach Korrelation und Kausalität verwechseln, dann verpassen Sie etwas Wichtiges. Hier werden wichtige Entscheidungen zum Teil innert Sekunden von Menschen auf der Grundlage von Vorschlägen aus der Maschine, aus dem Computer, gefällt, hier können wichtige Entscheidungen auf diese unkorrekte Art und Weise zustande kommen. Deshalb ist es wichtig, dass wir allen, die von diesen Entscheidungen betroffen sind, die Möglichkeit geben, zu erfahren, dass es nicht ein Mensch war, der die Entscheidung gut überlegt hat, sondern dass es ein Mensch war, der noch ganz kurz gesagt hat: Ja, es ist okay, der Computer sagt A; ja, es ist okay, der Computer sagt B. Wenn das Resultat aus dem Computer kommt, gibt es eine Scheinsicherheit. Das ist unproblematisch, wenn es darum geht, welche Werbung wir angezeigt erhalten. Problematisch ist es hingegen, wenn mit der Entscheidung wichtige Rechtsfolgen verbunden sind.

KI kann die Regeln, nach denen sie entscheidet, nicht transparent machen. Das ist systembedingt. KI entscheidet sogar den exakt gleichen Fall nicht bei jedem Entscheid auf die gleiche Art und Weise, weil sie eben mit Wahrscheinlichkeiten operiert. Und Menschen, die einen solchen Vorschlag vom Computer erhalten, haben dann die schwierige Aufgabe, zu sagen: "Der Computer hat nicht recht, der Computer hat nicht recht!" Das können sie nicht machen, das macht niemand.

Nehmen Sie deshalb diese kluge Lösung, die wir schon für vollautomatisierte Entscheidungen haben, und machen Sie hier einen kleinen, aber sehr wichtigen Teil einer KI-Regulierung. Diese können wir nach unserer guten, schweizerischen Tradition selber machen, ohne auf Europa warten zu müssen.