Wortlaut

Das Datenschutzgesetzes vom 25. September 2020 ist in Artikel 21bis wie folgt zu ändern:

Artikel 21bis Informationspflicht beim Einsatz künstlicher Intelligenz

1. Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die massgeblich auf künstlicher Intelligenz beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (KI-gestützte Einzelentscheidung).

2. Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die KI-gestützte Einzelentscheidung von einer natürlichen Person überprüft wird.

3. Die Absätze 1 und 2 gelten nicht, wenn:

a. die KI-gestützte Einzelentscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder

b. die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung KI-gestützt erfolgt.

4. Ergeht die KI-gestützte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 ist nicht anwendbar, wenn die betroffene Person nach Artikel 30 Absatz 2 des Verwaltungsverfahrensgesetzes vom 20. Dezember 19686 (VwVG) oder nach einem anderen Bundesgesetz vor dem Entscheid nicht angehört werden muss.

Begründung

Die Digitalisierung und insbesondere die Automatisierung von Prozessen und Verfahren führen dazu, dass menschliche Entscheidungen vermehrt durch algorithmische Systeme übernommen werden. Dabei sind verschiedene Automatisierungsstufe zu unterscheiden:

a. Vollautomatisierte Systeme führen jeden einzelnen Schritt bis hin zur Entscheidung selbst, also menschenunabhängig, aus.

b. Teilautomatisierte Systeme können dagegen eine Entscheidungsunterstützung bieten oder bei der Sachverhaltsermittlung helfen. So kann ein System z.B. Informationen ermitteln, diese zusammenstellen und/oder auswerten. Die so erzeugten Ergebnisse können, müssen aber nicht von der natürlichen Person bei der Entscheidungsfindung berücksichtigt werden. Die finale Entscheidung liegt also bei einem Menschen.

Sowohl bei teil- als auch bei vollautomatisierten Systemen ist der Einsatz von Künstlicher Intelligenz (theoretisch) vorstellbar. Allerdings wird KI wohl viel häufiger in teilautomatisierten Verfahren (insbesondere als Entscheidungsunterstützung) eingesetzt werden als in Verfahren ohne jegliche menschliche Mitwirkung.

Für die betroffene Person kann aber gerade eine KI-gestützte, teilautomatisierte Entscheidung ähnlich schwerwiegende Auswirkungen haben wie eine vollautomatisierte Entscheidung.

Das aktuelle Datenschutzgesetz sieht aber nur für vollautomatisierte Entscheide eine spezifische Kennzeichnungspflicht und gewisse Rechte der betroffenen Person vor (Art. 21 nDSG), was mit Blick auf die Herausforderungen durch KI unbefriedigend ist. Daher macht eine Ergänzung von Art. 21bis Sinn. Begrifflich ist der Terminus "Künstliche Intelligenz" bisher nicht abschliessend definiert, hingegen wird es aber bald eine "KI-Verordnung" der EU geben und eine "KI-Konvention" des Europarates, welche den Begriff definieren.