Plattformen und KI. Rechte der Nutzerinnen und Nutzer

Wortlaut

Online-Plattformen nehmen beachtlich viel Raum ein. Ihr Status ist jedoch unklar. In der Schweiz ist die rechtliche Situation der Online-Plattformen nicht geregelt. Im April 2023 hat der Bundesrat das UVEK beauftragt, eine Vernehmlassungsvorlage zur Regulierung der Kommunikationsplattformen auszuarbeiten. Sie war für März 2024 vorgesehen, sollte dem Bundesrat jetzt aber im Herbst unterbreitet werden. Es ist kaum wahrscheinlich, dass eine Regulierung vor 2027 in Kraft tritt.

Die EU ihrerseits ist dabei, zu handeln. Die EU-Verordnung über einen Binnenmarkt für digitale Dienste (Digital Services Act; DSA) ist seit Februar 2024 in Kraft. Demnach gilt der Grundsatz, dass online illegal ist, was auch offline illegal ist. Die Europäische Kommission hat 19 sehr grosse Plattformen (mit EU-weit mehr als 45 Millionen aktiven Nutzerinnen und Nutzern pro Monat) wie Facebook, Instagram, LinkedIn, TikTok, X (ehemals Twitter) und die beiden sehr grossen Online-Suchmaschinen Bing und Google Search identifiziert, die ein systemisches Risiko darstellen und umfangreiche Schutzmassnahmen erfordern. Google hat zum Beispiel bereits mehrere Milliarden in Start-ups investiert, die auf künstliche Intelligenz (KI) spezialisiert sind. KI bietet zwar Chancen in der Datenanalyse, birgt aber auch verschiedene Risiken für die freie Meinungsbildung, die für eine direkte Demokratie wie die Schweiz, den Datenschutz oder die Verhinderung von Identitätsbetrug zentral ist.

Die Nutzerinnen und Nutzer brauchen auch Schutz vor den Fallen von Dark Patterns: Sie müssen wissen, was ihnen angeboten wird, mit wem sie sich einlassen, wer bei Problemen verantwortlich ist und warum ihnen bestimmte Inhalte empfohlen werden.

Im Bereich des Datenschutzes schliesslich konzentriert sich die Schweiz auf die individuelle Verantwortung, während die EU auch Plattformen (juristische Personen) einschliesst.

1) Wie will der Bundesrat auf die systemischen Risiken der Integration von künstlicher Intelligenz in Online-Suchmaschinen reagieren?

2. Wie wird der Bundesrat vorgehen, um die Wahlfreiheit der Nutzerinnen und Nutzer angesichts von unlauterem Wettbewerb oder von Missbrauch einer marktbeherrschenden Stellung durch Online-Plattformen zu gewährleisten?

3. Erwägt der Bundesrat Sanktionen auch gegen die beteiligten Plattformen (juristische Personen) und nicht nur gegen die Einzelpersonen, die sie vertreten?

Ich danke dem Bundesrat für die Beantwortung meiner Fragen.

Stellungnahme des Bundesrates

Dem Bundesrat ist bewusst, dass Kommunikationsplattformen und Suchmaschinen von einem grossen Teil der Schweizer Bevölkerung genutzt werden und dass sie grossen Einfluss auf die Meinungsbildung haben können. Er strebt daher eine Regulierung von grossen Kommunikationsplattformen an. Er hat das UVEK am 5. April 2023 beauftragt, unter Einbezug des Bundesamtes für Justiz (BJ) eine Vernehmlassungsvorlage auszuarbeiten. Die neuen Bestimmungen sollen sich, wo sinnvoll, an den Regeln des Digital Services Act (DSA) der EU orientieren. Zur Frage 1Künstliche Intelligenz soll nicht expliziter Gegenstand der Vernehmlassungsvorlage sein. Der DSA verpflichtet jedoch die Plattformen, über die Rolle der algorithmischen Empfeh­lungssysteme und ihre Auswirkung auf gesellschaftliche Debatten und Wahlprozesse zu berichten. Ähnliches ist für die Vernehmlassungsvorlage für die Schweiz vorgesehen. Gleich­zeitig hat der Bundesrat am 22. November 2023 beim UVEK und EDA eine Übersicht mö­glicher Regulierungsansätze von Künstlicher Intelligenz für die Schweiz in Auftrag gegeben. Zur Frage 2Die Vernehmlassungsvorlage soll primär auf den Schutz der Kommunikationsgrundrechte der Nutzenden abzielen und ihre Rechte stärken. Vorgesehen sind ein internes Beschwerdesystem der Plattformen sowie eine unabhängige Schlichtungsstelle. Fragen des Wettbewerbs und eines allfälligen Marktmissbrauchs werden nicht im neuen Gesetz geregelt. Das bestehende Kartellrecht ist dafür genügend. Interventionen der WEKO zur Bekämpfung von Missbräuchen von Unternehmen mit marktbeherrschender Stellung sind bereits möglich Zur Frage 3Bereits heute operieren Kommunikationsplattformen nicht in einem rechtsfreien Raum und können beispielsweise zivilrechtlich als Mitwirkende bei Rechtsverletzungen ihrer Nutzenden in die Verantwortung genommen werden. Die Vernehmlassungsvorlage soll den Plattformen zusätzlich Rechenschaftspflichten auferlegen, sie einer Aufsicht unterstellen und Durchsetzungsmechanismen zur Überprüfung der Sorgfaltspflichten einführen. Darüber hinaus sollen sie ein einfaches Meldeverfahren anbieten. Damit soll die Vernehmlassungsvorlage zu einer gut funktionierenden öffentlichen Debatte beitragen. Vorgesehen sind zudem Sanktionsmöglichkeiten gegenüber den Kommunikationsplattformen, die insbesondere die Schwere der Verstösse berücksichtigen.