Die Entgleisung von "X". Welche Sofortmassnahmen müssen ergriffen werden, um unsere Demokratie vor den schädlichen Auswirkungen bestimmter sozialer Netzwerke zu schützen?

Wortlaut

Der Bundesrat wird gebeten, folgende Fragen zu beantworten.

1. Hält es der Bundesrat für notwendig, die Schweiz mit neuen rechtlichen Instrumenten auszustatten, um Phänomene, die in bestimmten sozialen Netzwerken feststellbar sind - beispielsweise die Verbreitung von Falschinformationen, Hassinhalte, Missbrauch von künstlicher Intelligenz, illegale Inhalte - besser eindämmen zu können?

2. Gibt es Massnahmen, die unterhalb der Erlassstufe angesiedelt sind und welche die Schweiz umsetzen könnte, ohne das Inkrafttreten der neuen Gesetzgebung abzuwarten? Solche Massnahmen könnten beispielsweise die Transparenz von Algorithmen betreffen, die Moderation von Inhalten oder die Pflicht, dass Plattformen Bericht erstatten müssen.

3. Gibt es Möglichkeiten, bereits heute auf der Grundlage anderer rechtlicher Bestimmungen zu handeln, um die Auswirkungen bestimmter Praktiken in sozialen Netzwerken auf die Grundrechte so weit wie möglich zu reduzieren? Handlungsmöglichkeiten könnten zum Beispiel bei der Werbung bestehen, beim Jugendschutz oder wenn es um Aufrufe zum Hass geht.

4. Würde der Bundesrat die frühere Einführung von Verpflichtungen für sehr grosse Plattformen nach dem Vorbild der entsprechenden Regelung in der EU befürworten?

Begründung

Der Bundesrat wird seine Botschaft zur Regulierung der digitalen Plattformen Anfang 2025 vorlegen. Man kann davon ausgehen, dass sich einige Massnahmen mehr oder weniger direkt an den entsprechenden EU-Vorschriften orientieren werden. Der europäische Digital Services Act (DSA) trat 2022 in Kraft und wird seitdem schrittweise umgesetzt, wobei neue Verpflichtungen für sehr grosse Plattformen bereits ab 2023 gelten und alle allgemeinen Verpflichtungen für Plattformen bereits in diesem Jahr in Kraft treten werden.

Es besteht ein eindeutiges Risiko, dass die Schweiz eine Art unregulierte Insel inmitten des europäischen Kontinents bildet, was bestimmte, für unsere Demokratie besonders schädliche Entwicklungen der letzten Zeit eher noch verstärken würde (Verbreitung von Falschinformationen, Hassinhalte, Missbrauch von künstlicher Intelligenz, illegale Inhalte usw.). Der Gesetzgebungsprozess wird in der Schweiz zwangsläufig eine gewisse Zeit in Anspruch nehmen (Vernehmlassung, parlamentarisches Verfahren, eventuelles Referendum usw.); in dieser Zeit sind die genannten Entwicklungen mangels geeigneter Instrumente nicht oder nur schwer kontrollierbar.

Stellungnahme des Bundesrates

Zu den Fragen 1-4Der Bericht des Bundesamtes für Kommunikation BAKOM «Intermediäre und Kommunikationsplattformen» vom November 2021 identifiziert neben Hassrede auch Falschinformation und algorithmische Intransparenz als negative Phänomene, die mit digitalen Plattformen und Suchmaschinen in Verbindung gebracht werden (www.bakom.admin.ch > digital-und-internet > digitale-kommunikation > kommunikationsplattformen). Ebenso zeigt der Bericht auf, dass die Schweiz im Bereich der freiwilligen Massnahmen, anders als die EU, keine Selbstregulierungsabkommen kennt, die wie etwa der EU Code of conduct on countering illegal hate speech online oder der Strengthened Code of Practice on Disinformation branchenweite Verpflichtungen und Standards festlegen. Grundsätzlich existiert in der Schweiz die Möglichkeit der freiwilligen Branchenvereinbarungen, und führende Schweizer Hosting-Unternehmen haben bereits 2013 einen «Code of Conduct Hosting», d.h. Richtlinien für den Umgang mit rechtswidrigen Inhalten, eingeführt. Wie eine spätere Studie zeigte, bewährt sich dieser in der Praxis. Diese Richtlinien sollen unter den Schweizer Hosting-Unternehmen Verhaltensgrundsätze im Umgang mit unzulässigen Inhalten aufzeigen und sie als Branchenstandard etablieren. Zudem wurden auf Initiative der Bundeskanzlei im Vorfeld der Nationalratswahlen 2023 mit den grossen, ausländischen Plattformen direkte Kommunikationswege für den Fall von Manipulationsversuchen vereinbart. Ferner besitzt fedpol den Status eines «Priority Flaggers» bei YouTube, dessen Hinweise bevorzugt behandelt werden, und unterhält Kontakte zu X und Facebook. Darüber hinaus operieren Kommunikationsplattformen bereits heute nicht in einem rechtsfreien Raum. Die bestehenden Gesetze der Schweiz etwa im Straf- und Zivilrecht finden auch gegenüber digitalen Plattformen und Suchmaschinen Anwendung, wie der Bericht des Bundesrates vom November 2023 in Antwort auf das Postulat 21.3450 der Sicherheitspolitischen Kommission des Ständerates «Hassreden. Bestehen gesetzliche Lücken?» darlegt (www.bakom.admin.ch > elektronische-medien > medienpolitik > aktuelles-und-hintergruende > hassrede). Allerdings befinden sich die Daten in der Regel auf Servern im Ausland, was der Frage der Rechtsdurchsetzung eine internationale Dimension verleiht und damit die Aussicht etwa auf eine erfolgreiche Strafverfolgung vermindert. So ist die Löschung illegaler Inhalte oft nur möglich, wenn die entsprechenden Plattformen von sich aus zur Kooperation bereit sind. Der Bundesrat hat aufgrund der bestehenden Defizite in den Bereichen Transparenz, Sorgfalt und Rechtsdurchsetzung das UVEK am 5. April 2023 beauftragt, eine Vernehmlassungsvorlage zur Regulierung sehr grosser Kommunikationsplattformen auszuarbeiten. Die Vernehmlassungsvorlage soll primär auf den Schutz der Kommunikationsgrundrechte der Nutzenden abzielen und ihre Rechte stärken. Darüber hinaus soll sie den Plattformen zusätzlich Rechenschaftspflichten auferlegen, sie einer Aufsicht unterstellen und Durchsetzungsmechanismen zur Überprüfung der Sorgfaltspflichten einführen.