Anfrage Felix Hoesch, Zürich, und Mitunterzeichnende betreffend Wahl- und Abstimmungsmanipulation durch sogenannte soziale Netze, Bots und künstliche Intelligenz, Beantwortung

Auf Antrag der Direktion der Justiz und des Innern beschliesst der Regierungsrat:

I. Die Anfrage Felix Hoesch, Zürich, und Mitunterzeichnende wird wie folgt beantwortet: Zu Frage 1: Eine funktionierende Demokratie verlangt, dass die Stimmberechtigten ihren Entscheid gestützt auf einen möglichst freien und umfassenden Prozess der Meinungsbildung treffen. Die Stimmberechtigten sollen sich ihre Meinung unbeeinflusst von Desinformation bilden können. Desinformation ist die gezielte Verbreitung von falschen, irreführenden Informationen, um jemanden zu täuschen oder zu beeinflussen; oft auch, um in politische Prozesse einzugreifen. Neben Texten, Zahlen oder Zitaten können auch Bilder und Videos manipuliert werden. Neue Mittel und Technologien der Kommunikation wie etwa die Künstliche Intelligenz (KI) bieten für demokratische Prozesse neben Chancen (z. B. Faktenchecks) auch Risiken. Sie können für Beeinflussung und Desinformation eingesetzt werden, z. B. in der Form von sogenannten «Deepfake-Videos» in den sozialen Medien oder «Targeting» zu politischen Zwecken. Bei Letzterem soll mithilfe von Algorithmen das Verhalten von Menschen gezielt beeinflusst werden (vgl. dazu auch die Rechtliche Basisanalyse des Bundesamtes für Justiz vom 31. August 2024 im Rahmen der Auslegeordnung zu den Regulierungsansätzen im Bereich künstliche Intelligenz, S. 35).

Der Bericht des Bundesrates vom 19. Juni 2024 (in Erfüllung des Postulats Nr. 22.3006 der Sicherheitspolitischen Kommission des Nationalrats) identifiziert Desinformationskampagnen und Beeinflussungsaktivitäten als ernsthafte Bedrohung für die politische Meinungs- und Willensbildung in der Schweiz. Befragungen zur Medien- und Informationskompetenz der Bevölkerung würden zeigen, dass die gewandelte Nutzung der Medien und die technologischen Entwicklungen die Herausforderungen im Umgang mit Beeinflussungsaktivitäten und Desinformation erhöhen. Gleichzeitig wird im Bericht aber auch betont, dass es keine Hinweise gebe, wonach eidgenössische Urnengänge in der Vergangenheit ein direktes Ziel von Beeinflussungsaktivitäten gewesen seien (S. 14 ff.). Der Regierungsrat teilt die Einschätzung des Bundes. Er liess im Berichtsjahr 2024 erstmals einen Risikobericht erstellen, der künftig jährlich erscheinen wird. Der Risikobericht dient dem Regierungsrat im Rahmen des Integralen Risikomanagements als Übersicht über die Toprisiken, um auf dieser Grundlage Massnahmen, Reduktionsziele und Zuständigkeiten zu beschliessen. Als Toprisiken eingestuft werden Risiken aufgrund ihrer Grösse und weil sie an mehreren Stellen in der Verwaltung wirken. Der Risikobericht 2024 stuft «Desinformation» (d. h. Einflussnahme auf die freie Meinungsbildung bei demokratischen, rechtsstaatlichen Entscheiden) als eines der zehn Toprisiken ein. Es stellt das dritte Toprisiko im roten Bereich dar. Die Risikomatrix qualifiziert die Eintrittswahrscheinlichkeit von «Desinformation» als «sehr wahrscheinlich» und das Schadensausmass als «wesentlich». Der Risikobericht 2024 hält dazu fest, dass Desinformation einen gesellschaftlichen Ursprung hat und gleichzeitig stark mit technologischen Entwicklungen verknüpft ist. Desinformation spielt zunehmend eine bedeutende Rolle bei Wahlen und Abstimmungen und kann das Vertrauen in die demokratischen Institutionen und rechtsstaatlichen Prozesse stark gefährden (Geschäftsbericht 2024, Teil I: Regierungsrat, S. 40 ff.). Zu Frage 2:

Der Regierungsrat legte im Risikobericht 2024 fest, dass dem Toprisiko «Desinformation» mit zwei spezifischen Massnahmen entgegengetreten werden soll: Einerseits durch die Weiterentwicklung der Früherkennung und anderseits durch verstärkte Sensibilisierung der Bevölkerung zum Umgang mit Desinformation. Prävention und Sensibilisierung stehen demzufolge im Zentrum bei der Bekämpfung von Desinformation. Auf Bundesebene wird zurzeit eine Motion behandelt, die den Bundesrat beauftragen soll, eine interdisziplinäre Koordinationsstelle für Lagebild und Gegenmassnahmen zum Kampf gegen Desinformation und Beeinflussungsaktivitäten schaffen (Motion Nr. 24.4644). Zudem ist ein Postulat hängig, wonach der Bundesrat einen Antrag der Schweiz auf Beobachterstatus im «G7 Rapid Response Mechanism» prüfen solle (Postulat Nr. 24.4626). Der «G7 Rapid Response Mechanism» wurde von den Staats- und Regierungschefs der G7-Staaten am Gipfel 2018 eingerichtet, um die Koordinierung der G7-Partner im Fall von Bedrohungen ihrer Demokratie zu stärken. Er soll als Plattform dienen, mittels derer die G7-Partner Informationen austauschen, gemeinsam Bedrohungen analysieren und gegebenenfalls Vorschläge für eine koordinierte Antwort entwickeln. Der Bundesrat beantragte den eidgenössischen Räten, sowohl die Motion als auch das Postulat anzunehmen. Was mögliche technische Massnahmen betrifft, könnten in Zukunft sogenannte «Digital Risk Protection Services» einen hilfreichen Beitrag leisten. Sie überwachen das Internet, einschliesslich Sozialmedien, Foren und Webseiten, um frühzeitig mögliche Anzeichen von Desinformation zu erkennen (z. B. nachgeahmte Inhalte, falsche Profile auf den Sozialmedien und betrügerische Apps). Der Bund forscht zudem – zusammen mit Schweizer Hochschulen – in verschiedenen Projekten zu technologischen Aspekten im Zusammenhang mit Beeinflussungsaktivitäten und Cyberabwehr. Es bleibt darauf hinzuweisen, dass die Internetnutzerinnen und -nutzer ihre «digitale Integrität» effizient schützen, indem sie starke Methoden zur Authentifizierung verwenden und ihre Online-Profile regelmässig auf verdächtige Aktivitäten hin kontrollieren. Von zentraler Bedeutung ist dabei der Schutz der «Social Media Accounts» von Politikerinnen und Politikern; insbesondere diese Konten sollten im demokratischen Prozess weder kompromittiert noch zur

Verbreitung von Desinformation oder anderen schädlichen Inhalten missbraucht werden können. Gesetzgeberische Massnahmen auf Stufe des Kantons erachtet der Regierungsrat im Übrigen als wenig zielführend. Vor allem deshalb, weil sie – beschränkt auf das Gebiet des Kantons – zu kurz greifen würden, um den (zumeist) grossflächigen Beeinflussungsaktivitäten juristisch angemessen zu begegnen. Die schweizerische Gesetzgebung enthält zudem bereits einschlägige Normen, die bei Desinformation und Fehlinformation zur Anwendung kommen; insbesondere der bestehende Rechtsrahmen bei behördlichen Falschinformationen kann als umfassend betrachtet werden (auch mit Blick auf die Rechtsprechung des Bundesgerichts). Regelungslücken bestehen allerdings hinsichtlich der grossen Kommunikationsplattformen (z. B. Google, Facebook, YouTube und Twitter [vgl. dazu die Rechtliche Basisanalyse des Bundesamtes für Justiz vom 31. August 2024 im Rahmen der Auslegeordnung zu den Regulierungsansätzen im Bereich künstliche Intelligenz, S. 34]). Der Bundesrat plante, eine Vernehmlassungsvorlage auszuarbeiten, um die Kommunikationsplattformen regulieren zu können. Die Rechte der Nutzenden sollen dabei gestärkt und den Plattformen gewisse Sorgfaltspflichten auferlegt werden. Verschiedene dieser Aspekte werden nicht zuletzt auch algorithmische Systeme betreffen, die von den Plattformen eingesetzt werden (z. B. zur Moderation oder zum Ranking von Inhalten). Das Geschäft wurde allerdings verschoben und der Bundesrat hat noch keinen Entscheid gefällt. Die geplante Regulierung würde zum Schutz demokratischer Prozesse (öffentliche Meinungsbildung) und des Rechtsstaats beitragen. Der Bundesrat sprach sich zudem Anfang 2025 dafür aus, dass die Schweiz die Konvention des Europarates zu Künstlicher Intelligenz ratifiziert und die dafür notwendigen Anpassungen im Schweizer Recht vornimmt. Die zuständigen Departemente des Bundes werden bis Ende 2026 eine Vernehmlassungsvorlage ausarbeiten. Zu Frage 3: Der Regierungsrat äussert sich grundsätzlich nicht zu den inneren Angelegenheiten anderer Staaten. Aufgrund der unterschiedlichen politischen, gesellschaftlichen und institutionellen Gegebenheiten sind Vergleiche zwischen der Schweiz bzw. dem Kanton Zürich und anderen Ländern ohnehin nur von beschränktem Nutzen. Der zuvor erwähnte

Bericht des Bundesrates attestiert der Schweiz im internationalen Vergleich bestimmte institutionelle und strukturelle Resilienzfaktoren. Ausblickend führt der Bundesrat im Bericht aus, dass die Schweiz durch ihre Kleinräumigkeit, regelmässige demokratische Partizipation, den hohen Bildungsgrad sowie das Vertrauen in die politischen Institutionen und die Medien institutionell relativ robust sei gegen Beeinflussungsaktivitäten und Desinformation (Beeinflussungsaktivitäten und Desinformation, Bericht des Bundesrates in Erfüllung des Postulats 22.3006 der Sicherheitspolitischen Kommission des Nationalrats, S. 17 f.). Zu Frage 4: Die Wahlbehörden sind für die korrekte und gesetzeskonforme Durchführung der Wahlen zuständig. Wahlleitende Behörden im Kanton Zürich sind der Regierungsrat für kantonale und die Gemeindevorstände für kommunale Angelegenheiten. Die administrativen und operativen Aufgaben zur Vorbereitung und Durchführung führen dabei die zuständigen Stellen der kantonalen Verwaltung, der Gemeindeverwaltung sowie die Gemeindewahlbüros (als Milizbehörde) aus. Zu diesen Aufgaben zählen etwa die Vorbereitung und der Versand der Wahlunterlagen, die Gewährleistung, dass die Stimme (an der Urne) abgegeben werden kann, sowie die Auszählung, Ermittlung und anschliessende Veröffentlichung der Ergebnisse. Die Erkennung und Bekämpfung von Desinformation und Beeinflussungsaktivitäten ginge daher weit über die Aufgaben der kantonalen und kommunalen Wahlbehörden hinaus. Desinformation und Beeinflussungsaktivitäten sind eine gesamtgesellschaftliche Herausforderung, die eine koordinierte Zusammenarbeit verschiedener Behörden auf allen Ebenen des Staates, der Wissenschaft und Zivilgesellschaft erfordern. Zu Frage 5: Der Kanton Zürich setzt zur Übermittlung und Ermittlung von Wahl- und Abstimmungsergebnissen eine Applikation (VOTING) ein, deren Quellcode offengelegt ist. Ziel der Offenlegung ist es, mögliche Schwachstellen aufzudecken und beheben zu können. Die Applikation läuft im kantonalen Datennetzwerk für die Verwaltung des Kantons und für die Gemeinden. Die Betreiberinnen der Applikation und des Datennetzwerkes sowie auch das kantonale Zentrum für Cybersicherheit überwachen den Einsatz vor und während den Urnengängen und stehen mit den für Wahlen und Abstimmungen zuständigen Stellen im Austausch.

II. Mitteilung an die Mitglieder des Kantonsrates und des Regierungsrates sowie an die Direktion der Justiz und des Innern.

Vor dem Regierungsrat Die Staatsschreiberin: Kathrin Arioli