Umgang mit Deepfakes im geplanten KI-Gesetz

Wortlaut

1. In welchem Umfang wird die Problematik der Deepfakes im geplanten KI-Gesetz berücksichtigt?

2. Welche Bestimmungen sind vorgesehen, um missbräuchliche Anwendungen generativer KI zu adressieren, insbesondere im Zusammenhang mit nicht-einvernehmlichen sexualisierten Inhalten und Identitätsmissbrauch?

3. Welche Instrumente zur Durchsetzung werden vorgesehen hinsichtlich der raschen Entfernung von rechtswidriger Inhalten und der Durchsetzung von Unterlassungsansprüchen?

4. Wird eine spezifische Haftungsregelung für Plattformen vorgesehen, insbesondere bei unzureichender Moderation?

5. Welche präventiven Massnahmen sind vorgesehen, um die Entstehung und Verbreitung missbräuchlicher Deepfakes frühzeitig zu verhindern?

6. Wie wird sichergestellt, dass Strafverfolgungsbehörden über geeignete Instrumente verfügen, um missbräuchliche synthetische Inhalte wirksam zu verfolgen, insbesondere bei rascher Verbreitung und grenzüberschreitenden Sachverhalten?

7. Sind verbindliche Transparenz- oder Kennzeichnungspflichten für KI-generierte oder KI-manipulierte Inhalte vorgesehen? Falls ja, wie sollen diese ausgestaltet werden?

8. Wie wird dem Schutz besonders schützenswerter Personen, insbesondere Minderjähriger, Menschen mit Beeinträchtigungen oder in anderen vulnerablen Situationen Rechnung getragen?

9. Wie stellt der Bundesrat sicher, dass das KI-Gesetz mit internationalen Entwicklungen kompatibel ist?

Begründung

Der Bundesrat hat Ende 2023 beschlossen, die KI-Konvention des Europarats zu ratifizieren und bis Ende 2026 eine Vorlage für ein KI-Gesetz zu erarbeiten. In diesem Zusammenhang stellt sich die Frage, wie mit synthetischen Inhalten, insbesondere sogenannten Deepfakes, umgegangen wird. KI-gestützte Systeme ermöglichen die rasche Erstellung realistischer Bild-, Audio- und Videoinhalte, die reale Personen darstellen, ohne dass diese daran beteiligt waren. Solche Inhalte werden zunehmend missbräuchlich verwendet, insbesondere in Form nicht-einvernehmlicher sexualisierter Darstellungen oder im Kontext von Identitätsmissbrauch. Betroffen sind in besonderem Mass Frauen, Minderjährige sowie weitere Personen in vulnerablen Situationen. Die bestehende Rechtsordnung ist grundsätzlich technologieneutral ausgestaltet, weist jedoch im Zusammenhang mit synthetischen Inhalten erhebliche Vollzugs- und Durchsetzungsdefizite auf, insbesondere bei rascher und grenzüberschreitender Verbreitung.

Stellungnahme des Bundesrates

1./2./5./7./8./9. Die KI-Konvention des Europarates verlangt über den gesamten Lebenszyklus von KI-Systemen hinweg Massnahmen, welche risikobasiert sind (Art. 2 und 16) und die besonderen Bedürfnisse vulnerabler Personen ausreichend berücksichtigen (Art. 18). Die Konvention verlangt insbesondere Transparenzmassnahmen und nennt als Beispiel die Kennzeichnung von KI-generierten Inhalten (Art. 8). Vor diesem Hintergrund hat der Bundesrat die Annahme der Mo. 26.3458 Mahaim «Grok und sexualisierte Deepfakes. Jetzt handeln!» beantragt. Massnahmen spezifisch im Zusammenhang mit Deepfakes werden somit derzeit im Rahmen der gesetzgeberischen Arbeiten zur Umsetzung der Konvention geprüft.

Der Bundesrat verfolgt die internationalen Entwicklungen im Bereich KI aufmerksam, insbesondere in Europa. Die Europäische Union (EU) hat die Konvention ebenfalls unterzeichnet. Die Schweizer Gesetzgebung soll dasselbe Schutzniveau für die Grundrechte garantieren wie die EU.

Der geltende Rechtsrahmen sieht bereits zivil- und strafrechtliche Sanktionen für bestimmte Verhaltensweisen im Zusammenhang mit Deepfakes vor (vgl. auch die laufenden Motionen 26.3955 Amaudruz «Minderjährige vor KI-generierten intimen Bildern schützen» und 26.3851 Bürgin «Sexualisierte Deepfakes bekämpfen und den Opferschutz stärken», die der Bundesrat zu Annahme empfiehlt).

3./4. Der Vorentwurf zum Bundesgesetz über Kommunikationsplattformen und Suchmaschinen (VE-KomPG) sieht ein Meldeverfahren für Inhalte vor, die auf sehr grossen Kommunikationsplattformen verbreitet werden. Nutzende können damit bestimmte ihres Erachtens rechtswidrige Inhalte, die einen oder mehrere der im Gesetzestext abschliessend erwähnten Tatbestände erfüllen (z. B. üble Nachrede, Verleumdung, Drohung, Nötigung, Aufruf zu Hass), einfach melden, auch wenn diese mithilfe von KI erzeugt wurden. Der Vorentwurf sieht vor, dass die Plattformen die Meldungen prüfen und zeitnah entscheiden müssen, ob sie z. B. die Inhalte entfernen.

Der VE-KomPG enthält keine spezifischen Haftungsregelungen für sehr grosse Kommunikationsplattformen. Diese unterstehen bereits heute den geltenden allgemeinen Regeln des Zivil- und Strafrechts und haften nach den gleichen Grundsätzen wie andere Unternehmen und verantwortliche Personen für ihr Verhalten (vgl. Mo. 25.3783 Pult «Kein Haftungsprivileg für Internetplattformen»). Die Vernehmlassung zum VE-KomPG, die am 16. Februar 2026 endete, wird derzeit ausgewertet.

6. Das gesamtschweizerische Netzwerk NEDIK und der Bund fördern und koordinieren die Zusammenarbeit zwischen den Schweizer Polizeibehörden im Bereich Cyberkriminalität. Sie stellen unter anderem sicher, dass die Strafverfolgungsbehörden Aus- und Weiterbildungen absolvieren und die für die Erfüllung ihrer gesetzlichen Aufgaben erforderliche Software beschaffen. Für die Beweiserhebung im Ausland wird derzeit eine Schweizer Lösung nach dem Modell von «e-Evidence» entwickelt. Sie soll die internationale Zusammenarbeit mit den EU-Staaten beschleunigen und es ermöglichen, Anbieterinnen von Internetdiensten im Ausland direkt zu kontaktieren.