Wortlaut

Der Bundesrat wird beauftragt, dem Parlament eine gesetzliche Grundlage vorzulegen, die es erlaubt, das Bewerben, Verkaufen oder Zugänglichmachen von Apps und digitalen Diensten zu verbieten bzw. technisch zu verunmöglichen, welche mittels Künstlicher Intelligenz aus bestehenden Bildern von Kindern oder Erwachsenen Nacktbilder generieren.

Begründung

Apps, die künstliche Intelligenz verwenden, verzeichnen starkes Wachstum, leider nicht nur im positiven Sinne. Nudify-Apps, auch «Undress AI» genannt, erlauben es, sogenannte «Deep Nudes» zu erstellen, also fingierte Nacktbilder realer Personen. Ein alltägliches Bild einer Person kann mit einigen Klicks innert Sekunden zu einem Nacktbild verwandelt werden. Mit anderen digitalen Diensten können Gesichter aus Bildern getauscht werden, damit können die Gesichter beliebiger Personen in pornografische Bilder und Videos eingesetzt werden (Face Swaping).

Es gibt hunderte solcher Programme, die mittels einer einfachen Internetsuche auffindbar sind und auf Social Media Plattformen stark beworben werden. Oftmals bieten sie an, dass man testweise gratis ein paar Nacktbilder erstellen kann. Es ist nicht hinzunehmen, dass digitale Dienste, welche bei der Anwendung direkt zu massiven Verletzungen der Persönlichkeitsrechte führen, beworben werden und so leicht zugänglich sind. Gerade für Kinder und Jugendliche stellen solche künstlich hergestellten Nacktbilder eine grosse Gefahr dar. Für die Betroffenen ist die Weiterverbreitung eine riesige Belastung. Da die Bilder extrem realistisch aussehen, spielt ihre eigentliche Unechtheit keine Rolle. Solches Bildmaterial kann auch dazu verwendet werden, um die Betroffene zu erpressen. Mit einer scheinbaren Spielerei machen sich Kinder und Jugendliche zudem schnell strafbar.

Die Werbung auf Social Media für Nudify-Apps hat im letzten Jahr massiv zugenommen.[1] Dabei wird ein Produkt beworben, dessen Anwendung meist direkt zu einer Rechtsverletzung führt. Dies muss unterbunden werden.

[1] https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/

Antrag des Bundesrates

Ablehnung

Stellungnahme des Bundesrates

Es wird in der digitalen Welt zunehmend einfacher, Bilder, Videos oder Tonaufnahmen mithilfe von Künstlicher Intelligenz (KI) zu verändern oder zu erschaffen. Die so erzeugten synthetischen Inhalte lassen sich oft kaum von echten unterscheiden. Die Technik verspricht interessante Anwendungen, etwa im Unterhaltungsbereich oder in der Bildung. Doch auch der Missbrauch ist gemäss der TA-Swiss-Studie «Deepfakes und manipulierte Realitäten – Technologiefolgenabschätzung und Handlungsempfehlungen für die Schweiz» weit verbreitet: So nutzen zum Beispiel Kriminelle künstlich kopierte Stimmen für betrügerische Schockanrufe bei Privatpersonen (www.ta-swiss.ch > Publikationen). Auch im zwischenmenschlichen Umgang lauern Gefahren, etwa wenn Jugendliche auf dem Pausenplatz Mobbing mittels KI-Inhalten erfahren oder wenn Personen mit gefälschten pornografischen Aufnahmen unter Druck gesetzt werden. Schliesslich können Deepfakes eine Bedrohung für die Demokratie darstellen, wenn sie verwendet werden, um politische Gegner zu diskreditieren oder Falschinformationen zu verbreiten.Das Schweizer Recht ist grundsätzlich technologieneutral ausgestaltet, das heisst, es gilt auch im digitalen Raum und im Hinblick auf Deepfakes oder pornografische Inhalte in digitaler Form. Die Rechtsdurchsetzung kann allerdings anspruchsvoll sein, insbesondere wenn ein grenzüberschreitender Sachverhalt in Frage steht. Die Herstellung und die Verbreitung von «Deep Nudes» können bereits heute zivil- oder datenschutzrechtlich unzulässige Persönlichkeitsverletzungen darstellen. Auch Identitätsmissbrauch gemäss Art. 179decies StGB oder Pornografie gemäss Art 197 StGB können im Einzelfall vorliegen. Mit Art. 197a StGB ist auch das Weiterleiten oder Veröffentlichen gewisser Inhalte strafbar. Die Allgemeinen Geschäftsbedingungen (AGB) der meisten sozialen Netzwerk- und Multimediaplattformen verbieten den Nutzenden zudem die Verbreitung von Pornografie. Darüber hinaus geht es beim Anliegen eines Verbots oder einer technischen Unmöglichkeit von Apps und digitalen Diensten nicht zwingend um ein strafrechtliches Verbot, sondern es kommen auch aufsichtsrechtliche oder polizeirechtliche Regelungen und Verbote in Betracht.Die problematische Seite der Nutzung, Bewerbung und Verbreitung von Apps, mit denen Deep Fakes hergestellt werden, ist deshalb in einen grösseren Zusammenhang einzuordnen. Diese und andere wesentliche Fragen dieser Motion betreffen KI-Anwendungen generell, wenn diese in der Schweiz verbotenen Output generieren. Der Bundesrat hat eine Auslegeordnung zu möglichen KI-Regulierungsansätzen in Auftrag gegeben. Diese Fragen sowie mögliche Gesetzesanpassungen sollten deshalb erst gestützt auf diese Auslegeordnung im Rahmen der Diskussion einer allfälligen KI-Regulierung in der Schweiz diskutiert werden. Dieser Diskussion ist nicht vorzugreifen.

Der Bundesrat beantragt die Ablehnung der Motion.