Pour une stratégie contre l'usage abusif de nos images

Engler Stefan · P-M · Conseil des Etats · Grisons · Le Groupe du Centre. Le Centre. PEV.

Antrag der Kommission

Zustimmung zur Änderung

Proposition de la commission

Approuver la modification

Präsident (Engler Stefan, Präsident): Es liegt Ihnen ein schriftlicher Bericht der Kommission vor. Die Kommission beantragt ohne Gegenstimme, die Motion in der vom Nationalrat abgeänderten Fassung anzunehmen.

Fivaz Fabien · Mit-M · Conseil des Etats · Neuchâtel · Groupe des VERT-E-S

La motion Regazzi porte sur la lutte contre l'usage abusif d'images sur Internet. Elle charge le Conseil fédéral d'élaborer une stratégie nationale visant à mieux coordonner la lutte contre la diffusion non consentie d'images, en particulier les images intimes utilisées pour exercer des pressions ou du chantage. Elle souligne également la nécessité de tenir compte des nouvelles formes d'abus liées aux technologies numériques et à l'intelligence artificielle, ainsi que de renforcer la protection des enfants et des jeunes dans ce cadre.

Vous l'avez acceptée, ici, au Conseil des États, par 36 voix contre 9 et aucune abstention en mars 2025. Le Conseil national l'a modifiée assez largement, en précisant la portée de la motion à l'échelle nationale, en énumérant les outils qui devront être mis à disposition dans le cadre de la stratégie et en demandant également une coordination internationale, en particulier avec l'approche actuellement en discussion au sein de l'Union européenne.

Lors des discussions, plusieurs préoccupations ont été exprimées au sein de la commission concernant en particulier l'évolution rapide des technologies. Des outils permettant de manipuler ou de générer des images de personnes, parfois même d'enfants, peuvent aujourd'hui être diffusés et utilisés très rapidement sur les réseaux sociaux. L'intelligence artificielle vient s'ajouter à ce problème, en améliorant constamment la qualité des images, en donnant de plus en plus la possibilité de créer des vidéos et, surtout, en créant de plus en plus de possibilités de détourner des images.

Dans le débat, une autre question importante a été soulevée : celle de la responsabilité des plateformes et des intermédiaires techniques. Les auteurs individuels peuvent être poursuivis ; le Tribunal fédéral a ainsi condamné, il y a quelques années sauf erreur, une personne qui utilisait une application qui rajeunit les personnes pour générer des images à caractère pédopornographique. Il est aujourd'hui plus difficile d'agir contre les services qui mettent à disposition ces outils ou qui hébergent ces contenus. Plusieurs interventions ont ainsi invoqué la possibilité d'introduire à l'avenir une obligation de signalement pour les plateformes, afin qu'elles annoncent certains contenus illégaux aux autorités.

La commission a encore regretté que ces aspects, qu'ils soient légaux ou techniques, n'aient pas été mieux intégrés par le Conseil fédéral dans son projet de régulation des plateformes. La commission vous propose donc, sans opposition, d'accepter la motion dans sa version modifiée.

Regazzi Fabio · Mit-M · Conseil des Etats · Tessin · Le Groupe du Centre. Le Centre. PEV.

Vorweg möchte ich mich bei den Kommissionsmitgliedern beider Räte für die Unterstützung des Anliegens und für die angebrachte Präzisierung bestens bedanken. Es ist wichtig, dass der Wortlaut der Motion insofern präzisiert wurde, als die Strategie gegen den Missbrauch unserer Bilder aufeinander abgestimmte ethische, technische, rechtliche, sensibilisierende und intervenierende Initiativen umfassen sowie konkrete Schutzmassnahmen von öffentlichen und privaten Akteuren anstossen soll. Da die Flut an gefälschten Bildern und Videos nicht auf die Schweiz begrenzt ist, soll sich die Strategie an den umfassenden Schutzansätzen für Kinder und Jugendliche der Europäischen Union orientieren. Dabei geht es ausdrücklich nicht um eine Übernahme von EU-Recht, sondern um eine Orientierung an bewährten und umfassenden Schutzansätzen.

Au début de l'année, l'IA Grok, intégrée à la plateforme X, a illustré la rapidité avec laquelle des images peuvent être manipulées en ligne. Elle a modifié des photos de femmes et d'enfants pour les représenter vêtus de manière extrêmement légère - c'est un euphémisme - et dans des poses équivoques. Ces images ont ensuite été diffusées massivement sur la plateforme, sans le consentement des personnes représentées. Avant l'IA Grok, le groupe Facebook né en Italie "Mia moglie", par exemple, et d'autres sites similaires étaient déjà au centre du débat public. Pendant des années, des milliers d'internautes ont partagé sans consentement des images et des vidéos intimes de femmes. Les cibles étaient les épouses et les ex-partenaires, mais aussi les soeurs, les mères, les collègues, les personnalités publiques ou de parfaites inconnues. Il y avait plusieurs sections réservées au Tessin ; c'est donc un phénomène qui a touché aussi la Suisse.

Damit einhergehend ist weltweit ein rasanter Anstieg sogenannter Sextortion-Fälle zu beobachten, bei denen Kinder und Jugendliche mit echten oder mittels Deepfake-Technologie erstellten intimen Aufnahmen erpresst oder bedroht werden. Der Einsatz von KI bei der sexuellen Ausbeutung von Minderjährigen spielt dabei eine wesentliche Rolle. Gemäss der Meldestelle Cyber Tipline des National Center for Missing and Exploited Children der USA ist die Zahl entsprechender Meldungen im Jahr 2024 im Vergleich zum Vorjahr um 1325 Prozent gestiegen, anders gesagt von 4700 Meldungen auf 67 000 Meldungen. Das sind unglaubliche Zahlen. In der Schweiz berichtet die Meldestelle gegen Pädokriminalität im Internet, clickandstop.ch, von einem alarmierenden Anstieg der Anfragen Jugendlicher, die Opfer von Persönlichkeitsverletzungen durch Deepfakes geworden sind.

Die beobachtete Zunahme von Sextortion-Fällen zeigt, dass die bisherigen Massnahmen nicht genügen. Die Strafverfolgungsbehörden stossen heute schon an ihre Ressourcengrenze und sind erst gefragt, wenn der Schaden schon angerichtet ist. Die Prävention ist schwach aufgestellt. Wesentlich teurer als ein koordiniertes Vorgehen wäre es, nichts zu tun und von der Welle der Deepfakes überrollt zu werden. Wir dürfen den Schutz unserer Bilder im Netz nicht dem Zufall überlassen. Die zunehmende Verbreitung von Deepfake-Pornografie und KI-gestützten Persönlichkeitsverletzungen betrifft nicht nur die direkt betroffenen Personen, sondern stellt ein Problem für die gesamte Gesellschaft dar. Wir alle laufen Gefahr, dass unsere Online-Bilder durch KI sexualisiert und manipuliert werden. Kinder und Jugendliche sind jedoch in dieser Hinsicht besonders gefährdet und benötigen einen besonderen Schutz ihrer psychischen, physischen und sexuellen Integrität. Wenn Kinder und Jugendliche Opfer von Deepfake-Missbrauch werden, erstatten sie selten Anzeige und leiden oft ihr ganzes Leben lang unter den Folgen sexueller Erpressung.

Ich bitte Sie, der Motion in der modifizierten Fassung zuzustimmen und damit den Weg für eine vorausschauende und kohärente Strategie gegen Deepfakes und Sextortion zum Schutz vor allem von Frauen und Kindern zu öffnen.

Jans Beat · BR-M · Conseil fédéral · Bâle-Ville

Ganz kurz: Dass der Bundesrat die Motion ursprünglich abgelehnt hatte, liegt daran, dass er einerseits den Eindruck hat, er habe schon genügend Aufträge, um in diese Richtung zu arbeiten - z. B. mit der Motion Bulliard -, und dass er andererseits fand, die Motion sei zu unpräzise formuliert, der Auftrag sei zu wenig klar.

Mit der Änderung, die der Nationalrat vorgenommen hat, ist der Auftrag präziser. Ich werde mich deshalb nicht gegen die Annahme dieser Motion wehren.

Engler Stefan · P-M · Conseil des Etats · Grisons · Le Groupe du Centre. Le Centre. PEV.

Präsident (Engler Stefan, Präsident): Der Bundesrat schliesst sich dem Antrag der Kommission an.

Angenommen - Adopté