Réglementer les "deep fakes"

Mahaim Raphaël · Mit-M · Conseil national · Vaud · Groupe des VERT-E-S

BO 2025 N 655Monsieur le conseiller fédéral, vous avez dit tout à l'heure, à l'occasion d'une discussion sur l'intelligence artificielle, qu'il fallait davantage voir l'intelligence artificielle comme une chance que comme un risque. BO 2025 N 656 Je fais partie des personnes qui pensent, en effet, qu'il peut s'agir d'une chance, mais que ce type de technologie, en particulier certaines formes d'intelligence artificielle, comporte des risques particulièrement dangereux pour la protection de la personnalité, pour nos démocraties, pour l'intimité des personnes et pour la sphère privée des personnes. Il faut prendre au sérieux ces risques, ce que, jusqu'à maintenant, le Conseil fédéral n'a pas fait.

Je défends une motion qui concerne spécifiquement la thématique des "deep fakes". Si vous posez la question dans la rue, sur dix personnes interrogées, peut-être neuf personnes ne sauront pas de quoi il s'agit. Si vous ne vous intéressez pas aux "deep fakes", les "deep fakes" s'intéresseront à vous ou à votre entourage un jour ou l'autre. Il s'agit de ces technologies qui permettent, comme le nom l'indique, de falsifier l'identité d'une voix, d'une image, pour faire passer un message autre, ou de la part d'un autre émetteur, que la réalité.

Cette pratique est dorénavant devenue monnaie courante dans les campagnes électorales, dans les campagnes de diffamation, dans les campagnes publicitaires trompeuses. C'est une réalité sociale qui peut avoir des conséquences dramatiques - dramatiques, je pèse mes mots. Nous avons des exemples nombreux de dizaines voire de centaines de milliers de femmes dont les images ont été mises en ligne avec un contenu truqué, où l'on voit leur visage sur un corps nu, avec un contenu pornographique. Il y a eu des escroqueries à hauteur de plusieurs dizaines de millions dans le domaine bancaire, rendues possibles par l'utilisation de fausses images ou de fausses voix. Bien sûr, dans les processus électoraux - on l'a vu dans la campagne américaine l'année dernière -, il y a une tendance dramatique à recourir à ces subterfuges pour faire dire à un adversaire ce qu'il ne dit pas, pour faire dire à une personnalité politique qu'elle soutient tel ou tel candidat ou telle ou telle cause.

Comme vous le savez, la Commission de l'immunité de notre conseil a pris une décision relative à un cas de "deep fake" utilisé en politique suisse. L'affaire est maintenant passée au Conseil des Etats. Dans ce contexte, il est donc difficile de dire qu'il n'y a pas de "Handlungsbedarf", comme on le dit ici à Berne.

Permettez-moi une petite citation: "Les conséquences d'un deepfake peuvent être très graves, par exemple lorsque des personnalités connues donnent l'impression de faire des déclarations qu'elles n'ont jamais faites. Mais il y a longtemps que les deepfakes ne concernent plus que les célébrités. Au quotidien, que ce soit dans la sphère privée ou professionnelle, les contenus manipulés constituent aussi un vrai danger." Cette citation ne vient pas du programme de mon parti, des Verts, ni de quelques spécialistes en matière de protection des données. Cette citation vient du site Internet de l'un des plus grands assureurs de notre pays, qui se préoccupe des risques pour la personnalité de ce type de manipulation et qui offre des produits d'assurance en lien avec cela.

Avec ma motion, je demande au Conseil fédéral de prendre des mesures supplémentaires par rapport au droit en vigueur. Lorsqu'il a rédigé son avis, le Conseil fédéral a dit qu'il n'y avait pas besoin d'agir, en signalant qu'il y avait déjà des bases légales en droit pénal et en droit civil. C'est évidemment vrai, mais ces bases légales sont largement insuffisantes, parce qu'elles ne couvrent de loin pas toutes les situations qui peuvent se produire et, surtout, le plus important, elles n'agissent pas à titre préventif. Elles ne permettent pas de dissuader les personnes qui recourent à ces stratagèmes et à ces technologies de le faire. Il faut donc agir au moins de deux manières. C'est ce que nous demandons avec cette motion.

D'une part, par des instruments préventifs. C'est quelque chose qui est maintenant connu dans plusieurs réglementations. Il s'agit d'obliger à apposer une mention, un étiquetage, sur les contenus qui sont des "deep fakes".

On a donc cette fameuse mention: "généré à partir de l'intelligence artificielle". La transparence sur le contenu, c'est un minimum. Si une vidéo de vous générée artificiellement se balade en ligne, l'utilisateur qui la visionne doit le voir immédiatement.

D'autre part, la deuxième direction que l'on doit prendre est celle de mesures beaucoup plus dures pour interdire le recours à certaines pratiques, à certains types de technologie et, surtout, à certains procédés rendus possibles par ces technologies. C'est le chemin qu'a choisi l'Union européenne et que la Suisse serait bien inspirée de suivre. J'ai été à moitié rassuré par la communication du Conseil fédéral en février de cette année. Il a reconnu un besoin d'agir dans le domaine de l'intelligence artificielle, mais quand on constate le retard pris sur le sujet de la régulation des plateformes, je dois dire que je suis un peu inquiet pour celui de la régulation de l'intelligence artificielle. Toutefois, je me réjouis d'entendre le conseiller fédéral à ce sujet.

Bühler Manfred · Mit-M · Conseil national · Berne · Groupe de l'Union démocratique du Centre

Merci, cher collègue. J'espère que vous vous réjouissez également d'entendre ma question. Sachant que des milliers et des millions de vidéos, de posts et autres sont publiés sur les réseaux sociaux tous les jours, quel appareil de contrôle étatique devra être mis en place et combien de centaines de milliers de personnes devront être engagées afin de contrôler que la mention "produit généré par l'intelligence artificielle" figure sur tous les posts, les reposts, les copies ou autres? Cela me paraît parfaitement invraisemblable.

Mahaim Raphaël · Mit-M · Conseil national · Vaud · Groupe des VERT-E-S

Votre question, me semble-t-il, témoigne d'une méconnaissance des procédés qui, déjà aujourd'hui, sont utilisés dans ce domaine. Ce sont les plateformes, les réseaux et les opérateurs des plateformes qui sont responsables, par exemple, de l'obligation d'étiqueter ou de signaler un contenu généré par l'intelligence artificielle. Il n'y a donc absolument aucune interdiction ou aucune manoeuvre étatique, comme vous semblez le sous-entendre. C'est une obligation qui pèse sur la tête de celles et ceux qui rendent ce contenu disponible, tout comme d'ailleurs cela existe pour toute une série d'autres domaines. Concernant les films ou la publicité, on ne permet pas n'importe quoi, on protège les mineurs et on signale certains contenus inadéquats pour certains âges. Au fond, rien que de très normal, il s'agit d'imposer un certain nombre d'obligations et de règles du jeu aux grands acteurs de la tech et notamment d'Internet.

Pahud Yvan · Mit-M · Conseil national · Vaud · Groupe de l'Union démocratique du Centre

Cher collègue Mahaim, je n'ai pas trop compris ce qu'étaient les "deep fakes". Par contre, dans votre explication, j'ai compris qu'on pouvait singer des personnalités et je suis tombé sur une publication des Verts suisses du 20 avril 2025 sur laquelle on voit les sept conseillers fédéraux avec de grosses oreilles de lapin et sur laquelle il est inscrit: "Le Conseil fédéral vous pose un lapin". Selon vous un "deep fake", est-ce cela?

Mahaim Raphaël · Mit-M · Conseil national · Vaud · Groupe des VERT-E-S

Je suis très heureux que vous posiez la question, car cela montre à quel point, pour refuser toute démarche, toute action, tout progrès politique en la matière, vous seriez prêt à dire que l'on va interdire n'importe quelle image, n'importe quel montage vidéo. Tel n'est pas le cas.

Cet exemple le montre très bien: la satire reste possible, la liberté de faire des montages photo reste possible. Il est aussi tout à fait possible de présenter les choses sous une forme critique, piquante. La démarche artistique reste possible, la liberté d'expression reste entière. Simplement, cette obligation d'étiquetage ou de signalement d'un contenu généré par l'intelligence artificielle, dont j'ai parlé tout à l'heure, permet d'éviter les tromperies à grande échelle. En d'autres termes, si je publie une photo ou une vidéo de vous, cher collègue Pahud, qui dit: "L'écologie, c'est l'avenir, je vous invite dès aujourd'hui à voter pour les Verts suisses", j'ai l'obligation, que certains n'ont pas respectée d'ailleurs dans le débat politique en Suisse, d'indiquer que ce contenu a été généré par l'intelligence artificielle, si, par exemple, je fais dire par votre voix, générée artificiellement, ces propos.

Rösti Albert · BR-M · Conseil fédéral · Berne

Die Motion will, dass der Bundesrat Gesetzesänderungen in den Bereichen des Zivil-, BO 2025 N 657 Straf- und Verwaltungsrechts vorlegt, um die Verwendung von Deepfakes im öffentlichen Raum zu regulieren.

Mit Blick auf das Strafrecht ist der Bundesrat der Ansicht, dass in Hinsicht auf den Gebrauch von Deepfake-Anwendungen keine gesetzlichen Lücken bestehen. Das schweizerische Strafgesetzbuch ist grundsätzlich technologieneutral ausgestaltet und bleibt unabhängig von der technologischen Vorgehensweise der Täterschaft anwendbar. Bedient sich die Täterschaft z. B. der Deepfake-Technologie, um ein Delikt gegen die Ehre oder den Privatbereich zu begehen, sind die entsprechenden Straftatbestände anwendbar. Die Erwähnung einzelner Technologien wäre mit keinem Mehrwert verbunden, sondern sie würde die Vollständigkeit des geltenden Strafrechts infrage stellen.

Dasselbe gilt für das Zivilrecht. Persönlichkeitsverletzungen mittels KI-Anwendungen werden vom Zivilrecht erfasst. Unabhängig von der technologischen Vorgehensweise sind die Regelung über Persönlichkeitsverletzungen und die entsprechenden Rechtsbehelfe wie etwa Beseitigung und Unterlassung anwendbar. Auch die Regeln in Bezug auf die Haftung für unerlaubte Handlungen sind technologieneutral ausgestaltet und bei Rechtsverletzungen durch den Einsatz von Deepfakes anwendbar.

Es erscheint für die Schweiz zumindest aktuell nicht sinnvoll, für Deepfakes über das bereits geltende Recht hinaus eine zusätzliche spezifische Regulierung zu erlassen. Deepfakes werden durch künstliche Intelligenz erzeugt. Ein allfälliger Regulierungsbedarf wäre deshalb im Rahmen einer KI-Gesamtregulierung zu prüfen.

Der Bundesrat hat im Februar dieses Jahres entschieden, dass die Schweiz die Konvention des Europarates zu künstlicher Intelligenz ratifizieren und die dafür notwendigen Anpassungen im Schweizer Recht vornehmen wird. Gleichzeitig hat er dem EJPD in Zusammenarbeit mit dem UVEK und dem EDA sowie weiteren betroffenen Bundesstellen den Auftrag erteilt, bis Ende 2026 eine Vernehmlassungsvorlage zur Regulierung von KI vorzubereiten. Ich habe inzwischen in Strassburg die KI-Konvention des Europarates unterschrieben, und wir werden zur Umsetzung dieser Konvention diese Gesetzesvorlage vorbereiten und Ihnen dann unterbreiten. Es ist Ihnen dann freigestellt, auch in diesem Bereich allfällige Anträge zu stellen. Von daher wäre hier ein solches Instrument gründlich und fundiert zu diskutieren.

Gesetzliche Massnahmen sind für uns vor allem in den Bereichen Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht notwendig. Eine Minimalregulierung scheint uns hier zielführend. Der Bundesrat ist der Ansicht, dass diese Vernehmlassungsvorlage abgewartet werden kann, bevor hier vorschnell einzelne Entscheide getroffen werden.

In diesem Zusammenhang beantragt er Ihnen, die Motion abzulehnen.

Mahaim Raphaël · Mit-M · Conseil national · Vaud · Groupe des VERT-E-S

Monsieur le conseiller fédéral, je vous remercie pour votre prise de position. Permettez-moi une question un peu taquine: faut-il s'attendre, pour la réglementation sur l'intelligence artificielle, à autant de retard que pour la réglementation sur les plateformes numériques?

Rösti Albert · BR-M · Conseil fédéral · Berne

Ich beantworte Ihnen das sehr gerne. Erstens darf ich Ihnen sagen, dass die Vorlage zur Regulierung der Kommunikationsplattformen bereit ist. Sie wurde im Bundesrat lediglich verschoben, aber sie wird in absehbarer Zeit behandelt. Zweitens sind wir betreffend Regulierung der künstlichen Intelligenz nicht verspätet. Wir haben diesbezüglich zuhanden des Bundesrates eine weltweite Analyse wichtiger Industrienationen durchgeführt, und wir dürfen sagen, dass wir bei keiner Regulierung das Schlusslicht sind. Generell - und das hat auch die Ministerkonferenz in Paris gezeigt - ist die Befürchtung eher, dass man zu schnell falsch reguliert oder zu schnell Innovationen bremst. Diese Gefahr ist grösser, als dass man zu langsam reguliert. Deshalb hat der Bundesrat den Zeitplan so festgelegt. Das EJPD hat den Auftrag, im Jahr 2026 eine solche Regulierung vorzulegen.

Vote

Präsidentin (Riniker Maja, Präsidentin): Der Bundesrat beantragt die Ablehnung der Motion.