Wortlaut

Le Conseil fédéral est chargé de soumettre une base légale au Parlement qui permette d’interdire ou de rendre techniquement impossibles la promotion et la vente d’applications téléphoniques et de services en ligne qui utilisent l’intelligence artificielle pour générer des nus à partir d’images d’enfants ou d’adultes, ainsi que l’accès à de tels applications et services.

Begründung

Les applications téléphoniques qui utilisent l’intelligence artificielle connaissent une forte croissance, malheureusement pas toujours pour le mieux. Les applications dites de déshabillage (Nudify Apps ou Undress AI en anglais) permettent de créer des faux nus (deep nudes) de personnes bien réelles. En quelques secondes et quelques clics, une image anodine d’une personne peut être transformée en une image de nu. D’autres services en ligne permettent de changer les visages (remplacement de visage ou face swapping) et de mettre le visage qu’on veut sur des images ou des vidéos pornographiques.

Il existe des centaines de programmes de ce type : on les trouve facilement en lançant une simple recherche Internet et ils font l’objet d’une importante promotion sur les réseaux sociaux. Souvent, les premiers essais sont gratuits. Il n’est pas acceptable que des services en ligne qui entraînent directement de graves violations des droits de la personnalité fassent l’objet de promotions et soient accessibles aussi facilement. Pour les enfants et les adolescents en particulier, ces images de nu générées artificiellement représentent un grand danger ; pour les personnes dont l’image est diffusée, une lourde épreuve. Comme les images sont extrêmement réalistes, leur non-authenticité est sans importance. Ces images peuvent aussi être utilisées pour faire du chantage. En croyant jouer, les enfants et les adolescents se rendent en fait rapidement punissables.

L’année dernière, la publicité pour ces applications a connu une augmentation exponentielle sur les réseaux sociaux[1], alors que l’utilisation du produit en question conduit le plus souvent directement à enfreindre la loi. Il faut y mettre un terme.

[1] https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

Dans le monde numérique, modifier ou créer des images, des vidéos ou des enregistrements sonores devient de plus en plus facile grâce à l'intelligence artificielle (IA). Il est souvent difficile de distinguer les contenus réels des contenus synthétiques produits par l'IA. La technique promet certes des applications intéressantes, par exemple dans le domaine du divertissement ou de l'éducation, mais l'étude de TA-Swiss "Deepfakes et réalités manipulées - Evaluation des choix technologiques et recommandations d'action pour la Suisse", montre aussi que les abus sont monnaie courante. Des criminels utilisent par exemple des voix reproduites artificiellement pour passer des appels choc frauduleux à des personnes privées (www.ta-swiss.ch > Publications). Les dangers concernent également les relations interpersonnelles. Des jeunes peuvent être victimes, dans la cour de récréation, de harcèlement au moyen de contenus d'IA, ou des personnes subir des pressions fondées sur des enregistrements pornographiques falsifiés. Enfin, les deepfakes représentent une menace pour la démocratie lorsqu'elles sont utilisées pour discréditer des adversaires politiques ou diffuser de fausses informations.Le droit suisse est formulé de manière technologiquement neutre; autrement dit, il s'applique aussi dans l'espace numérique, pour lutter contre les deepfakes et les contenus pornographiques sous forme numérique. L'application du droit peut toutefois s'avérer compliquée, en particulier lorsqu'il s'agit d'infractions transfrontalières. La production et la diffusion de "deep nudes" peuvent aujourd'hui déjà représenter une atteinte à la personnalité, poursuivable pénalement sur la base du code civil ou du droit de la protection des données. L'usurpation d'identité au sens de l'art. 179decies CP ou la pornographie au sens de l'art 197 CP peuvent aussi être invoquées dans certains cas. La transmission ou la publication de certains contenus sont également punissables sur la base de l'art. 197a CP. Les conditions générales de la plupart des médias sociaux et des plateformes de communication interdisent également la propagation de la pornographie. En outre, une interdiction ou une impossibilité technique d'utiliser des applications et des services numériques ne résulte pas forcément d'une interdiction relevant du droit pénal, il peut aussi s'agir de dispositions ou d'interdictions policières ou relevant de la surveillance.L'aspect problématique de l'utilisation, de la promotion et de la diffusion des applications permettant de créer des deepfakes doit être replacé dans un contexte plus large. Ces questions centrales et les autres questions soulevées par la motion concernent les applications d'IA en général lorsque celles-ci génèrent des contenus interdits en Suisse. Le Conseil fédéral a demandé un état des lieux des approches réglementaires envisageables. Ces questions ainsi que les adaptations de loi possibles seront abordées sur la base de l'état des lieux, dans le cadre des discussions sur une éventuelle réglementation de l'IA en Suisse. Il convient de ne pas préjuger de ce débat.

Le Conseil fédéral propose de rejeter la motion.