Wortlaut

Le Conseil fédéral est chargé de présenter un projet de loi qui oblige les fournisseurs d’intelligence artificielle générative à procéder, avant la mise sur le marché de leur application, à une évaluation des risques et des dommages prévisibles quant à la création d’hypertrucages sexualisés et à prendre des mesures de protection si l’application permet la création de tels contenus. Le projet de loi prévoira l’institution d’une instance de contrôle chargée d’examiner l’évaluation des risques et les mesures prises, et de sanctionner les éventuels contrevenants.

Begründung

L’IA « Grok » intégrée à la plateforme « X » a manipulé des images de femmes et d’enfants de manière à les dénuder et à leur faire prendre des poses indécentes. Ces hypertrucages ou « deep fakes » ont été publiés sur X. Il ne faut pas prendre à la légère ces atteintes évidentes aux droits de la personnalité des intéressés. Les hypertrucages de ce genre constituent, surtout pour les enfants concernés, des violences sexuelles graves aux conséquences potentiellement lourdes et durables.

Il faut obliger quiconque met au point et à la disposition du public les outils techniques permettant ces atteintes à la personnalité à en évaluer précisément les risques et à y intégrer les mécanismes de protection nécessaires. Poursuivre pénalement ces atteintes après coup ne suffit pas : les instruments de l’IA générative permettent de créer des hypertrucages sexualisés en grand nombre et de les diffuser sur toute la planète à une vitesse bien plus grande que celle des procédures pénales, sans parler des difficultés à les supprimer.

Il faut obliger les fournisseurs de services numériques impliquant des IA génératives à examiner leur offre sous l’angle de la fabrication de contenus interdits ou attentatoires à la personnalité et à soumettre l’évaluation des risques à une instance suisse de contrôle. Ils devront ensuite prendre des mesures pour réduire au strict minimum les risques identifiés et les dommages susceptibles de se produire. L’instance de contrôle devra avoir la possibilité de sanctionner les contrevenants.

Antrag des Bundesrates

Adoption

Stellungnahme des Bundesrates

Le Conseil fédéral propose d'accepter la motion.