Traitement des hypertrucages dans le projet de loi sur l'IA

Texte déposé

1. Dans quelles proportions la problématique des hypertrucages sera-t-elle prise en compte dans le projet de loi sur l’IA ?

2. Quelles sont les dispositions prévues pour lutter contre l’utilisation abusive de l’IA générative, notamment en ce qui concerne les contenus à caractère sexuel non consentis et l’usurpation d’identité ?

3. Quels sont les moyens prévus pour faire appliquer la loi, notamment lorsqu’il est question de supprimer rapidement les contenus illicites et de faire respecter le droit de les interdire ?

4. Une réglementation des responsabilités est-elle spécifiquement prévue pour les plateformes, en particulier lorsque la modération est insuffisante ?

5. Quelles mesures préventives sont envisagées pour empêcher le plus tôt possible la création et la diffusion d’hypertrucages abusifs ?

6. Comment s’assurera-t-on que les autorités de poursuite pénale disposeront des outils adéquats pour poursuivre efficacement les contenus synthétiques abusifs, notamment lorsque ceux-ci se propagent rapidement dans un contexte transfrontalier ?

7. Est-il prévu de soumettre les contenus générés ou manipulés au moyen d’une IA à une obligation de transparence ou d’étiquetage ? Si oui, sous quelle forme ?

8. Comment la protection des personnes particulièrement vulnérables, notamment des personnes mineures, atteintes d’un handicap ou se trouvant dans toute autre situation de vulnérabilité, sera-t-elle prise en compte ?

9. Comment le Conseil fédéral s’assure-t-il que la loi sur l’IA sera compatible avec les évolutions au niveau international ?

Développement

Fin 2023, le Conseil fédéral a décidé de ratifier la Convention du Conseil de l’Europe sur l’IA et de préparer un projet de loi pour la fin 2026. Dans ce contexte, la question se pose de savoir quel comportement adopter face aux contenus synthétiques et en particulier face aux hypertrucages. Les systèmes basés sur l’IA permettent de générer rapidement des contenus visuels, audio et vidéo qui représentent des personnes réelles, sans leur participation effective. Les utilisations abusives de tels contenus se multiplient, entre autres sous forme de représentations à caractère sexuel non consenties ou dans un contexte d’usurpation d’identité. Les femmes, les mineurs et d’autres personnes en situation de vulnérabilité sont particulièrement touchés. Le cadre juridique actuel est neutre sur le plan technologique, mais il présente des lacunes importantes en matière d’application et d’exécution, notamment en ce qui concerne les contenus qui se propagent rapidement dans un contexte transfrontalier.

Avis du Conseil fédéral

1./2./5./7./8./9. La convention sur l’IA du Conseil de l’Europe exige des mesures graduées en fonction du risque (art. 2 et 16) tout au long du cycle de vie des systèmes d’IA et tenant dûment compte des besoins spécifiques des personnes vulnérables (art. 18). En particulier, la convention exige des mesures en matière de transparence et cite à titre d’exemple l’étiquetage de contenus générés par IA (art. 8). Dans ce contexte le Conseil fédéral aproposé l’acceptation de la Mo. 26.3458 Mahaim « Hypertrucages sexualisés de Grok. Il est temps d'agir ! ». Des mesures spécifiques aux deepfakes sont donc en cours d’examen dans le cadre des travaux législatifs destinés à mettre en œuvre la Convention.

Le Conseil fédéral suit attentivement les évolutions internationales en matière d’IA, notamment au niveau européen. L’Union européenne (UE) a elle aussi signé la convention. L’objectif de la réglementation suisse de l’IA est d’assurer un niveau de protection des droits fondamentaux équivalent à celui de l’UE.

Le cadre légal en vigueur sanctionne déjà certains comportements liés aux deepfakes, tant en vertu du droit civil et que du droit pénal (cf. également les motions en cours 26.3955 Amaudruz « Protection des mineurs contre les images intimes par intelligence artificielle » et 26.3851 Bürgin « Lutter contre les hypertrucages à caractère sexuel et améliorer la protection des victimes » que le Conseil fédéral propose d’accepter).

3./4. L’avant-projet de loi fédérale sur les plateformes de communication et les moteurs de recherche (AP-LPCom) prévoit une procédure de signalement pour les contenus diffusés sur les très grandes plateformes de communication, permettant aux utilisateurs de signaler facilement certains contenus qui, à leurs avis, sont illicites et sont constitutifs d’une ou plusieurs des infractions énumérées exhaustivement dans le texte légal (p. ex. diffamation, calomnie, menaces, contrainte, incitation à la haine), également s’ils sont générés à l’aide de l’IA. Selon l’avant-projet, les plateformes devraient examiner les signalements et décider rapidement si elles procèdent p. ex. au retrait du contenu.

L’AP-LPCom ne prévoit pas de règles spécifiques en matière de responsabilité pour les très grandes plateformes de communication. Celles-ci sont toutefois déjà soumises aux règles générales en vigueur du droit civil et pénal et répondent de leurs actes selon les mêmes principes que les autres entreprises et personnes responsables (cf. la Mo. 25.3783 Pult « Mettre fin à l’immunité des plateformes en ligne »). La consultation sur l’AP-LPCom s’est achevée le 16 février 2026 et est en cours d’évaluation.

6. Le réseau national NEDIK et la Confédération promeuvent et coordonnent la coopération entre les polices suisses dans le domaine de la cybercriminalité. Ils veillent entre autres à ce que les autorités de poursuite pénale suivent des cours de formation et de perfectionnement et se dotent des logiciels nécessaires à l’accomplissement de leurs tâches légales. Afin de répondre aux défis liés à l’obtention de preuves à l’étranger, une solution suisse basée sur le modèle de « e-Evidence » est en cours d’élaboration et permettra d’accélérer la coopération internationale avec les États de l’UE et de contacter directement des fournisseurs de services internet à l’étranger.