Wortlaut

1. Dans quelles proportions la problématique des hypertrucages sera-t-elle prise en compte dans le projet de loi sur l’IA ?

2. Quelles sont les dispositions prévues pour lutter contre l’utilisation abusive de l’IA générative, notamment en ce qui concerne les contenus à caractère sexuel non consentis et l’usurpation d’identité ?

3. Quels sont les moyens prévus pour faire appliquer la loi, notamment lorsqu’il est question de supprimer rapidement les contenus illicites et de faire respecter le droit de les interdire ?

4. Une réglementation des responsabilités est-elle spécifiquement prévue pour les plateformes, en particulier lorsque la modération est insuffisante ?

5. Quelles mesures préventives sont envisagées pour empêcher le plus tôt possible la création et la diffusion d’hypertrucages abusifs ?

6. Comment s’assurera-t-on que les autorités de poursuite pénale disposeront des outils adéquats pour poursuivre efficacement les contenus synthétiques abusifs, notamment lorsque ceux-ci se propagent rapidement dans un contexte transfrontalier ?

7. Est-il prévu de soumettre les contenus générés ou manipulés au moyen d’une IA à une obligation de transparence ou d’étiquetage ? Si oui, sous quelle forme ?

8. Comment la protection des personnes particulièrement vulnérables, notamment des personnes mineures, atteintes d’un handicap ou se trouvant dans toute autre situation de vulnérabilité, sera-t-elle prise en compte ?

9. Comment le Conseil fédéral s’assure-t-il que la loi sur l’IA sera compatible avec les évolutions au niveau international ?

Begründung

Fin 2023, le Conseil fédéral a décidé de ratifier la Convention du Conseil de l’Europe sur l’IA et de préparer un projet de loi pour la fin 2026. Dans ce contexte, la question se pose de savoir quel comportement adopter face aux contenus synthétiques et en particulier face aux hypertrucages. Les systèmes basés sur l’IA permettent de générer rapidement des contenus visuels, audio et vidéo qui représentent des personnes réelles, sans leur participation effective. Les utilisations abusives de tels contenus se multiplient, entre autres sous forme de représentations à caractère sexuel non consenties ou dans un contexte d’usurpation d’identité. Les femmes, les mineurs et d’autres personnes en situation de vulnérabilité sont particulièrement touchés. Le cadre juridique actuel est neutre sur le plan technologique, mais il présente des lacunes importantes en matière d’application et d’exécution, notamment en ce qui concerne les contenus qui se propagent rapidement dans un contexte transfrontalier.