Hypertrucages (deepfakes). Renforcer la résilience de la société face aux contenus synthétiques

Texte déposé

Dans le prolongement et en complément de l’avant-projet en préparation de réglementation de l’intelligence artificielle (IA), le Conseil fédéral est chargé de présenter un rapport sur les risques que représentent les hypertrucages et les autres contenus synthétiques générés par l’IA pour les particuliers, les entreprises, les autorités publiques et le fonctionnement des institutions démocratiques ainsi que sur les mesures permettant de renforcer la résilience de la société face à ces phénomènes.

Le rapport examinera notamment:

-l’ampleur actuelle et prévisible du phénomène en Suisse;

-les risques en matière d’escroquerie, d’usurpation d’identité, d’atteinte à la personnalité, de cybercriminalité et de manipulation de l’information;

-les conséquences potentielles pour la confiance dans l’information, les médias et les institutions démocratiques;

-les mesures de prévention et de sensibilisation destinées à renforcer la capacité de la population à les identifier;

-l’opportunité d’intégrer dans les programmes scolaires et les dispositifs d’éducation numérique des modules consacrés à l’IA, aux contenus synthétiques, à la vérification de l’information et à l’exercice de l’esprit critique.

Développement

La démocratisation rapide des outils d’IA générative transforme profondément l’environnement numérique. Des contenus falsifiés, mais extrêmement crédibles, peuvent désormais être produits à faible coût et diffusés à large échelle.

Cette évolution crée de nouveaux risques pour les citoyens, les entreprises et les autorités. Les hypertrucages peuvent être utilisés pour commettre des fraudes, porter atteinte à la réputation d’une personne, contourner des mécanismes de sécurité ou manipuler l’opinion publique.

Si le Conseil fédéral mène actuellement des travaux relatifs à l’encadrement réglementaire de l’IA, l’essor rapide des contenus synthétiques soulève aussi des enjeux de prévention, de sensibilisation et de formation qui méritent une attention particulière.

À moyen terme, la capacité de distinguer une information authentique d’un contenu artificiellement généré constituera un défi majeur pour la confiance dans l’information et le bon fonctionnement des institutions démocratiques. Il apparaît dès lors opportun d’examiner les mesures permettant de renforcer la résilience de la population face à cette évolution technologique et de compléter les travaux déjà engagés par le Conseil fédéral.

Proposition du Conseil fédéral

Rejet

Avis du Conseil fédéral

Le Conseil fédéral souhaite que la Suisse ratifie la convention du Conseil de l’Europe sur l’IA et a chargé le Département fédéral de justice et police (DFJP) d’élaborer un avant-projet de mise en œuvre, en collaboration avec le Département fédéral de l’environnement, des transports, de l’énergie et de la communication (DETEC), le Département fédéral des affaires étrangères (DFAE) et d’autres services concernés. La convention exige des mesures en matière de transparence, sans en prescrire de spécifiques ; le rapport explicatif cite à titre d’exemple l’étiquetage des contenus générés par IA (cf. réponse à l’Ip. 26.3607 Rumy). Le Conseil fédéral a en outre proposé d’accepter la Mo. 26.3458 Mahaim, qui vise aussi les hypertrucages.

L’avant-projet de loi fédérale sur les plateformes de communication et les moteurs de recherche (AP-LPCom) ne prévoit pas de réglementation des deepfakes en tant que tels mais prévoit que les très grands fournisseurs de tels services rendent compte annuellement des risques systémiques de ces services, les deepfakes pouvant représenter un tel risque. Les deepfakes constitutifs de certaines infractions énumérées dans l’AP-LPCom (p. ex. diffamation, harcèlement sexuel ou incitation à la haine), devraient pouvoir être signalés (cf. réponse à l’Ip. 26.3607 Rumy). La consultation relative à l’AP-LPCom s’est achevée le 16 février 2026 et est en cours d’évaluation.

Le groupe de travail interdépartemental « Activités d’influence et désinformation » peut contribuer à la sensibilisation face à la désinformation étatique, y compris les deepfakes. Le Secrétariat d’État à la formation, à la recherche et à l’innovation (SEFRI) élabore un rapport sur la désinformation, qui met en évidence le rôle de l’éducation à la citoyenneté et aux médias dans le développement des compétences des enfants, des adolescents et des jeunes adultes à évaluer l’information de manière critique, y compris dans le débat démocratique. La publication est prévue pour l’automne 2026. Les effets sur les institutions démocratiques font également l’objet des Mo. 26.3815 et 26.4002.

Finalement, les infractions pénales en vigueur (p. ex. atteintes à l’honneur, usurpation d'identité, droit pénal en matière sexuelle) s’appliquent en principe aussi aux deepfakes ; les procédures pénales en cours et à venir permettront de mieux évaluer l’ampleur du phénomène et si ces dispositions sont suffisantes (cf. également Mo. 26.3955 Amaudruz et 26.3851 Bürgin). Les risques en matière de cybersécurité ont également été abordés dans le rapport en réponse au Po. 23.3861 Andrey.

Le Conseil fédéral estime que ce phénomène, en plein essor, fait déjà l’objet de réflexions approfondies dans les travaux susmentionnés. Un rapport supplémentaire ne semble dès lors pas opportun.

Le Conseil fédéral propose de rejeter le postulat.