Wortlaut

Dans le prolongement et en complément de l’avant-projet en préparation de réglementation de l’intelligence artificielle (IA), le Conseil fédéral est chargé de présenter un rapport sur les risques que représentent les hypertrucages et les autres contenus synthétiques générés par l’IA pour les particuliers, les entreprises, les autorités publiques et le fonctionnement des institutions démocratiques ainsi que sur les mesures permettant de renforcer la résilience de la société face à ces phénomènes.

Le rapport examinera notamment:

-l’ampleur actuelle et prévisible du phénomène en Suisse;

-les risques en matière d’escroquerie, d’usurpation d’identité, d’atteinte à la personnalité, de cybercriminalité et de manipulation de l’information;

-les conséquences potentielles pour la confiance dans l’information, les médias et les institutions démocratiques;

-les mesures de prévention et de sensibilisation destinées à renforcer la capacité de la population à les identifier;

-l’opportunité d’intégrer dans les programmes scolaires et les dispositifs d’éducation numérique des modules consacrés à l’IA, aux contenus synthétiques, à la vérification de l’information et à l’exercice de l’esprit critique.

Begründung

La démocratisation rapide des outils d’IA générative transforme profondément l’environnement numérique. Des contenus falsifiés, mais extrêmement crédibles, peuvent désormais être produits à faible coût et diffusés à large échelle.

Cette évolution crée de nouveaux risques pour les citoyens, les entreprises et les autorités. Les hypertrucages peuvent être utilisés pour commettre des fraudes, porter atteinte à la réputation d’une personne, contourner des mécanismes de sécurité ou manipuler l’opinion publique.

Si le Conseil fédéral mène actuellement des travaux relatifs à l’encadrement réglementaire de l’IA, l’essor rapide des contenus synthétiques soulève aussi des enjeux de prévention, de sensibilisation et de formation qui méritent une attention particulière.

À moyen terme, la capacité de distinguer une information authentique d’un contenu artificiellement généré constituera un défi majeur pour la confiance dans l’information et le bon fonctionnement des institutions démocratiques. Il apparaît dès lors opportun d’examiner les mesures permettant de renforcer la résilience de la population face à cette évolution technologique et de compléter les travaux déjà engagés par le Conseil fédéral.