Wortlaut

Conseil fédéral est chargé de proposer des mesures réglementaires visant à limiter les caractéristiques anthropomorphiques des agents conversationnels (chatbots) accessibles au public en Suisse, afin de prévenir les risques de dépendance émotionnelle et de manipulation psychologique.

Begründung

Les chatbots fondés sur l'intelligence artificielle sont désormais utilisés massivement par le grand public, y compris par les mineurs. Leur conception intègre souvent des éléments favorisant l'attachement émotionnel : usage de la première personne du singulier, expressions d’empathie ou d’admiration, flatterie, utilisation d’informations personnelles, simulation d’une personnalité constante.

Ces choix ne sont pas neutres. Ils visent à maximiser l’engagement des utilisateurs, mais créent des risques documentés : dépendance affective, confusion entre interaction humaine et artificielle, vulnérabilité accrue pour certains publics. Lorsqu’un utilisateur développe une relation affective avec un chatbot, il tend à baisser la garde et à partager davantage d’informations personnelles - ce qui renforce encore le pouvoir de manipulation de ces systèmes.

Aux USA, plusieurs adolescents se sont suicidés après avoir noué des relations intenses avec des chatbots qui renforçaient leurs pensées suicidaires. Ces mêmes technologies sont accessibles en Suisse. Les chiffres sont alarmants : environ un adolescent sur huit utilise déjà les chatbots pour obtenir des conseils en santé mentale.

On ne peut pas demander aux citoyens de résister seuls à des technologies expressément conçues pour créer de l’attachement émotionnel. La puissance de ces outils exige une réponse réglementaire forte et rapide. Il ne faut pas attendre les premiers drames sur notre territoire pour agir.

Des mesures techniques de désanthropomorphisation existent déjà : l’usage du pluriel (« nous examinons ») plutôt que du singulier (« je pense »), l’interdiction des expressions d’attachement ou de flatterie, l’adoption d’avatars clairement non humains. Ces approches sont simples, efficaces et techniquement réalisables.

À ce jour, cette problématique n’est que marginalement prise en compte dans les efforts de régulation du numérique. Il est nécessaire que le Conseil fédéral comble cette lacune en proposant un cadre réglementaire adapté à ces nouveaux risques et en prenant les mesures nécessaires pour le mettre en œuvre.

Antrag des Bundesrates

Rejet

Stellungnahme des Bundesrates

Le Conseil fédéral partage la préoccupation à l’origine de la motion : certains agents conversationnels peuvent, selon leur conception et leur contexte d’usage, favoriser des formes de dépendance émotionnelle ou des influences indésirables, en particulier chez les personnes vulnérables et les mineurs. Il estime dès lors nécessaire d’examiner des garde-fous appropriés, fondés sur une approche proportionnée et axée sur les risques. Le Conseil fédéral a chargé le Département fédéral de justice et police de préparer un avant-projet de réglementation de l’intelligence artificielle (IA) pour la consultation externe d’ici fin 2026. Ce projet, axé sur la protection des droits fondamentaux et les questions transversales comme la transparence, doit permettre à la Suisse de ratifier la Convention du Conseil de l’Europe sur l’IA (cf. le communiqué de presse disponible sous https://www.news.admin.ch > Communiqués du Conseil fédéral > 12 février 2025 – Réglementation de l’IA : Le Conseil fédéral veut ratifier la Convention du Conseil de l’Europe). L’approche décidée par le Conseil fédéral diffère d’une réglementation axée sur les produits telle que prévue par le règlement sur l’IA de l’Union européenne. En exigeant des mesures réglementaires régissant la conception des agents conversationnels destinés au marché Suisse, la motion va ainsi dans le sens de l’approche du législateur européen plutôt que de celle décidée par le Conseil fédéral. Quant aux mesures exigées par la motion, le Conseil fédéral relève que les effets de l’anthropomorphisation dépendent fortement du contexte d’utilisation et des caractéristiques de l’utilisateur. Une limitation générale et uniforme de certaines fonctionnalités (p. ex. pronoms, expressions d’empathie, avatars) pourrait ne pas viser de manière suffisamment précise les situations à risque et tout en détériorant l’expérience des utilisateurs dans des usages où le risque de manipulation psychologique est faible (p. ex. un agent conversationnel employé par une entreprise privée pour répondre aux demandes de support de ses clients) ou dans des contextes explicitement ludiques ou fictionnels. Les mesures impacteraient également des outils spécifiquement développés pour un usage en complément d’un suivi psychothérapeutique conventionnel (cf. Rapport national sur la santé 2025 disponible sous https://www.gesundheitsbericht2025.ch), limitant ainsi le développement de solutions innovantes dans la prise en charge des questions de santé mentale. En outre, si le législateur prend des mesures, elles ne devraient pas se limiter aux agents conversationnels (chatbots) mais couvrir d’autres contextes d’interaction avec des systèmes d’IA, par exemple avec des robots ou avec des jouets. Le Conseil fédéral estime dès lors qu’il convient d’examiner en priorité et en détail des approches graduées, tenant compte de l’usage, du public cible et du niveau de risque, plutôt que des interdictions générales. Dans ce sens, si le conseil prioritaire adopte la motion, le Conseil fédéral proposera au second conseil de la transformer en mandat d'examen.

Le Conseil fédéral propose de rejeter la motion.