Wortlaut

Il Consiglio federale è incaricato di proporre misure legislative volte a limitare le caratteristiche antropomorfiche degli agenti conversazionali (chatbot) accessibili al pubblico in Svizzera, al fine di prevenire rischi di dipendenza emotiva e manipolazione psicologica.

Begründung

I chatbot fondati sull’intelligenza artificiale sono ormai utilizzati in misura massiccia dal grande pubblico, minorenni compresi. La loro concezione integra spesso elementi che incoraggiano l’attaccamento emotivo: uso della prima persona singolare, espressioni di empatia o ammirazione, lusinghe, utilizzo di informazioni personali, simulazione di una personalità costante.Queste scelte non sono neutre. Mirano a massimizzare la fedeltà degli utenti, ma creano rischi documentati: dipendenza affettiva, confusione tra interazione umana e artificiale, accresciuta vulnerabilità per determinati utenti. Quando sviluppa una relazione affettiva con un chatbot, l’utente tende ad abbassare la guardia e a condividere in misura maggiore informazioni personali, il che aumenta ulteriormente il potere manipolativo di questi sistemi.Negli Stati Uniti, vari adolescenti si sono suicidati dopo aver intrattenuto relazioni intense con chatbot che incoraggiavano i loro pensieri suicidi. Le stesse tecnologie sono accessibili anche in Svizzera. I dati sono allarmanti: circa un adolescente su otto utilizza già i chatbot per ottenere consigli sulla salute mentale.Non si può chiedere ai cittadini di resistere da soli a tecnologie concepite espressamente per creare un attaccamento emotivo. La potenza di questi strumenti esige una risposta legislativa forte e rapida. Non occorre attendere i primi drammi sul nostro territorio per agire.Esistono già misure tecniche di disantropomorfizzazione: l’uso del plurale («esaminiamo») al posto del singolare («penso»), il divieto di espressioni di attaccamento o lusinga, l’adozione di avatar chiaramente non umani. Questi approcci sono semplici, efficaci e tecnicamente realizzabili.Finora questa problematica è considerata solo marginalmente nelle iniziative volte a disciplinare il settore digitale. Occorre che il Consiglio federale colmi questa lacuna proponendo un quadro normativo adeguato a questi nuovi rischi e adottando le misure necessarie per attuarlo.

Antrag des Bundesrates

Respingere

Stellungnahme des Bundesrates

Il Consiglio federale condivide la preoccupazione all’origine della mozione: alcuni agenti conversazionali possono, a seconda della loro impostazione e del contesto di utilizzo, favorire forme di dipendenza emotiva o influenze indesiderate, in particolare tra le persone vulnerabili e i minori. Ritiene pertanto necessario esaminare meccanismi di protezione appropriati, fondati su un approccio proporzionato e incentrato sui rischi. Il Consiglio federale ha incaricato il Dipartimento federale di giustizia e polizia di elaborare un avamprogetto di regolamentazione dell’intelligenza artificiale (IA) da porre in consultazione esterna entro fine 2026. Questo progetto, incentrato sulla protezione dei diritti fondamentali e sulle questioni trasversali come la trasparenza, intende permettere alla Svizzera di ratificare la Convenzione del Consiglio d’Europa sull’IA (cfr. il comunicato stampa reperibile all’indirizzo www.news.admin.ch > Comunicati stampa del Consiglio federale > 12 febbraio 2025 – Regolamentazione dell'IA: il Consiglio federale intende ratificare la Convenzione del Consiglio d'Europa). L’approccio deciso dal Consiglio federale differisce da una regolamentazione incentrata sui prodotti, come quella prevista del regolamento sull’IA dell’Unione europea. Chiedendo misure normative che disciplinino l’impostazione degli agenti conversazionali destinati al mercato svizzero, la mozione va quindi nella direzione dell’approccio normativo europeo piuttosto che in quella decisa dal Consiglio federale. Per quanto riguarda le misure chieste dalla mozione, il Consiglio federale fa notare che gli effetti dell’antropomorfizzazione dipendono fortemente dal contesto di utilizzo e dalle caratteristiche dell’utente. Una limitazione generale e uniforme di determinate funzionalità (p. es. pronomi, espressioni di empatia, avatar) potrebbe non inquadrare in modo sufficientemente preciso le situazioni a rischio e deteriorare l’esperienza degli utenti in contesti in cui il rischio di manipolazione psicologica è basso (p. es. un agente conversazionale impiegato da un’impresa privata per rispondere alle richieste di supporto dei clienti) o esplicitamente ludici o fittizi. Le misure avrebbero inoltre un impatto sugli strumenti sviluppati specificamente per essere utilizzati nel quadro di un trattamento psicoterapeutico convenzionale (cfr. Rapporto nazionale sulla salute 2025 reperibile all’indirizzo www.gesundheitsbericht2025.ch/it), limitando così lo sviluppo di soluzioni innovative nell’ambito della salute mentale. Inoltre, le misure eventualmente adottate dal legislatore non dovrebbero limitarsi agli agenti conversazionali (chatbot) ma coprire anche altri contesti d’interazione con sistemi d’IA, ad esempio con robot o giocattoli. Il Consiglio federale ritiene quindi opportuno esaminare in via prioritaria e in maniera approfondita approcci graduali, che tengano conto dell’uso, dei destinatari e del livello di rischio, piuttosto che divieti generali. In questo senso, se la Camera prioritaria dovesse accogliere la mozione, il Consiglio federale proporrà alla seconda Camera di trasformarla in un mandato d’esame.

Il Consiglio federale propone di respingere la mozione.