Wortlaut

Il Consiglio federale è invitato a presentare al Parlamento una base legale che consenta di vietare o rendere tecnicamente impossibile la pubblicità, la vendita o l'accesso ad app e servizi digitali che utilizzano l'intelligenza artificiale per generare nudi da immagini esistenti di bambini o adulti.

Begründung

Le app che utilizzano l'intelligenza artificiale stanno registrando una forte crescita, purtroppo non solo in senso positivo. Le app Nudify, note anche come "undress AI", permettono di creare i cosiddetti "deep nude", ossia immagini fittizie del corpo nudo di persone reali. Con pochi clic una comune foto di una persona può essere trasformata in un paio di secondi in un'immagine di nudo. Altri servizi digitali consentono di scambiare i volti delle immagini, permettendo di inserire quelli di una qualsiasi persona in immagini e video pornografici (face swapping).

Esistono centinaia di programmi di questo tipo, sono molto pubblicizzati sulle piattaforme dei social media e si possono trovare con una semplice ricerca su Internet. Spesso offrono la possibilità di creare gratuitamente alcune immagini di nudo come prova. È inaccettabile che vengano pubblicizzati e siano così facilmente accessibili servizi digitali che, se utilizzati, portano direttamente a gravi violazioni dei diritti personali. Queste immagini di nudo prodotte artificialmente rappresentano un grande pericolo, soprattutto per i bambini e i giovani. Per le persone colpite, l'ulteriore divulgazione rappresenta un enorme disagio. Poiché le immagini sono estremamente realistiche, il fatto che siano in realtà fittizie è irrilevante; possono essere utilizzate anche per ricattare la persona in questione. Inoltre, i bambini e i giovani rischiano di rendersi penalmente perseguibili con quanto sembra un semplice gioco.

Nell'ultimo anno è aumentata enormemente la pubblicità sui social media per le app Nudify [1], che promuovono un prodotto il cui uso di solito porta direttamente a una violazione del diritto. Occorre porre fine a tale situazione.

[1] https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/

Antrag des Bundesrates

Respingere

Stellungnahme des Bundesrates

Nel mondo digitale è sempre più facile modificare o creare immagini, video o registrazioni sonore con l'aiuto dell'intelligenza artificiale (IA). Il contenuto artificiale generato in questo modo è spesso difficile da distinguere da quello reale. La tecnologia promette applicazioni interessanti, ad esempio nel settore dell'intrattenimento o della formazione. Tuttavia, secondo lo studio di TA-SWISS "Deepfake e realtà manipolate - Valutazione dell'impatto tecnologico e raccomandazioni per la Svizzera" (Deepfakes und manipulierte Realitäten – Technologiefolgenabschätzung und Handlungsempfehlungen für die Schweiz), anche gli abusi sono molto diffusi: ad esempio, i criminali utilizzano voci copiate artificialmente per effettuare chiamate shock fraudolente a privati (www.ta-swiss.ch > Pubblicazioni). I pericoli si celano anche nelle interazioni tra le persone, ad esempio quando durante la ricreazione i ragazzi subiscono atti di bullismo attraverso contenuti IA o quando le persone vengono messe sotto pressione con false immagini pornografiche. Infine i deepfake possono rappresentare una minaccia per la democrazia se vengono utilizzati per screditare avversari politici o diffondere informazioni false.Il diritto svizzero è in linea di principio neutrale sul piano tecnologico, il che significa che si applica anche nello spazio digitale e in caso di deepfake o contenuti pornografici in forma digitale. Tuttavia, far rispettare la legge può essere impegnativo, soprattutto quando si tratta di una questione transfrontaliera. La produzione e la diffusione di "deep nude" possono già oggi costituire violazioni illecite della personalità in materia di diritto civile e di protezione dei dati. In singoli casi possono sussistere anche usurpazioni d'identità ai sensi dell'articolo 179decies CP o pornografia ai sensi dell'articolo 197 CP. Secondo l'articolo 197a CP è punibile anche la trasmissione o la pubblicazione di determinati contenuti. Inoltre le condizioni generali (CG) della maggior parte delle piattaforme dei social network e multimediali vietano agli utenti di diffondere pornografia. In aggiunta, la questione del divieto o di un'impossibilità tecnica di utilizzare app e servizi digitali non è necessariamente un divieto di diritto penale ma vanno tenuti in considerazione anche regolamenti e divieti in materia di diritto di vigilanza o di polizia.L'aspetto problematico dell'uso, della pubblicità e della distribuzione di app utilizzate per creare deepfake deve quindi essere inserito in un contesto più ampio. Queste e altre domande fondamentali della presente mozione riguardano le applicazioni IA in generale quando queste generano output vietati in Svizzera. Il Consiglio federale ha commissionato un'analisi della situazione in merito ai possibili approcci di regolamentazione dell'IA. Queste domande ed eventuali modifiche di legge dovrebbero pertanto essere discusse solo sulla base di detta analisi nel contesto di un'eventuale regolamentazione dell'IA in Svizzera. Tale discussione non deve essere anticipata.

Il Consiglio federale propone di respingere la mozione.