Wortlaut

Il Consiglio federale è incaricato di obbligare l’Amministrazione federale a eseguire una valutazione d’impatto sui rischi per i diritti fondamentali e la società in caso di utilizzo di sistemi fondati sull’IA e algoritmi e a illustrare in maniera trasparente i risultati. Questo obbligo si applicherà a tutti i sistemi impiegati nell’Amministrazione federale per i processi decisionali.

Begründung

I sistemi fondati sull’intelligenza artificiale (IA) o su algoritmi possono fare previsioni, formulare raccomandazioni, prendere decisioni e generare contenuti. Anche le amministrazioni pubbliche svizzere testano o utilizzano sempre più sistemi di questo tipo, che, pur offrendo l’opportunità di migliorare l’efficienza, comportano anche rischi per i diritti fondamentali e le procedure democratiche dello Stato di diritto.
Possono in particolare comportare discriminazioni per determinati gruppi della popolazione. Nei Paesi Bassi migliaia di famiglie si sono ritrovate in una situazione molto precaria quando un algoritmo discriminatorio le ha erroneamente esortate a rimborsare contributi statali per la custodia dei figli. In Austria un algoritmo incaricato di calcolare la probabilità di reinserimento nel mercato del lavoro ha penalizzato disoccupati con obblighi di assistenza, ma soltanto se si trattava di donne.
Questi rischi dipendono dal contesto, dalla finalità e dal tipo di applicazione. Per questo motivo le autorità devono analizzarli sistematicamente.
Un primo livello di valutazione permette di effettuare rapidamente e senza grandi oneri una prima selezione tra le applicazioni ad alto rischio e quelle a rischio limitato. Se sono rilevati rischi, occorre poi procedere a una valutazione d’impatto più esaustiva, i cui risultati devono essere pubblicati in modo trasparenti in un pertinente elenco.
La Convenzione del Consiglio d’Europa sull’IA stabilisce già la necessità di una tale valutazione d’impatto. La Svizzera dovrà dunque approntare un meccanismo di questo tipo per poterla ratificare. Anche il regolamento europeo sull’intelligenza artificiale, l’AI Act, prevede una valutazione d’impatto sui diritti fondamentali nell’utilizzo di sistemi d’IA ad alto rischio nell’amministrazione pubblica e la correda di un obbligo di trasparenza.

Antrag des Bundesrates

Respingere

Stellungnahme des Bundesrates

Il diritto attuale prevede già strumenti per prevenire eventuali violazioni dei diritti fondamentali in relazione a sistemi d’intelligenza artificiale (IA). Ad esempio, in virtù dell’articolo 22 della legge federale sulla protezione dei dati (LPD; RS 235.1), gli organi federali sono obbligati ad effettuare una valutazione d’impatto sulla protezione dei dati quando il trattamento previsto può comportare un rischio elevato per la personalità o i diritti fondamentali della persona interessata. Il ricorso a una nuova tecnologia come l’IA può costituire un fattore di rischio noto (cfr. il Promemoria dell’Incaricato federale della protezione dei dati e della trasparenza sulla valutazione d’impatto sulla protezione dei dati [VIPD] secondo gli articoli 22 e 23 LPD; www.edoeb.admin.ch > Protezione dei dati > Basi legali protezione dei dati > Principali innovazioni > Valutazione d’impatto sulla protezione dei dati, pag. 12). Il rischio da considerare può essere anche materiale, come un trattamento di dati errato che può portare a negare un’assunzione (cfr. Commentaire romand de la Loi fédérale sur la protection des données, ad art. 22 LPD, N 24).Le Direttive del Consiglio federale per l’esame preliminare dei rischi e la valutazione d’impatto sulla protezione dei dati in caso di trattamento di dati personali da parte dell’Amministrazione federale (Direttive VIPD; FF 2023 1882) prevedono inoltre che il dipartimento responsabile e la Cancelleria federale comunicano i risultati della VIPD e, se necessario, il parere dell’IFPDT illustrandoli in particolare nella proposta al Consiglio federale, nel rapporto esplicativo, nel messaggio e nelle spiegazioni di voto del Consiglio federale (cfr. art. 4.2 cpv. 3 Direttive VIPD). Nell’ambito dell’informatica, le direttive in materia di cibersicurezza prevedono in particolare un’analisi del bisogno di protezione (Schuban) che documenti le esigenze in materia di sicurezza dell’informazione e di protezione dei dati (www.ncsc.admin.ch > Documentazione > Direttive sulla sicurezza TIC > Procedura di sicurezza > Valutazione del bisogno di protezione).Il 22 novembre 2023 il Consiglio federale ha incaricato il DATEC (UFCOM) e il DFAE (Divisione Europa) di presentare entro fine 2024 una panoramica della normativa in materia di intelligenza artificiale in Svizzera e degli approcci normativi possibili. L’eventuale introduzione di un obbligo di effettuare una valutazione d’impatto dei sistemi di IA sui diritti fondamentali e di pubblicarne i risultati è esaminata in questo quadro, in particolare in relazione all’esame della Convenzione del Consiglio d’Europa sull’IA, i diritti umani, la democrazia e lo Stato di diritto. Il Consiglio federale ritiene pertanto più opportuno attendere i risultati di questi lavori prima di decidere in merito alla necessità di obblighi più estesi per l’Amministrazione federale.

Il Consiglio federale propone di respingere la mozione.