Wortlaut

I sistemi algoritmici e le decisioni automatizzate sono utilizzati sempre più di frequente, ad esempio nella selezione delle candidature, nella diagnostica medica, nel lavoro preventivo di polizia o nel calcolo dei rischi. Vari esempi hanno già mostrato che l’impiego di questi sistemi può comportare o consolidare discriminazioni. Questo in particolare perché i sistemi algoritmici non sono neutrali, in quanto i modelli e i dati su cui si basano, la maniera in cui sono impiegati o i cicli di feedback che utilizzano possono confermare o addirittura potenziare modelli strutturali esistenti. La discriminazione algoritmica può coinvolgere, spesso a loro insaputa, un gran numero di persone. Nel contempo, in Svizzera la protezione dalla discriminazione prevista dalla legge presenta determinate lacune, a prescindere dalla discriminazione algoritmica, come indicato dal Consiglio federale nel rapporto in adempimento del postulato Naef (12.3543), in particolare nel caso di attori privati e non statali. In questo contesto invito il Consiglio federale a rispondere alle domande seguenti:

1. Condivide il timore che l’impiego di sistemi algoritmici possa implicare discriminazioni?

2. Con quali misure prevede di affrontare tali discriminazioni?

3. Intende far valutare in maniera scientifica le conseguenze, in particolare sui diritti fondamentali, dell’impiego di sistemi algoritmici nell’amministrazione?

4. Come si può garantire che le persone vittime di una discriminazione algoritmica possano far valere i loro diritti, anche nel caso di una discriminazione sistematica e strutturale?

5. Di quali possibilità legali dispongono i privati per opporsi alle discriminazioni?

6. È previsto di rafforzare la protezione legale contro la discriminazione?

7. Come valuta l’idea di istituire un quadro normativo generale che migliori la protezione dalla discriminazione, in particolare (ma non esclusivamente) dalla discriminazione algoritmica?

Stellungnahme des Bundesrates

1. Il Consiglio federale è consapevole che le discriminazioni esistenti nella società possono essere riprodotte in maniera sistematica, addirittura amplificate, dal ricorso a sistemi algoritmici. Non è nemmeno escluso che sorgano nuovi rischi. Questi rischi sono documentati nel rapporto «Défis de l’intelligence artificielle» del 2019 (www.admin.ch > Documentazione > Comunicati stampa > Intelligenza artificiale: la Svizzera è a buon punto). Il Consiglio federale si è già espresso a tale proposito anche nella sua risposta alla domanda Balthasar Glättli 23.7270 «Intelligence artificielle générative et discrimination. Faut-il une loi antidiscrimination pour mettre en œuvre l’art. 8, al. 2, de la Constitution?». Il rischio di discriminazione costituisce una delle maggiori sfide dell’intelligenza artificiale (IA). Nel contempo, se ben concepita, allenata e regolarmente rivista, l’IA potrebbe anche essere utilizzata per individuare o prevenire le discriminazioni.2./6. Il rapporto «Défis de l’intelligence artificielle» mostra che il rischio di discriminazione rappresentato dai sistemi algoritmici è, in certa misura, coperto dal diritto esistente. Ad esempio, la legge federale sulla parità dei sessi (RS 151.1), che vieta le discriminazioni fondate sul sesso al momento dell’assunzione e nei rapporti di lavoro di diritto privato e pubblico, sarebbe applicabile a un reclutamento basato su un sistema algoritmico. Nel 2020 il Consiglio federale ha adottato linee guida sull’IA per la Confederazione (www.admin.ch > Documentazione > Comunicati stampa > Intelligenza artificiale: adottate le linee guida per l’Amministrazione federale), che evidenziano la necessità di proteggere le persone e i gruppi di persone da discriminazioni e stigmatizzazione. Ciò impone misure di protezione e controllo sul piano tecnico e organizzativo, dati equilibrati e di elevata qualità o misure di protezione aggiuntive. Infine, come annunciato nel suo parere relativo al postulato Dobler 23.3201 «Situazione giuridica dell'intelligenza artificiale. Chiarire le insicurezze e promuovere l'innovazione!», il Consiglio federale dovrà accertare entro la fine del 2024 se è necessario intervenire in materia di IA. In tale ambito, esaminerà in che misura le disposizioni legali esistenti offrono una protezione sufficiente contro le discriminazioni, considerando i particolari rischi dei sistemi algoritmici. Parimenti seguirà con attenzione i lavori del Comitato sull’intelligenza artificiale del Consiglio d’Europa nonché i lavori dell’Unione europea sull’«AI Act» (regolamento europeo sull'intelligenza artificiale). 3. L’articolo 22 della legge federale sulla protezione dei dati (LPD; RS 235.1) rende obbligatoria la valutazione d’impatto sulla protezione dei dati quando il trattamento dei dati personali può comportare un rischio elevato per la personalità o i diritti fondamentali della persona interessata. Il trattamento di dati personali tramite algoritmi può, a seconda dei casi, richiedere una tale valutazione d’impatto. Nel quadro dell’analisi che effettuerà entro la fine del 2024, il Consiglio federale determinerà se è necessario prevedere l’obbligo di procedere a una valutazione d’impatto dei sistemi algoritmici in relazione a tutti i diritti fondamentali. A tale proposito farà riferimento in particolare ai lavori del Consiglio d’Europa menzionati in precedenza.4./5. I mezzi giuridici a disposizione delle vittime di discriminazione variano in funzione del tipo di discriminazione e a seconda che la discriminazione provenga da autorità o da privati. Nel 2015 il Centro svizzero di competenza per i diritti umani (CSDU) ha effettuato un’analisi dettagliata in materia (studio «Accès à la justice en cas de discrimination», www.skmr.ch > Publications et projets > Etudes et rapports > L’accès à la justice en cas de discrimination, ultimo aggiornamento nel 2022). La protezione offerta dalle disposizioni legali in materia di discriminazione è la stessa a prescindere che la discriminazione risulti dall’utilizzo di sistemi algoritmici o no. La LPD prevede tuttavia il diritto per la persona interessata di esprimere il suo parere quando è oggetto di una decisione individuale automatizzata ai sensi dell’articolo 21 capoverso 1 LPD nonché di esigere che questa decisione sia riesaminata da una persona fisica (art. 21 cpv. 2 LPD).7. Nel suo rapporto del 2016 in adempimento del postulato Naef 12.3543 «Rapporto sul diritto in materia di protezione dalla discriminazione», il Consiglio federale ha espresso le sue riserve riguardo alla proposta di rafforzare la protezione dalla discriminazione integrando gli articoli 27 e seguenti del Codice civile (RS 210). Ha sottolineato che una misura di questo tipo sarebbe equiparabile a una legge generale sulla discriminazione, che è sempre stata respinta dal Parlamento. A questo stadio il Consiglio federale non auspica anticipare il seguito dei lavori relativi all’AI per quanto riguarda le misure volte a rafforzare il quadro normativo in materia.