Wortlaut

Il Consiglio federale analizza l'impatto dell'utilizzo di algoritmi da parte di enti pubblici e privati sui diritti costituzionali. All'occorrenza presenterà le misure necessarie per rendere l'utilizzo di algoritmi trasparente, responsabile e rispettoso dei diritti fondamentali.

Begründung

Sempre più spesso enti pubblici e privati prendono decisioni basandosi su algoritmi. Si tratta, ad esempio, di decisioni automatizzate che riguardano la concessione o il rifiuto di una prestazione, la selezione o l'ammissione, la conclusione di un contratto e la definizione delle relative condizioni. Queste decisioni non si basano sul potere discrezionale di una persona e rischiano pertanto di essere arbitrarie e di violare direttamente alcuni diritti fondamentali (ad es. nel caso in cui un veicolo autonomo deve scegliere se uccidere il suo conducente o investire un pedone o quando un algoritmo crea una discriminazione razziale sulla base di criteri che, di per sé, non sono discriminatori). Va ricordato che lo Stato è legato ai diritti fondamentali e deve provvedere affinché questi siano rispettati anche nelle relazioni tra privati (art. 35 Cost.).

Esiste inoltre il rischio che nessuno voglia assumersi la responsabilità di decisioni prese in modo automatizzato e che nessuno conosca le ragioni di tali decisioni. La comunità scientifica inizia a sviluppare le condizioni necessarie per l'utilizzo di algoritmi che rispettino i diritti fondamentali: responsabilità (per qualsiasi sistema algoritmico dev'esserci una persona in grado di far fronte agli effetti indesiderati), spiegabilità (qualsiasi decisione prodotta da un algoritmo dovrebbe essere spiegata alle persone interessate), esattezza (le fonti di errori devono essere identificate, registrate e confrontate), controllabilità (gli algoritmi devono essere sviluppati per permettere a terzi di rilevarne e rivederne il comportamento), giustiziabilità (per evitare le distorsioni di decisioni automatizzate, gli algoritmi che producono decisioni riguardanti individui devono essere valutati per misurare eventuali effetti discriminatori; i risultati e i criteri di queste valutazioni devono essere spiegati e pubblicati; cfr. ad es. Diakopoulos/Friedler in Technology Review 2016). È opportuno esaminare in quale misura le basi legali, soprattutto quelle costituzionali, permettono di applicare questi principi agli algoritmi o se sono necessari complementi.

Antrag des Bundesrates

Il Consiglio federale propone di respingere il postulato.

Stellungnahme des Bundesrates

Il Consiglio federale condivide l'opinione espressa dall'autore del postulato secondo cui gli algoritmi sono un elemento chiave del processo di digitalizzazione di tutti i servizi. Per approfittare in modo duraturo delle opportunità offerte da questa evoluzione è necessario esaminare i rischi potenziali legati agli algoritmi che possono mettere a repentaglio i diritti costituzionali. Ciò riguarda sia gli algoritmi programmati dalla mente umana sia quelli sviluppati dall'intelligenza artificiale.

Tuttavia, gli algoritmi rappresentano solo una delle componenti del processo dell'elaborazione dei dati. La struttura del processo comprende, dalla fase iniziale a quella finale, dati concreti che possono ripercuotersi negativamente sulle persone interessate o sugli utenti. Pertanto gli algoritmi non dovrebbero essere considerati isolatamente, bensì esaminati nel contesto più generale del trattamento dei dati. Questo perché anche gli algoritmi che funzionano su una base neutra possono produrre, a causa di dati specifici, risultati che violano i diritti fondamentali. Al fine di tenere conto di questa eventualità e del contesto nella sua interezza, il Consiglio federale ha intrapreso diverse misure:

- Il gruppo di esperti istituito in attuazione della mozione Rechsteiner Paul 13.3841, "Commissione di esperti per il futuro del trattamento e della sicurezza dei dati", tratta la questione degli algoritmi sotto vari punti di vista. Il gruppo di esperti si occupa di temi specifici come il futuro della protezione della personalità, la tutela dei consumatori, algoritmi e questioni etiche. Esso affronta anche il seguente interrogativo di fondo: in che misura e dove l'analisi dei rischi e la preparazione di misure riguardanti gli algoritmi possono generare un valore aggiunto? Il rapporto del gruppo di esperti con le relative raccomandazioni è atteso a metà del 2018.

- Sul piano legislativo, la revisione in corso della legge sulla protezione dei dati contempla diverse situazioni nelle quali il trattamento dei dati personali si svolge attraverso algoritmi. Pertanto viene introdotto l'obbligo di informare e sentire la persona interessata qualora la decisione presa nei suoi confronti, basata esclusivamente su un sistema automatizzato per il trattamento dei dati, abbia per lei conseguenze giuridiche o ripercussioni considerevoli. Inoltre, il diritto di essere informata consente alla persona interessata di chiedere ulteriori informazioni sulla decisione presa nonché su modalità e conseguenze di quest'ultima. Il progetto prevede inoltre delle misure concernenti la profilazione, basata spesso su algoritmi. Infine, i responsabili saranno tenuti a effettuare una valutazione d'impatto relativa alla protezione dei dati nei casi in cui si presume che il trattamento dei dati possa ledere la personalità o i diritti fondamentali della persona interessata. In questo contesto occorre anche esaminare delle misure volte alla protezione della persona interessata.

Le misure elencate dimostrano che il tema "algoritmi e diritti costituzionali" è riconosciuto e già inserito nelle attività in corso. Il Consiglio federale ritiene che proseguire e consolidare tali attività sia il modo più efficace per garantire che gli algoritmi siano applicati nel rispetto dei diritti fondamentali.

Il Consiglio federale propone di respingere il postulato.