In che modo l'Ufficio federale della cibersicurezza intende gestire gli incidenti causati da malfunzionamenti dei sistemi di intelligenza artificiale?
24.3626 · Interpellanza · 2024-06-13
Dipartimento della difesa, della protezione della popolazione e dello sport
Liquidato
Wortlaut
L’Ufficio federale della cibersicurezza (UFCS), creato il 1° gennaio 2024, ha in particolare il compito di ricevere le segnalazioni di ciberincidenti e di aiutare i gestori di infrastrutture critiche a gestire tali incidenti. Fino al 31 dicembre 2023 questa funzione era esercitata dal Centro nazionale per la cibersicurezza (NCSC). L’ultimo rapporto semestrale dell'UFCS, pubblicato il 6 maggio 2024, indica che il numero di segnalazioni di tentativi di truffa che coinvolgono l’intelligenza artificiale (IA) è in aumento. Le segnalazioni riguardano in particolare attacchi di sextortion che utilizzano immagini generate dall’IA nonché telefonate e frodi di investimento a nome di personalità famose. Le applicazioni di IA possono rappresentare un pericolo per la popolazione se vengono utilizzate per scopi fraudolenti. Ma possono anche costituire un rischio per la sicurezza di per sé, senza alcun intervento umano, in caso di malfunzionamento (fuga di dati, compromissione del funzionamento di un’infrastruttura critica ecc.). L'AI Incidents Monitor (AIM) dell’OCSE mostra peraltro che il numero di incidenti causati da malfunzionamenti dei sistemi di IA senza intervento umano è aumentato significativamente negli ultimi anni. 1. Quanti incidenti causati da malfunzionamenti dei sistemi di IA, senza intervento umano, sono stati segnalati all’UFCS (rispettivamente all’NCSC) negli ultimi tre anni? Gli incidenti di questo genere sono in aumento in Svizzera? 2. Quali iniziative ha intrapreso l’UFCS in risposta a queste segnalazioni? Quali misure sono state adottate? 3. L’UFCS svolge attività di informazione e prevenzione, in particolare presso i gestori delle infrastrutture critiche contemplate dalla legge federale sulla sicurezza delle informazioni, sui rischi che i sistemi di IA possono comportare anche senza l’intervento umano?
Stellungnahme des Bundesrates
In merito alle domande 1 e 2: l’Ufficio federale della cibersicurezza (UFCS, in precedenza Centro nazionale per la cibersicurezza) negli ultimi anni non ha ricevuto alcuna segnalazione di incidenti nell’ambito della sicurezza riconducibili a malfunzionamenti dell’intelligenza artificiale (IA). Di conseguenza non si registra nemmeno alcun aumento di tali incidenti.Le cifre pubblicate nel monitor OCSE si basano su segnalazioni riportate dai media internazionali. La maggior parte delle segnalazioni registrate si riferisce a minacce generiche e non a incidenti concreti. In merito alla domanda 3: l’UFCS ha intrapreso diverse iniziative di sensibilizzazione alle ciberminacce. Tra queste rientrano anche le minacce derivanti dall’utilizzo delle nuove tecnologie. Le misure di protezione tecniche e organizzative devono essere efficaci contro tutti i tipi di attacchi. Pertanto la questione se una ciberminaccia provenga da hacker o derivi da malfunzionamenti dei sistemi non è determinante ai fini del rafforzamento della prevenzione. Finora l’UFCS non ha ancora condotto alcuna specifica campagna di sensibilizzazione al malfunzionamento di determinate applicazioni di IA. Nel rapporto in adempimento del Po. 23.3861 Andrey Gerhard «Opportunità e rischi dei sistemi di IA nell'ambito della cibersicurezza» il Consiglio federale illustrerà quali sono le opportunità e i rischi per la cibersicurezza derivanti dall’utilizzo dell’IA.