Intelligence artificielle et discriminations. Pour une éthique du numérique

Texte déposé

1. Quelles mesures le Conseil fédéral prend-il pour empêcher que l'intelligence artificielle (IA) reproduise des préjugés établis et soit source de discrimination ?

2. Comment traite-t-il la question des aspects éthiques du numérique ?

3. Qui veille, au niveau interdépartemental, à ce que les organes nommés par le Conseil fédéral soient suffisamment variés dans leur composition ?

Développement

L'IA connaît déjà de nombreuses applications impressionnantes, notamment dans le domaine de la reconnaissance d'images, du diagnostic médical, de la traduction ou de la mobilité. Lors de sa séance du 13 décembre 2019, le Conseil fédéral a pris acte du rapport interdépartemental rédigé sous la direction du Département fédéral de l'économie, de la formation et de la recherche. Des grandes lignes stratégiques seront désormais élaborées sur la base du rapport afin que la Suisse puisse s'affirmer comme l'un des pays les plus innovants en matière de recherche et de développement de l'IA. Parallèlement, il s'agira d'identifier les risques liés aux applications d'IA.

Avis du Conseil fédéral

1. Le rapport du 13 décembre 2019 " Défis de l'intelligence artificielle ", élaboré sur mandat du Conseil fédéral par le groupe de travail interdépartemental " Intelligence artificielle ", traite des défis éthiques et sociaux liés aux applications de l'intelligence artificielle (IA). Il fait le constat que le cadre juridique existant (par exemple la loi sur l'égalité [LEg ; RS 151.1]) s'étend de manière générale aux discriminations qui découleraient de systèmes d'IA. Le projet de révision de la loi fédérale sur la protection des données prévoit quant à lui d'imposer diverses obligations aux particuliers ou aux organes fédéraux responsables en cas de décisions automatisées fondées sur l'IA (voir FF 2017 6803). Il n'en demeure pas moins que les futures applications d'IA pourraient avoir des implications juridiques inédites. Le Conseil fédéral surveille attentivement cette évolution. S'il devait constater que les bases légales actuelles ne répondent pas de manière satisfaisante aux risques émergents, il prendrait les mesures nécessaires.

2. La politique de la Confédération dans le domaine du numérique place l'individu au centre d'une société de l'information et du savoir inclusive et démocratique. Les principes de la stratégie " Suisse numérique ", dans laquelle le Conseil fédéral énonce ses priorités en la matière, sont à mettre en oeuvre dans tous les domaines de l'administration fédérale (cf. www.digitaldialog.swiss/fr). Sous l'angle des politiques sectorielles, les réflexions d'ordre éthique et, le cas échéant, l'ouverture d'un débat de société sur ces questions font partie des tâches de la Confédération.

En décidant de lancer le programme national de recherche sur le thème " Transformation numérique " (PNR 77), le Conseil fédéral entend éclaircir la question des interactions et de l'impact concret de la transformation numérique en Suisse. Le PNR 77 s'articule autour de trois axes : (1) formation et apprentissage ; (2) éthique, fiabilité et gouvernance ; (3) économie et marché du travail (cf. www.nfp77.ch/fr). À l'échelle internationale, la Suisse s'engage pour l'adoption et le respect de règles éthiques dans le domaine numérique. Elle oeuvre en ce sens au sein d'organisations et de processus internationaux (par exemple Conseil de l'Europe, OCDE, UNESCO) et elle accueille le Sommet mondial sur l'intelligence artificielle au service du bien social.

3. Le Conseil fédéral veille à une représentation équilibrée, au sein de l'administration fédérale, entre les sexes et les régions linguistiques. Il a défini à cette fin des valeurs cibles et des indicateurs et a pris des mesures appropriées dans la Stratégie concernant le personnel de l'administration fédérale pour les années 2016 à 2019. Ces mesures seront reprises dans la nouvelle stratégie pour 2020 à 2023. Des efforts particuliers sont notamment portés sur l'augmentation de la part des femmes aux échelons de direction. Cela devrait se répercuter positivement sur la proportion de femmes dans les organes internes de la Confédération - un point que le Conseil fédéral continuera d'observer attentivement. Par ailleurs, il est aussi important de veiller à une composition équilibrée sur le plan des connaissances techniques. Enfin, en vertu de l'ordonnance sur l'organisation du gouvernement et de l'administration [RS 172.010.1], édictée par le Conseil fédéral, les commissions extraparlementaires doivent se composer d'au moins 30 % de femmes (art. 8c) et prévoir une représentation équilibrée des communautés linguistiques (art. 8cbis).

Réponse du Conseil fédéral.