Wortlaut

Les données collectées aujourd'hui servent de base pour façonner la société de demain. D'où les questions suivantes :

1. Le Conseil fédéral est-il aussi d'avis que, lorsque des décisions sont prises sur la base de données, il convient de veiller à ce que la démarche ne renforce pas les inégalités ? Est-il aussi d'avis que le fait que le sexe ne soit pas toujours pris en compte dans les données est un problème important et qu'il peut avoir de grandes implications sociétales ?

2. Cette question fait-elle l'objet d'études en Suisse ? Si tel n'est pas le cas, le Conseil fédéral serait-il prêt, par exemple, à lancer un appel d'offres pour que la question soit étudiée dans le contexte suisse ?

3. Le Conseil fédéral suit-il les travaux de réglementation que l'UE mène actuellement en la matière ? A-t-il une idée des conséquences que cette réglementation aura pour la Suisse ?

Begründung

Dans le monde d'aujourd'hui, les données sont devenues un bien central. Leur collecte et leur mise en relation augmentent constamment. De plus en plus de décisions qui étaient jusqu'alors prises par des êtres humains sont prises sur la base d'algorithmes. Ces techniques ouvrent de nouvelles portes dans des domaines aussi variés que la médecine, les recrutements ou les tâches policières. Elles sont parfois bénéfiques. Toutefois, lorsque des données ne sont pas représentatives et qu'elles présentent un biais, par exemple en ce qui concerne le sexe, l'origine ou l'âge, les décisions qui en découlent peuvent être problématiques. Certains groupes peuvent être exclus ou leurs besoins ne pas être correctement pris en compte. De tels biais peuvent avoir de graves conséquences : diagnostics erronés en médecine, préférence d'un sexe plutôt que l'autre lors de recrutements, ou encore risques pour la sécurité et la santé des femmes dans les transports, car les véhicules sont conçus en fonction des hommes. Le fait que le sexe ne soit pas correctement pris en compte perpétuent les inégalités et en crée de nouvelles. Étant donné que les systèmes utilisant des données continueront à gagner en importance, il convient de s'attaquer rapidement à ce problème de société. C'est également la conclusion à laquelle un rapport récent est arrivé (Institut Montaigne, " Algorithms : Please Mind the Bias ! ", 2020.). Le Digital Services Act de l'UE va aussi dans cette direction.

La motion 20.3588 a chargé le Conseil fédéral de faire en sorte que le sexe soit précisé dans toutes les données compilées par l'Office fédéral de la statistique. Une telle transparence serait un pas important. Mais il ne suffit pas de préciser le sexe dans les banques de données pour résoudre le problème des biais, car toute information ne figurant pas dans les données n'est logiquement pas prise en compte au final dans les processus de décision. D'autres groupes de population souffrent également du fait d'être sous-représentés, voire pas du tout pris en compte, dans les méthodes de collecte de données.

Stellungnahme des Bundesrates

1. Le Conseil fédéral est aussi d'avis que, lorsque des décisions sont prises sur la base de données, il convient de veiller à ce que la démarche ne renforce pas les inégalités. Le système statistique de la Confédération est conçu de telle sorte que les données mises à disposition puissent être utilisées dans une palette aussi large que possible de domaines et pour répondre à différentes questions. Il doit aussi permettre entre autres d'identifier les éventuelles inégalités dans les données. Comme indiqué dans l'avis du Conseil fédéral concernant la motion 20.3588 d'Eva Herzog "Améliorer les données sur les conséquences pour l'un et l'autre sexes", les données (personnelles) sont déjà largement ventilées par sexe dans les statistiques de la Confédération.

Le fait que le sexe ne soit pas correctement pris en compte dans les données peut avoir des implications sociétales. Ce thème doit être traité par conséquent dans la stratégie nationale en matière d'égalité 2030. Il est prévu d'élaborer des outils de travail d'ici à fin 2023 pour soutenir les services fédéraux chargés d'évaluer s'il est ou non pertinent d'adopter la perspective des genres dans une étude et de ventiler ses résultats selon le sexe.

2. Des recherches sont en cours en Suisse sur l'analyse critique des algorithmes ("Critical algorithm Studies", p. ex. The significance of algorithmic selection of everyday life : The case of Switzerland, Université de Zurich). Plusieurs projets sont également réalisés dans ce domaine dans le cadre de programmes nationaux de recherche (PNR) financés par la Confédération tels que le projet "Big Brother dans les entreprises suisses ? Confiance, données et sphère privée au travail" du PNR 75 "Big Data" et le projet "Gouvernance et cadre juridique pour la gestion de l'intelligence artificielle" du PNR 77 "Transformation numérique". Les chercheuses et les chercheurs ont en tout temps la possibilité de déposer des demandes de financement auprès du Fonds national suisse de la recherche scientifique (FNS) pour réaliser des projets. Dans le cadre de l'examen des dossiers PNR, ils peuvent par ailleurs proposer des thèmes en vue de nouveaux programmes. Les délais et les conditions impartis sont communiqués sur le site Web de l'office compétent (www.sbfi.admin.ch).

3. Oui, le Conseil fédéral suit tous les travaux de réglementation de l'UE. Dans le domaine de la politique en matière de numérisation et de données (qui inclut l'utilisation de l'intelligence artificielle IA), le Conseil fédéral a chargé le groupe de coordination interdépartemental Digital Single Market -CH ( DSM-CH) d'observer l'évolution des réglementations et d'évaluer leurs éventuelles répercussions pour la Suisse. Depuis 2003, de multiples acteurs recourent à la plateforme tripartite suisse créée dans le domaine de l'IA pour échanger des informations sur la société globale de l'information, la gouvernance et l'intelligence artificielle sur Internet. De plus, dans le cadre de la plateforme tripartite, un comité composé de représentants de l'administration fédérale peut être sollicité dans le but notamment de coordonner les prises de position de la Suisse par rapport aux processus internationaux.

Réponse du Conseil fédéral.