Comment la Suisse peut-elle participer aux recherches sur l'intelligence artificielle de façon à assurer une bonne représentation des valeurs morales universelles au travers du numérique?

Wortlaut

Avec de plus en plus de prestations numériques, de décisions prises par des algorithmes, de relations humaines remplacées par des clics de clavier, l'espace numérique occupe une place grandissante dans notre société.

Or, ce dernier a bien souvent une priorité principale : l'efficacité. Comment vendre plus ? Comment séduire l'internaute ? Comment réduire le service pour faire baisser les coûts ? Comment déléguer le tri et le choix à des machines pour gagner en temps et en précision ?

Cette évolution irrépressible pose une question clé : le numérique reflète-t-il encore les valeurs de notre société humaine ? Le Pape s'en est alarmé, en novembre dernier, en refusant "de laisser l'univers du numérique transformer le monde en un monde inhumain" et en appelant à la transmission de "hautes valeurs universelles", transmission qui incombe aux religions, mais aussi aux politiques et aux entreprises qui façonnent le numérique.

Réussir cette transmission, c'est doter le numérique d'une intelligence artificielle aussi élaborée que possible et proche des multiples paramètres qui sous-tendent nos choix humains : normes sociales, principes moraux et légaux, bon sens, etc.

Tous les géants du numérique y travaillent. Google vient de créer son groupe européen de recherche dédié au "machine learning" à Zurich, son deuxième plus grand pôle de recherche dans le monde.

Ces multinationales du numérique (Google, Apple, Facebook, Microsoft, Ebay, Alibaba) sont plus puissantes que de nombreux États. Elles peuvent considérablement influencer l'avenir de notre société. C'est pourquoi il faudrait développer des moyens pour les coréguler, afin de s'assurer que l'humain reste bien au centre de ce nouvel espace social en construction.

1. Existe-t-il une réflexion sur un corpus de valeurs à intégrer dans le numérique : bienveillance, tolérance, patience, équilibre, discrétion, fraternité, entraide, non-discrimination ?

2. La Suisse a-t-elle des équipes de recherche transversales (en informatique, Internet, sociologie, linguistique, etc.) dédiées aux valeurs humaines dans le numérique ?

3. Existe-t-il une démarche internationale de corégulation du numérique et, si oui, la Suisse y participe-t-elle ?

4. Existe-t-il une telle démarche au niveau suisse ?

5. La Suisse pourrait-elle s'associer aux recherches sur l'intelligence artificielle de Google à Zurich ou ailleurs ?

Stellungnahme des Bundesrates

Le Conseil fédéral observe l'impact de la numérisation sur l'économie, la science et la société dans le contexte de la stratégie "Suisse numérique". Une conférence nationale se déroulera en automne 2017 dans le but de développer cette stratégie. Au besoin, les valeurs universelles, telles que l'éthique et la responsabilité morale ou juridique, dans les processus de décision machine, pourront aussi être abordées lors de cette conférence.

En raison de l'actualité de la question, le Conseil fédéral a en outre chargé, le 11 janvier 2017, le Département fédéral de l'économie, de la formation et de la recherche d'étudier de manière plus approfondie les défis que la numérisation pose à la recherche universitaire. Il s'agit d'analyser dans la perspective des défis juridiques et éthiques non seulement les champs de la recherche en technologies numériques, mais aussi les portefeuilles de recherche interdisciplinaires. Les conclusions sont attendues en été 2017.

En Suisse, la recherche interdisciplinaire et transversale sur cette thématique est menée à la fois dans le domaine public et dans le domaine privé. On mentionnera à titre d'exemple l'Université de Zurich, qui a créé, avec son initiative "Digital Society Initiative", une plate-forme universitaire favorisant la réflexion critique interdisciplinaire et l'innovation dans tous les aspects de la numérisation de la science et de la société. La Confédération soutient par ailleurs les efforts de la communauté scientifique suisse, par exemple par le biais du programme national de recherche "Big Data", qui a pour vocation de fournir les bases scientifiques pour une exploitation efficace et appropriée de grands volumes de données. D'une manière générale, la politique de la recherche de la Confédération attache une grande importance à la liberté de la recherche et donc à l'autonomie des chercheurs. À l'intérieur de leur cadre juridique, les hautes écoles et les institutions de recherche ont la possibilité de s'engager dans des coopérations de recherche avec des entreprises privées, et elles le font déjà, par exemple avec Google à Zurich.

Les réseaux neuronaux numériques autoapprenants sont capables de reconnaître des modèles, vérifier des scénarios, tirer des conclusions et porter des appréciations, en se basant sur leur programmation, sur de grands volumes de données et d'interactions avec l'humain. Les réseaux neuronaux ne possèdent pas pour autant de conscience critique. Ils ne sont donc pas à même de prendre des décisions de manière objective, autonome et neutre ou indépendamment d'interventions humaines. La responsabilité de leur orientation éthique et morale, ainsi que celle des conséquences de leur mise en oeuvre relève donc des institutions, entreprises ou individus qui se servent des réseaux neuronaux.

La question de savoir comment une intelligence artificielle réelle (mais hypothétique à ce jour), dotée d'une conscience critique propre, pourrait être intégrée dans la société humaine et dans son cadre juridique et éthique est déjà amplement discutée au niveau international, en sciences juridiques, ainsi qu'en philosophie et en éthique. Cette problématique trouve aussi place dans la recherche théorique et scientifique appliquée, également en Suisse.

En même temps, des discussions sont menées dans l'industrie dans le but d'intégrer la responsabilité et le sens moral au développement de l'intelligence artificielle. L'association internationale d'ingénieurs IEEE a développé à cet effet de premières directives spécifiques.

Enfin, il serait prématuré d'entreprendre des efforts de réglementation concernant l'intelligence artificielle réelle au niveau de la Confédération ou de la communauté internationale, puisqu'il s'agit toujours de spéculations. Une réflexion fondamentale est néanmoins menée en anticipation des différents scénarios d'avenir envisageables. Elle peut s'appuyer sur un ample fonds de concepts scientifiques théoriques et de scénarios concrets en provenance des domaines des arts et de la culture.

Réponse du Conseil fédéral.