Intelligence artificielle et robotique. Intégrer l'éthique dans la formation!

Texte déposé

Ces prochaines années, beaucoup de temps sera consacré au développement de l’intelligence artificielle (IA) et des systèmes automatisés. La numérisation connaîtra de ce fait un élan supplémentaire, qui changera notre société en profondeur. Or, dans le domaine de l’intelligence artificielle précisément, de plus en plus de questions éthiques s’ajoutent aux questions techniques. Par exemple, les systèmes d’armes automatisés basés sur des algorithmes peuvent s’avérer potentiellement très dangereux.

C’est pourquoi, sur le plan international, on assiste à un changement de cap de la part des milieux scientifiques. Ainsi, la formation en éthique dans les domaines de l’ingénierie, comme la robotique par exemple, devient obligatoire dans certains pays et dans certaines universités de pointe, notamment au MIT ou à Stanford. Au vu du potentiel de l’intelligence artificielle, il est indispensable que les chercheurs et les développeurs, y compris ceux qui sont actifs dans la formation technique, se confrontent de plus en plus aux questions éthiques.

Je prie dès lors le Conseil fédéral de répondre aux questions suivantes :

• Convient-il que les formateurs en ingénierie, en particulier dans les domaines de la robotique et de l’IA, ont la charge de transmettre les principes éthiques aux étudiants ?

• Comment peut-il garantir des normes en matière d’éthique dans les domaines de l’enseignement et de la recherche en sciences techniques ?

Avis du Conseil fédéral

Le Conseil fédéral s’accorde avec l’auteure de l’interpellation sur l’importance de la science pour tout ce qui touche à l’intelligence artificielle (IA). Les hautes écoles ont la responsabilité de transmettre à leurs étudiants non seulement des compétences sur la recherche en elle-même, le savoir-faire nécessaire pour tirer parti des nouvelles technologies et un esprit critique pour aborder ces dernières, mais aussi des principes éthiques. Cela s’applique notamment aux études d’ingénierie en général et, de nos jours, plus spécifiquement à la robotique et aux technologies de l’IA.De nombreux cours d’éthique sont actuellement proposés dans les filières des sciences de la nature et les filières techniques. On constate que ce type de cours gagne en importance dans les hautes écoles qui mettent l’accent sur l’IA, l’informatique et les sciences de l’ingénieur, non plus uniquement en tant que matière optionnelle, mais comme partie intégrante des cursus d’ingénierie. Et cette tendance est particulièrement marquée dans le domaine de l’IA, où les études sont orientées vers une utilisation responsable, transparente et centrée sur l’être humain. Par ailleurs, des facultés d’études philosophiques et éthiques se penchent de plus en plus sur les questions liées à l’utilisation responsable des nouvelles technologies et de l’IA.En vertu de l’art. 11, al. 2, let. b, de la loi fédérale du 14 décembre 2012 sur l’encouragement de la recherche et de l’innovation (LERI, RS 420.1), les Académies suisses des sciences ont le mandat de « renforcer l’exercice d’une responsabilité fondée sur l’éthique dans l’acquisition et l’application des connaissances scientifiques ». En lien avec ce mandat, les Académies ont publié en 2021, en collaboration avec le FNS, Innosuisse et la Conférence des rectrices et recteurs des hautes écoles suisses, un Code d’intégrité scientifique (https://akademien-schweiz.ch/fr > Thèmes > Culture scientifique > Intégrité scientifique) qui traite également des questions d’éthique. L’Académie suisse des sciences techniques, quant à elle, a mis en place un programme prioritaire sur l’intelligence artificielle et une plateforme correspondante. Dans ce cadre, elle a notamment publié une fiche d’information intitulée L’éthique de la robotique (www.satw.ch > publications > lethique-de-la-robotique).Le Conseil fédéral estime que les hautes écoles prennent leurs responsabilités très au sérieux et qu’elles forment leurs étudiants à l’éthique. Il n’y a donc pas de nécessité d’agir pour l’instant. Étant donné que l’autonomie des hautes écoles est un principe garanti, la marge de manœuvre du Conseil fédéral serait de toute façon limitée.