Registre de transparence sur l'utilisation de l'intelligence artificielle par les entreprises liées à la Confédération

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

In den nächsten Wochen und Monaten werden wir in der einen oder anderen Reihenfolge immer wieder über diese Themen sprechen. Worum geht es? Wir möchten ein Transparenzregister für den Einsatz von künstlicher Intelligenz durch die bundesnahen Betriebe einführen. Heutzutage ist eine sehr schnelle Entwicklung im Gange. Das heisst, eine Technologie, deren Chancen, aber auch deren Risiken noch ziemlich im Grau-, ja im wolkigen Bereich angesiedelt sind, wird trotzdem schon praktisch eingesetzt. Aus Sicht der Grünen, aber auch aus Sicht von vielen NGO, von Wissenschaftlerinnen und Wissenschaftlern, auch aus Sicht von denjenigen, die sich technisch selbst mit diesem Thema befassen, ist es absolut sinnvoll und zweckmässig, wenn man zumindest weiss, wo diese Technologie überhaupt eingesetzt wird.

Wie der Bundesrat in seiner Stellungnahme gesagt hat, hat das Kompetenznetzwerk für künstliche Intelligenz (CNAI) bereits erste Schritte im Zusammenhang mit einem solchen Register unternommen. Allerdings ist dieses Register in keiner Art und Weise verpflichtend. Das heisst, es ist nicht sichergestellt, dass alle Anwendungen von künstlicher Intelligenz in der Bundesverwaltung oder, wie jetzt im Falle meines Postulates, bei bundesnahen Betrieben auch tatsächlich in diesem Register eingetragen sind. Sie können jetzt so argumentieren wie der Bund und sagen: Wir warten noch etwas und schauen, was im Ausland passiert, und irgendwann wollen wir dann allenfalls eine Regelung treffen, die für alle gleich ist, nicht nur für den Bund, die Verwaltung und die bundesnahen Betriebe, sondern für alle Unternehmen in diesem Land.

Ich glaube, das ist ein falscher Ansatz. Ich glaube, wir haben in der Verwaltung ein besonderes Transparenzerfordernis, weil wir im Dienste der Allgemeinheit und mit viel Steuergeldern eine Aufgabe wahrnehmen. Weiter glaube ich, dass das Gleiche auch für die bundesnahen Betriebe gilt. Es gibt einen Grund, weshalb man diese Betriebe nicht einfach verscherbelt und den Privaten überlassen hat: weil man als Bund eine besondere Art der Kontrolle will, weil man weiss, dass diese Betriebe in unserem Land eine besondere Funktion erfüllen, die man sicherstellen will. Deshalb haben wir es hier drin kürzlich ja auch ganz breit unterstützt, dass bei der Post nicht einfach nur die finanzielle Rationalität gilt, wenn es um die Anzahl Poststellen geht. Sie haben einen Vorstoss unterstützt, der besagt, dass es noch andere Dinge abzuwägen gibt.

Deshalb ist es auch richtig, wenn man in einem ersten Moment eben gerade den Bund, wie das der nächste Vorstoss will, und die bundesnahen Betriebe mit dieser besonderen Transparenzpflicht beschlägt. Schauen Sie, wenn ein Unternehmen in seiner Tätigkeit irgendetwas diskutiert und beschliesst, dann haben Sie als Öffentlichkeit kein Einsichtsrecht. Wenn aber die Verwaltung etwas diskutiert und beschliesst, dann hat man als Öffentlichkeit ein Einsichtsrecht. Das ist auch richtig so, denn wir wollen die Kontrolle haben. Entsprechend finde ich es richtig, dass über den Einsatz dieser Technologie, die sehr viele Chancen bietet, aber eben auch ganz spezifische Risiken birgt, Transparenz herrscht, Transparenz darüber, wo und zu welchem Zweck sie eingesetzt wird.

Stimmen Sie zu!

Baume-Schneider Elisabeth · BR-F · Conseil fédéral · Jura

M. le conseiller national Glättli a raison sur le fait que nous allons encore parler longtemps des questions d'intelligence artificielle, ainsi que de la transparence dans les processus numériques - nous allons non seulement en parler, mais nous allons devoir agir.

La transparence des processus numériques et des algorithmes est une priorité du Conseil fédéral. Ainsi, en 2020, il a adopté des lignes directrices sur l'intelligence artificielle. Il a aussi créé en 2021 le réseau de compétences en intelligence artificielle (CNAI). Le CNAI a notamment pour tâche de gérer une banque de données des projets d'intelligence artificielle menés par l'administration fédérale au sein de l'administration fédérale. La loi fédérale sur la protection des données, qui est entrée en vigueur le 1er septembre 2023, contribue également - et c'est heureux - à améliorer la transparence, y compris lors du recours à l'intelligence artificielle dans les entreprises liées à la Confédération.

J'en profite également pour préciser que nous devrons aussi nous mettre d'accord sur ce qu'est l'intelligence artificielle. Parce que, pour certains, elle consiste en des outils particuliers; or, on sait très bien, notamment au sein de l'Office fédéral de la statistique, qu'il ne s'agit pas seulement de se dire qu'il s'agit par exemple de Whatsapp, Snapchat ou autre, mais bien de savoir comment on traite des données et ce que l'on fait du traitement de ces données.

Le Conseil fédéral propose d'attendre, car imposer une obligation d'informer aux unités de l'administration fédérale décentralisées et aux entreprises liées à la Confédération engendrerait un travail, mais aussi des coûts supplémentaires, et les entreprises qui sont liées à la Confédération, également actives dans le secteur privé, seraient soumises à d'autres règles que leurs concurrents qui fournissent des prestations identiques ou similaires.

Il convient d'examiner une obligation d'informer pour certains secteurs ou certaines branches économiques à la lumière de la réglementation européenne qui, elle, est entrée en vigueur au 1er août de cette année et qui prévoit des règles pour les systèmes d'intelligence artificielle à haut risque. Le Conseil fédéral déterminera - c'est important de le mentionner - d'ici la fin de cette année, les besoins d'agir ainsi que d'éventuelles mesures sectorielles, sachant qu'une éventuelle obligation d'informer ne se limiterait pas à l'administration et aux entreprises liées à la Confédération.

Vu la volonté du Conseil fédéral et sa responsabilité d'établir un rapport d'ici la fin de l'année sur la nécessité d'agir, mais aussi de prendre en considération les éléments européens mis en oeuvre depuis le 1er août, le Conseil fédéral propose de rejeter le postulat.

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

J'ai une petite question concernant le dernier paragraphe de l'avis du Conseil fédéral, qui concerne les coûts. J'imagine que ce paragraphe est désormais ajouté à chaque avis. Pourriez-vous m'expliquer comment cela engendrerait des coûts énormes, si le registre, la base de données, existe déjà? Dans d'autres contextes, l'obligation d'indiquer tous les systèmes informatiques de manière centralisée, qui traitent de données, existe déjà. Je ne peux pas imaginer que cela engendrerait des coûts énormes.

Baume-Schneider Elisabeth · BR-F · Conseil fédéral · Jura

Je vous remercie pour cette question, Monsieur le conseiller national Glättli. L'avis du Conseil fédéral date du 23 août 2023, donc d'avant le rapport Gaillard, et ce n'est pas l'intelligence artificielle qui a ajouté cette phrase automatiquement.

Sur la question des coûts supplémentaires et, surtout, de la valeur ajoutée, je vous répondrai par écrit. Je pourrais inventer des arguments, mais cela ne serait pas très opportun, car vous pourriez les déconstruire. Nous allons vous répondre par écrit.

Vote

Präsident (Nussbaumer Eric, Präsident): Der Bundesrat beantragt die Ablehnung des Postulates.

Abstimmung - Vote

Für Annahme des Postulates ... 71 Stimmen

Dagegen ... 115 Stimmen

(3 Enthaltungen)