Comment introduire de l'éthique dans les algorithmes?

Béglé Claude · Mit-M · Conseil national · Vaud · Groupe PDC

J'ai déposé fin 2016 un postulat au titre un peu barbare: "Comment introduire de l'éthique dans les algorithmes?" Le Conseil fédéral est d'accord sur l'objectif, mais estime l'avoir déjà pris en compte. S'il est vrai que la Confédération est très active en matière de numérique, la question des algorithmes nous montre que nous sommes peut-être en train de prendre du retard.

Rappelons tout d'abord que les algorithmes ne sont rien d'autre que des outils qui font ce qu'on leur demande de faire. Les algorithmes sont des séries d'instructions informatiques qui permettent de classer la masse d'informations disponibles sur Internet et dans le "big data". C'est grâce à un algorithme que nos recherches sur Internet aboutissent à un résultat répondant à nos attentes. C'est aussi grâce à un algorithme que Facebook établit un profil de consommation et envoie des publicités ciblées. Ce travail de classement implique de fixer des critères de sélection de l'information. L'algorithme d'un moteur de recherche hiérarchisera l'information. Quelle est l'information qui arrive en premier sur l'écran? C'est toute la question. L'algorithme d'un réseau social combinera les informations les plus précises sur vous. Ira-t-il jusqu'à s'intéresser à vos préférences religieuses ou sexuelles? Là aussi, c'est une vraie question.

Aujourd'hui, ce sont des sociétés privées qui établissent ces critères de sélection de l'information. Cela leur confère un impact considérable sur nos vies, puisque les fameuses GAFAM - Google, Apple, Facebook, Amazon et Microsoft - sont utilisées tous les jours par des milliards de personnes. Des exemples récents montrent à quel point ces algorithmes en mains privées peuvent influencer nos vies, voire menacer nos démocraties. En novembre dernier, Google a décidé de contrer les agences d'information russes soupçonnées de propagande. L'algorithme du premier moteur de recherche mondial sera donc modifié pour que ces sites soient plus difficiles à trouver. Le réseau social Facebook a été au coeur de plusieurs scandales. En 2017, il a admis que son algorithme incluait le critère de l'antisémitisme pour des campagnes publicitaires ciblées. Il a aussi admis que 3000 publicités avaient été achetées par des groupes en lien avec le Kremlin durant la campagne présidentielle américaine. L'algorithme du géant de la vente en ligne Amazon pose lui aussi un problème. Dans ses suggestions d'achats, on trouve parfois les ingrédients pour fabriquer une bombe.

Certains ont conclu que les algorithmes des géants d'Internet étaient désormais incontrôlables. Les GAFAM constituent aujourd'hui cinq des six premières places mondiales en termes de capitalisation boursière. Ces sociétés ont désormais un pouvoir financier, mais aussi un pouvoir politique inédit, qui vient défier celui des Etats. Les politiques commencent à réagir. Deux sénateurs américains veulent imposer à tout opérateur Internet ayant plus d'un million d'utilisateurs de respecter des directives de transparence pour les campagnes de publicité politique. Cela nous montre que nous ne pouvons pas laisser notre monde aux mains des programmateurs d'algorithmes, en quête perpétuelle d'efficacité, mais sans valeurs morales.

Il faut réinjecter des critères éthiques, par exemple encourager des comportements respectueux sur les réseaux sociaux, favoriser les gestes citoyens en matière d'environnement ou de solidarité, générer de la honte chez ceux qui abusent anonymement de réseaux pernicieux et diversifier l'information numérique en introduisant un peu d'aléatoire. Les Chinois y réfléchissent déjà, eux qui jugent du "bon comportement citoyen", avec des récompenses pour les individus estimés méritants.

La Suisse semble prendre du retard. Certes, de bonnes structures existent, la Commission d'experts pour l'avenir du traitement et de la sécurité des données étudie la question des algorithmes depuis 2014. Le programme national de recherche PNR 75 comporte plusieurs projets concernant l'éthique dans le "big data". Mais nous prenons du retard, notamment dans la révision de la loi sur la protection des données. Les données sont en effet le principal carburant des algorithmes, or, la Commission des institutions politiques de notre conseil veut reporter l'adoption du RGPD, le Règlement général sur la protection des données européen.

En clair, les Suisses ne seront de loin pas aussi bien protégés que les habitants de l'Union européenne. Pire, des entreprises douteuses risquent d'être attirées par notre protection des données bientôt désuète.

Il est difficile d'attaquer la question des algorithmes si nous n'arrivons pas à fixer un cadre moderne pour la protection des données personnelles. Que faire? Notre conseil doit se prononcer sur une modernisation rapide de la loi sur la protection des données. Il ne s'agit pas là d'allégeance à l'étranger, oh non, mais de protéger nos citoyens pour ne pas devenir une colonie numérique. Ethiciens et informaticiens doivent réfléchir à la réintroduction de concepts moraux dans la grille de filtrage de l'information que sont les algorithmes. Il faut promouvoir une meilleure transparence des algorithmes, cela pourrait se faire dans le cadre d'une gouvernance mondiale du numérique basée à Genève, tel que je le propose dans mon postulat 17.3789.

En conclusion, nous devons agir plus vite en matière de numérique, car, dans ce domaine, qui n'avance pas recule. Introduire certains filtres éthiques va devenir une nécessité dans notre société de plus en plus numérique, et il appartiendra au Conseil fédéral et au Parlement d'approuver de tels filtres.

Je vous remercie de votre soutien et de votre attention.

Glättli Balthasar · Mit-M · Conseil national · Zurich · Groupe des VERT-E-S

Cher collègue, merci pour vos réflexions, que je partage. Aber die Frage, die sich hier stellt, ist, wo zu handeln ist. Sie haben richtig gesagt, dass viel gedacht wird. Gehandelt werden könnte beim Datenschutzgesetz. Das werden wir nicht ändern, wenn wir Ihre Motion annehmen. Da müssten Sie, wennschon, Ihren Kolleginnen und Kollegen in der Kommission sagen, dass sie nicht für die Verzögerung stimmen sollen, die sie leider unterstützt haben. Ich muss Ihnen sagen: Investieren Sie mit Ihren guten Gedanken die Energie doch dort.

Béglé Claude · Mit-M · Conseil national · Vaud · Groupe PDC

Effectivement, Monsieur Glättli, on voit aujourd'hui une contradiction entre le besoin de contrôler le "big data", qui est le sang, les "globules rouges" sur lesquels on va pouvoir s'appuyer, notamment pour contrôler les algorithmes. Or, si nous n'avons pas cet accord sur la loi sur la protection des données, c'est un élément essentiel qui va nous manquer. Le postulat va un peu plus loin parce qu'il essaie d'introduire ensuite des notions éthiques. Mais si on n'a pas les Lego, les "building blocks", on ne peut rien faire, je suis d'accord avec vous.

Maurer Ueli · VPBR-M · Conseil fédéral · Zurich

Der Bundesrat teilt grundsätzlich die Einschätzung, die im Postulat zum Ausdruck kommt. Algorithmen stellen wie die Phänomene Big Data, selbstlernende Programme oder künstliche Intelligenz einen Teilaspekt der Datenbearbeitung dar. Wir sind der Meinung, dass es hier eine Gesamtbeurteilung braucht. Wir sind auch an der Arbeit. Wir haben eine Expertengruppe eingesetzt, die seit drei Jahren an der Arbeit ist. Es ist eine Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit. Es sind Fachleute von unseren Hochschulen dabei. Sie befassen sich in einem Kapitel insbesondere auch mit der Frage, welche ethischen Grundsätze im Zusammenspiel mit rechtlichen Auflagen und Missbrauch berücksichtigt werden sollen. Wir erwarten diesen Bericht in den nächsten Wochen. Er soll per Ende März abgeschlossen werden und wird Ihnen dann auch zugestellt. Das ist ein Teilaspekt, der genau in die Richtung der Forderung der Motion geht; wir haben ihn jetzt während drei Jahren mit Experten bearbeitet.

Es wurde erwähnt, es läuft die Revision des Datenschutzgesetzes. Auch hier sollen diese Punkte berücksichtigt werden. Insbesondere wird dort eine Informations- und Anhörungspflicht der betroffenen Personen eingeführt. Damit haben wir wiederum einen Teilaspekt der Forderung bereits abgedeckt. Schliesslich gibt es auch die verschiedenen Projekte des Nationalen Forschungsprogramms zu Big Data, die sich zurzeit mit ethischen Fragen im Bereich der Datenbearbeitung und von Big Data beschäftigen.

Wir haben also bereits drei Pfade, welche die Anliegen dieser Motion aufnehmen. Wir hoffen, dass wir hier eine Gesamtschau einbringen können. Denn grundsätzlich sind das die ganz grossen Themen der Zukunft. Wer Daten hat, hat Macht, könnte man einfach sagen. Der Staat hat hier entsprechende Regelungen zu treffen. Wir arbeiten daran. Daher sind wir der Meinung, dass Sie das Postulat nicht annehmen müssen. Alle Aspekte, die genannt werden, werden bereits durch Experten bearbeitet; die Arbeiten stehen zum Teil unmittelbar vor dem Abschluss. Sie werden diese dann beraten können.

Vote

Le président (de Buman Dominique, président): Le Conseil fédéral propose de rejeter le postulat.

Abstimmung - Vote

Für Annahme des Postulates ... 62 Stimmen

Dagegen ... 120 Stimmen

(10 Enthaltungen)