Béglé Claude · Nationalrat · 2018-02-28

Wortprotokoll

J'ai déposé fin 2016 un postulat au titre un peu barbare: "Comment introduire de l'éthique dans les algorithmes?" Le Conseil fédéral est d'accord sur l'objectif, mais estime l'avoir déjà pris en compte. S'il est vrai que la Confédération est très active en matière de numérique, la question des algorithmes nous montre que nous sommes peut-être en train de prendre du retard.

Rappelons tout d'abord que les algorithmes ne sont rien d'autre que des outils qui font ce qu'on leur demande de faire. Les algorithmes sont des séries d'instructions informatiques qui permettent de classer la masse d'informations disponibles sur Internet et dans le "big data". C'est grâce à un algorithme que nos recherches sur Internet aboutissent à un résultat répondant à nos attentes. C'est aussi grâce à un algorithme que Facebook établit un profil de consommation et envoie des publicités ciblées. Ce travail de classement implique de fixer des critères de sélection de l'information. L'algorithme d'un moteur de recherche hiérarchisera l'information. Quelle est l'information qui arrive en premier sur l'écran? C'est toute la question. L'algorithme d'un réseau social combinera les informations les plus précises sur vous. Ira-t-il jusqu'à s'intéresser à vos préférences religieuses ou sexuelles? Là aussi, c'est une vraie question.

Aujourd'hui, ce sont des sociétés privées qui établissent ces critères de sélection de l'information. Cela leur confère un impact considérable sur nos vies, puisque les fameuses GAFAM - Google, Apple, Facebook, Amazon et Microsoft - sont utilisées tous les jours par des milliards de personnes. Des exemples récents montrent à quel point ces algorithmes en mains privées peuvent influencer nos vies, voire menacer nos démocraties. En novembre dernier, Google a décidé de contrer les agences d'information russes soupçonnées de propagande. L'algorithme du premier moteur de recherche mondial sera donc modifié pour que ces sites soient plus difficiles à trouver. Le réseau social Facebook a été au coeur de plusieurs scandales. En 2017, il a admis que son algorithme incluait le critère de l'antisémitisme pour des campagnes publicitaires ciblées. Il a aussi admis que 3000 publicités avaient été achetées par des groupes en lien avec le Kremlin durant la campagne présidentielle américaine. L'algorithme du géant de la vente en ligne Amazon pose lui aussi un problème. Dans ses suggestions d'achats, on trouve parfois les ingrédients pour fabriquer une bombe.

Certains ont conclu que les algorithmes des géants d'Internet étaient désormais incontrôlables. Les GAFAM constituent aujourd'hui cinq des six premières places mondiales en termes de capitalisation boursière. Ces sociétés ont désormais un pouvoir financier, mais aussi un pouvoir politique inédit, qui vient défier celui des Etats. Les politiques commencent à réagir. Deux sénateurs américains veulent imposer à tout opérateur Internet ayant plus d'un million d'utilisateurs de respecter des directives de transparence pour les campagnes de publicité politique. Cela nous montre que nous ne pouvons pas laisser notre monde aux mains des programmateurs d'algorithmes, en quête perpétuelle d'efficacité, mais sans valeurs morales.

Il faut réinjecter des critères éthiques, par exemple encourager des comportements respectueux sur les réseaux sociaux, favoriser les gestes citoyens en matière d'environnement ou de solidarité, générer de la honte chez ceux qui abusent anonymement de réseaux pernicieux et diversifier l'information numérique en introduisant un peu d'aléatoire. Les Chinois y réfléchissent déjà, eux qui jugent du "bon comportement citoyen", avec des récompenses pour les individus estimés méritants.

La Suisse semble prendre du retard. Certes, de bonnes structures existent, la Commission d'experts pour l'avenir du traitement et de la sécurité des données étudie la question des algorithmes depuis 2014. Le programme national de recherche PNR 75 comporte plusieurs projets concernant l'éthique dans le "big data". Mais nous prenons du retard, notamment dans la révision de la loi sur la protection des données. Les données sont en effet le principal carburant des algorithmes, or, la Commission des institutions politiques de notre conseil veut reporter l'adoption du RGPD, le Règlement général sur la protection des données européen.

En clair, les Suisses ne seront de loin pas aussi bien protégés que les habitants de l'Union européenne. Pire, des entreprises douteuses risquent d'être attirées par notre protection des données bientôt désuète.

Il est difficile d'attaquer la question des algorithmes si nous n'arrivons pas à fixer un cadre moderne pour la protection des données personnelles. Que faire? Notre conseil doit se prononcer sur une modernisation rapide de la loi sur la protection des données. Il ne s'agit pas là d'allégeance à l'étranger, oh non, mais de protéger nos citoyens pour ne pas devenir une colonie numérique. Ethiciens et informaticiens doivent réfléchir à la réintroduction de concepts moraux dans la grille de filtrage de l'information que sont les algorithmes. Il faut promouvoir une meilleure transparence des algorithmes, cela pourrait se faire dans le cadre d'une gouvernance mondiale du numérique basée à Genève, tel que je le propose dans mon postulat 17.3789.

En conclusion, nous devons agir plus vite en matière de numérique, car, dans ce domaine, qui n'avance pas recule. Introduire certains filtres éthiques va devenir une nécessité dans notre société de plus en plus numérique, et il appartiendra au Conseil fédéral et au Parlement d'approuver de tels filtres.

Je vous remercie de votre soutien et de votre attention.