Für mehr Neutralität der Algorithmen sorgen

Bendahan Samuel · Mit-M · Nationalrat · Waadt · Sozialdemokratische Fraktion

Si nos débats parlementaires avaient lieu sur Facebook, nous gagnerions tous les votes sur nos propositions avec des majorités écrasantes. Pourquoi? Parce que Facebook et beaucoup d'autres réseaux sociaux ne sont que le reflet de nous-mêmes. Ce que nous défendons, ce que nous pensons, ce que nous choisissons de consulter nous est remontré. C'est la fameuse bulle. Un algorithme décide de ce qu'il va me montrer et ne pas me montrer. Ce serait plus agréable, évidemment, d'avoir l'impression que tout le monde me donne toujours raison.

Les réseaux sociaux, les plateformes, ont le droit de fonctionner comme elles le souhaitent. Toutefois, le fonctionnent de ces algorithmes n'est pas anodin dans la formation de l'opinion. Ces algorithmes sont conçus d'une manière qui n'est pas forcément expliquée de façon transparente. Ainsi, ce que nous voyons lorsque nous consultons des sites, lorsque nous interagissons sur les réseaux sociaux, qui nous voyons, comment, quelles sont les descriptions que nous avons, quels sont les contenus qui nous sont montrés, tous ces éléments sont choisis par des algorithmes qui ne sont pas totalement neutres.

C'est de cette thématique de la neutralité des algorithmes dont il est question dans mon postulat. Lorsque je choisis par exemple d'aller voir une information, la manière dont elle est présentée, la première chose que je vois ou les choses que je vois le mieux ne sont pas anodines et sont généralement conçues pour moi. Il y a des façons de contrer cette problématique ou au moins d'y sensibiliser les gens. C'est toute la logique de la transparence dans la formation de l'opinion et donc dans la question du fonctionnement des algorithmes.

Une meilleure neutralité des algorithmes garantirait la libre formation de l'opinion. Si je défendais une opinion qui n'est pas partagée, je serais exposé à la fois à des gens d'accord avec moi et à des gens qui ne le sont pas. Je comprendrais mieux le monde dans lequel je vis. Si, en défendant une position radicale, différente, je ne vois en retour que des positions identiques à la mienne, cela peut me donner une image différente du monde, voire me diriger vers des sites plus discutables, pas forcément fiables.

La diversité des opinions accessibles est un critère important. C'est là qu'il importe d'analyser la situation. Aujourd'hui, on constate que très peu de moyens sont mis en oeuvre pour comprendre l'impact des algorithmes non neutres sur l'évolution de la démocratie et de la formation de l'opinion. C'est un postulat que je défends. Il ne s'agit pas de réguler directement les algorithmes, mais de conduire une réflexion sur cette question absolument fondamentale: quelle influence, nous, citoyennes et citoyens, souhaitons-nous exercer sur l'information qui nous est montrée et sur les algorithmes?

Ce n'est pas seulement une question d'algorithme de recherche comme celui de Google ou ceux des réseaux sociaux qui contiennent cette fonctionnalité. C'est aussi une question de sexisme et de discrimination. On s'est rendu compte que, de par les algorithmes, voire de par l'interaction des humains avec les algorithmes, il y a de nombreuses situations où, par exemple, l'égalité entre hommes et femmes est combattue par le fonctionnement des technologies. Ainsi peut-on voir apparaître des biais de genre sur des sites pourtant très bien, comme Wikipédia - qui est le résultat d'une création collective - et dans les résultats fournis en réponse à nos requêtes.

Ce que je demande dans mon postulat, que le Conseil fédéral propose d'ailleurs d'accepter, c'est simplement de lancer une réflexion afin d'aboutir à une transparence du fonctionnement des algorithmes. Il ne s'agit pas, à ce stade, de changer les choses, même s'il serait intéressant de pouvoir le faire, mais simplement d'étudier le phénomène, de comprendre la problématique de la neutralité des algorithmes, son impact sur la formation de l'opinion et sur les gens. Cela nous permettrait d'être mieux informés et de bien nous assurer que les citoyennes et les citoyens du pays puissent vivre dans un monde dans lequel ils savent à quelle sauce ils sont mangés lorsqu'ils sont sur les réseaux sociaux.

Aujourd'hui, ce travail d'étude et de recherche est important. Ce travail de réflexion par notre gouvernement est important. Je trouverais dommage qu'on n'aille pas dans cette direction, en étudiant cette problématique fondamentale, soit le fait que, malheureusement, les algorithmes sont complexes et ont un impact direct sur notre quotidien. Si quelque chose a un impact direct sur le quotidien des gens, c'est le devoir du politique de l'étudier, de le comprendre et, pourquoi pas, de réfléchir en vue d'agir.

Candinas Martin · 1VP-M · Nationalrat · Graubünden · Die Mitte-Fraktion. Die Mitte. EVP.

President (Candinas Martin, emprim vicepresident): (discurra sursilvan) Il postulat vegn cumbattì da signur Grüter e signur Nantermod.

Grüter Franz · Mit-M · Nationalrat · Luzern · Fraktion der Schweizerischen Volkspartei

Sie haben es von Samuel Bendahan gehört: Er möchte den Bundesrat auffordern, einen Massnahmenplan vorzulegen. Darin soll er klar und transparent darlegen, wie er sicherstellen will, dass die Neutralität von Algorithmen, insbesondere von Suchmaschinen, eingehalten wird. Er soll darlegen, wie man unangemessene Algorithmen kontrollieren kann, wenn es solche gibt. Der Bundesrat soll ferner darlegen, wie man sicherstellen kann, dass die freie Meinungsbildung nicht durch schädliche Algorithmen verändert werden kann.

Natürlich ist es so, dass Algorithmen einen Einfluss ausüben. Lieber Herr Kollege Bendahan, ich meine aber, dass wir hier den Realitäten ins Auge schauen müssen. Zunächst einmal stehen hinter den Algorithmen fast ausnahmslos global tätige Unternehmungen. Ich weiss von diesen Unternehmungen, dass sie, vor allem die grossen Suchmaschinenanbieter, ihre Algorithmen bis zu hundertmal pro Tag ändern. Selbstverständlich ist es so, dass dort auch kontrolliert wird. Sie haben gehört, dass Twitter jetzt von Elon Musk übernommen wurde. Eines seiner Motive war, dass er dort eine Änderung bewirken will.

Ganz ehrlich gesagt, ich glaube, dass es einfach unrealistisch und illusorisch ist, wenn Sie der Meinung sind, dass wir hier in der Schweiz eine bundesrätliche Gesinnungsoberaufsicht einführen können, die die globalen Tech-Konzerne bei der Gestaltung der Algorithmen beeinflussen könnte. Ich glaube auch nicht, dass das, was Sie verhindern möchten, vollständig verhindert werden könnte. Da habe ich wahrscheinlich sogar noch die gleiche Ansicht wie Sie. Sie möchten verhindern, dass es zu Desinformationen kommt. Ich glaube, selbst wenn wir das steuern und kontrollieren könnten, wäre das Auftreten einer Desinformation nie vollständig ausgeschlossen. Deshalb glaube ich, dass Ihr Vorschlag zwar gut gemeint ist, aber am Ziel vorbeischiesst. Eine Regelung im Sinne des Postulates würde zu einer unnötigen Bürokratie führen. Wir werden die Algorithmen von der Schweiz aus wahrscheinlich nie so beeinflussen können, wie Sie, Herr Bendahan, das möchten.

Ich bitte Sie deshalb, dieses Postulat abzulehnen.

Sommaruga Simonetta · BR-F · Bundesrat · Bern

Wenn Sie letzte Woche gelesen haben, wie sich die Friedensnobelpreisträgerin Maria Ressa, die seit Jahren über Algorithmen und über die Wirkungsweise von Algorithmen forscht, darüber geäussert hat, dann, glaube ich, sehen Sie nicht nur die Bedeutung dieses Postulates, sondern vor allem auch, wie dringend die Frage angeschaut werden muss, wie Algorithmen funktionieren und steuern.

Wir sind hier nicht alleine, Herr Nationalrat Grüter. Sie haben gesehen, in welche Richtung die EU jetzt mit dem Digital Services Act gehen will - die Offenlegung von Algorithmen ist einer der zentralen Punkte.

Wenn Sie im Netz sind, entscheiden Algorithmen, was Sie lesen und was Sie sehen; sie entscheiden auch, was Sie nicht lesen und was Sie nicht sehen. Sie haben keine Möglichkeit, herauszufinden, wer mit welchen Steuerungsmechanismen entschieden hat, ob Sie etwas lesen oder ob Sie etwas nicht zu sehen bekommen. Hier versucht man - man versucht es, ich glaube auch nicht, dass es zu hundert Prozent möglich ist -, gemeinsam mit denjenigen, die auch an dieser Arbeit sind, Möglichkeiten dafür zu finden, und zwar durch Transparenz. Deshalb verlangt die EU im Digital Services Act eine Offenlegung der Algorithmen. Es geht nicht um ein Verbot von Algorithmen, das geht gar nicht. Aber es geht um die Offenlegung der Algorithmen, um zu verstehen, wer entscheidet, was Sie zu lesen bekommen und was nicht.

Das müsste Sie alle sehr beschäftigen, weil Sie ja selber entscheiden wollen, was Sie lesen und wie Sie sich informieren. Das darf nicht ein Algorithmus machen, ein Auswahlinstrument, von dem Sie nicht einmal wissen, wie die Auswahl programmiert ist. Es geht hier also um Transparenz. Das ist auch das, was der Postulant will. Er will wissen, wie man hier Transparenz schaffen kann, weil es letztlich um die Rechte der Nutzerinnen und Nutzer geht.

Wenn Sie eine Zeitung öffnen, lesen Sie alle genau das Gleiche. Aber wenn Sie Ihr Handy öffnen und auf eine Plattform gehen, lesen Sie nicht alle das Gleiche. Dann hat jemand anders für Sie entschieden, was Sie lesen und was Sie eben nicht lesen. Ich habe es heute schon beim Postulat Gysin Greta gesagt: Um die Rechte der Nutzerinnen und Nutzer zu stärken, hat der Bundesrat im letzten November einen Bericht zur Kenntnis genommen, in dem es um Intermediäre und Kommunikationsplattformen geht. Wir haben den Auftrag, bis Ende dieses Jahres ein Aussprachepapier vorzubereiten, um zu sehen, wo hier allenfalls Möglichkeiten bestehen. Mit der Verabschiedung respektive der Vorbereitung des Digital Services Act im europäischen Raum haben wir eine gute Vorgabe. Wir haben die Möglichkeit, zu schauen, was in diesem Raum geregelt wird, wie man vorgeht, um allenfalls eine gemeinsame oder übereinstimmende Regelung vorzusehen. Das gibt uns dann schon etwas mehr Kraft, wie Nationalrat Grüter richtig gesagt hat, als wenn wir das alleine tun.

Ich bitte Sie, dieses Postulat zu unterstützen, auch im Sinne der Stärkung der Rechte der Nutzerinnen und Nutzer und der Transparenz für die Demokratie.

Abstimmung

Präsidentin (Kälin Irène, Präsidentin): Der Bundesrat beantragt die Annahme des Postulates.

Abstimmung - Vote

Für Annahme des Postulates ... 83 Stimmen

Dagegen ... 102 Stimmen

(0 Enthaltungen)