Klopfenstein Broggini Delphine · Nationalrat · 2024-09-09

Wortprotokoll

Après les explications bien détaillées données par mon collègue Glättli, je vais encore apporter un éclairage sur cette thématique d'actualité.

La numérisation, en particulier l'automatisation des processus et des procédures, a pour conséquence que les décisions humaines reposent de plus en plus souvent sur des systèmes qui sont algorithmiques, mais il convient de distinguer différents niveaux d'automatisation.

Premièrement, les systèmes entièrement automatisés exécutent eux-mêmes, c'est-à-dire sans l'intervention humaine, chaque étape jusqu'à la décision. Deuxièmement, les systèmes partiellement automatisés peuvent, quant à eux, fournir une aide décisionnelle ou aider à l'établissement des faits. Ainsi, un système peut, par exemple, chercher des informations, les rassembler, les évaluer, et les résultats ainsi obtenus peuvent, mais ne doivent pas obligatoirement être pris en compte par la personne physique qui prend cette décision. Il y a donc une intervention humaine, la décision définitive appartient à un humain; on n'est donc pas dans une situation automatique.

Il est théoriquement imaginable d'utiliser l'intelligence artificielle pour les systèmes automatisés et semi-automatisés. Toutefois, l'intelligence artificielle est bien plus souvent utilisée dans les procédures dites semi-automatisées, en particulier comme aide décisionnelle; on l'utilise pour nous aider à prendre des décisions, plus que dans les procédures où aucune intervention humaine n'est nécessitée. Or, pour la personne concernée, une décision semi-automatisée reposant sur l'intelligence artificielle peut justement avoir des conséquences aussi graves qu'une décision entièrement automatisée.

J'en viens à la proposition de cette initiative parlementaire. La version actuelle de la loi sur la protection des données prévoit une qualification spécifique et certains droits pour la personne concernée uniquement en cas de décision automatisée; elle ne fait pas référence aux décisions prises semi-automatiquement, ce qui n'est pas suffisant compte tenu des défis posés par l'intelligence artificielle. C'est pourquoi il est judicieux d'ajouter un article 21bis à la loi actuelle. Il ne s'agit donc pas d'une interdiction, vous l'avez bien compris; il s'agit de transparence. Tout comme la situation juridique actuelle permet de continuer à prendre des décisions entièrement automatisées, les décisions basées sur l'intelligence artificielle doivent également rester autorisées naturellement à l'avenir.

Alors, en résumé, et pour reprendre en partie les mots de mon collègue Glättli, les règles selon lesquelles une intelligence artificielle prend ses décisions ne peuvent être rendues transparentes en raison du système lui-même, car l'intelligence artificielle décide en principe selon des corrélations et non des causalités. C'est important de dire que l'intelligence artificielle ne décide pas toujours de la même manière - on le sait et on l'a déjà testé, vous l'avez certainement testé: pour un cas exactement identique, elle n'opère pas forcément de la même manière. Les personnes qui approuvent une proposition de l'intelligence artificielle sont soumises au biais de l'automatisation.

Pour toutes ces raisons et avec toutes ces explications, également soutenues par mon collègue Glättli tout à l'heure, je vous invite à adapter cet article 21bis de manière à ajouter une disposition sur les décisions automatisées qui se fondent sur l'intelligence artificielle. Je vous remercie d'avance de votre soutien.