Wortlaut

Derzeit ist ein Vorentwurf zur Regulierung der künstlichen Intelligenz (KI) in Ausarbeitung. Der Bundesrat wird beauftragt, in Weiterführung und Ergänzung dieses Projekts einen Bericht über die Risiken vorzulegen, die Deepfakes und andere KI-generierte synthetische Inhalte für Privatpersonen, Unternehmen, Behörden und das Funktionieren demokratischer Institutionen bergen. Der Bericht soll zudem Massnahmen aufzeigen, mit denen die Widerstandsfähigkeit der Gesellschaft gegenüber solchen Phänomenen gestärkt werden kann.

Der Bericht soll insbesondere auf die folgenden Punkte eingehen:

- heutige und voraussichtliche zukünftige Grössenordnung des Phänomens in der Schweiz;

- Risiken betreffend Betrug, Identitätsmissbrauch, Persönlichkeitsverletzungen, Cyberkriminalität und Manipulation von Informationen;

- mögliche Auswirkungen auf das Vertrauen der Menschen in Informationen, in die Medien und in die demokratischen Institutionen;

- Präventions- und Sensibilisierungsmassnahmen, mit denen die Kompetenz der Bevölkerung zur Erkennung von manipulierten Inhalten gefördert werden soll;

- Möglichkeiten, Module zu den Themen KI, synthetische Inhalte, Überprüfung von Informationen und kritisches Denken in den Schulunterricht und in die Programme zur digitalen Bildung einzubauen.

Begründung

Generative KI-Tools breiten sich rasant aus, wodurch sich das digitale Umfeld grundlegend verändert. Für wenig Geld lassen sich nun gefälschte, aber äusserst echt wirkende Inhalte erstellen und grossflächig verbreiten.

Diese Entwicklung bringt für Bürgerinnen und Bürger, Unternehmen und Behörden neue Risiken mit sich. Deepfakes können dazu genutzt werden, Betrugsdelikte zu begehen, den Ruf einer Person zu schädigen, Sicherheitsmechanismen zu umgehen oder die öffentliche Meinung zu manipulieren.

Gegenwärtig arbeitet der Bundesrat für KI rechtliche Rahmenbedingungen aus. Doch die rasante Verbreitung synthetischer Inhalte bringt auch Herausforderungen in Bezug auf Prävention, Sensibilisierung und Bildung mit sich, die besondere Aufmerksamkeit verlangen.

Im Hinblick auf das Vertrauen in Informationen und die Funktionsfähigkeit der demokratischen Institutionen wird der Kompetenz, authentische Informationen von künstlich generierten Inhalten zu unterscheiden, mittelfristig eine entscheidende Rolle zukommen. Daher scheint es sinnvoll, Massnahmen zu prüfen, mit denen die Widerstandsfähigkeit der Bevölkerung gegenüber dieser technologischen Entwicklung gestärkt werden kann. Die vom Bundesrat bereits in Angriff genommenen Arbeiten sollen entsprechend erweitert werden.