Wortlaut

Angesichts des internationalen Kontextes in diesem Bereich wird der Bundesrat beauftragt, die Einrichtung eines Bundeszentrums zu prüfen, das der Kontrolle von Systemen mit künstlicher Intelligenz dient, insbesondere von solchen für den allgemeinen Gebrauch.

Begründung

Im Dezember 2023 erzielten das Europäische Parlament und der Rat der Europäischen Union eine Einigung über neue Vorschriften zur künstlichen Intelligenz (Artificial Intelligence Act). Der Text wird gerade formell angenommen und übersetzt; er sieht vor, dass jeder Mitgliedstaat eine zuständige Behörde bestimmen muss, die für die Umsetzung der neuen Regeln sorgt und die vorgesehenen Marktüberwachungstätigkeiten ausführt. Systeme mit künstlicher Intelligenz werden nach dem Grad des Risikos eingestuft, das sie darstellen (minimales Risiko, begrenztes Risiko mit spezifischen Transparenzverpflichtungen, hohes Risiko, unannehmbares Risiko). Bereits innerhalb der nächsten sechs Monate müssen die Mitgliedstaaten die nach den neuen Vorschriften unzulässigen KI-Systeme schrittweise ausser Betrieb nehmen.

Der Europarat sollte seinerseits am Donnerstag, den 14. März 2024 das «Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit» annehmen. Laut Artikel 26 des Rahmenübereinkommens müsse jeder Mitgliedstaat einen wirksamen Mechanismus beziehungsweise mehrere wirksame Mechanismen einrichten oder bestimmen, um die Einhaltung der Verpflichtungen aus dem Rahmenübereinkommen zu überwachen.

In diesem internationalen Kontext ist es wichtig, dass die Schweiz nicht zurückfällt. Dabei geht es sowohl um die wirtschaftliche Wettbewerbsfähigkeit der Schweiz als auch um Rechtssicherheit und den Schutz der Menschenrechte. Selbst ChatGPT, das ein generatives Modell nutzt und sehr beliebt ist, hat kürzlich mehrere Stunden lang total versagt und nur unsinnige Sätze produziert. Schlimmer noch, es hat sich mittlerweile herausgestellt, dass ein solches Modell ohne Weiteres schädlichen Code produzieren kann, den selbst Cyberkriminelle mit nur geringen IT-Kenntnissen problemlos einsetzen können, um elektronische Plattformen anzugreifen.

Das Bundeszentrum, das in diesem Postulat vorgeschlagen wird, kann verschiedene Formen annehmen (Einheit der zentralen Bundesverwaltung, autonome öffentlich-rechtliche Anstalt usw.). Ebenso wäre es denkbar, dass eine bereits bestehende Einrichtung zu diesem Bundeszentrum wird, wie zum Beispiel das Bundesamt für Cybersicherheit.

Antrag des Bundesrates

Ablehnung

Stellungnahme des Bundesrates

Der Bundesrat ist sich bewusst, dass der zunehmende Einsatz algorithmischer Systeme nebst zahlreichen Chancen auch gewisse Unsicherheiten mit sich bringt. Daraus wird ein Bedürfnis nach verstärkter Kontrolle formuliert. Der Bundesrat verfolgt die internationalen regulatorischen Entwicklungen in der EU und im Europarat im Bereich der Künstlichen Intelligenz (KI) daher aufmerksam. Der Bundesrat hat am 22. November 2023 beim UVEK (BAKOM) und beim EDA (Abteilung Europa) eine Auslegeordnung möglicher Regulierungsansätze für den Einsatz von KI in Auftrag gegeben. Die Analyse, die bis Ende 2024 vorliegen soll, wird mögliche Regulierungsansätze für die Schweiz aufzeigen, die auch die Entwicklungen auf europäischer Ebene berücksichtigt, namentlich die KI-Verordnung der EU («AI Act») und die KI-Konvention des Europarats. In diesem Zusammenhang wird auch die im Postulat aufgeworfene Frage angesprochen. So wird beispielsweise Artikel 26 der KI-Konvention des Europarats, welcher wirksame Aufsichtsmechanismen für die Einhaltung der Verpflichtungen aus der Konvention fordert, analysiert und geprüft. Gestützt auf diese Auslegeordnung wird der Bundesrat entscheiden, ob Handlungsbedarf insbesondere auch mit Blick auf die institutionellen Strukturen im Bereich KI in der Schweiz besteht.

Der Bundesrat beantragt die Ablehnung des Postulates.