Kantonale KI-Governance

Zürich, Adliswil, Meilen und Winterthur 29. September 2025 KR-Nr. 325/2025

POST UL AT Nicola Yuste (SP, Zürich), Gabriel Mäder (GLP, Adliswil), Benjamin Krähenmann (Grüne, Zürich), Marzena Kopp (Die Mitte, Meilen), Michael Bänninger (EVP, Winterthur) und Manuel Sahli (AL, Winterthur)

Betreffend Kantonale KI-Governance

Der Regierungsrat wird beauftragt, eine Governance für den Einsatz komplexer algorithmischer Entscheidsysteme («KI-Systeme») für den Kanton Zürich zu erarbeiten und dem Kantonsrat vorzulegen. Diese soll insbesondere folgende Elemente enthalten:

1 Leitlinien: Festlegung ethischer, grundrechtlicher, demokratiepolitischer und technischer

Standards für den Einsatz von KI, u.a. zur Sicherstellung der Nichtdiskriminierung, Transparenz und Dokumentation.

2 Verantwortlichkeiten und Zuständigkeiten: Aufbau klarer Strukturen für die Umsetzung

von KI-Projekten. 3. Risikomanagement: Verfahren zur systematischen Erkennung, Bewertung und Minimierung von (Grundrechts-) Risiken und Klärung allfällig nötiger Genehmigungen. 4. Aufsicht: Demokratische Kontrolle, allenfalls durch eine Aufsichtskommission, und Information der Öffentlichkeit sicherstellen. 5. Strategie: Definition kantonaler Ziele im Bereich KI. Die Strategie soll insbesondere Handlungsfelder und Anwendungsfälle, Massnahmen zur Erreichung der Ziele, und einen Zeitplan beinhalten. Ebenfalls stellt die Einrichtung eines Kompetenzzentrums für Wissenstransfer, Beratung und Zusammenarbeit mit Forschung, Wirtschaft, Zivilgesellschaft und anderen öffentlichen Verwaltungen ein wichtiges Element der Strategie dar.

Begründung:

Künstliche Intelligenz (KI) entwickelt sich rasant zu einer Schlüsseltechnologie der digitalen Transformation und bietet grosse Chancen, Verwaltungsprozesse effizienter, bürgernäher und zukunftsfähiger zu gestalten. Um dieses Potenzial zu nutzen und sicherzustellen, dass algorithmische Systeme von der Verwaltung verantwortungsvoll und für das Gemeinwohl eingesetzt werden, braucht es im Kanton Zürich einen klaren Governance-Rahmen für den Einsatz von KI, der Regeln, Verantwortlichkeiten und Strukturen definiert und transparent macht. Als zentrales Element dieser Governance soll eine kantonale KI-Strategie die Ziele und nötigen Massnahmen definieren. Governance und Strategie sollen dazu dienen, die Grundrechte zu schützen und die Handlungsfähigkeit des Staates im Sinne einer nachhaltigen digitalen Verwaltung zu gewährleisten. Die Erarbeitung einer solchen Governance, im Idealfall unter Beibezug von Fachexpertinnen und -experten, schafft die nötige Grundlage, um das Vertrauen der Bevölkerung zu stärken und bringt Klarheit für interne und externe Partnerinnen und Partner der Verwaltung. So kann der Kanton Zürich nicht nur die Chancen der KI nutzen, sondern auch Risiken gezielt minimieren und seine Vorreiterrolle in der digitalen Verwaltung festigen.

Nicola Yuste Gabriel Mäder Benjamin Krähenmann Marzena Kopp Michael Bänninger Manuel Sahli