Algorithmische Rechenschaftspflicht
Algorithmische Rechenschaftspflicht verlangt Begründung, Kontrolle und Überwachung automatisierter Entscheidungen, mit Fokus auf Bias, Transparenz, Datenschutz und Rechtsbehelfe.
Algorithmische Rechenschaftspflicht betrifft rechtliche und organisatorische Pflichten rund um KI und automatisierte Entscheidungssysteme. Erforderlich sind Klarheit über Zweck, Datenquellen, Modellleistung, menschliche Aufsicht, Diskriminierungsrisiken, Erklärbarkeit, Sicherheit und Möglichkeiten zur Anfechtung schädlicher Ergebnisse. In der Schweiz können je nach Einsatz Datenschutz-, Arbeits-, Konsumenten-, Finanz-, Gesundheits- und öffentliches Recht relevant sein. Europäische Entwicklungen prägen die Erwartungen an Risikoanalysen und Dokumentation. Organisationen sollten Designentscheidungen, Tests, Monitoring, Vorfallmanagement und Verantwortlichkeiten zwischen Anbietern und Anwendern festhalten.