Wortlaut

Die Entwicklung von künstlicher Intelligenz (KI) schreitet rasant voran. Immer mehr Modelle zeigen generalisierte Fähigkeiten, das heisst, sie lösen Aufgaben, für die sie nicht speziell trainiert wurden. Diese sogenannten "General Purpose Artificial Intelligence Systems" (GPAIS) haben bereits in diesem Jahr Fortschritte in Bereichen wie der Generierung nützlichen Computer-Codes und dem Lösen von Matura-Level Mathematikaufgaben erzielt, obwohl dies von Experten erst in den nächsten zehn Jahren erwartet wurden. Immer bessere Fähigkeiten demonstrieren dabei grosse Sprachmodelle (Large Language Models) wie chatGPT von OpenAI, das im Dezember unter grossem Interesse veröffentlicht wurde. chatGPT ist ein gutes Beispiel für ein GPAIS, da es trainiert wurde, eine Textaufforderung durch Vorhersage des nächsten Wortes zu vervollständigen. Es kann jedoch auch Mathematikaufgaben lösen, Computer-Code erstellen und kreative Gedichte schreiben. Mit solchen Systemen entfaltet sich ein grosses Feld von Chancen und Risiken, welche es gilt im Auge zu behalten. Es stellen sich daher folgende Fragestellungen:

1. In welchen Bereichen erwartet der Bundesrat namhafte Auswirkung von GPAIS auf Staat und Gesellschaft, positive wie auch negative? Wie gedenkt er darauf zu reagiern, respektive sie einzusetzen?

2. Wie schätzt der Bundesrat die Auswirkungen auf das Schweizer Bildungssystem ein? Insbesondere auf Diplome und geregelte Berife (siehe https://www.becc.admin.ch/becc/public/bvz/), die Integrität der Schweizer Bildung und die Handhabung von erlaubten und nicht erlaubte Hilfsmittel.

3. Mit Bezug auf das Engagement der Schweiz auf Ebene Europarat bezüglich eines angemessenen Rechtsrahmen für KI: Wie schätzt der Bundesrat die Auswirkungen von GPAIS ein und ist er bereit einen speziellen Fokus auf diese zu setzen? Insbesondere, da sich diese multifunktional einsetzen lassen und entsprechend Auswirkungen schwer abzuschätzen sind.

Stellungnahme des Bundesrates

1. "General purpose artificial intelligence systems" (GPAIS) sind auf künstlicher Intelligenz (KI) beruhende Systeme mit einem breiten Spektrum an Einsatzmöglichkeiten, die von den Entwicklerinnen und Entwicklern sowohl beabsichtigt als auch unbeabsichtigt sein können. GPAIS können daher potenziell eine weitreichende Wirkung auf unsere Gesellschaft haben. Der Anwendungskontext eines GPAIS als Basistechnologie ist entscheidend für die Bewertung seiner Risiken.

So tangieren GPAIS unter anderem die Bereiche Journalismus oder Programmierung, kreative Prozesse oder auch Forschungs- und Entwicklungsaktivitäten. Es liegt an den Akteurinnen und Akteuren der entsprechenden Gebiete zu bestimmen, wie sie diese GPAIS in ihrem Alltag einsetzen wollen. Ihre Entscheidung könnte verschiedene Auswirkungen haben, insbesondere auf die Rechte am geistigen Eigentum. GPAIS bringen viele Herausforderungen mit sich. Den leistungsfähigsten GPAIS mangelt es an Transparenz und ihr Quellcode ist meistens nicht öffentlich zugänglich. Insbesondere hinsichtlich der Einhaltung des Datenschutzgesetzes ist es problematisch, dass es nicht möglich ist, die genaue Art und Herkunft der Daten zu untersuchen, die für das Training dieser GPAIS erforderlich sind. Wegen ihrer extremen Komplexität sind diese Modelle zudem sehr schwer zu erklären.

Der Bund wird die Entwicklungen, Chancen und Risiken im Bereich der KI und GPAIS weiterhin beobachten und analysieren und mit allen interessierten Akteurinnen und Akteuren diskutieren, insbesondere im Rahmen der Plateforme Tripartite und des Kompetenznetzwerks für künstliche Intelligenz.

2. Wie bei der Entstehung anderer Arten von digitalen oder analogen Werkzeugen sind auch bei KI-basierten Textgeneratoren Auswirkungen auf den Schulunterricht absehbar. Es ist Aufgabe der Kantone und der jeweiligen Institutionen, die für den Unterricht auf allen Stufen zuständig sind, sich damit auseinanderzusetzen. Der Einsatz von KI-gestützten Anwendungen bietet auch ein erhebliches Potenzial zur Unterstützung von Lernprozessen. Da die Entwicklung dieser digitalen Tools kaum zu verhindern ist, kann davon ausgegangen werden, dass die Fähigkeit, sie sinnvoll zu nutzen, für eine selbstbestimmte Teilhabe an der Gesellschaft und der Arbeitswelt entscheidend sein wird. Es ist daher von grundlegender Bedeutung, dass sowohl die Lehrkräfte als auch die Jugendlichen über die notwendigen Kompetenzen verfügen, um mit einem Sprachmodell wie ChatGPT interagieren und seine Antworten kritisch beurteilen zu können. So ist die Entwicklung von digitalen Kompetenzen bereits in den Lehrplänen aller Stufen des Bildungssystems enthalten. Bei Berufsrevisionen in der beruflichen Grundbildung sowie in der höheren Berufsbildung werden die Anforderungen der KI konsequent berücksichtigt. Bei der Hochschulbildung liegt die Verantwortung für die Inhalte der Lehrpläne und deren Anpassung bei den Hochschulen, die in diesem Bereich autonom sind.

3. Der Ausschuss für künstliche Intelligenz (Committee on Artificial Intelligence, CAI) des Europarats schlägt in seinem Entwurf für ein Übereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit eine Methode zur Risikoanalyse vor. Diese sieht vor, den spezifischen Nutzungskontext eines KI-Systems zu berücksichtigen. Die Betreiberin oder der Betreiber eines KI-Systems wäre demnach dafür verantwortlich, die Risiken zu identifizieren und zu verringern, die bei einem konkreten Einsatz des Systems für die Wahrung der Menschenrechte und das reibungslose Funktionieren der Demokratie entstehen können. Diese Methode würde für alle KI-Systeme gelten, auch für GPAIS. Im Auftrag des Bundesrats setzt sich die Schweizer Delegation im CAI bereits dafür ein, dass den Risiken, die von GPAIS ausgehen, im Rahmen des künftigen Übereinkommens angemessen Rechnung getragen wird.

Antwort des Bundesrates.