Weltweite KI-Regulierungen: Unklar, wohin die Reise geht

Der Wettlauf um KI sei «ausser Kontrolle geraten», warnten im März 2023 rund 1000 Unternehmer, Wissenschaftler und andere KI-Grössen in einem offenen Brief – ganz vorne dabei Elon Musk und Apple-Mitgründer Steve Wozniak. Sie forderten eine sechsmonatige Pause für KI-Systeme, welche «mächtiger» seien als Chat-GPT4.

Böse Zungen behaupteten damals, dass es dabei nicht allen Unterzeichnenden um einen KI-Marschhalt gehe. Vielmehr wollten sie das Thema KI zuoberst auf die politische Agenda bringen, um noch mehr Investitionen anzulocken und sich selber als Experten zu positionieren, welche die «grösste Gefahr für die Menschheit» erfolgreich abwendeten.

Erste Gefahrenanalysen

Das gewaltige Potenzial von KI-Systemen wurde vielen Bürgerinnen und Politikern erst mit Chat-GPT bewusst. Doch Experten weltweit befassen sich schon seit Jahren mit Chancen und Risiken von KI-Systemen: Tech-Grosskonzerne wie Google[1] auferlegten sich selber Prinzipien für die KI-Nutzung, und internationale Organisationen begannen, Chancen und Gefahren von KI zu analysieren. So entwickelten Europarat[2] und OECD[3] bereits ab 2018 Empfehlungen, die sicherstellen sollen, dass KI-Systeme stabil, sicher, fair und vertrauenswürdig arbeiten.

Auch in vielen Ländern begann man mit der Erarbeitung nationaler KI-Strategien und von Expertenberichten. In der Schweiz wurde im Herbst 2018 eine interdepartementale Arbeitsgruppe damit beauftragt.

KI-Risiken im Vordergrund

Während auf allen Ebenen betont wurde, dass eine allfällige KI-Regulierung auch Innovation fördern solle, verlagerte sich ab 2020 der Fokus klar auf eine Bewältigung der KI-Risiken. Prägend hierfür waren das von der EU zwischen 2021 und 2024 ausgearbeitete KI-Gesetz (AI Act) und der darin formulierte «risikobasierte Ansatz» mit einem Mix aus schwächeren und strengeren Auflagen und Massnahmen. Dieser Ansatz sollte die Risiken eindämmen und zu riskante Anwendungen gar nicht erst zulassen.

Mit der «Empfehlung zur Ethik der Künstlichen Intelligenz»[4] gelang auch der UNO-Organisation für Erziehung, Wissenschaft und Kultur (Unesco) ein globaler Erfolg. Ende 2021 verständigten sich alle 193 Mitgliedsstaaten für viele überraschend einstimmig darauf, dass im Umgang mit KI die Grundrechte nicht nur geschützt, sondern sogar gefördert werden. Zudem solle KI nicht eingesetzt werden für Massenüberwachung oder Social-Scoring-Systeme, mit denen das Verhalten von Bürgern und Bürgerinnen überwacht und bewertet wird. Im Jahr 2023 erarbeitete auch die G7 ein Regelwerk mit Leitlinien und einem freiwilligem Verhaltenskodex für sichere und vertrauenswürdige KI.[5]

Schweiz ratifiziert Europaratskonvention

Für die Schweiz relevant ist aber vor allem die KI-Konvention des Europarats[6], bei dem auch die Schweiz Mitglied ist. Sie soll die Anwendung der bestehenden Schutzniveaus für Menschenrechte, Demokratie und Rechtsstaat auch bezüglich KI sicherstellen und gleichzeitig die Innovation fördern. Im März 2024 einigten sich alle 56 teilnehmenden Länder, darunter alle G7-Staaten[7], einstimmig auf einen Konventionstext[8]. Sie verpflichten sich damit, eine Reihe von Prinzipien zum Schutz von Menschenrechten, Demokratie und Rechtsstaat bei der Nutzung von KI durch die öffentliche Hand durchzusetzen sowie Massnahmen zu ergreifen, um KI-Risiken durch private Akteure entsprechend den Zielen der Konvention zu kontrollieren. Mit welchen Massnahmen die Vertragsparteien diese Ziele erreichen wollen, steht ihnen frei. Sie sind jedoch verpflichtet, periodisch darüber Rechenschaft abzulegen. Zudem müssen sie Mechanismen einführen, um Risiken von KI zu identifizieren und angemessene Massnahmen ergreifen, um negative Folgen von KI zu vermeiden oder zu mindern. Der Bundesrat will die KI-Konvention ratifizieren und bis Ende 2026 eine Vernehmlassungsvorlage erstellen.

In den letzten Jahren bildete sich ein vielerorts demonstrierter globaler Konsens: Man möchte die Chancen von KI nutzen, müsse aber gleichzeitig die damit verbundenen Risiken ernst nehmen und diese mit wirkungsvollen Massnahmen begrenzen. Gleichzeitig wurde klar, dass jedes Land diese Ziele unterschiedlich verfolgt: Während die EU mit dem AI Act ein umfassendes horizontales – sprich: sektorübergreifendes – Gesetz verabschiedete, entschied sich die US-Regierung unter Präsident Joe Biden, die Tech-Industrie mit «Voluntary Commitments» in die Verantwortung zu nehmen. Auch die Schweiz hat sich mit dem Entscheid des Bundesrats für einen möglichst sektoriellen Ansatz mit teilweise freiwilligen Branchenlösungen entschieden.

Von der Risikovermeidung zum Investitionswettlauf

Die ersten Wochen des Jahres 2025 haben die globale Debatte rasch verändert. Der Grund ist insbesondere eine Kursänderung der US-Regierung, die sich zunehmend in einem Wettrennen mit China um die globale Führungsrolle im Digitalbereich sieht. Dieser Anspruch hat sich zusätzlich verstärkt nach der Präsentation des chinesischen Chatbots Deepseek, welche die Leistungsfähigkeit Chinas im KI-Bereich aufmerksamkeitswirksam unterstrich. Als eine der letzten Amtshandlungen kündigte die Biden-Administration an, den Export von KI-Chips an alle Länder zu begrenzen, welche nicht ausreichend belegen könnten, dass diese nicht am Ende von oder für China, Russland und einige andere feindliche Staaten verwendet würden.

In den ersten Tagen seiner Präsidentschaft kündigte Donald Trump an, dass führende KI-Firmen in den USA im Rahmen des Projekts «Stargate» mehrere Hundert Milliarden Dollar in die Entwicklung von KI-Systemen investieren würden. Gleichzeitig widerrief er Bidens Dekret von 2023 zur Eindämmung der Risiken von KI mit der Begründung, man wolle die Hürden für die weitere Führungsrolle der USA im Bereich KI entfernen.[9] Und in seiner Rede am «AI Action Summit» von Paris machte US-Vizepräsident J. D. Vance klar, dass die USA alles daransetzen würden, Weltführer in diesem Bereich zu bleiben.[10]

Im Nachgang zu diesen Verlautbarungen der US-Regierung war in Paris und auch in den Medien kaum mehr die Rede davon, wie man die Risiken von KI in den Griff kriegt. Vielmehr überboten sich die Staatsoberhäupter mit enormen Investitionsversprechen, um ihr Land zu einer führenden KI-Nation zu machen. Die EU hielt zwar an den Zielen ihrer KI-Regulierung fest, betonte jedoch, dass man daran arbeiten werde, diese möglichst unbürokratisch und wirtschaftsfreundlich auszugestalten.

Inwieweit der neue Kurs der USA die globalen Regulierungsbestrebungen verändern wird, wird sich zeigen. Die US-Regierung hat eine detailliertere KI-Strategie für Sommer 2025 angekündigt. Es ist aber davon auszugehen, dass der Investitionswettlauf zunehmen wird – ebenso wie die Bereitschaft der Länder, bei der Entwicklung und der Nutzung von KI mehr Risiken auf sich zu nehmen.

Was genau gewisse Unterzeichnende der Forderung nach einem Entwicklungsstopp von mächtigen KI-Systemen vor zwei Jahren wirklich bezweckt haben, wird deren Geheimnis bleiben. Klar ist auf jeden Fall, dass KI nun definitiv zuoberst auf der politischen Agenda angekommen ist und wohl Gelder und Investitionen in noch nie da gewesenem Ausmass in die Entwicklung und die Nutzung von KI fliessen.

1. Siehe Pichai (2018). []
2. Siehe Europarat (2019) sowie Europarat: Committee of Ministers: Selection and Most Recent Adopted Texts. []
3. Siehe OECD: AI Principles. []
4. Unesco (2021). []
5. Siehe «Hiroshima-Prozess». []
6. Siehe dazu auch den Artikel von Susanne Kuster und Jonas Zaugg (Bundesamt für Justiz). []
7. Nebst den 46 Ratsmitgliedsstaaten nahmen an den Verhandlungen teil: Argentinien, Australien, Kanada, Costa Rica, Vatikan, Israel, Japan, Mexiko, Peru, Uruguay und die USA. []
8. Siehe Europarat: The Framework Convention on Artificial Intelligence. []
9. Siehe The White House (2025). []
10. Siehe Reuters (2025). []