Künstliche Intelligenz: Wie geht der Bund damit um?

Künstliche Intelligenz (KI) kann heute Objekte und Gesichter in Bildern erkennen, Nachrichtenartikel schreiben, selbstständig Fahrzeuge lenken, Schach und Go spielen oder Texte übersetzen. Diese Erfolgsmeldungen erwecken den Eindruck, dass KI der menschlichen Intelligenz nahe ist oder diese bereits zu überholen droht. Doch ist das auch so?

Die Analogie von menschlicher und künstlicher Intelligenz sorgt oft für Missverständnisse und weckt falsche Erwartungen: KI basiert heute im Wesentlichen auf hochgradig spezialisierten statistischen Systemen, die auf eine bestimmte Aufgabe hin entwickelt und optimiert worden sind. Um solche Systeme zu entwickeln, die in komplexen Problemstellungen gut abschneiden, wird nach wie vor ein erheblicher menschlicher Input benötigt.

KI ist deshalb heute bei Weitem nicht mit der menschlichen Intelligenz vergleichbar. KI-Systeme scheitern daher auch – trotz beeindruckender Anwendungen – nach wie vor oft an einfachsten Aufgaben, die mit menschlicher Intuition leicht zu bewältigen wären.

Dennoch weisen KI-Systeme Fähigkeiten auf, mit denen gänzlich neue Anwendungen möglich geworden sind. KI-Systeme können zum Beispiel Daten in Komplexität und Menge in einer Form auswerten, die auf andere Weise maschinell nicht möglich wäre. Zudem können sie gewisse Aspekte menschlicher Kognition wie Sprach- und Bilderkennung nachbilden.[1] Dies befähigt sie bis zu einem bestimmten Grad, Entscheidungen zu treffen und autonom zu agieren. So können Tätigkeiten automatisiert werden, die bisher dem Menschen vorbehalten waren.

Obwohl die mathematischen Grundlagen künstlicher Intelligenz bereits vor Jahrzehnten entwickelt wurden, haben erst die Verfügbarkeit von enormen Datenmengen und die rasante Entwicklung der Rechenkraft die marktfähige Nutzung von Daten mit KI-Methoden ermöglicht. Die Nutzung von KI ist damit – oft unbewusst – längst im Alltag angekommen. KI ist etwa bei Milliarden von Smartphone-Benutzern täglich in Gebrauch: Funktionen wie die Übersetzung und die Bilderkennung basieren auf Algorithmen, die unter anderem in der Schweiz entwickelt wurden.

Welche Herausforderungen und Chancen ergeben sich durch KI für die Schweiz? Ein Bericht der «Interdepartementalen Arbeitsgruppe künstliche Intelligenz» zuhanden des Bundesrates streicht zwei wesentliche Herausforderungen hervor: Der Bund muss einerseits sicherstellen, dass die erforderlichen Kompetenzen für den Umgang mit neuen Technologien vorhanden sind. Zum anderen muss geklärt werden, welche rechtlichen und gesellschaftlichen Auswirkungen die Anwendung dieser Technologien mit sich bringt.[2]

Kompetenzen stärken

Künstliche Intelligenz bietet eine Vielzahl an Anwendungsmöglichkeiten für Industrie und Dienstleistungen. Für den Erhalt der Wettbewerbsfähigkeit und für die Bewältigung der mit KI einhergehenden Herausforderungen kommt Bildung, Forschung und Innovation (BFI) eine zentrale Rolle zu. Dies gilt insbesondere auch für die mit dem Strukturwandel verbundenen Umbrüche am Arbeitsmarkt.

Die Schweiz ist diesbezüglich insgesamt gut aufgestellt. Das Schweizer BFI-System, welches den Akteuren eine hohe Autonomie zukommen lässt, hat sich gerade im sich rasch verändernden technologischen Umfeld der Digitalisierung, dessen Entwicklung für den Staat nur bedingt vorhersehbar ist, bewährt. Sowohl in der Forschung als auch in Hinblick auf die Anwendung zählt die Schweiz bei KI zu den weltweit führenden Ländern (siehe Abbildungen).

Abb. 1: Impact der Publikationen im Bereich KI nach Ländern (Top Ten, 2011–2015)

Anmerkung: Der Impact wird berechnet anhand der Anzahl Zitierungen im Bereich KI.  

Quelle: Elsevier (2018) / Die Volkswirtschaft

Abb. 2: Anzahl Weltklassepatente pro Million Einwohner im KI-Bereich (2018)

Quelle: Econsight (2019) / Die Volkswirtschaft


Trotz dieser guten Ausgangslage muss angesichts der Geschwindigkeit der Entwicklung sichergestellt werden, dass Bildung und Forschung mit den Entwicklungen Schritt halten und gezielt gestärkt werden. Zu diesem Zweck lancierte das Eidgenössische Departement für Wirtschaft, Bildung und Forschung (WBF) 2017 den «Aktionsplan Digitalisierung im BFI-Bereich». Die Stärkung der digitalen Kompetenzen ist auch ein wichtiges Thema der Botschaft des Bundesrates zur Förderung von Bildung, Forschung und Innovation in den Jahren 2021 bis 2024.

Rahmenbedingungen geeignet

KI wirkt sich auf zahlreiche Wirtschafts- und Lebensbereiche aus. Seitens des Bundes ist zu klären, ob sich aus der konkreten Anwendung von KI Folgen ergeben, die einer Anpassung der Regulierung bedürfen. Bei der Gestaltung der Rahmenbedingungen muss dabei eine Balance gefunden werden, mit der einerseits die Entfaltung neuer Technologien ermöglicht wird und andererseits unerwünschte Folgewirkungen gemildert oder verhindert werden.

Mit der Stärke von KI, selbstständig Zusammenhänge in grossen Datenmengen erlernen zu können, sind besondere Herausforderungen verbunden: Nachteilig wirkt sich insbesondere aus, dass oft nicht mehr nachvollziehbar ist, wie ein bestimmtes Ergebnis zustande gekommen ist, oder dass fehlerhafte Zusammenhänge in den Daten oft nicht mehr erkannt werden können und daher perpetuiert werden (systematische Fehler, sogenannter Bias). So setzte ein grosser Technologiekonzern bei Bewerbungen ein KI-basiertes Kandidatenauswahlsystem ein, welches – zunächst unerkannt – männliche Kandidaten bevorzugte. Der Bias entstand, weil das System mit verzerrten historischen Daten trainiert worden war.

Technische Herausforderungen können somit in gewissen Anwendungsbereichen auch aus gesellschaftlicher oder rechtlicher Perspektive zu problematischen Ergebnissen führen – etwa, wenn Personengruppen auf Basis von KI-Entscheidungen unzulässig systematisch diskriminiert werden oder wenn in sensiblen Bereichen das Ergebnis einer Analyse nicht erklärbar ist. Wird zum Beispiel mithilfe von KI die Rückfallgefahr von Straftätern evaluiert, so kann die fehlende Nachvollziehbarkeit von solchen Systemen im grundlegenden Konflikt mit dem Anspruch auf rechtliches Gehör, der persönlichen Freiheit oder dem Willkürverbot stehen. Schliesslich stellt auch die Fähigkeit von KI-Systemen, zunehmend autonom zu handeln, den bestehenden rechtlichen Rahmen im Hinblick auf Verantwortlichkeit und Haftung auf die Probe.

Auch wenn sich solche Probleme mit KI weiter verschärfen können, kommt der Bericht der Interdepartementalen Arbeitsgruppe zum Schluss, dass der allgemeine Rechtsrahmen des Bundes aus heutiger Sicht grundsätzlich geeignet ist, KI-Anwendungen zu erfassen und mit den Herausforderungen der Haftung, der Nachvollziehbarkeit oder der Diskriminierung von KI-Systemen umzugehen. Die relevanten, allgemeinen Rechtsprinzipien sind in der Regel technologieneutral formuliert, sodass sie sich auch auf KI-Systeme anwenden lassen. Angesichts der technologischen Dynamik ist jedoch nicht auszuschliessen, dass sich diese Einschätzung auch rasch ändern könnte.

Regulierungen überprüfen

Verbesserungspotenzial besteht allerdings im Hinblick auf die Transparenz bei KI-basierten, automatisierten Einzelentscheidungen, das heisst Entscheidungen, die eine Maschine ohne menschliches Eingreifen trifft. Ein Beispiel wäre die automatisierte Verhängung einer Busse für eine Geschwindigkeitsübertretung ausschliesslich auf Basis von Daten (Fotografien, Gesichtserkennung, Fahrzeugregister etc.). Der Entwurf zur Revision des Datenschutzgesetzes trägt hier den Ansprüchen auf Transparenz und Nachvollziehbarkeit Rechnung und sieht diesbezüglich verschiedene Pflichten vor. So muss eine von einer solchen Entscheidung betroffene Person darüber informiert werden, wenn diese Entscheidung für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt. Die betroffene Person kann zudem verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird. Auch kann sie verlangen, dass ihr die Logik mitgeteilt wird, auf welcher die Entscheidung beruht. Besondere Anforderungen sind überdies vorgesehen, wenn Behörden sich bei Einzelentscheiden, welche die Rechtsstellung einer Person betreffen, auf KI abstützen.

Der allgemeine Rechtsrahmen gilt zwar grundsätzlich auch für KI. Allerdings haben die KI-Anwendungen zur Folge, dass spezifische Regulierungen in verschiedenen Bereichen überprüft und allenfalls angepasst werden müssen. So erfassen zum Beispiel die allgemeinen zivil- und strafrechtlichen Regeln der Haftung und Verantwortlichkeit prinzipiell auch vollautomatisiert fahrende Fahrzeuge – trotzdem sind im Rahmen der sektorspezifischen Regulierung konkrete Anpassungen erforderlich, um etwa die Zulassung solcher Fahrzeuge oder den Datenaustausch unter den Verkehrsteilnehmern zu regeln.

Der Bericht untersucht diese spezifischen Herausforderungen über alle Politikbereiche der Bundesverwaltung hinweg und erläutert möglichen Anpassungsbedarf auf Bundesebene. Hierbei zeigt sich eine grosse Bandbreite an Fragestellungen, bei welchen teilweise grosser Klärungsbedarf besteht. Ein Beispiel: Der Einsatz von KI-basierter Software im medizinischen Bereich untersteht dem Heilmittelgesetz. Was bedeutet KI jedoch für die Marktzulassung und die Marktüberwachung?

Massnahmen sind aufgegleist

Weiter besitzen Informationsintermediäre (wie Google oder Facebook) das Potenzial, KI-Anwendungen für kommerzielle oder politische Zwecke zu instrumentalisieren oder selbst instrumentalisiert zu werden. Dadurch kann die öffentliche Meinungs- und Willensbildung beeinflusst werden. Wie ist damit umzugehen? Dazu braucht es vertiefte Abklärungen. Bei Versicherungen wiederum könnte ein unbedachter Umgang mit KI und Daten ungerechtfertigte Diskriminierungen hervorrufen. Wie muss sich die Aufsicht bei staatlich geprüften Privatversicherungen dabei weiterentwickeln?

Betroffen ist auch der Energiesektor, für den Grundlagen zum Einsatz von KI erstellt werden müssen. Hier geht es um den Einsatz bei der Netzplanung oder bei Verbrauchs- und Produktionsprognosen in einem zunehmend fragmentierten und komplexeren Energiesystem. Schliesslich sind die Sicherheitspolitik und die Cybersicherheit mit neuen Bedrohungsformen konfrontiert, da KI für neuartige Cyberangriffe eingesetzt werden kann und KI-basierte Waffensysteme die Kriegsführung verändern.

Wie der Bericht zeigt, haben sich die betroffenen Bundesämter dieser Herausforderungen bereits weitgehend angenommen und eine Vielzahl von Massnahmen aufgegleist. Allerdings sind aus Sicht der Interdepartementalen Arbeitsgruppe einige der skizzierten Herausforderungen intensiviert anzugehen. Es gilt nun, diese in Einklang mit den weiteren Aktivitäten des Bundes zur Digitalisierung weiterzuführen. Zu diesem Zweck wird die Interdepartementale Arbeitsgruppe dem Bundesrat auf Basis des erarbeiteten Berichts strategische Leitlinien zum Umgang mit KI auf Ebene des Bundes unterbreiten. Auf übergeordneter Ebene ist zudem die Koordination, namentlich im internationalen Umfeld, aber auch bei der Anwendung von KI in der Bundesverwaltung selbst, zu verbessern. Klar ist schliesslich: Die weiteren KI-Entwicklungen sind seitens des Bundes genau zu beobachten.

1. KI-Systeme können beispielsweise eigenständig Objekte in einem Bild erkennen; siehe Krause (2019) []
2. Interdepartementale Arbeitsgruppe künstliche Intelligenz (2019). []