Die Volkswirtschaft

Plattform für Wirtschaftspolitik

Dieser Artikel ist Teil des Schwerpunkts «Regulieren: Ist weniger mehr?»

Wie soll die Schweiz künstliche Intelligenz regulieren?

Künstliche Intelligenz birgt gesellschaftliche, ethische und datenschutztechnische Risiken. Viele Länder überlegen sich mögliche Regulierungen. Die Schweiz geht differenziert vor.

Selbstfahrender Bus in Sitten. (Bild: Keystone)

Abstract lesen...

In Wissenschaft, Wirtschaft und Gesellschaft gewinnt künstliche Intelligenz zunehmend an Bedeutung. Zugleich zeichnen sich Auswirkungen, Risiken und ethische Herausforderungen immer deutlicher ab. Wie bei jeder Transformation wird der Ruf lauter, die Allgemeinverträglichkeit regulatorisch abzusichern. Standen bisher unverbindliche Richt- und Leitlinien im Vordergrund, rücken jetzt Vorstösse für breite, verbindliche Regulierungen näher. Nicht zuletzt auf Basis der Vorarbeiten des Europarats diskutiert derzeit die EU über eine direkt anwendbare KI-Verordnung. In der Schweiz setzt das revidierte Datenschutzgesetz eine erste Messlatte.

Künstliche Intelligenz (KI) dringt in immer mehr Lebensbereiche vor: Der Ärztin hilft sie bei der Diagnose von Krankheiten, dem Bauer sagt sie, wann er eine Kuh melken muss, und der Musikliebhaberin empfiehlt sie neue Songs. Fortschritte in der Datenverarbeitung und die zunehmende Verfügbarkeit von Daten sind seit einer Dekade Schlüsselfaktoren für den rasanten Aufstieg dieser Technologie, die ingeniös Daten, Algorithmen und Rechenleistung kombiniert.

Im Zuge der nicht aufzuhaltenden Digitalisierung von Gesellschaft, Wirtschaft und Staat zeigt sich KI, und darin eingeschlossen besonders auch das maschinelle Lernen, als neue innovative Schlüsseltechnologie mit grossem Potenzial sowohl für bessere Effizienz bei der Nutzung der vorhandenen Ressourcen als auch für neues Wachstum.

Vom Beobachten zum Regulieren

Mit zunehmender Verbreitung kam KI verstärkt unter institutionelle Beobachtung, etwa bei der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD), dem Europarat oder der EU.[1] Dadurch wurden auch die Risiken von KI deutlich – etwa durch das Eindringen in die Privatsphäre, undurchsichtige und ethisch heikle Entscheidungsprozesse, den Missbrauch für kriminelle Zwecke und Diskriminierung aufgrund von Herkunft oder Geschlecht. Um diesen Gefahren vorzubeugen, haben Staaten und internationale Organisationen in den vergangenen Jahren unverbindliche Leitlinien zur rechtlichen Handhabung von KI erstellt. Beispielsweise veröffentlichte die OECD im Jahr 2019 Empfehlungen zum Umgang mit KI, und die EU publizierte ein Jahr später ein entsprechendes Weissbuch.[2] Weiter erstellte der Europarat – unter Federführung der Schweiz – Empfehlungen zur Auswirkung von KI auf die Menschenrechte[3], und in einer Perspektivenstudie, gepaart mit einer Machbarkeitsanalyse, befasste er sich gezielt mit KI.[4] In der Schweiz verabschiedete der Bundesrat 2020 die Leitlinien «Künstliche Intelligenz» für den Bund.[5]

In einem Folgeschritt hat nun die EU-Kommission im April 2021 einen Entwurf für eine umfassende Regulierung zu KI veröffentlicht.[6] Das Verordnungsprojekt schliesst konzeptionell an die EU-Datenschutzgrundverordnung an und will sowohl die öffentlichen Stellen wie die Privaten nach dem Marktortprinzip allenfalls weltweit unmittelbar verpflichten. Dazu setzt es auf detaillierte Transparenz- und Rechenschaftspflichten und sieht drakonische Sanktionen bei Zuwiderhandlungen vor.

Hinzu kommen neue Regelungen zum Datenschutz, die immer dann KI betreffen, wenn es um die Bearbeitung von Personendaten geht. So hat der Europarat 2018 seine Datenschutzkonvention modernisiert, und die EU passte die Datenschutzgrundverordnung (DSGVO) an die Bedürfnisse des digitalen Zeitalters an. In der Schweiz hat das Parlament im September 2020 die Revision des Datenschutzgesetzes (DSG) verabschiedet, welche sich inhaltlich an die EU-Verordnung anlehnt. Das Datenschutzgesetz tritt vermutlich nächstes Jahr in Kraft.

Ruf nach Transparenz

Die diversen Regulierungsprojekte weltweit weisen viele Ähnlichkeiten auf: In den grossen Linien wollen sie technische Robustheit und Sicherheit garantieren, die Einhaltung von Menschenrechten wie das Diskriminierungsverbot sicherstellen und Transparenz gewährleisten. Wer KI entwickelt und einsetzt, soll einer Rechenschaftspflicht unterstellt sein. Das heisst, er oder sie muss geeignete Vorkehrungen treffen, um die damit verbundenen Risiken zu minimieren oder auszuschliessen. Deren effektive Vornahme und Wirksamkeit sind zu belegen. Bei einigen Regulierungsvorschlägen drohen den Verantwortlichen Sanktionen, wenn sie sich nicht an die Vorgaben halten.

Dies sind durchaus nützliche Kriterien. Sie sind gesellschaftlich nachvollziehbar und vermögen das Vertrauen sowohl in den technischen Fortschritt wie auch in die Kontrolle über den strukturellen Digitalisierungswandel zu stärken. Auch sind diese Anforderungen den datenbearbeitenden Industrien von den Grundsätzen her nicht neu. Die gängigen Regulierungen zum spezifischen Schutz von Personendaten, allen voran die EU-Datenschutzgrundverordnung, verlangen diese von den Datenbearbeitenden schon heute. Auch die erwähnte Datenschutzkonvention des Europarats befasste sich bereits bei ihrer Entstehung im Jahr 1981 ausdrücklich mit der automatisierten Bearbeitung von Personendaten.

Die Herausforderung liegt aber darin, dass es sich bei KI um eine Grundlagentechnologie handelt, die in zahlreichen Bereichen mit unterschiedlichen Nutzungstiefen zum Einsatz kommt. Sprich: Früher oder später dürfte eine durchgängig einheitliche Regulierung wohl von selbst an Grenzen stossen. Dies zeigt die komplexe Umsetzung der EU-Datenschutzgrundverordnung, wo auch drei Jahre nach Inkrafttreten viele Einzelfragen noch ungeklärt sind. Eine detaillierte KI-Regulierung, die neuartige Bearbeitungen aller Arten von Daten, das heisst beispielsweise auch nur von reinen Maschinendaten, umfasst, dürfte ungleich mehr Fragen aufwerfen.

Der erwähnte EU-Verordnungsentwurf will zwar stark vereinheitlichen, möchte diesen Klippen aber mit einem risikobasierten Ansatz begegnen. Dazu listet er umfangreich die Anwendungsgebiete und Branchen auf, bei denen die EU-Kommission jeweils ein erhöhtes Risiko vermutet. Gleichzeitig signalisiert sie damit aber, dass sie den Regulierungsperimeter im Umfang und in der Zeit für variabel hält.

Im Gegensatz dazu ist der Europarat deutlich zurückhaltender: Er empfiehlt in seiner Machbarkeitsstudie eine Kombination von bindenden und nicht bindenden «Soft Law»-Elementen, die sich gegenseitig ergänzen. Damit die Innovation nicht gebremst wird, sollten die rechtlich bindenden Elemente nicht zu eng gefasst werden.[7]

Wachsam bleiben

Aus Schweizer Sicht ist dem sparsameren Ansatz des Europarats der Vorzug zu geben. Der hiesige Werkplatz ist mit seinen innovativen Industrien und der breiten Forschung in bester Lage, KI in neuen Produkten und Dienstleistungen einzusetzen. Indem die Datenbearbeiter demnächst das erneuerte, detaillierte Datenschutzgesetz umzusetzen haben, rückt die künstliche Intelligenz automatisch in den Fokus. Beispielsweise hat der Gesetzgeber bei den Bestimmungen zur automatisierten Bearbeitung von Personendaten, um persönliche «Aspekte» wie Gesundheit, Aufenthaltsort und Vorlieben zu bewerten, zu analysieren oder vorherzusagen (Profiling),[8] ausdrücklich an KI gedacht, wie die Beratungen in den Räten zeigten. Es stellt sich daher sogar die Frage, ob in jenem Anwendungsbereich von KI, der überwiegend auf die Bearbeitung von Personendaten hinausläuft, nicht die neue Datenschutzregulierung schon vollauf genügen würde. Allenfalls könnte sie mit geeigneten Empfehlungen gezielt ergänzt werden.

Für die anderen Gebiete, wo nur Sachdaten im Spiel sind, wie etwa beim autonomen Bewegen von Fahrzeugen, Zügen und Schiffen, beim unbeaufsichtigten optimierten Betrieb von Maschinen, im Agrarsektor oder etwa bei der Heilmittelforschung mit anonymisierten Daten, empfiehlt es sich, erst die Entwicklung internationaler Standards und Erwartungen abzuwarten. Dies nicht zuletzt, um die exportorientierten Unternehmen nicht vorzeitig in ein eventuell nicht nachhaltiges regulatorisches Korsett zu zwängen. Die Umsetzung der bundesrätlichen Dachstrategien «Digitale Schweiz» und «Digitalaussenpolitik» bieten hier den idealen Kontext zur punktuellen, bedarfsgerechten Nachregulierung. Zugleich engagiert sich die Schweiz auf dem internationalen Parkett aktiv bei der weiteren Gestaltung der anerkannten Erwartungen an den produktiven und ethisch tragfähigen Einsatz von KI.

  1. OECD AI Policy Observatory, Council of Europe Committee Ad Hoc on Artificial Intelligence (CAHAI), EU-Commission AI Watch[]
  2. EU-Kommission (2020), OECD (2019). []
  3. Europarat (2020a). []
  4. Europarat (2020b) und (2020c). []
  5. Bundesrat (2020). []
  6. EU-Kommission (2021). []
  7. Europarat (2020c), Randziffer 177. []
  8. Art. 5f und 5g revDSG (2020). []

Rechtsanwalt D.E.S.S., Anwaltskanzlei Beglinger LPC, Zürich

Literatur

Rechtsanwalt D.E.S.S., Anwaltskanzlei Beglinger LPC, Zürich