{"id":103279,"date":"2019-11-21T11:00:07","date_gmt":"2019-11-21T11:00:07","guid":{"rendered":"https:\/\/dievolkswirtschaft.ch\/2019\/11\/christen-12-2019fr\/"},"modified":"2023-08-23T22:55:58","modified_gmt":"2023-08-23T20:55:58","slug":"christen-12-2019","status":"publish","type":"post","link":"https:\/\/dievolkswirtschaft.ch\/de\/2019\/11\/christen-12-2019\/","title":{"rendered":"Wie programmiert man ethische Intuition?"},"content":{"rendered":"

Man k\u00f6nnte fast meinen, es handle sich um einen Wettstreit der internationalen Organisationen: Innert Jahresfrist hat die Organisation f\u00fcr wirtschaftliche Zusammenarbeit und Entwicklung (OECD) die \u00abGuidelines on AI and Data Protection\u00bb<\/a>, der Europarat die \u00abRecommendation of the Council on Artificial Intelligence\u00bb<\/a> und die High Level Expert Group der Europ\u00e4ischen Union die \u00abEthics Guidelines for Trustworthy AI\u00bb<\/a> ver\u00f6ffentlicht. Die Wunschliste der Ethik-Experten an die Erbauer k\u00fcnstlicher Intelligenz (KI) ist lang.
\n
\nExemplarisch steht daf\u00fcr ein Bericht der European Group on Ethics in Science and New Technologies<\/a>, welche die EU-Kommission ber\u00e4t. Demnach darf KI die W\u00fcrde des Menschen nicht verletzen, und die menschliche Autonomie muss erhalten bleiben. Forschung und Nutzung von KI m\u00fcssen verantwortungsbewusst sein; insbesondere sollte KI zur Gerechtigkeit und zum gleichen Zugang zu Leistungen beitragen. Hinsichtlich KI-Regulierung sollten wichtige Entscheidungen \u00fcber KI-Nutzung demokratisch getroffen werden; Rechtsstaatlichkeit und Rechenschaftspflicht m\u00fcssen gewahrt bleiben. Schliesslich soll KI die Sicherheit, die k\u00f6rperliche und geistige Integrit\u00e4t sowie den Datenschutz und die Privatsph\u00e4re nicht beeintr\u00e4chtigen; und sie muss im Einklang mit Umweltschutz und Nachhaltigkeit stehen.
\n
\nMit anderen Worten: das volle Programm. Ein derart breites Spektrum an ethischen Erfordernissen ist Ausdruck einer grossen Verunsicherung, welche die j\u00fcngsten beeindruckenden Erfolge dieser neuen Technologie hervorgerufen haben.
\n
\nKI ist in eine Reihe kontrovers diskutierter Themen rund um den digitalen Wandel eingebettet, was einen klaren Fokus erschwert. Zudem werden in der \u00f6ffentlichen Debatte die F\u00e4higkeiten von KI oft \u00fcberh\u00f6ht dargestellt, was f\u00fcr eine Analyse ebenfalls hinderlich ist.
\n
\nEine Studie im Auftrag der Stiftung f\u00fcr Technikfolgenabsch\u00e4tzung (TA-Swiss) unter der Leitung von Markus Christen von der Digital Society Initiative der Universit\u00e4t Z\u00fcrich, Clemens Mader von der Eidgen\u00f6ssischen Materialpr\u00fcfungs- und Forschungsanstalt (Empa) und Johann Cas von der \u00d6sterreichischen Akademie der Wissenschaft hat untersucht, welche gesellschaftlichen Herausforderungen mit KI verbunden sind.[1]<\/a> Ein Hauptaugenmerk galt dabei der Ethik. <\/p>\n

Eine Blackbox<\/strong><\/h2>\n


\nAus ethischer Sicht gilt es sechs technische, \u00f6konomische und soziale Eigenschaften von KI zu beachten. Erstens ist KI zusehends eine \u00abBlackbox\u00bb: Neuere Formen des maschinellen Lernens sind f\u00fcr die Ersteller von KI-Algorithmen weit weniger transparent als die \u00abklassische KI\u00bb wie etwa Expertensysteme. Durch das Training mit enorm vielen Daten entstehen Modelle, die keinen offensichtlichen physikalischen oder logischen Bezug zum untersuchten Ph\u00e4nomen haben. In ethischer Hinsicht stellt dies zum einen ein Sicherheitsproblem dar: Es wird schwieriger, zu pr\u00fcfen, ob das System immer wunschgem\u00e4ss funktioniert. Zum anderen k\u00f6nnen solche Systeme in ethisch relevanten Kontexten eingesetzt werden, ohne dass die geforderte Nachvollziehbarkeit gegeben ist. Exemplarisch f\u00fcr die dabei auftretenden Probleme ist die Debatte um ein US-System, das Richter ber\u00e4t, ob Strafgefangene vorzeitig entlassen werden sollten.[2]<\/a>
\n
\nZweitens besteht bei KI die Gefahr, dass die Resultate aufgrund der verwendeten Daten verzerrt werden (Bias). In den Daten k\u00f6nnen sich Einseitigkeiten oder Befangenheiten verbergen, die das Verhalten des Algorithmus pr\u00e4gen. Ein Bias aufgrund schlechter Auswahl der Trainingsdaten kann zwar als technisches Problem angesehen werden. Diesen zu erkennen, ist aufgrund der Gr\u00f6sse der Datens\u00e4tze aber nicht einfach. Noch schwieriger wird das Problem, wenn der Datensatz zwar einen Sachverhalt repr\u00e4sentativ abbildet, dieser aber Ergebnis einer als ethisch problematisch empfundenen sozialen Ordnung ist. So hatte ein automatisches Bewertungssystem von Bewerbungen bei Amazon systematisch Bewerbungen von Frauen schlechter bewertet, weil das Unternehmen Teil einer von M\u00e4nnern dominierten Industrie ist \u2013 und der Algorithmus dies gelernt hatte. Ein derart trainiertes KI-System w\u00fcrde diesen unerw\u00fcnschten Zustand verfestigen und Bem\u00fchungen zur Erh\u00f6hung des Frauenanteils zunichtemachen. <\/p>\n

Genauigkeit oder Fairness?<\/strong><\/h2>\n


\nDie dritte ethische Herausforderung ist die Fairness von Algorithmen. Parameter werden von den Entwicklern festgelegt, wobei bestimmte Werte und Interessen gegen\u00fcber anderen privilegiert werden k\u00f6nnen. Das Problem der Fairness von Algorithmen ist komplex, denn ethische Normen m\u00fcssen in eine f\u00fcr Computerprogramme verst\u00e4ndliche \u00abSprache\u00bb \u00fcbersetzt werden. Forschungen zeigen, dass sich ethisch gleichermassen legitime Anforderungen an Algorithmen (zum Beispiel Genauigkeit und Fairness) nicht gleichzeitig erreichen lassen.
\n
\nViertens haben KI-Systeme ein enormes Potenzial, den Trend zur Automatisierung in der Wirtschaft zu verst\u00e4rken. Die damit verbundene Angst vor Arbeitsplatzverlust pr\u00e4gt die \u00f6ffentliche Debatte um KI. Gewiss: Das Ausmass des Verlusts ist umstritten, das Potenzial zur Schaffung neuer Stellen unklar, und solche \u00f6konomischen Umw\u00e4lzungsprozesse haben bereits mehrfach stattgefunden; sie waren aber stets von sozialer Unrast und Krisen begleitet.
\n
\nF\u00fcnftes haben Unternehmen mit Zugriff auf grosse Datens\u00e4tze einen kompetitiven Vorteil \u2013 was die Bildung von Daten-Oligopolen beg\u00fcnstigt. Oft genannte Beispiele sind grosse Plattform-Unternehmen wie Alibaba, Facebook oder Google. Das in der Internet-\u00d6konomie bekannte Ph\u00e4nomen \u00abthe winner takes it all\u00bb ist nicht nur ein wettbewerbsrechtliches Problem. Wenn in ethisch relevanten Bereichen nur wenige KI-Systeme Entscheidungen massgebend pr\u00e4gen, k\u00f6nnte dies zu einer Standardisierung und einer Dominanz gewisser Wertvorstellungen f\u00fchren.
\n
\nSchliesslich besteht die Gefahr, dass KI zur Massen\u00fcberwachung oder f\u00fcr \u00abBig Nudging\u00bb eingesetzt wird \u2013 also einem umfassenden Versuch zur Verhaltenssteuerung von Menschen, etwa um umweltgerechtes Verhalten zu f\u00f6rdern. Dabei stellt sich die Frage, wie diese Ziele und deren Mittel legitimiert werden und inwieweit die Anwendung von KI, die in Gesellschaften mit abweichenden sozialen Normen und demokratischen Traditionen entwickelt wird, ethische oder politische Probleme aufwirft. Auch milit\u00e4rische Nutzungen von KI fallen in diesen Themenkomplex, und Wissenschaftler warnen jetzt schon vor einem \u00abKI-Wettr\u00fcsten\u00bb.
\n
\nZu jedem dieser Punkte l\u00e4sst sich nat\u00fcrlich einiges mehr sagen. Als \u00fcbergreifende ethische Herausforderungen l\u00e4sst sich aber festhalten, dass Wege gefunden werden m\u00fcssen, wie die Entscheidungsfindung von KI Menschen gegen\u00fcber transparent gemacht werden kann. Es muss gekl\u00e4rt werden, wie der Mensch bei komplexen KI-Systemen die Kontrolle behalten kann. Und f\u00fcr konkrete Anwendungen m\u00fcssen Regeln f\u00fcr das Design definiert werden, damit die Menschen ihnen vertrauen k\u00f6nnen. <\/p>\n

Wer entscheidet?<\/strong><\/h2>\n


\nDie oft geh\u00f6rte Angst vor einem v\u00f6lligen Kontrollverlust ist allerdings fehlgeleitet. Die Nutzung von KI-Systemen ist auf vielf\u00e4ltige Weise von menschlichen Entscheidungen abh\u00e4ngig: Menschen bestimmen das KI-Design \u2013 also quasi das Zusammenbauen einzelner Technologien wie maschinelles Lernen \u2013 und die Auswahl der Trainingsdaten. Sie entscheiden \u00fcber deren Anwendung in bestimmten Kontexten, und auch die Nutzer selbst kontrollieren die Systeme auf vielf\u00e4ltige Weise.
\n
\nRelevanter ist vielmehr die grunds\u00e4tzliche Schwierigkeit, KI-Systeme zu entwickeln, die komplexe ethische Werte wie Fairness enthalten. W\u00e4hrend jeder Mensch \u00fcber eine gewisse Interpretationsfreiheit und einen Entscheidungsspielraum bei ethischen Fragen verf\u00fcgt, muss bei KI-Systemen, die keine Intuition besitzen, explizit festgelegt werden, wie in einer konkreten Situation entschieden werden soll. Ein Experiment untersuchte, wie nach Ansicht von Menschen ein von KI gesteuertes autonomes Fahrzeug in Dilemmas entscheiden soll.[3]<\/a> Muss es beispielsweise in erster Linie die Insassen oder die Fussg\u00e4nger sch\u00fctzen? Die Antworten zeigen kulturelle Unterschiede und sind nicht frei von Widerspr\u00fcchen.
\n
\nDies stellt schwierige Folgefragen: Wer soll solche Entscheidungen treffen? Auf welche Weise soll dies geschehen? Und was bedeutet dies f\u00fcr die menschliche Freiheit, die es uns erlaubt, zuweilen das \u00abFalsche\u00bb zu tun? So zeigt sich: Die ethische Herausforderung von KI besteht darin, dass sie uns Menschen zwingt, uns vertieft mit den schwierigen ethischen Implikationen von (KI-unterst\u00fctzten) Entscheidungen auseinanderzusetzen. Dies ist eine Chance und ein Risiko zugleich.<\/p>\n

  1. Projektbeschrieb unter TA-Swiss.ch<\/a> abrufbar. Die Studie wird Anfang 2020 ver\u00f6ffentlicht. [<\/span>]<\/a><\/li>
  2. Vgl. Loi und Christen (2019). [<\/span>]<\/a><\/li>
  3. Awad (2018). [<\/span>]<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Man k\u00f6nnte fast meinen, es handle sich um einen Wettstreit der internationalen Organisationen: Innert Jahresfrist hat die Organisation f\u00fcr wirtschaftliche Zusammenarbeit und Entwicklung (OECD) die \u00abGuidelines on AI and Data Protection\u00bb, der Europarat die \u00abRecommendation of the Council on Artificial Intelligence\u00bb und die High Level Expert Group der Europ\u00e4ischen Union die \u00abEthics Guidelines for Trustworthy […]<\/p>","protected":false},"author":4941,"featured_media":18347,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"ep_exclude_from_search":false,"footnotes":""},"post__type":[69,66],"post_opinion":[],"post_serie":[],"post_content_category":[],"post_content_subject":[230],"acf":{"seco_author":4941,"seco_co_author":null,"author_override":"","seco_author_post_ocupation_year":"","seco_author_post_occupation_de":"PD Dr. sc. ETH, Gesch\u00e4ftsleiter, Digital Society Initiative, Forschungsgruppenleiter, Institut f\u00fcr Biomedizinische Ethik und Medizingeschichte, Universit\u00e4t Z\u00fcrich","seco_author_post_occupation_fr":"Directeur de la Digital Society Initiative, directeur d\u2019un groupe de recherche \u00e0 l\u2019Institut d\u2019\u00e9thique biom\u00e9dicale et d\u2019histoire de la m\u00e9decine de l\u2019universit\u00e9 de Zurich","seco_co_authors_post_ocupation":null,"short_title":"Wie programmiert man ethische Intuition?","post_lead":"Im Gegensatz zu Menschen verf\u00fcgen Algorithmen bei Werten wie Fairness \u00fcber kein Bauchgef\u00fchl. Dies stellt die Programmierer von KI-Systemen vor ethische Dilemmas.","post_hero_image_description":"Menschen vertrauen bei ethischen Entscheiden auf ihre Intuition \u2013 das funktioniert bei Computern nicht.","post_hero_image_description_copyright_de":"Shutterstock","post_hero_image_description_copyright_fr":"Shutterstock","post_references_literature":"