\nGrundprobleme von KI-Anwendungen sind evident (siehe Abbildung<\/em>).[1]<\/a> Erste Schwierigkeiten ergeben sich bereits durch die Analyse und die Daten selbst. Fehlerhafte Daten oder deren Verarbeitung k\u00f6nnen n\u00e4mlich zu Diskriminierung f\u00fchren. Deshalb spricht man auch von einem Bias-Problem. So k\u00f6nnen beispielsweise einzelne Personengruppen in Bewerbungsverfahren benachteiligt werden. Den Nutzern, in diesem Fall den Bewerbern, f\u00e4llt dieser Bias nicht auf, weil sie die Funktionsweise des Algorithmus nicht kennen.
\n
\nEin weiteres Problem kommt hinzu, wenn es sich um lernende Algorithmen handelt, die sich laufend ver\u00e4ndern. So kann es sein, dass es \u2013 selbst f\u00fcr die Entwickler des Algorithmus \u2013 nicht mehr nachvollziehbar ist, wie der Algorithmus genau zu seiner Entscheidung gekommen ist. Bei diesem sogenannten Blackbox-Problem entzieht sich uns durch die Komplexit\u00e4t der Abl\u00e4ufe ein klares Verst\u00e4ndnis des Algorithmus.
\n
\nZudem existiert ein sogenanntes Fairness-Problem. Denn bei der Entwicklung von Algorithmen k\u00f6nnen auch normative Annahmen der Entwickler einfliessen. Werte und Interessen k\u00f6nnen gegen\u00fcber anderen bevorzugt werden. Anders als beim Bias-Problem sind es hier Annahmen des Entwicklers und nicht des Algorithmus, die zum Problem werden.
\n
\nDiese Probleme zeigen die Grundproblematiken auf, denen KI-Systeme unterliegen. Dennoch kommt es vor, dass Menschen diesen Systemen mehr vertrauen als ihren Mitmenschen. Oder umgekehrt: Menschen vertrauen anderen Menschen mehr, obschon Algorithmen in bestimmten F\u00e4llen objektiver entscheiden w\u00fcrden. Darauf macht uns das Vertrauensproblem aufmerksam, das wir bei jeder Anwendung hinterfragen m\u00fcssen.
\n
\nIn einer Studie im Auftrag der Schweizer Stiftung f\u00fcr Technologiefolgen-Absch\u00e4tzung (TA-Swiss) haben wir gemeinsam in einem interdisziplin\u00e4ren Team in den Bereichen Arbeit, Konsum, Bildung und Forschung, Medien und \u00f6ffentliche Verwaltung untersucht, welche Chancen und Risiken mit der Anwendung von KI verkn\u00fcpft sind und welche Grundprobleme dabei entstehen k\u00f6nnen. In diesem Artikel beschr\u00e4nken wir uns auf die Bereiche Arbeit und Konsum und betrachten insbesondere die wirtschaftspolitischen Aspekte, die sich daraus ergeben. <\/p>\n
Vier Probleme von k\u00fcnstlicher Intelligenz, die zu ethischen Fragen f\u00fchren<\/h3>\n
K\u00fcnstlicher Intelligenz (KI) begegnen wir t\u00e4glich. Dazu, wie wir mit diesen Anwendungen umgehen, machen wir uns aber nur wenige Gedanken. Denn meist ist uns ihre Wirkungsweise nicht bekannt \u2013 und auch nicht, wie wir durch sie beeinflusst werden. Ob es Empfehlungen zu Produkten in Onlineshops oder Stellenangebote sind: Beides scheint auf den ersten Blick unverd\u00e4chtig. […]<\/p>","protected":false},"author":5063,"featured_media":101501,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"ep_exclude_from_search":false,"footnotes":""},"post__type":[66],"post_opinion":[],"post_serie":[],"post_content_category":[],"post_content_subject":[230],"acf":{"seco_author":5063,"seco_co_author":[5065,5064,0],"author_override":"","seco_author_post_ocupation_year":"","seco_author_post_occupation_de":"Dr. rer. nat., wissenschaftlicher Mitarbeiter, Abteilung Technologie und Gesellschaft, Eidg. Materialpr\u00fcfungs- und Forschungsanstalt (Empa), St. Gallen","seco_author_post_occupation_fr":"Collaborateur scientifique, division Technologie et soci\u00e9t\u00e9, Laboratoire f\u00e9d\u00e9ral d\u2019essai des mat\u00e9riaux et de recherches (Empa), Saint-Gall","seco_co_authors_post_ocupation":[{"seco_co_author":5065,"seco_co_author_post_occupation_year":"","seco_co_author_post_occupation_de":"Senior Researcher, Institut f\u00fcr Technikfolgen-Absch\u00e4tzung, \u00d6sterreichische Akademie der Wissenschaften, Wien","seco_co_author_post_occupation_fr":"Chercheur principal, Institut d\u2019\u00e9valuation des choix technologiques, Acad\u00e9mie autrichienne des sciences, Vienne"},{"seco_co_author":5064,"seco_co_author_post_occupation_year":"","seco_co_author_post_occupation_de":"Assistenzprofessorin f\u00fcr Quantitatives Marketing, Universit\u00e4t Z\u00fcrich","seco_co_author_post_occupation_fr":"Professeure assistante de marketing quantitatif, universit\u00e9 de Zurich"}],"short_title":"K\u00fcnstliche Intelligenz und Gesellschaft","post_lead":"Die Gesellschaft begegnet der Digitalisierung teilweise mit tiefem Misstrauen. Um die Chancen der k\u00fcnstlichen Intelligenz f\u00fcr die Gesellschaft nutzbar zu machen, muss man diese Skepsis ernst nehmen.","post_hero_image_description":"Viele Konsumenten sind sich nicht bewusst, welche digitalen Fussabdr\u00fccke sie hinterlassen \u2013 und was mit diesen Daten passiert. Strassenszene in Kuba.","post_hero_image_description_copyright_de":"Keystone","post_hero_image_description_copyright_fr":"Keystone","post_references_literature":"
\n![\"\"](\"https:\/\/dievolkswirtschaft.ch\/content\/uploads\/2020\/07\/mader-cas-scherer-abb-1-.png\")
<\/a>
\n
\n
<\/p>\nAngst vor Arbeitsplatzverlust<\/h2>\n
\nMit dem technischen Fortschritt sind seit je Ver\u00e4nderungen der Arbeitswelt verbunden. Diesbez\u00fcglich bedeutet KI hier einen Quantensprung. Denn sie kann den Menschen bei T\u00e4tigkeiten unterst\u00fctzen oder ihn sogar bei Aufgaben ersetzen, die bislang menschlicher Intelligenz vorbehalten waren. Es ist daher nicht verwunderlich, dass dies grosse Sorgen um die Zukunft der Arbeit entfacht.
\n
\n2013 hat eine Studie der Oxford-Wissenschaftler Frey und Osborne gesch\u00e4tzt, dass rund 47 Prozent aller Berufe durch die Computerisierung gef\u00e4hrdet sind, und hat so alte Debatten wiederbelebt.[2]<\/a> Viele Nachfolgestudien haben versucht, diese Rationalisierungspotenziale zu best\u00e4tigen oder zu widerlegen. Einerseits wurde auf historische Entwicklungen verwiesen, denen zufolge Automatisierungswellen langfristig zu steigender Besch\u00e4ftigung f\u00fchrten.[3]<\/a> Andererseits wurde angezweifelt, ob dieser Vergleich legitim sei, denn der heutige Fortschritt zeichne sich durch eine ganz neue Qualit\u00e4t aus.[4]<\/a>
<\/p>\nVer\u00e4nderte Arbeitswelt<\/h2>\n
\nDamit die Angst vor Arbeitsplatzverlusten nicht zum Innovationshemmnis wird, muss die Gesellschaft \u00fcber den Einsatz von KI bestimmen und dabei eine faire Verteilung der Vorteile im Auge behalten. Das betrifft insbesondere die M\u00f6glichkeiten, Arbeit zu finden und Einkommen zu erzielen. Verantwortungsvolle Unternehmen und die Politik m\u00fcssen daf\u00fcr sorgen, dass die Substituierung menschlicher Arbeit durch KI-Systeme nicht zu Arbeitslosigkeit und damit verbundenen Einkommensverlusten f\u00fchrt. Die durch Covid-19 hervorgerufene Wirtschaftskrise macht ein entsprechendes Handeln dringender denn je. Entwicklungen, die mit dem KI-Einsatz \u00fcber Jahre zu erwarten gewesen w\u00e4ren \u2013 massive Arbeitsplatzverluste und ein Einbruch einzelner Sektoren \u2013, sind innerhalb weniger Wochen Realit\u00e4t geworden. Welche konkreten Massnahmen getroffen werden, um das sowohl f\u00fcr eine wirtschaftliche Erholung als auch f\u00fcr eine friktionslose Nutzung von KI-Technologien so notwendige Vertrauen wiederherzustellen, ist auf politischer Ebene zu entscheiden.
\n
\nDie m\u00f6glichen makro\u00f6konomischen Auswirkungen der digitalen Transformation im Allgemeinen und von KI im Speziellen \u2013 insbesondere die immer zahlreicheren M\u00f6glichkeiten, menschliche Arbeit zu ersetzen \u2013 sollten deshalb zum Anlass genommen werden, gesellschaftliche Debatten \u00fcber Anpassungsprozesse anzustossen: Soll beispielsweise bei lang anhaltenden hohen Arbeitslosenraten die Regelarbeitszeit entsprechend reduziert werden? Wie k\u00f6nnen arbeitsrechtliche und soziale Standards bei immer flexibleren Arbeitsbedingungen in Zukunft gewahrt bleiben? Wie kann ein Auseinanderklaffen der Lohnschere verhindert werden? Und welche Weiterbildungsm\u00f6glichkeiten m\u00fcssen geschaffen werden, um sowohl die individuellen Chancen zu erh\u00f6hen als auch die Entwicklung und Nutzung von KI zu f\u00f6rdern?
<\/p>\nKaum Kritik bei Konsum<\/h2>\n
\nW\u00e4hrend ein Einsatz von KI in der Arbeitswelt oft mit Vorbehalten verbunden ist, ist er im Konsumbereich bereits weit vorangeschritten. Schon seit Langem werden durch den Einsatz von KI beispielsweise attraktive Kundensegmente identifiziert, detaillierte Kundenprofile erstellt und Angebote personalisiert. Um Kosten einzusparen und die Effizienz zu steigern, werden gerade durch Tech-Giganten wie Google, Amazon, Facebook und Apple stetig bessere KI-Systeme an der Schnittstelle zum Kunden entwickelt und zum Einsatz gebracht. Konsumenten begegnen KI damit heute tagt\u00e4glich \u2013 mehr oder weniger bewusst. Sei es, wenn Google Maps den k\u00fcrzesten Weg nach Hause anzeigt, Amazons Empfehlungssystem weitere Produkte zum Kauf empfiehlt, Facebooks Newsfeed Inhalte sortiert oder Apples Sprachassistent Siri fliessend mit einem interagiert.
\n
\nDie Vorteile derartiger KI-Systeme liegen auf der Hand: Unternehmen profitieren einerseits von Prozessautomatisierungen, z. B. in der Werbeplanung und -platzierung, und Kosteneinsparungen, indem z. B. immer nat\u00fcrlicher wirkende KI-Assistenten und Chatbots eingesetzt werden, um h\u00e4ufige Kundenanfragen zu beantworten. Auf der anderen Seite k\u00f6nnen sie ihre Effizienz steigern, indem Konsumenten gezielt angesprochen und Angebote kundenindividuell zugeschnitten werden.
\n
\nAuch Konsumenten profitieren von solch personalisierten Informationen: Vermeintlich weniger interessante Inhalte und Angebote werden ausgeblendet und Konsum- sowie Kaufentscheidungen durch diese Vorauswahl weitgehend unterst\u00fctzt, aber auch beeinflusst. Gerade in Zeiten der Informations\u00fcberflutung begr\u00fcssen viele Kunden diese Personalisierung. Konsumenten sollten sich dabei aber auch m\u00f6glicher Bias- und Fairness-Probleme bewusst sein (siehe oben) und KI-Systemen daher nicht blind vertrauen.
\n
\nDurch die wachsende Anzahl digitaler Fussabdr\u00fccke findet eine dynamische Personalisierung von Kundenprofilen heute meist statt, ohne die Konsumenten nach ihren Vorlieben zu befragen. Einige Hundert Likes auf Facebook sind so schon ausreichend, um sensible Pers\u00f6nlichkeitseigenschaften mit hoher Genauigkeit zu sch\u00e4tzen.[5]<\/a> Gerade weil diese Systeme ohne aktives Zutun der Konsumenten funktionieren, bleiben KI-Systeme eine intransparente Blackbox. F\u00fcr Konsumenten wird es daher immer schwieriger, einzusch\u00e4tzen, welche Schl\u00fcsse KI anhand ihrer Daten ziehen kann (inferred data) und wo sie KI \u00fcberhaupt begegnen. So wussten 2015 in einer US-Studie beispielsweise 62 Prozent der Facebook-Nutzer nicht, dass der Newsfeed durch KI personalisiert wird.[6]<\/a>
\n
\nUnternehmen, welche KI-Systeme im Konsumbereich nutzen, empfehlen wir deshalb, den KI-Einsatz transparent zu machen und einfach zu vermitteln, welche Personendaten in das System einfliessen und welche Aussagen damit gemacht werden.
<\/p>\nThe winner takes it all<\/h2>\n
\nAktuell unterst\u00fctzen die meisten KI-Systeme die Konsumenten noch in eng definierten Bereichen. Experten erwarten jedoch, dass sich einige wenige KI-Assistenten wie Googles Assistant, Apples Siri oder Amazons Alexa durchsetzen werden, welche die Konsumenten \u00fcber ganze Lebensbereiche hinweg unterst\u00fctzen. Anstatt spezialisierter Assistenten f\u00fcr Gesundheitsfragen oder zur Terminkoordination k\u00f6nnte so in Zukunft ein Assistent Konsumenten in einer Vielzahl von Aufgaben unterst\u00fctzen. Dies scheint auf den ersten Blick vorteilhaft. Da diese Systeme jedoch umso genauer werden, je mehr Daten eines Nutzers verf\u00fcgbar sind, k\u00f6nnen langfristig f\u00fcr Konsumenten hohe Kosten entstehen, wenn sie den Anbieter wechseln. Das bedeutet, dass sich im Gegenzug auch f\u00fcr die Unternehmen steigende Markteintrittsbarrieren ergeben, sollten f\u00fcr sie keine Nutzerdaten verf\u00fcgbar sein, um eigene KI-Systeme entsprechend zu trainieren. Die Nutzerdaten werden damit zunehmend zum neuen Treibstoff des digitalen Zeitalters. Um einem derartigen Datenkapitalismus zu entgehen, m\u00fcssen nachhaltige L\u00f6sungen gefunden werden.
\n
\nDeshalb soll gem\u00e4ss unseren Empfehlungen gepr\u00fcft werden, wie bei KI-Systemen die sogenannte Datenportabilit\u00e4t umgesetzt werden kann. Dabei kann ein Kunde bei einem Wechsel des Anbieters seine Kundendaten mitnehmen. Das w\u00fcrde den Anbieterwechsel erleichtern. Dabei ist zu pr\u00fcfen, inwieweit neben den Rohdaten auch Daten bzw. Aussagen portabel sein sollen, welche durch ein KI-System erarbeitet wurden (inferred data).
<\/p>\nBewusstsein schaffen<\/h2>\n
\nDie gesellschaftliche Debatte \u00fcber Arbeitsplatzverlust sowie die Forderung nach Transparenz und Datenportabilit\u00e4t verdeutlichen, wie relevant es ist, dass die \u00d6ffentlichkeit informiert ist und aktiv in Entscheidungen zu Einsatz und Umgang mit KI eingebunden wird.
\n
\nDamit die B\u00fcrger mehr Kontrolle \u00fcber ihre Daten bekommen, braucht es umfangreiche Bildungs- und Forschungsmassnahmen. So muss etwa das Bildungssystem alle Altersstufen auf den Umgang mit KI vorbereiten. Dazu soll untersucht werden, welche spezifischen Kompetenzen vermittelt werden m\u00fcssen, damit die Lernenden ein allgemeines Verst\u00e4ndnis der F\u00e4higkeiten und Grenzen von KI-Systemen erhalten. Entsprechende Erkenntnisse sollen in Lehrmittel einfliessen und auf bestehenden Plattformen f\u00fcr Lehrkr\u00e4fte und Lernende zur Verf\u00fcgung stehen.
\n
\nEin Beispiel daf\u00fcr, wie der Umgang mit KI an Schulen vermittelt werden kann, ist das sogenannte Computational Thinking. Diese F\u00e4higkeit macht komplexe Problemstellungen und die Grundfunktionsweise von KI-Anwendungen bewusst und erm\u00f6glicht den Lernenden einen verantwortungsvollen Umgang mit KI. Solche F\u00e4higkeiten schaffen zudem die Voraussetzung, um in der heutigen Arbeitswelt bestehen und als Arbeitnehmer vom KI-Einsatz profitieren zu k\u00f6nnen.
<\/p>\nAuch Entwickler sind gefordert<\/h2>\n
\nNeben dem Bildungswesen steht auch die Forschung in der Pflicht. Sie muss an L\u00f6sungen f\u00fcr vertrauensw\u00fcrdige KI-Anwendungen arbeiten. An Hochschulen, insbesondere in technischen Disziplinen, die sich mit der Entwicklung neuer KI-Systeme besch\u00e4ftigen, sollen auch nicht technische Kompetenzen wie Nachhaltigkeit und Ethik gef\u00f6rdert werden. Dies soll sicherstellen, dass auch normative Zug\u00e4nge, die in die Entwicklung von KI-Anwendungen einfliessen, sich an verantwortungsvollen und ethischen Prinzipien orientieren.
\n
\nDamit die Vorteile von KI \u00fcberwiegen, muss man sich also der Grundprobleme annehmen. Ein wichtiger Schritt dazu ist ein gemeinschaftlicher und informierter Diskurs \u00fcber die Chancen und Risiken von KI, der unbedingt zu f\u00f6rdern ist.<\/p>\n
\n \t