{"id":133761,"date":"2019-11-21T11:00:07","date_gmt":"2019-11-21T11:00:07","guid":{"rendered":"https:\/\/dievolkswirtschaft.ch\/2019\/11\/christen-12-2019fr\/"},"modified":"2023-08-24T00:02:43","modified_gmt":"2023-08-23T22:02:43","slug":"christen-12-2019fr","status":"publish","type":"post","link":"https:\/\/dievolkswirtschaft.ch\/fr\/2019\/11\/christen-12-2019fr\/","title":{"rendered":"Peut-on programmer le sens de l\u2019\u00e9thique ?"},"content":{"rendered":"

On pourrait croire \u00e0 un concours entre organisations internationales\u00a0: en moins d\u2019un an, l\u2019Organisation de coop\u00e9ration et de d\u00e9veloppement \u00e9conomiques (OCDE) a publi\u00e9 des lignes directrices en mati\u00e8re d\u2019intelligence artificielle (IA) et de protection des donn\u00e9es<\/a>, le Conseil de l\u2019Europe une \u00ab\u00a0Recommandation sur la convergence technologique, l\u2019intelligence artificielle et les droits de l\u2019homme<\/a>\u00a0\u00bb et le groupe d\u2019experts de haut niveau de l\u2019Union europ\u00e9enne des \u00ab\u00a0Lignes directrices en mati\u00e8re d\u2019\u00e9thique pour une IA digne de confiance<\/a>\u00a0\u00bb. La liste des souhaits ainsi adress\u00e9s par les experts en \u00e9thique aux d\u00e9veloppeurs d\u2019IA est longue.
\n
\nUn bon exemple est \u00e9galement donn\u00e9 par le rapport du Groupe europ\u00e9en d\u2019\u00e9thique des sciences et des nouvelles technologies<\/a> qui conseille la Commission europ\u00e9enne. Selon ce texte, l\u2019IA ne doit pas porter atteinte \u00e0 la dignit\u00e9 humaine et l\u2019autonomie des \u00eatres humains doit \u00eatre pr\u00e9serv\u00e9e. La recherche et les applications de l\u2019IA doivent \u00eatre responsables. L\u2019IA doit par ailleurs contribuer \u00e0 la justice et \u00e0 l\u2019\u00e9galit\u00e9 d\u2019acc\u00e8s aux avantages qu\u2019elle apporte. En mati\u00e8re de r\u00e9glementation, les d\u00e9cisions cl\u00e9s sur l\u2019application de l\u2019IA doivent \u00eatre prises de fa\u00e7on d\u00e9mocratique. L\u2019\u00e9tat de droit et l\u2019obligation de rendre des comptes doivent en outre \u00eatre garantis. L\u2019IA ne doit par ailleurs porter atteinte ni \u00e0 la s\u00e9curit\u00e9, ni \u00e0 l\u2019int\u00e9grit\u00e9 physique et mentale, ni \u00e0 la protection des donn\u00e9es, ni \u00e0 la sph\u00e8re priv\u00e9e. Enfin, elle doit \u00eatre compatible avec la protection de l\u2019environnement et le principe de durabilit\u00e9.
\n
\nVaste programme, donc. Un pareil \u00e9ventail d\u2019exigences \u00e9thiques trahit sans doute la grande incertitude provoqu\u00e9e par les derniers r\u00e9sultats impressionnants de l\u2019IA.
\n
\nCette nouvelle technologie se retrouve dans toute une s\u00e9rie de questions controvers\u00e9es li\u00e9es \u00e0 la transition num\u00e9rique. Il est donc difficile d\u2019aborder le sujet de fa\u00e7on cibl\u00e9e. Son potentiel est en outre souvent exag\u00e9r\u00e9 dans le d\u00e9bat public, ce qui complique encore l\u2019analyse.
\n
\nUne \u00e9tude command\u00e9e par la Fondation pour l\u2019\u00e9valuation des choix technologiques (TA-Swiss) et dirig\u00e9e par Markus Christen (\u00ab\u00a0Digital Society Initiative\u00a0\u00bb de l\u2019universit\u00e9 de Zurich), Clemens Mader (Laboratoire f\u00e9d\u00e9ral d\u2019essai des mat\u00e9riaux et de recherche, Empa) et Johann Cas (Acad\u00e9mie autrichienne des sciences) s\u2019est, dans ce contexte, pench\u00e9e sur les d\u00e9fis soci\u00e9taux pos\u00e9s par l\u2019IA[1]<\/a>, en particulier sous l\u2019angle de l\u2019\u00e9thique. <\/p>\n

Une bo\u00eete noire<\/h2>\n


\nSur le plan \u00e9thique, six caract\u00e9ristiques techniques, \u00e9conomiques et sociales de l\u2019IA doivent \u00eatre consid\u00e9r\u00e9es. Premi\u00e8rement, l\u2019IA ressemble de plus en plus \u00e0 une bo\u00eete noire. Les nouvelles formes d\u2019apprentissage automatique (\u00ab\u00a0machine learning\u00a0\u00bb) sont beaucoup moins transparentes pour les programmeurs d\u2019algorithmes d\u2019IA que \u00ab\u00a0l\u2019IA classique\u00a0\u00bb des syst\u00e8mes experts. L\u2019entra\u00eenement avec d\u2019\u00e9normes quantit\u00e9s de donn\u00e9es produit des mod\u00e8les sans lien physique ou logique apparent avec les ph\u00e9nom\u00e8nes \u00e9tudi\u00e9s. D\u2019un point de vue \u00e9thique, cela pose d\u2019une part un probl\u00e8me de s\u00e9curit\u00e9\u00a0: il devient en effet plus difficile de v\u00e9rifier si un syst\u00e8me fonctionne toujours de la fa\u00e7on souhait\u00e9e. D\u2019autre part, de tels syst\u00e8mes pourraient \u00eatre utilis\u00e9s dans des situations ayant une dimension \u00e9thique sans qu\u2019il soit possible de retracer la logique de leurs d\u00e9cisions. Les d\u00e9bats en cours aux \u00e9tats-Unis sur un syst\u00e8me de recommandations aux juges concernant la lib\u00e9ration conditionnelle des prisonniers donnent un bon exemple des probl\u00e8mes \u00e9thiques soulev\u00e9s[2]<\/a>.
\n
\nDeuxi\u00e8mement, les r\u00e9sultats de l\u2019IA peuvent \u00eatre fauss\u00e9s par les donn\u00e9es utilis\u00e9es. Ces derni\u00e8res peuvent en effet contenir des \u00e9l\u00e9ments de partialit\u00e9 ou un biais qui influencent le comportement de l\u2019algorithme. Un tel biais caus\u00e9 par un mauvais choix des donn\u00e9es servant \u00e0 \u00ab\u00a0former\u00a0\u00bb l\u2019IA peut certes \u00eatre per\u00e7u comme un probl\u00e8me d\u2019ordre technique. Il sera toutefois difficile \u00e0 identifier en raison de l\u2019important volume de donn\u00e9es concern\u00e9es. La situation est plus ardue encore lorsque les donn\u00e9es repr\u00e9sentent fid\u00e8lement l\u2019\u00e9tat des faits, mais que ces derniers sont le r\u00e9sultat d\u2019un ordre social per\u00e7u comme \u00e9thiquement probl\u00e9matique. Un syst\u00e8me d\u2019\u00e9valuation automatique des candidatures d\u2019Amazon p\u00e9nalisait par exemple syst\u00e9matiquement les femmes parce que l\u2019algorithme avait int\u00e9gr\u00e9 le fait que cette entreprise appartenait \u00e0 un secteur domin\u00e9 par les hommes. Un syst\u00e8me d\u2019IA format\u00e9 de cette mani\u00e8re perp\u00e9tuerait ainsi une situation ind\u00e9sirable et saperait les efforts d\u00e9ploy\u00e9s pour am\u00e9liorer la repr\u00e9sentation des femmes. <\/p>\n

Exactitude ou \u00e9quit\u00e9\u00a0?<\/h2>\n


\nLe troisi\u00e8me d\u00e9fi \u00e9thique pos\u00e9 par l\u2019IA est celui de l\u2019\u00e9quit\u00e9 des algorithmes. Leurs param\u00e8tres sont d\u00e9finis par des programmeurs qui peuvent privil\u00e9gier certaines valeurs ou certains int\u00e9r\u00eats par rapport \u00e0 d\u2019autres. Le fait que les normes \u00e9thiques doivent pouvoir \u00eatre transpos\u00e9es en \u00ab\u00a0langage machine\u00a0\u00bb compr\u00e9hensible par les ordinateurs complique \u00e9galement le probl\u00e8me. Des \u00e9tudes ont notamment montr\u00e9 que les algorithmes ne pouvaient pas satisfaire deux exigences \u00e9thiques de l\u00e9gitimit\u00e9 \u00e9quivalente (par exemple l\u2019exactitude et l\u2019\u00e9quit\u00e9) en m\u00eame temps.
\n
\nQuatri\u00e8mement, les syst\u00e8mes d\u2019IA ont le potentiel de renforcer consid\u00e9rablement le mouvement d\u2019automatisation de l\u2019\u00e9conomie. La peur des pertes d\u2019emplois influence ainsi largement le d\u00e9bat public sur l\u2019IA. Certes, la mesure de ces pertes est controvers\u00e9e, le potentiel de cr\u00e9ation d\u2019emplois n\u2019est pas clair et de tels bouleversements \u00e9conomiques ont d\u00e9j\u00e0 eu lieu \u00e0 plusieurs reprises. Ils ont cependant toujours \u00e9t\u00e9 accompagn\u00e9s de tensions sociales et de crises.
\n
\nEn cinqui\u00e8me lieu, les entreprises qui contr\u00f4lent de grandes quantit\u00e9s de donn\u00e9es disposent d\u2019un avantage concurrentiel, ce qui favorise la constitution d\u2019oligopoles de donn\u00e9es. Les grandes plateformes comme Alibaba, Facebook et Google sont souvent cit\u00e9es \u00e0 ce titre. Bien connu dans le contexte de l\u2019\u00e9conomie de l\u2019Internet, l\u2019id\u00e9e que \u00ab\u00a0le gagnant prend tout\u00a0\u00bb ne pose pas uniquement des probl\u00e8mes de droit de la concurrence. Lorsqu\u2019une poign\u00e9e de syst\u00e8mes d\u2019IA influencent de fa\u00e7on d\u00e9terminante les d\u00e9cisions dans des domaines ayant une dimension \u00e9thique, on peut craindre une forme de standardisation et de domination de certaines valeurs.
\n
\nEnfin, le risque existe que l\u2019IA soit utilis\u00e9e \u00e0 des fins de surveillance massive ou de \u00ab\u00a0grand coup de pouce\u00a0\u00bb (\u00ab\u00a0big nudging\u00a0\u00bb), c\u2019est-\u00e0-dire de tr\u00e8s larges tentatives d\u2019influencer les comportements, par exemple pour favoriser le respect de l\u2019environnement. Cela pose d\u2019une part la question de savoir comment assurer la l\u00e9gitimit\u00e9 des objectifs vis\u00e9s et des moyens employ\u00e9s et, d\u2019autre part, celle de la mesure dans laquelle l\u2019utilisation d\u2019une IA d\u00e9velopp\u00e9e au sein de soci\u00e9t\u00e9s ayant des normes sociales et des traditions d\u00e9mocratiques diff\u00e9rentes peut poser des probl\u00e8mes \u00e9thiques ou politiques. Les applications militaires de l\u2019IA rel\u00e8vent \u00e9galement de cette cat\u00e9gorie de pr\u00e9occupations et les scientifiques mettent d\u2019ores et d\u00e9j\u00e0 en garde contre une course aux armements dans ce domaine.
\n
\nChacun de ces points peut \u00e9videmment \u00eatre largement d\u00e9velopp\u00e9. Leur d\u00e9fi \u00e9thique commun r\u00e9side toutefois dans la n\u00e9cessit\u00e9 de rendre les processus de prise de d\u00e9cision par les syst\u00e8mes d\u2019IA transparents pour les humains. La question de savoir comment garder le contr\u00f4le des syst\u00e8mes d\u2019AI complexes doit \u00eatre clarifi\u00e9e. En ce qui concerne les applications concr\u00e8tes, il s\u2019agit de d\u00e9finir des r\u00e8gles de conception de ces syst\u00e8mes permettant de garantir qu\u2019ils soient dignes de confiance. <\/p>\n

Qui d\u00e9cide\u00a0?<\/h2>\n


\nLa crainte souvent \u00e9voqu\u00e9e d\u2019une perte de contr\u00f4le totale ne semble pas fond\u00e9e. L\u2019utilisation de syst\u00e8mes d\u2019IA repose en effet largement sur des d\u00e9cisions humaines, de la conception des syst\u00e8mes \u2013\u00a0c\u2019est-\u00e0-dire \u00ab\u00a0l\u2019assemblage\u00a0\u00bb des diff\u00e9rentes technologies n\u00e9cessaires comme l\u2019apprentissage automatique\u00a0\u2013 au choix des donn\u00e9es d\u2019entra\u00eenement. Les humains choisissent les contextes dans lesquels ils s\u2019appuient sur l\u2019IA et les utilisateurs disposent \u00e9galement de nombreux leviers de contr\u00f4le sur les syst\u00e8mes.
\n
\nLe vrai probl\u00e8me est plut\u00f4t pos\u00e9 par la difficult\u00e9 fondamentale de d\u00e9velopper des IA capables d\u2019assimiler des valeurs \u00e9thiques complexes comme l\u2019\u00e9quit\u00e9. Alors que nous disposons tous d\u2019une certaine libert\u00e9 d\u2019interpr\u00e9tation et de d\u00e9cision en mati\u00e8re d\u2019\u00e9thique, les syst\u00e8mes d\u2019IA n\u2019ont pas ces capacit\u00e9s d\u2019intuition\u00a0: les r\u00e8gles de d\u00e9cision doivent \u00eatre express\u00e9ment d\u00e9finies pour chaque situation concr\u00e8te. Une exp\u00e9rience a \u00e9t\u00e9 men\u00e9e pour d\u00e9terminer les d\u00e9cisions qui, du point de vue des participants, devaient \u00eatre prises par un v\u00e9hicule autonome pilot\u00e9 par une IA et confront\u00e9 \u00e0 des dilemmes[3]<\/a>. Devait-il par exemple privil\u00e9gier la protection des passagers ou celle des pi\u00e9tons\u00a0? Les r\u00e9ponses obtenues, parfois contradictoires, mettent en \u00e9vidence des diff\u00e9rences culturelles.
\n
\nCe constat donne lieu \u00e0 une nouvelle s\u00e9rie de questions. Qui doit prendre ce type de d\u00e9cisions\u00a0? De quelle mani\u00e8re\u00a0? Quelles sont les cons\u00e9quences pour la libert\u00e9 humaine, qui nous permet de faire parfois les \u00ab\u00a0mauvais\u00a0\u00bb choix\u00a0? Le d\u00e9fi \u00e9thique pos\u00e9 par l\u2019IA vient du fait qu\u2019elle nous oblige \u00e0 examiner en d\u00e9tail les cons\u00e9quences \u00e9thiques difficiles des d\u00e9cisions qui lui sont confi\u00e9es. C\u2019est \u00e0 la fois un risque et une chance.<\/p>\n

  1. Description du projet disponible sous TA-Swiss.ch<\/a>. L\u2019\u00e9tude sera publi\u00e9e d\u00e9but\u00a02020. [<\/span>]<\/a><\/li>
  2. Voir Loi et Christen (2019). [<\/span>]<\/a><\/li>
  3. Awad (2018). [<\/span>]<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    On pourrait croire \u00e0 un concours entre organisations internationales\u00a0: en moins d\u2019un an, l\u2019Organisation de coop\u00e9ration et de d\u00e9veloppement \u00e9conomiques (OCDE) a publi\u00e9 des lignes directrices en mati\u00e8re d\u2019intelligence artificielle (IA) et de protection des donn\u00e9es, le Conseil de l\u2019Europe une \u00ab\u00a0Recommandation sur la convergence technologique, l\u2019intelligence artificielle et les droits de l\u2019homme\u00a0\u00bb et le […]<\/p>","protected":false},"author":4941,"featured_media":18348,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"ep_exclude_from_search":false,"footnotes":""},"post__type":[81,83],"post_opinion":[],"post_serie":[],"post_content_category":[229],"post_content_subject":[231],"acf":{"seco_author":4941,"seco_co_author":null,"author_override":"","seco_author_post_ocupation_year":"","seco_author_post_occupation_de":"PD Dr. sc. ETH, Gesch\u00e4ftsleiter, Digital Society Initiative, Forschungsgruppenleiter, Institut f\u00fcr Biomedizinische Ethik und Medizingeschichte, Universit\u00e4t Z\u00fcrich","seco_author_post_occupation_fr":"Directeur de la Digital Society Initiative, directeur d\u2019un groupe de recherche \u00e0 l\u2019Institut d\u2019\u00e9thique biom\u00e9dicale et d\u2019histoire de la m\u00e9decine de l\u2019universit\u00e9 de Zurich","seco_co_authors_post_ocupation":null,"short_title":"Peut-on programmer le sens de l\u2019\u00e9thique ?","post_lead":"Les algorithmes ne disposent pas de l\u2019intuition humaine pour d\u00e9velopper des valeurs comme l\u2019\u00e9quit\u00e9. Cette situation place les programmeurs de syst\u00e8mes d\u2019intelligence artificielle face \u00e0 des dilemmes \u00e9thiques.","post_hero_image_description":"Nous nous fions \u00e0 notre intuition pour prendre des d\u00e9cisions \u00e9thiques, ce que ne peuvent pas faire les ordinateurs.","post_hero_image_description_copyright_de":"Shutterstock","post_hero_image_description_copyright_fr":"Shutterstock","post_references_literature":"