{"id":132108,"date":"2020-07-24T07:58:41","date_gmt":"2020-07-24T07:58:41","guid":{"rendered":"https:\/\/dievolkswirtschaft.ch\/2020\/07\/mader-cas-scherer-8-9-2020fr\/"},"modified":"2023-08-23T23:58:06","modified_gmt":"2023-08-23T21:58:06","slug":"mader-cas-scherer-8-9-2020fr","status":"publish","type":"post","link":"https:\/\/dievolkswirtschaft.ch\/fr\/2020\/07\/mader-cas-scherer-8-9-2020fr\/","title":{"rendered":"G\u00e9rer l\u2019intelligence artificielle de mani\u00e8re responsable"},"content":{"rendered":"

Nous sommes confront\u00e9s quotidiennement \u00e0 l\u2019intelligence artificielle (IA). Pourtant, nous r\u00e9fl\u00e9chissons peu \u00e0 la mani\u00e8re d\u2019en g\u00e9rer les applications\u00a0: nous n\u2019en connaissons la plupart du temps pas le fonctionnement ni ne savons de quelle mani\u00e8re elle nous influence.
\n
\nQu\u2019il s\u2019agisse de recommandations concernant des produits de boutiques en ligne ou d\u2019offres d\u2019emploi, toutes nous paraissent \u00e0 premi\u00e8re vue insoup\u00e7onnables. Ce n\u2019est qu\u2019en y regardant de plus pr\u00e8s que nous d\u00e9couvrons que ces recommandations apparemment pratiques cachent des algorithmes qui ne d\u00e9fendent probablement pas nos seuls int\u00e9r\u00eats et qui sont \u00e9galement susceptibles de se tromper. <\/p>\n

L\u2019intelligence artificielle n\u2019est pas infaillible<\/h2>\n


\nLes probl\u00e8mes fondamentaux des applications de l\u2019IA sont \u00e9vidents (voir illustration<\/em>)[1]<\/a>. Les premi\u00e8res difficult\u00e9s surgissent d\u00e8s l\u2019analyse et dans les donn\u00e9es elles-m\u00eames. Des donn\u00e9es inexactes ou un traitement insuffisant peuvent en effet entra\u00eener des discriminations. C\u2019est pourquoi on parle aussi d\u2019un probl\u00e8me de biais. Certains groupes de personnes peuvent par exemple \u00eatre d\u00e9savantag\u00e9s lors de candidatures. Les utilisateurs \u2013\u00a0ici les candidats \u00e0 un emploi\u00a0\u2013 ne remarquent pas ce biais, car ils ne connaissent pas le fonctionnement de l\u2019algorithme.
\n
\nUn autre probl\u00e8me surgit lorsqu\u2019il s\u2019agit d\u2019algorithmes d\u2019apprentissage qui \u00e9voluent constamment. Il peut alors arriver que m\u00eame les d\u00e9veloppeurs de l\u2019algorithme ne puissent plus reconstituer comment l\u2019algorithme est arriv\u00e9 \u00e0 sa d\u00e9cision. Dans ce probl\u00e8me dit \u00ab\u00a0de la bo\u00eete noire\u00a0\u00bb, la complexit\u00e9 des proc\u00e9dures nous emp\u00eache de comprendre clairement l\u2019algorithme.
\n
\nIl existe en outre un probl\u00e8me dit \u00ab\u00a0d\u2019\u00e9quit\u00e9\u00a0\u00bb. Les hypoth\u00e8ses normatives des d\u00e9veloppeurs peuvent en effet \u00e9galement influencer la mise au point d\u2019algorithmes. Des valeurs et des int\u00e9r\u00eats sp\u00e9cifiques peuvent \u00eatre privil\u00e9gi\u00e9s par rapport \u00e0 d\u2019autres. Contrairement aux probl\u00e8mes de biais, ce sont ici les pr\u00e9jug\u00e9s du d\u00e9veloppeur qui posent probl\u00e8me et non les biais de l\u2019algorithme.
\n
\nCes difficult\u00e9s r\u00e9v\u00e8lent les probl\u00e9matiques de fond des syst\u00e8mes d\u2019IA. Or, il arrive que des individus fassent davantage confiance \u00e0 ces syst\u00e8mes qu\u2019\u00e0 leurs cong\u00e9n\u00e8res ou, inversement, qu\u2019ils accordent davantage de cr\u00e9dit \u00e0 d\u2019autres personnes dans des cas o\u00f9 les algorithmes prendraient des d\u00e9cisions plus objectives. Cette situation attire notre attention sur le probl\u00e8me de la confiance, qu\u2019il faut r\u00e9soudre pour chaque application.
\n
\nDans une \u00e9tude mandat\u00e9e par la Fondation suisse d\u2019\u00e9valuation des choix technologiques (TA-Swiss), une \u00e9quipe interdisciplinaire a \u00e9valu\u00e9 les risques et les chances li\u00e9s \u00e0 l\u2019utilisation de l\u2019IA dans les domaines du travail, de la consommation, de la formation et de la recherche, des m\u00e9dias et de l\u2019administration publique, et quels probl\u00e8mes fondamentaux peuvent alors se poser. Cet article se limite au travail et \u00e0 la consommation et s\u2019arr\u00eate en particulier sur les questions de politique \u00e9conomique qui en r\u00e9sultent. <\/p>\n

Quatre probl\u00e8mes d\u2019intelligence artificielle qui soul\u00e8vent des questions \u00e9thiques<\/h3>\n


\n\"\"<\/a> <\/p>\n

La peur de perdre son emploi<\/h2>\n


\nLe progr\u00e8s technique s\u2019est certes toujours accompagn\u00e9 de changements dans le monde du travail, mais l\u2019IA constitue aujourd\u2019hui un v\u00e9ritable saut dans l\u2019inconnu sur ce point, car elle est capable de seconder l\u2019homme dans certaines activit\u00e9s, voire de le remplacer dans des t\u00e2ches r\u00e9serv\u00e9es jusqu\u2019ici \u00e0 l\u2019intelligence humaine. Il n\u2019est donc pas surprenant que cet outil suscite de grandes inqui\u00e9tudes quant \u00e0 l\u2019avenir du travail.
\n
\nEn\u00a02013, les scientifiques d\u2019Oxford Carl Benedikt Frey et Michael Osborne estimaient dans une \u00e9tude que 47\u00a0% des m\u00e9tiers \u00e9taient menac\u00e9s par la num\u00e9risation, relan\u00e7ant ainsi d\u2019anciens d\u00e9bats[2]<\/a>. Plusieurs \u00e9tudes ont par la suite tent\u00e9 de confirmer ou d\u2019infirmer ce potentiel de rationalisation. D\u2019un c\u00f4t\u00e9, on rappelait des \u00e9volutions historiques selon lesquelles les vagues d\u2019automatisation entra\u00eenaient \u00e0 long terme une croissance de l\u2019emploi[3]<\/a>\u00a0; de l\u2019autre, on mettait en doute la l\u00e9gitimit\u00e9 de la comparaison, sous pr\u00e9texte que le progr\u00e8s actuel se distinguait par une qualit\u00e9 toute diff\u00e9rente[4]<\/a>. <\/p>\n

Le monde du travail se m\u00e9tamorphose<\/h2>\n


\nPour que la peur de perdre des emplois ne devienne pas un obstacle \u00e0 l\u2019innovation, il est n\u00e9cessaire que la soci\u00e9t\u00e9 r\u00e9gisse l\u2019introduction de l\u2019IA et qu\u2019elle favorise une r\u00e9partition \u00e9quitable des avantages. Ce point concerne en particulier les possibilit\u00e9s de trouver du travail et d\u2019obtenir un revenu. Les entreprises responsables et les milieux politiques doivent veiller \u00e0 ce que le remplacement du travail humain par des syst\u00e8mes d\u2019IA n\u2019entra\u00eene pas de ch\u00f4mage et de pertes de revenu. La n\u00e9cessit\u00e9 est plus urgente que jamais dans le contexte de la crise \u00e9conomique d\u00e9clench\u00e9e par la Covid-19. Des \u00e9volutions attendues \u00e0 long terme en raison du recours \u00e0 l\u2019IA \u2013\u00a0pertes massives d\u2019emplois et effondrement de certains secteurs\u00a0\u2013 sont devenues r\u00e9alit\u00e9 en quelques semaines. C\u2019est donc au niveau politique qu\u2019il s\u2019agit de d\u00e9cider quelles sont les mesures concr\u00e8tes \u00e0 prendre pour r\u00e9tablir la confiance n\u00e9cessaire \u00e0 la reprise \u00e9conomique comme \u00e0 une utilisation sans heurt des technologies li\u00e9es \u00e0 l\u2019IA.
\n
\nLes effets macro\u00e9conomiques possibles de la r\u00e9volution num\u00e9rique en g\u00e9n\u00e9ral et de l\u2019IA en particulier \u2013\u00a0notamment les possibilit\u00e9s toujours plus nombreuses de remplacer le travail humain\u00a0\u2013 devraient donc servir de pr\u00e9texte au lancement d\u2019un d\u00e9bat soci\u00e9tal sur les processus d\u2019adaptation\u00a0: faudrait-il par exemple r\u00e9duire l\u2019horaire normal de travail en cas de taux de ch\u00f4mage durablement \u00e9lev\u00e9\u00a0? Comment conserver les normes sociales et celles r\u00e9gissant le droit du travail face \u00e0 des conditions de travail toujours plus souples\u00a0? Comment emp\u00eacher les \u00e9carts salariaux de s\u2019aggraver\u00a0? Et quelles offres de formation continue faut-il cr\u00e9er pour am\u00e9liorer les chances de chacun tout en promouvant le d\u00e9veloppement et l\u2019utilisation de l\u2019IA\u00a0? <\/p>\n

Les consommateurs peu critiques<\/h2>\n


\nAlors que le recours \u00e0 l\u2019IA s\u2019accompagne souvent de r\u00e9serves dans le monde du travail, il est d\u00e9j\u00e0 tr\u00e8s avanc\u00e9 dans le domaine de la consommation. Il y a longtemps que cet outil est utilis\u00e9 pour identifier les segments attrayants de la client\u00e8le, \u00e9tablir des profils clients d\u00e9taill\u00e9s ou personnaliser les offres. Pour \u00e9conomiser des co\u00fbts et am\u00e9liorer leur efficacit\u00e9, des g\u00e9ants technologiques comme Google, Amazon, Facebook et Apple \u00e9laborent et mettent constamment en \u0153uvre de meilleurs syst\u00e8mes d\u2019IA \u00e0 l\u2019interface avec la client\u00e8le. Les consommateurs sont ainsi confront\u00e9s quotidiennement \u00e0 l\u2019IA \u2013\u00a0plus ou moins consciemment. Google Maps leur montre par exemple le plus court chemin pour rentrer chez eux, le syst\u00e8me de recommandations d\u2019Amazon leur propose d\u2019acheter d\u2019autres produits, Facebook Newsfeed trie les contenus et l\u2019assistant vocal d\u2019Apple Siri interagit couramment avec eux.
\n
\nLes avantages de ces syst\u00e8mes d\u2019IA sont manifestes\u00a0: d\u2019un c\u00f4t\u00e9, les entreprises profitent des processus d\u2019automatisation, par exemple en mati\u00e8re de planification ou de placement de la publicit\u00e9, et \u00e9conomisent des co\u00fbts, par exemple en recourant \u00e0 des assistants bas\u00e9s sur l\u2019IA et \u00e0 des \u00ab\u00a0robots conversationnels\u00a0\u00bb (\u00ab\u00a0chatbots\u00a0\u00bb) toujours plus humanis\u00e9s pour r\u00e9pondre aux questions les plus fr\u00e9quentes de la client\u00e8le\u00a0; d\u2019un autre c\u00f4t\u00e9, elles sont en mesure d\u2019am\u00e9liorer leur efficacit\u00e9 dans la mesure o\u00f9 elles s\u2019adressent de fa\u00e7on cibl\u00e9e aux consommateurs et proposent des offres taill\u00e9es sur mesure.
\n
\nLes consommateurs profitent eux aussi de ces informations personnalis\u00e9es\u00a0: les contenus et les offres jug\u00e9s de moindre int\u00e9r\u00eat sont occult\u00e9s et les d\u00e9cisions de consommation et d\u2019achat largement \u00e9tay\u00e9es \u2013\u00a0mais aussi influenc\u00e9es\u00a0\u2013 par cette pr\u00e9s\u00e9lection. \u00c0 une \u00e9poque o\u00f9 l\u2019information est devenue pl\u00e9thorique, beaucoup de clients appr\u00e9cient cette personnalisation. Mais les consommateurs devraient \u00e9galement \u00eatre conscients des \u00e9ventuels probl\u00e8mes de biais et d\u2019\u00e9quit\u00e9 d\u00e9crits pr\u00e9c\u00e9demment et donc ne pas se fier aveugl\u00e9ment aux syst\u00e8mes d\u2019IA.
\n
\nLe nombre croissant d\u2019empreintes \u00e9lectroniques laiss\u00e9es derri\u00e8re soi donne aujourd\u2019hui lieu \u00e0 une personnalisation dynamique des profils clients sans qu\u2019il soit la plupart du temps n\u00e9cessaire de demander leurs pr\u00e9f\u00e9rences aux consommateurs. Quelques centaines de \u00ab\u00a0J\u2019aime\u00a0\u00bb sur Facebook suffisent pour \u00e9valuer avec beaucoup de pr\u00e9cision des caract\u00e9ristiques personnelles sensibles[5]<\/a>. C\u2019est justement parce que ces syst\u00e8mes d\u2019IA fonctionnent sans la participation active des consommateurs qu\u2019ils restent une bo\u00eete noire opaque. Il devient donc toujours plus difficile pour les consommateurs d\u2019imaginer les inf\u00e9rences que l\u2019IA tire de leurs donn\u00e9es (\u00ab\u00a0inferred data\u00a0\u00bb) et m\u00eame de savoir o\u00f9 ils ont affaire \u00e0 de l\u2019IA. Ainsi, selon une \u00e9tude am\u00e9ricaine de\u00a02015, 62\u00a0% des utilisateurs de Facebook ne savaient pas que le service Newsfeed est personnalis\u00e9 par IA[6]<\/a>.
\n
\nLes auteurs de l\u2019\u00e9tude mandat\u00e9e par TA-Swiss recommandent donc aux entreprises qui utilisent des syst\u00e8mes d\u2019IA dans le domaine de la consommation de rendre transparent leur recours \u00e0 l\u2019IA et de communiquer simplement les donn\u00e9es personnelles qui entrent dans le syst\u00e8me et les inf\u00e9rences qui en sont tir\u00e9es. <\/p>\n

Le gagnant rafle la mise<\/h2>\n


\nLa plupart des syst\u00e8mes d\u2019IA secondent aujourd\u2019hui les consommateurs dans des domaines encore strictement d\u00e9finis. Les sp\u00e9cialistes s\u2019attendent cependant \u00e0 ce qu\u2019un petit nombre d\u2019auxiliaires d\u2019IA comme Assistant (Google), Siri (Apple) ou Alexa (Amazon) s\u2019imposent pour aider les consommateurs dans des pans entiers de leur vie. Au lieu d\u2019assistants sp\u00e9cialis\u00e9s dans les questions de sant\u00e9 ou dans la coordination des calendriers, un seul assistant pourrait \u00e0 l\u2019avenir seconder un consommateur dans une multitude de t\u00e2ches, ce qui para\u00eet \u00e0 premi\u00e8re vue avantageux.
\n
\nMais comme plus ces syst\u00e8mes disposent de donn\u00e9es d\u2019un utilisateur, plus ils deviennent pr\u00e9cis, des co\u00fbts \u00e9lev\u00e9s pourraient \u00e0 long terme survenir pour les consommateurs qui changent de fournisseur. Les entreprises affronteront donc par ricochet des entraves croissantes \u00e0 l\u2019acc\u00e8s au march\u00e9 si elles ne disposent pas de donn\u00e9es d\u2019utilisateurs pour alimenter leurs propres syst\u00e8mes d\u2019IA. Les donn\u00e9es d\u2019utilisateurs deviennent ainsi de plus en plus le carburant de l\u2019\u00e8re num\u00e9rique. Pour \u00e9chapper \u00e0 une telle capitalisation des donn\u00e9es, il est n\u00e9cessaire de trouver des solutions durables.
\n
\nC\u2019est pourquoi les auteurs de l\u2019\u00e9tude mandat\u00e9e par TA-Swiss recommandent d\u2019examiner de quelle mani\u00e8re une mise en \u0153uvre de la \u00ab\u00a0portabilit\u00e9 des donn\u00e9es\u00a0\u00bb dans les syst\u00e8mes d\u2019IA serait possible. Le client qui prend un autre fournisseur pourrait alors emporter ses donn\u00e9es, ce qui faciliterait le changement de prestataire. Il s\u2019agirait d\u2019examiner dans quelle mesure les inf\u00e9rences \u00e9labor\u00e9es par un syst\u00e8me d\u2019IA (\u00ab\u00a0inferred data\u00a0\u00bb) devraient \u00eatre elles aussi portables, comme les donn\u00e9es brutes. <\/p>\n

Sensibiliser les esprits<\/h2>\n


\nLe d\u00e9bat soci\u00e9tal sur la perte d\u2019emplois ainsi que l\u2019exigence de transparence et de portabilit\u00e9 des donn\u00e9es montrent l\u2019importance que le grand public soit inform\u00e9 et impliqu\u00e9 activement dans les d\u00e9cisions concernant l\u2019utilisation et la gestion de l\u2019IA.
\n
\nD\u2019amples mesures de formation et de recherche sont n\u00e9cessaires afin que les citoyens aient davantage de contr\u00f4le sur leurs donn\u00e9es. Le syst\u00e8me \u00e9ducatif doit par exemple pr\u00e9parer toutes les classes d\u2019\u00e2ge \u00e0 manier l\u2019IA. \u00c0 cet effet, il s\u2019agit d\u2019\u00e9tudier quelles comp\u00e9tences sp\u00e9cifiques doivent \u00eatre enseign\u00e9es pour que les \u00e9l\u00e8ves acqui\u00e8rent une compr\u00e9hension g\u00e9n\u00e9rale des capacit\u00e9s et des limites des syst\u00e8mes d\u2019IA. Les connaissances correspondantes doivent \u00eatre int\u00e9gr\u00e9es dans les manuels didactiques et mises \u00e0 disposition des enseignants et des \u00e9l\u00e8ves sur les plateformes existantes.
\n
\nUn exemple de la mani\u00e8re dont le maniement de l\u2019IA peut \u00eatre enseign\u00e9 dans les \u00e9coles est ce que l\u2019on appelle la \u00ab\u00a0pens\u00e9e computationnelle\u00a0\u00bb. Cette capacit\u00e9 sensibilise les \u00e9l\u00e8ves aux probl\u00e9matiques complexes et au fonctionnement de base des applications d\u2019IA et leur permet d\u2019en faire un usage responsable. De telles capacit\u00e9s offrent en outre les pr\u00e9requis qui permettent de s\u2019imposer dans le monde du travail actuel et de profiter du recours \u00e0 l\u2019IA en tant que travailleur. <\/p>\n

Les d\u00e9veloppeurs sont aussi sollicit\u00e9s<\/h2>\n


\nOutre le syst\u00e8me \u00e9ducatif, la recherche est \u00e9galement tenue de s\u2019engager. Elle doit travailler \u00e0 des solutions fiables d\u2019applications de l\u2019IA. Il s\u2019agit \u00e9galement de promouvoir des comp\u00e9tences non-techniques comme la durabilit\u00e9 et l\u2019\u00e9thique dans les hautes \u00e9coles, en particulier dans les disciplines techniques consacr\u00e9es \u00e0 l\u2019\u00e9laboration de nouveaux syst\u00e8mes d\u2019IA. On s\u2019assurera ainsi que les approches normatives qui entrent aussi dans l\u2019\u00e9laboration d\u2019applications de l\u2019IA s\u2019inspirent de principes responsables et \u00e9thiques.
\n
\nIl s\u2019agit de s\u2019attaquer aux probl\u00e8mes fondamentaux pour permettre aux avantages de l\u2019IA de l\u2019emporter. Un pas important dans cette direction consiste \u00e0 mener un dialogue communautaire et document\u00e9 sur les chances et les risques de l\u2019IA, dialogue qu\u2019il faut absolument encourager.<\/p>\n

  1. Voir \u00e0 ce sujet Christen et al. (2020) ainsi que Christen (2019). [<\/span>]<\/a><\/li>
  2. Voir Frey et Osborne (2013). [<\/span>]<\/a><\/li>
  3. Voir Autor (2015). [<\/span>]<\/a><\/li>
  4. Voir Lovergine et Pellero (2018). [<\/span>]<\/a><\/li>
  5. Youyou, Kosinski et Stillwell (2015). [<\/span>]<\/a><\/li>
  6. Eslami et al. (2015). [<\/span>]<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Nous sommes confront\u00e9s quotidiennement \u00e0 l\u2019intelligence artificielle (IA). Pourtant, nous r\u00e9fl\u00e9chissons peu \u00e0 la mani\u00e8re d\u2019en g\u00e9rer les applications\u00a0: nous n\u2019en connaissons la plupart du temps pas le fonctionnement ni ne savons de quelle mani\u00e8re elle nous influence. Qu\u2019il s\u2019agisse de recommandations concernant des produits de boutiques en ligne ou d\u2019offres d\u2019emploi, toutes nous […]<\/p>","protected":false},"author":5063,"featured_media":101502,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"ep_exclude_from_search":false,"footnotes":""},"post__type":[83],"post_opinion":[],"post_serie":[],"post_content_category":[229],"post_content_subject":[231],"acf":{"seco_author":5063,"seco_co_author":[5065,5064,0],"author_override":"","seco_author_post_ocupation_year":"","seco_author_post_occupation_de":"Dr. rer. nat., wissenschaftlicher Mitarbeiter, Abteilung Technologie und Gesellschaft, Eidg. Materialpr\u00fcfungs- und Forschungsanstalt (Empa), St. Gallen","seco_author_post_occupation_fr":"Collaborateur scientifique, division Technologie et soci\u00e9t\u00e9, Laboratoire f\u00e9d\u00e9ral d\u2019essai des mat\u00e9riaux et de recherches (Empa), Saint-Gall","seco_co_authors_post_ocupation":[{"seco_co_author":5065,"seco_co_author_post_occupation_year":"","seco_co_author_post_occupation_de":"Senior Researcher, Institut f\u00fcr Technikfolgen-Absch\u00e4tzung, \u00d6sterreichische Akademie der Wissenschaften, Wien","seco_co_author_post_occupation_fr":"Chercheur principal, Institut d\u2019\u00e9valuation des choix technologiques, Acad\u00e9mie autrichienne des sciences, Vienne"},{"seco_co_author":5064,"seco_co_author_post_occupation_year":"","seco_co_author_post_occupation_de":"Assistenzprofessorin f\u00fcr Quantitatives Marketing, Universit\u00e4t Z\u00fcrich","seco_co_author_post_occupation_fr":"Professeure assistante de marketing quantitatif, universit\u00e9 de Zurich"}],"short_title":"G\u00e9rer l\u2019intelligence artificielle de mani\u00e8re responsable","post_lead":"Une partie de la soci\u00e9t\u00e9 manifeste une profonde m\u00e9fiance vis-\u00e0-vis de la num\u00e9risation. Il s\u2019agit de prendre ce scepticisme au s\u00e9rieux pour pouvoir exploiter les chances que pr\u00e9sente l\u2019intelligence artificielle pour la soci\u00e9t\u00e9.","post_hero_image_description":"Bon nombre de consommateurs ne savent pas qu\u2019ils laissent des traces num\u00e9riques \u2013 ni ce qu\u2019il advient ensuite de ces donn\u00e9es. Sc\u00e8ne de vie dans les rues \u00e0 Cuba.","post_hero_image_description_copyright_de":"Keystone","post_hero_image_description_copyright_fr":"Keystone","post_references_literature":"