L’IA est comme la Force dans Star Wars

L’Intelligence Artificielle (IA) est comme la Force dans Star Wars. Il y a le côté obscur et le côté lumineux.

Le côté obscur est celui des applications comme les drones militaires autorisés à tuer, celles permettant à une entreprise de réduire ses effectifs, les systèmes prédictifs utilisés en finance pour maximiser les profits, les systèmes d’analyse des comportements afin d’évaluer l’attribution d’une assurance ou d’un prêt, etc. La liste est longue.

Le côté lumineux est celui des applications qui ne sont pas tournées vers le profit de quelques-uns, mais vers celui du plus grand nombre. C’est par exemple le cas de l’éducation, de la recherche, de l’art, de la santé, de la sauvegarde de la planète, etc.

Le côté lumineux est toujours plus difficile que le côté obscur.

« Plus facile, plus rapide, plus séduisant est le côté obscur », rappelle le vieux sage à son jeune et fougueux apprenti. Nous savons tous cela, et pourtant...

Je suis assez d’accord avec l’analyse de Tim O’Reilly dans son livre WTF : What’s the Future and Why It’s Up to Us. Il y dresse un constat pessimiste et lucide. Une de ses conclusions est qu’il nous faut changer « l’algorithme » qui gouverne le monde économique. Il faut changer en tout cas sa fonction d’évaluation. Celle-ci ne peut plus être la simple maximisation aveugle du profit d’actionnaires. Elle devrait au contraire tenir compte de la complexité du monde et des grands enjeux planétaires. Une telle fonction semble trop complexe à définir ? Et bien, utilisons justement l’IA pour élaborer de nouvelles solutions.

C’est utopique me direz-vous. Certes il y a l’action politique, mais personnellement, je crois aussi à l’intelligence collective qui résulte de l’action individuelle. Encore faut-il une véritable prise de conscience. D’où la priorité en IA à l’information, l’éducation et la formation professionnelle.

L’autre grand chantier est celui de l’éthique. Le problème n’est pas seulement de réfléchir à l’utilisation de l’IA, mais encore une fois d’informer sur les entreprises et les produits qui respectent une démarche éthique, c’est-à-dire respectueuse de la vie privée, du progrès pour la majorité et non une minorité, etc. En bref, le côté lumineux.

« Mais comment reconnaître le bon côté du mauvais ? » demande Luke à Yoda.

« Tu le sauras quand tu seras calme, en paix, passif. » répond le maître Jedi.

C’est vrai, mais il faudrait rendre plus simple et évidente l’information. Une solution possible serait de mettre en place un label « IA éthique », ou toute autre formulation permettant de comprendre que la formation, l’entreprise ou le produit utilise l’IA, mais de façon conforme à une charte éthique.

L’intérêt du label est sa capacité à être décliné pour l’adapter aux différents cas de figure : une déclinaison pour les établissements proposant des formations à l’IA de qualité, par exemple, et un autre pour ceux qui participent en plus à l’effort de recherche. Ceci vaut non seulement pour les établissements publics, mais aussi pour les établissements privés qui font partie intégrante du paysage de l’enseignement supérieur.

La difficulté consiste à établir le cahier des charges pour un tel label, qui soit à la fois simple et assez sélectif pour représenter un véritable engagement, sans pour autant décourager les acteurs, surtout les petites entreprises et les start-up. Il faut ensuite communiquer pour faire connaître et inciter les acteurs à s’engager, puis instruire ensuite les dossiers. Ceci ne peut être effectué que par une institution indépendante et volontaire, avec un comité regroupant à la fois des instances publiques, académiques et des entreprises.

De deux choses l’une : soit l’IA est une nouvelle bulle amplifiée par le hype marketing, soit c’est une révolution technologique qui va changer profondément les compétences et les métiers. Je mets d’emblée de côté l’hypothèse saugrenue d’une singularité technologique à laquelle j’ai déjà consacré un livre et de nombreuses interventions.

Dans le premier cas, il suffit d’attendre que le ballon se dégonfle et l’IA rejoindra la longue série des buzz words qui furent pendant un temps à la mode. Cela ne serait pas la première fois dans son histoire. Dans le second cas, il faut rapidement prendre des mesures d’accompagnement afin de nous préparer aux changements qui ne manqueront pas de survenir.

Le mythe du progrès exponentiel

Je reviens dans cet article sur l'un des sujets que j'aborde plus longuement dans mon livre « Immortalité numérique ». L’une des clés de voûte de la thèse transhumanisme réside dans l’accélération sans précédent du progrès technologique qui conduirait, à courte échéance, à l’émergence d’une singularité technologique : une superintelligence capable de s’améliorer elle-même et qui prendrait en mains l’avenir de l’humanité.

Cette hypothèse repose essentiellement sur une extrapolation de la loi de Moore, pour laquelle, grosso modo, la puissance de calcul de nos ordinateurs doublerait tous les deux ans.  En positionnant sur un graphe à échelle logarithmique l’évolution de la puissance des machines depuis l’apparition des premiers calculateurs, on se rend compte que cela ressemble en effet bigrement au début d’une jolie fonction exponentielle. En extrapolant, c’est-à-dire en traçant la suite de la courbe en se basant sur la même progression, on obtient une fonction impressionnante où  la puissance d’un ordinateur dépasse celle du cerveau humain vers 2030, puis celle de tous les humains de la planète réunis vers 2045. Aux alentours de 2100, la courbe devient presque verticale avec une puissance qui tend vers l’infini et au-delà, comme dirait Buzz l’éclair.

La conséquence de cette hypothèse pour Ray Kurzweil et les transhumanistes est donc évidente : très rapidement la puissance de calcul sera telle qu’elle permettra à une intelligence artificielle (IA) d’atteindre un niveau d’intelligence sans précédent et d’accéder à la conscience. Ensuite, on ne sait plus trop ce qui se passerait, d’où la métaphore de la singularité qui fait référence à l’horizon des événements d’un trou noir. Cela pourrait-être le début d’un scénario de science-fiction (et cela l’a été avec plus ou moins de succès), mais beaucoup y croient réellement jusqu’à devenir une sorte de prédiction quasi-religieuse qui échappe à toute rationalité.

Dans le monde abstrait des mathématiques, un tel modèle simple (pour ne pas dire simpliste) conduit à cette conclusion surprenante. Toutefois, dans la réalité, une telle extrapolation ne tient pas la route une seule seconde. Elle néglige en effet  un si grand nombre de paramètres, que cela en devient fascinant. Ainsi, pour ne citer que les plus évidents,  elle ne tient absolument pas compte de l’énergie et des ressources nécessaires. Pourtant, nous prenons conscience à quel point les ressources planétaires sont limités. Elle ne tient pas compte non plus de l’aplatissement constatée depuis plusieurs années de la fameuse loi de Moore. Elle ne tient pas compte encore du fait que la puissance de calcul n’est pas l’intelligence. Elle ne tient pas compte enfin de l’impact sur l’économie et la société, du rejet social qu’elle ne manquerait pas de provoquer, etc.  En conclusion l’hypothèse de la singularité technologique est une expérience de pensée intéressante, mais elle ne résiste pas à la complexité de la réalité.

À quoi ressemble alors la courbe de l’accroissement du progrès technologique si ce n’est pas une exponentielle ?

Une première évidence est que le progrès technologique est une courbe croissante. Toutefois, comme pour l’évolution biologique, celle-ci n’est pas non plus linéaire ni constante.  Si l’on considère une innovation particulière, sa propagation dans le temps est en général assez bien décrite par une fonction en S de type sigmoïde.  À un niveau plus global, l’évolution technologique montre une succession non-linéaire d’accroissements rapides suivis de périodes de stases plus ou moins longues. Le cas particulier de l’IA est assez édifiant sur ce point, avec ses périodes d’intense innovation et ses « hivers » successifs. Cela rappelle évidemment la théorie des équilibres ponctués formulée par l’évolutionniste Stephen Jay Gould. Cela rejoint aussi l’hypothèse que j’ai formulée il y a quelques années déjà à propos de « l’évolution aubord du chaos ».

En outre, comme dans la théorie de Gould, il peut arriver des événements « catastrophiques » qui ralentissent fortement voir « reset » l’évolution, avant de repartir… Or, les dangers qui nous guettent sont non-négligeables : épuisement des ressources planétaires, pollution, réchauffement climatique, pandémie, crise économique majeure, guerre mondiale, etc. Il faut donc espérer  que notre intelligence et notre niveau technologique, sans devenir infinis, deviennent suffisants pour les éviter ou sinon, en atténuer les conséquences.

Les Intelligences Artificielles ne sont pas vivantes

Dans l'imaginaire collectif, l'IA est devenue un mythe moderne. Même si elle n'existe pas encore en tant que telle, pour beaucoup, y compris certains érudits, il n'y a aucun doute : dans un futur proche, une superintelligence émergera et surpassera l'intelligence humaine en tous points. Cette quasi divinité prendra alors le contrôle de la destinée humaine. Pour le meilleur, selon les technoprophètes du transhumanisme. Pour le pire, selon certaines personnalités qui voient là l'une des plus grandes menaces qui pèsent sur l'humanité.

Malgré les tentatives de retour à la raison de nombreux scientifiques du domaine, rien n'y fait. Les articles prémonitoires se succèdent et s'empilent sur la toile. Le moindre événement dans le microcosme IA devient aussitôt un argument de plus qui étaye la thèse d'une singularité technologique en croissance exponentielle.

Pourtant, il existe de nombreux arguments rationnels pour montrer que cette hypothèse est très peu vraisemblable. Je ne vais pas les énumérer à nouveau, car je l'ai déjà fait dans mon livre Immortalité numérique. Je vais plutôt avancer un nouvel argument qui, à ma connaissance, n'a encore jamais été mis en avant. Il est le suivant :

Les IA ne sont pas vivantes et il n'y a pratiquement aucune chance qu'elles le deviennent.

Le nec plus ultra de l'intelligence artificielle actuellement, c'est un réseau de neurones artificiels profond (deep Learning), c'est-à-dire composé d'un nombre important de couches (de 4 à plusieurs centaines). Le dispositif comporte une couche d'entrée, qui permet de lui transmettre des données, et une couche en sortie, qui permet de récupérer le résultat après propagation des données de couche en couche.

Après des années de galère, on sait aujourd'hui apprendre à un tel réseau à reconnaître des formes (au sens large du terme) et à généraliser à partir des données qu'on lui présente. Il est alors capable d'effectuer des régressions ou des classifications selon le type d'application envisagée avec un taux de réussite proche du sans-faute.

Un tel système n'est cependant pas vivant et il ne peut pas le devenir, dans l'état actuel de nos connaissances. Sans entrer dans une démonstration théorique complexe, son organisation est celle d'un automate et non celle d'une structure autonome au sens de l'autopoièse. Et l'on peut prendre toutes les autres définitions de la vie issues de la biologie : les architectures IA actuelles n'ont pratiquement aucune des caractéristiques de la vie telle qu'on la connaît.

Il n'existe aucun exemple d'être conscient qui ne soit vivant.

Il me semble que la conscience (awareness) soit un préalable indispensable à l'avènement d'une superintelligence. Or, il me semble également que la vie est un préalable tout aussi indispensable à l'apparition de la conscience, fussent-elle d'ordre primaire. Je ne parle même pas ici d'une conscience d'ordre supérieure, c'est-à-dire liée au langage.

Il faut se rendre à l'évidence : les IA actuelles ne sont pas vivantes, elles sont inertes. Elles ont tout au plus certaines facettes de l'intelligence que l'on attribue à l'homme, mais là s'arrête la comparaison.

L'illusion de la vie n'est pas la vie. Nous avons beau projeter sur les IA toutes les capacités que l'on attribue à l'esprit humain, par anthropomorphisme, elles sont plus mortes que vivantes. En fait, on ne peut même pas dire qu'elles soient mortes, puisqu'elles n'ont jamais été vivantes.

C'est probablement d'ailleurs l'une des causes du malaise profond de certains à propos de l'IA. Tous comme certains robots androïdes trop ressemblants à l'homme, ces fantômes d'esprits errent au fond de la vallée de l'étrange.

Le pari de Voltaire

Je me suis réveillé dans un pays que je ne connaissais pas. Cela m’arrive de temps en temps. J’ai cette capacité étrange de voyager dans l’espace et dans le temps. Cette fois là, je me suis retrouvé dans une ville peu connue du nom d’Uruk. Cela ne me disait rien, du moins au début…

Et puis je me suis souvenu.

Uruk était une ville de l’ancienne Mésopotamie, dans le sud de l’Irak. J’étais remonté jusqu’en 3500 avant J.-C. environ, à l’origine de l’une des plus grandes découvertes de l’humanité. L’une de celles, peu nombreuses, qui ont changé la destinée humaine. En effet, depuis peu, les commerçants de cette région avaient adopté un procédé pour graver sur des pierres un inventaire de leurs biens, de leurs bêtes et des échanges commerciaux. Peu à peu, au départ purement comptable, ce besoin s’était transformé et certains avaient bizarrement commencé à écrire…

Cela ne s’était pas fait tout seul. Beaucoup d’entre eux avait du affronter les plaisanteries de leur entourage, voire une certaine agressivité. Le changement a toujours fait peur, quelle que soit l’époque.

« Pourquoi écrire des histoires et les figer dans la pierre, alors que l’on peut les raconter de vive voix ? » disait l’un.

« Je préfère écouter un conteur, le soir, en groupe, près d’un bon feu », disait l’autre.

« Pourquoi vouloir faire disparaître ainsi nos traditions orales ? » argumentaient certains.

J’ai bien essayé de les convaincre de l’importance de cet événement, mais la plupart ne m’écoutaient même pas. Après tout, je n’étais qu’un étranger de passage.

Quelques temps plus tard, je me suis réveillé dans une ville complètement différente. Déjà, il y faisait plus froid et il pleuvait. Les gens parlaient entre eux d’un certain Johannes Gensfleisch zur Laden. L’homme avait emprunté beaucoup d’argent, tout d’abord à son cousin, puis à un banquier, pour financer un projet complètement fou. Malheureusement, la mise au point de son invention avait pris plus de temps que prévu et les résultats des ventes étaient plus que mitigés. En clair, il était en faillite et il avait beaucoup d’ennuis…

Et puis j’ai compris.

Celui dont le projet était voué à l’échec n’était autre que Gutemberg. J’avais atterri en 1452 à Mayence en Allemagne, au moment même où il imprimait les premières bibles.

« Cela ne va pas marcher… » disaient les gens d’un air entendu.

« Je suis trop attaché à la sensation du parchemin et au travail artistique des copistes », m’avait confié un moine.

« Comment peut-on envisager un avenir où les livres ne seraient plus copiés par des humains mais par des machines ? » s’inquiétait un membre éminent de la haute société.

« Pourquoi autant de livres ? La plupart ne savent même pas lire ! » me dit un passant en haussant les épaules.

J’ai bien essayé de les convaincre de l’importance de cette invention, mais l’animosité était palpable. Je me suis dit que si je continuais ainsi, j’allais terminer sur un bûcher. Alors, je n’ai plus rien dit.

Ces temps derniers, je n’ai plus vécu une seule de ces expériences spatio-temporelles étranges. Alors j’ai repris le cours normal de ma vie. Le week-end dernier, j’étais invité en tant qu’auteur par l’association Délires d’encre pour le festival ScientiLivre près de Toulouse. J’ai signé quelques dédicaces. J’ai également animé une conférence sur « les enjeux du livre numérique ». Il y avait une centaine d’auditeurs… Bon, d’accord, une bonne cinquantaine, mais il faisait très beau et très chaud à Toulouse en ce dimanche d’octobre.

Et là, d’un seul coup, j’ai pris conscience que l’histoire se répétait à nouveau.

J’ai eu beau argumenter sur l’importance de la révolution numérique, du « changement de monde » dont parlait Michel Serres l’année précédente au même endroit, j’ai bien vu les mines renfrognées de certains.

« Les jeunes ne lisent plus et ce ne sont pas ces machines qui vont changer quelque chose », m’a dit un vieil auteur dont je ne révélerai pas le nom.

« Je suis trop habituée au livre et à la sensation du papier », m’a confié une jeune femme qui se destinait à une carrière dans l’édition. « J’espère que je trouverais du travail après mes études », a-t-elle ajouté, visiblement inquiète.

« Vous êtes bien trop optimiste ! » m’a dit une autre personne.

Et bien, le croirez-vous, je suis parti plutôt rassuré.

J'ai publié cet article initialement sur le Blog de Thilbault Delavaud le 30 octobre 2014, mais il me semble toujours autant d'actualité.

L’intelligence artificielle, bientôt candidate à l’Élysée ?

En février 2011, à l’issue de trois manches, un dénommé Watson battait à plate couture deux champions du jeu « Jeopardy ! » et remportait le gain de 1 million de dollars. Or Watson n’est autre qu’un programme d’intelligence artificielle (IA) développé par IBM. Et l’événement, abondamment commenté, démontrait donc que l’IA n’était plus confinée à des jeux comme les échecs, mais pouvait répondre à des questions de culture générale formulées en langage naturel (Illustration : démonstration des capacités de Watson dans le jeu « Jeopardy ! » en 2011 Rosemaryetoufee / Wikimedia commons). Plus récemment, lors des débats télévisés entre les principaux prétendants au poste suprême de président de la République, la mise en scène évoquait sans ambiguïté les jeux populaires en France comme « Question pour un champion », « Des chiffres et des lettres » ou encore « Jeopardy ! » aux États-Unis. On y voyait des candidats qui s’affrontaient debout derrière des pupitres, avec des temps de réponse chronométrés, et des résultats s’affichant en temps réel. Tout était là, jusqu’aux codes et aux couleurs du genre. D’où cette question, volontairement provocatrice…

Que donnerait le débat d’une IA face à des politiques ?

Avant de répondre, résumons la situation de part et d’autre. Depuis la victoire de Watson, les avancées spectaculaires de l’IA, notamment dans le domaine de l’apprentissage profond ou deep learning, ont suscité de très nombreux questionnements. Les technoprophètes du transhumanisme prédisent l’avènement dans un futur proche d’une super-intelligence qui prendrait en main la destinée de la planète après une envolée exponentielle de ses capacités. Pour certains, cette « singularité technologique » serait une véritable bénédiction. Pour d’autres, elle mettrait inévitablement fin à l’espèce humaine.

Sans aller jusqu’à ces points de vue extrêmes, il est certain que dans les années à venir, l’IA impactera profondément de nombreux secteurs d’activité, et les métiers qui leur sont associés. Mais dans le même temps, on ne peut qu’observer avec amertume la méfiance et le discrédit croissant des citoyens envers les institutions et les acteurs de la sphère politique. Les symptômes sont nombreux : désengagement dans les représentations traditionnelles que sont les partis politiques et les syndicats, absentéisme record aux élections, vote contestataire pour les extrêmes, personnalités politiques régulièrement décriées pour leur manque d’efficacité ou leurs agissements dans certaines affaires, etc. Il ne sert à rien de se voiler la face : les bases institutionnelles de nos démocraties représentatives branlent de toutes parts.

Vu la défiance des Français envers leur classe politique et l’accélération des progrès en IA, la réponse à notre question ne fait donc aucun doute : une IA aurait une chance non négligeable de battre les candidats humains. D’ailleurs, dans un sondage mené en février 2017 par Opentext auprès de 2000 Français, près d’un tiers d’entre eux pensait qu’une technologie intelligente prendrait de meilleures décisions que le gouvernement. Il n’y aurait donc pas que certaines catégories de métiers, comme les chauffeurs de taxi ou les radiologues, touchés par l’essor de la robotisation et de l’IA : les ministres et même le président de la République pourraient perdre leur travail !

La campagne « Watson 2016 », un sujet plus sérieux qu’il n’y paraît

En 2016, déjà, lors de l’élection présidentielle américaine, l’un des candidats annoncés n’était autre que Watson. Sur son site de campagne, on pouvait lire : « Nous pensons que les capacités uniques de Watson pour analyser l’information, et prendre des décisions éclairées et transparentes, en font un candidat idéal pour le poste à responsabilités que représente celui de président. » S’en suivait un argumentaire étayé, qui vantait les mérites des capacités d’analyse de l’IA, avec la prise en compte de tous les aspects d’un problème, l’évaluation des qualités et des défauts de chaque décision et leur impact potentiel sur l’économie, l’environnement, l’éducation, la santé, la diplomatie et les libertés publiques.

Dans les faits, il ne s’agissait pas d’une véritable candidature portée par IBM, mais d’une initiative personnelle de l’artiste et designer Aaron Siegel. Son objectif ? « J’espère que cela poussera les gens à discuter du potentiel de l’intelligence artificielle dans la politique. », déclarait-il dans un entretien alors accordé à la presse. On peut sourire à cette idée, mais le sujet est en fait plus sérieux qu’il n’y paraît. Car le monde actuel est devenu si complexe qu’il est difficile d’analyser globalement une situation et les impacts d’une décision.

On peut se représenter cette complexité comme un grand réseau dynamique multidimensionnel. Avec plusieurs enjeux majeurs : l’épuisement progressif des ressources planétaires, le réchauffement climatique, les conflits armés, l’omniprésence du terrorisme, la surpopulation, l’économique mondialisée, la lutte contre la pauvreté… pour ne citer que les plus évidents. Le plus souvent, les décisions qui sont prises n’ont pour objectif que de résoudre un problème « local ». Mais les « effets de bord » sur d’autres noeuds du réseau peuvent être importants : à titre d’exemple, une décision prise pour assurer le seul équilibre financier du système de retraite a des conséquences multiples, directes et indirectes dans toute la société.

L’IA : un outil pour moderniser les instances de gouvernance

Avec les avancées récentes de l’IA, on prend conscience de la complémentarité entre l’intelligence humaine et celle des machines. Pour simplifier, la première, généralement, prend ses décisions de façon émotionnelle et avec empathie, en tenant compte du contexte, avant de rationaliser ses choix. La seconde, quant à elle, analyse méthodiquement les données mises à sa disposition, avant de prendre une décision logique. La question n’est donc pas tant de remplacer les politiques par des IA, mais de moderniser les instances de gouvernance. Entre autres, en les dotant d’outils d’analyse et de prise de décision à la hauteur des enjeux.

Pour rester dans la course de l’IA déjà engagée au niveau mondial, la France a récemment annoncé sa stratégie. Mais en dépit de recommandations pour faire de l’État un pionnier dans l’adoption de l’IA, les actions envisagées restent timides et, surtout, la sphère politique y est totalement absente.

Dans une telle perspective, outre un investissement important de recherche et développement, plusieurs problématiques restent à aborder. Dont celle de l’objectivité des analyses face à des biais possibles, ou encore la transparence des décisions. La complexité des situations et le côté « boîte noire » de certaines technologies, comme les réseaux de neurones profonds, compliquent en effet l’explication d’une décision dont la justification résiderait dans un réseau complexe de causes et de conséquences. Cela ne rend pas la tâche aisée face à certains discours qui nient la complexité du monde, en proposant des discours simplistes pour susciter l’adhésion de l’opinion publique.

Ajoutons pour conclure que la science-fiction a depuis longtemps imaginé des sociétés gouvernées par des IA. Ainsi, la Culture inventée par l’écrivain écossais Iain M. Banks est une parfaite utopie où l’humanité, entièrement gérée par des IA, est devenue une civilisation multiforme, décentralisée, pacifiste, tolérante, éthique. Les culturiens y jouissent d’une durée de vie étendue, et passent la majorité de leur temps en loisirs. Mais tout n’y est pas si simple. Car l’utopie n’est jamais très loin de la dystopie et du cauchemar.

Jean-Claude Heudin, Directeur IIM & Chercheur Intelligence Artificielle, Groupe Léonard de Vinci
La version originale de cet article a été publiée sur The Conversation.