L’IA est comme la Force dans Star Wars

L’Intelligence Artificielle (IA) est comme la Force dans Star Wars. Il y a le côté obscur et le côté lumineux.

Le côté obscur est celui des applications comme les drones militaires autorisés à tuer, celles permettant à une entreprise de réduire ses effectifs, les systèmes prédictifs utilisés en finance pour maximiser les profits, les systèmes d’analyse des comportements afin d’évaluer l’attribution d’une assurance ou d’un prêt, etc. La liste est longue.

Le côté lumineux est celui des applications qui ne sont pas tournées vers le profit de quelques-uns, mais vers celui du plus grand nombre. C’est par exemple le cas de l’éducation, de la recherche, de l’art, de la santé, de la sauvegarde de la planète, etc.

Le côté lumineux est toujours plus difficile que le côté obscur.

« Plus facile, plus rapide, plus séduisant est le côté obscur », rappelle le vieux sage à son jeune et fougueux apprenti. Nous savons tous cela, et pourtant...

Je suis assez d’accord avec l’analyse de Tim O’Reilly dans son livre WTF : What’s the Future and Why It’s Up to Us. Il y dresse un constat pessimiste et lucide. Une de ses conclusions est qu’il nous faut changer « l’algorithme » qui gouverne le monde économique. Il faut changer en tout cas sa fonction d’évaluation. Celle-ci ne peut plus être la simple maximisation aveugle du profit d’actionnaires. Elle devrait au contraire tenir compte de la complexité du monde et des grands enjeux planétaires. Une telle fonction semble trop complexe à définir ? Et bien, utilisons justement l’IA pour élaborer de nouvelles solutions.

C’est utopique me direz-vous. Certes il y a l’action politique, mais personnellement, je crois aussi à l’intelligence collective qui résulte de l’action individuelle. Encore faut-il une véritable prise de conscience. D’où la priorité en IA à l’information, l’éducation et la formation professionnelle.

L’autre grand chantier est celui de l’éthique. Le problème n’est pas seulement de réfléchir à l’utilisation de l’IA, mais encore une fois d’informer sur les entreprises et les produits qui respectent une démarche éthique, c’est-à-dire respectueuse de la vie privée, du progrès pour la majorité et non une minorité, etc. En bref, le côté lumineux.

« Mais comment reconnaître le bon côté du mauvais ? » demande Luke à Yoda.

« Tu le sauras quand tu seras calme, en paix, passif. » répond le maître Jedi.

C’est vrai, mais il faudrait rendre plus simple et évidente l’information. Une solution possible serait de mettre en place un label « IA éthique », ou toute autre formulation permettant de comprendre que la formation, l’entreprise ou le produit utilise l’IA, mais de façon conforme à une charte éthique.

L’intérêt du label est sa capacité à être décliné pour l’adapter aux différents cas de figure : une déclinaison pour les établissements proposant des formations à l’IA de qualité, par exemple, et un autre pour ceux qui participent en plus à l’effort de recherche. Ceci vaut non seulement pour les établissements publics, mais aussi pour les établissements privés qui font partie intégrante du paysage de l’enseignement supérieur.

La difficulté consiste à établir le cahier des charges pour un tel label, qui soit à la fois simple et assez sélectif pour représenter un véritable engagement, sans pour autant décourager les acteurs, surtout les petites entreprises et les start-up. Il faut ensuite communiquer pour faire connaître et inciter les acteurs à s’engager, puis instruire ensuite les dossiers. Ceci ne peut être effectué que par une institution indépendante et volontaire, avec un comité regroupant à la fois des instances publiques, académiques et des entreprises.

De deux choses l’une : soit l’IA est une nouvelle bulle amplifiée par le hype marketing, soit c’est une révolution technologique qui va changer profondément les compétences et les métiers. Je mets d’emblée de côté l’hypothèse saugrenue d’une singularité technologique à laquelle j’ai déjà consacré un livre et de nombreuses interventions.

Dans le premier cas, il suffit d’attendre que le ballon se dégonfle et l’IA rejoindra la longue série des buzz words qui furent pendant un temps à la mode. Cela ne serait pas la première fois dans son histoire. Dans le second cas, il faut rapidement prendre des mesures d’accompagnement afin de nous préparer aux changements qui ne manqueront pas de survenir.

Le mythe du progrès exponentiel

Je reviens dans cet article sur l'un des sujets que j'aborde plus longuement dans mon livre « Immortalité numérique ». L’une des clés de voûte de la thèse transhumanisme réside dans l’accélération sans précédent du progrès technologique qui conduirait, à courte échéance, à l’émergence d’une singularité technologique : une superintelligence capable de s’améliorer elle-même et qui prendrait en mains l’avenir de l’humanité.

Cette hypothèse repose essentiellement sur une extrapolation de la loi de Moore, pour laquelle, grosso modo, la puissance de calcul de nos ordinateurs doublerait tous les deux ans.  En positionnant sur un graphe à échelle logarithmique l’évolution de la puissance des machines depuis l’apparition des premiers calculateurs, on se rend compte que cela ressemble en effet bigrement au début d’une jolie fonction exponentielle. En extrapolant, c’est-à-dire en traçant la suite de la courbe en se basant sur la même progression, on obtient une fonction impressionnante où  la puissance d’un ordinateur dépasse celle du cerveau humain vers 2030, puis celle de tous les humains de la planète réunis vers 2045. Aux alentours de 2100, la courbe devient presque verticale avec une puissance qui tend vers l’infini et au-delà, comme dirait Buzz l’éclair.

La conséquence de cette hypothèse pour Ray Kurzweil et les transhumanistes est donc évidente : très rapidement la puissance de calcul sera telle qu’elle permettra à une intelligence artificielle (IA) d’atteindre un niveau d’intelligence sans précédent et d’accéder à la conscience. Ensuite, on ne sait plus trop ce qui se passerait, d’où la métaphore de la singularité qui fait référence à l’horizon des événements d’un trou noir. Cela pourrait-être le début d’un scénario de science-fiction (et cela l’a été avec plus ou moins de succès), mais beaucoup y croient réellement jusqu’à devenir une sorte de prédiction quasi-religieuse qui échappe à toute rationalité.

Dans le monde abstrait des mathématiques, un tel modèle simple (pour ne pas dire simpliste) conduit à cette conclusion surprenante. Toutefois, dans la réalité, une telle extrapolation ne tient pas la route une seule seconde. Elle néglige en effet  un si grand nombre de paramètres, que cela en devient fascinant. Ainsi, pour ne citer que les plus évidents,  elle ne tient absolument pas compte de l’énergie et des ressources nécessaires. Pourtant, nous prenons conscience à quel point les ressources planétaires sont limités. Elle ne tient pas compte non plus de l’aplatissement constatée depuis plusieurs années de la fameuse loi de Moore. Elle ne tient pas compte encore du fait que la puissance de calcul n’est pas l’intelligence. Elle ne tient pas compte enfin de l’impact sur l’économie et la société, du rejet social qu’elle ne manquerait pas de provoquer, etc.  En conclusion l’hypothèse de la singularité technologique est une expérience de pensée intéressante, mais elle ne résiste pas à la complexité de la réalité.

À quoi ressemble alors la courbe de l’accroissement du progrès technologique si ce n’est pas une exponentielle ?

Une première évidence est que le progrès technologique est une courbe croissante. Toutefois, comme pour l’évolution biologique, celle-ci n’est pas non plus linéaire ni constante.  Si l’on considère une innovation particulière, sa propagation dans le temps est en général assez bien décrite par une fonction en S de type sigmoïde.  À un niveau plus global, l’évolution technologique montre une succession non-linéaire d’accroissements rapides suivis de périodes de stases plus ou moins longues. Le cas particulier de l’IA est assez édifiant sur ce point, avec ses périodes d’intense innovation et ses « hivers » successifs. Cela rappelle évidemment la théorie des équilibres ponctués formulée par l’évolutionniste Stephen Jay Gould. Cela rejoint aussi l’hypothèse que j’ai formulée il y a quelques années déjà à propos de « l’évolution aubord du chaos ».

En outre, comme dans la théorie de Gould, il peut arriver des événements « catastrophiques » qui ralentissent fortement voir « reset » l’évolution, avant de repartir… Or, les dangers qui nous guettent sont non-négligeables : épuisement des ressources planétaires, pollution, réchauffement climatique, pandémie, crise économique majeure, guerre mondiale, etc. Il faut donc espérer  que notre intelligence et notre niveau technologique, sans devenir infinis, deviennent suffisants pour les éviter ou sinon, en atténuer les conséquences.

Les Intelligences Artificielles ne sont pas vivantes

Dans l'imaginaire collectif, l'IA est devenue un mythe moderne. Même si elle n'existe pas encore en tant que telle, pour beaucoup, y compris certains érudits, il n'y a aucun doute : dans un futur proche, une superintelligence émergera et surpassera l'intelligence humaine en tous points. Cette quasi divinité prendra alors le contrôle de la destinée humaine. Pour le meilleur, selon les technoprophètes du transhumanisme. Pour le pire, selon certaines personnalités qui voient là l'une des plus grandes menaces qui pèsent sur l'humanité.

Malgré les tentatives de retour à la raison de nombreux scientifiques du domaine, rien n'y fait. Les articles prémonitoires se succèdent et s'empilent sur la toile. Le moindre événement dans le microcosme IA devient aussitôt un argument de plus qui étaye la thèse d'une singularité technologique en croissance exponentielle.

Pourtant, il existe de nombreux arguments rationnels pour montrer que cette hypothèse est très peu vraisemblable. Je ne vais pas les énumérer à nouveau, car je l'ai déjà fait dans mon livre Immortalité numérique. Je vais plutôt avancer un nouvel argument qui, à ma connaissance, n'a encore jamais été mis en avant. Il est le suivant :

Les IA ne sont pas vivantes et il n'y a pratiquement aucune chance qu'elles le deviennent.

Le nec plus ultra de l'intelligence artificielle actuellement, c'est un réseau de neurones artificiels profond (deep Learning), c'est-à-dire composé d'un nombre important de couches (de 4 à plusieurs centaines). Le dispositif comporte une couche d'entrée, qui permet de lui transmettre des données, et une couche en sortie, qui permet de récupérer le résultat après propagation des données de couche en couche.

Après des années de galère, on sait aujourd'hui apprendre à un tel réseau à reconnaître des formes (au sens large du terme) et à généraliser à partir des données qu'on lui présente. Il est alors capable d'effectuer des régressions ou des classifications selon le type d'application envisagée avec un taux de réussite proche du sans-faute.

Un tel système n'est cependant pas vivant et il ne peut pas le devenir, dans l'état actuel de nos connaissances. Sans entrer dans une démonstration théorique complexe, son organisation est celle d'un automate et non celle d'une structure autonome au sens de l'autopoièse. Et l'on peut prendre toutes les autres définitions de la vie issues de la biologie : les architectures IA actuelles n'ont pratiquement aucune des caractéristiques de la vie telle qu'on la connaît.

Il n'existe aucun exemple d'être conscient qui ne soit vivant.

Il me semble que la conscience (awareness) soit un préalable indispensable à l'avènement d'une superintelligence. Or, il me semble également que la vie est un préalable tout aussi indispensable à l'apparition de la conscience, fussent-elle d'ordre primaire. Je ne parle même pas ici d'une conscience d'ordre supérieure, c'est-à-dire liée au langage.

Il faut se rendre à l'évidence : les IA actuelles ne sont pas vivantes, elles sont inertes. Elles ont tout au plus certaines facettes de l'intelligence que l'on attribue à l'homme, mais là s'arrête la comparaison.

L'illusion de la vie n'est pas la vie. Nous avons beau projeter sur les IA toutes les capacités que l'on attribue à l'esprit humain, par anthropomorphisme, elles sont plus mortes que vivantes. En fait, on ne peut même pas dire qu'elles soient mortes, puisqu'elles n'ont jamais été vivantes.

C'est probablement d'ailleurs l'une des causes du malaise profond de certains à propos de l'IA. Tous comme certains robots androïdes trop ressemblants à l'homme, ces fantômes d'esprits errent au fond de la vallée de l'étrange.

Le pari de Voltaire

Je me suis réveillé dans un pays que je ne connaissais pas. Cela m’arrive de temps en temps. J’ai cette capacité étrange de voyager dans l’espace et dans le temps. Cette fois là, je me suis retrouvé dans une ville peu connue du nom d’Uruk. Cela ne me disait rien, du moins au début…

Et puis je me suis souvenu.

Uruk était une ville de l’ancienne Mésopotamie, dans le sud de l’Irak. J’étais remonté jusqu’en 3500 avant J.-C. environ, à l’origine de l’une des plus grandes découvertes de l’humanité. L’une de celles, peu nombreuses, qui ont changé la destinée humaine. En effet, depuis peu, les commerçants de cette région avaient adopté un procédé pour graver sur des pierres un inventaire de leurs biens, de leurs bêtes et des échanges commerciaux. Peu à peu, au départ purement comptable, ce besoin s’était transformé et certains avaient bizarrement commencé à écrire…

Cela ne s’était pas fait tout seul. Beaucoup d’entre eux avait du affronter les plaisanteries de leur entourage, voire une certaine agressivité. Le changement a toujours fait peur, quelle que soit l’époque.

« Pourquoi écrire des histoires et les figer dans la pierre, alors que l’on peut les raconter de vive voix ? » disait l’un.

« Je préfère écouter un conteur, le soir, en groupe, près d’un bon feu », disait l’autre.

« Pourquoi vouloir faire disparaître ainsi nos traditions orales ? » argumentaient certains.

J’ai bien essayé de les convaincre de l’importance de cet événement, mais la plupart ne m’écoutaient même pas. Après tout, je n’étais qu’un étranger de passage.

Quelques temps plus tard, je me suis réveillé dans une ville complètement différente. Déjà, il y faisait plus froid et il pleuvait. Les gens parlaient entre eux d’un certain Johannes Gensfleisch zur Laden. L’homme avait emprunté beaucoup d’argent, tout d’abord à son cousin, puis à un banquier, pour financer un projet complètement fou. Malheureusement, la mise au point de son invention avait pris plus de temps que prévu et les résultats des ventes étaient plus que mitigés. En clair, il était en faillite et il avait beaucoup d’ennuis…

Et puis j’ai compris.

Celui dont le projet était voué à l’échec n’était autre que Gutemberg. J’avais atterri en 1452 à Mayence en Allemagne, au moment même où il imprimait les premières bibles.

« Cela ne va pas marcher… » disaient les gens d’un air entendu.

« Je suis trop attaché à la sensation du parchemin et au travail artistique des copistes », m’avait confié un moine.

« Comment peut-on envisager un avenir où les livres ne seraient plus copiés par des humains mais par des machines ? » s’inquiétait un membre éminent de la haute société.

« Pourquoi autant de livres ? La plupart ne savent même pas lire ! » me dit un passant en haussant les épaules.

J’ai bien essayé de les convaincre de l’importance de cette invention, mais l’animosité était palpable. Je me suis dit que si je continuais ainsi, j’allais terminer sur un bûcher. Alors, je n’ai plus rien dit.

Ces temps derniers, je n’ai plus vécu une seule de ces expériences spatio-temporelles étranges. Alors j’ai repris le cours normal de ma vie. Le week-end dernier, j’étais invité en tant qu’auteur par l’association Délires d’encre pour le festival ScientiLivre près de Toulouse. J’ai signé quelques dédicaces. J’ai également animé une conférence sur « les enjeux du livre numérique ». Il y avait une centaine d’auditeurs… Bon, d’accord, une bonne cinquantaine, mais il faisait très beau et très chaud à Toulouse en ce dimanche d’octobre.

Et là, d’un seul coup, j’ai pris conscience que l’histoire se répétait à nouveau.

J’ai eu beau argumenter sur l’importance de la révolution numérique, du « changement de monde » dont parlait Michel Serres l’année précédente au même endroit, j’ai bien vu les mines renfrognées de certains.

« Les jeunes ne lisent plus et ce ne sont pas ces machines qui vont changer quelque chose », m’a dit un vieil auteur dont je ne révélerai pas le nom.

« Je suis trop habituée au livre et à la sensation du papier », m’a confié une jeune femme qui se destinait à une carrière dans l’édition. « J’espère que je trouverais du travail après mes études », a-t-elle ajouté, visiblement inquiète.

« Vous êtes bien trop optimiste ! » m’a dit une autre personne.

Et bien, le croirez-vous, je suis parti plutôt rassuré.

J'ai publié cet article initialement sur le Blog de Thilbault Delavaud le 30 octobre 2014, mais il me semble toujours autant d'actualité.

L’intelligence artificielle, bientôt candidate à l’Élysée ?

En février 2011, à l’issue de trois manches, un dénommé Watson battait à plate couture deux champions du jeu « Jeopardy ! » et remportait le gain de 1 million de dollars. Or Watson n’est autre qu’un programme d’intelligence artificielle (IA) développé par IBM. Et l’événement, abondamment commenté, démontrait donc que l’IA n’était plus confinée à des jeux comme les échecs, mais pouvait répondre à des questions de culture générale formulées en langage naturel (Illustration : démonstration des capacités de Watson dans le jeu « Jeopardy ! » en 2011 Rosemaryetoufee / Wikimedia commons). Plus récemment, lors des débats télévisés entre les principaux prétendants au poste suprême de président de la République, la mise en scène évoquait sans ambiguïté les jeux populaires en France comme « Question pour un champion », « Des chiffres et des lettres » ou encore « Jeopardy ! » aux États-Unis. On y voyait des candidats qui s’affrontaient debout derrière des pupitres, avec des temps de réponse chronométrés, et des résultats s’affichant en temps réel. Tout était là, jusqu’aux codes et aux couleurs du genre. D’où cette question, volontairement provocatrice…

Que donnerait le débat d’une IA face à des politiques ?

Avant de répondre, résumons la situation de part et d’autre. Depuis la victoire de Watson, les avancées spectaculaires de l’IA, notamment dans le domaine de l’apprentissage profond ou deep learning, ont suscité de très nombreux questionnements. Les technoprophètes du transhumanisme prédisent l’avènement dans un futur proche d’une super-intelligence qui prendrait en main la destinée de la planète après une envolée exponentielle de ses capacités. Pour certains, cette « singularité technologique » serait une véritable bénédiction. Pour d’autres, elle mettrait inévitablement fin à l’espèce humaine.

Sans aller jusqu’à ces points de vue extrêmes, il est certain que dans les années à venir, l’IA impactera profondément de nombreux secteurs d’activité, et les métiers qui leur sont associés. Mais dans le même temps, on ne peut qu’observer avec amertume la méfiance et le discrédit croissant des citoyens envers les institutions et les acteurs de la sphère politique. Les symptômes sont nombreux : désengagement dans les représentations traditionnelles que sont les partis politiques et les syndicats, absentéisme record aux élections, vote contestataire pour les extrêmes, personnalités politiques régulièrement décriées pour leur manque d’efficacité ou leurs agissements dans certaines affaires, etc. Il ne sert à rien de se voiler la face : les bases institutionnelles de nos démocraties représentatives branlent de toutes parts.

Vu la défiance des Français envers leur classe politique et l’accélération des progrès en IA, la réponse à notre question ne fait donc aucun doute : une IA aurait une chance non négligeable de battre les candidats humains. D’ailleurs, dans un sondage mené en février 2017 par Opentext auprès de 2000 Français, près d’un tiers d’entre eux pensait qu’une technologie intelligente prendrait de meilleures décisions que le gouvernement. Il n’y aurait donc pas que certaines catégories de métiers, comme les chauffeurs de taxi ou les radiologues, touchés par l’essor de la robotisation et de l’IA : les ministres et même le président de la République pourraient perdre leur travail !

La campagne « Watson 2016 », un sujet plus sérieux qu’il n’y paraît

En 2016, déjà, lors de l’élection présidentielle américaine, l’un des candidats annoncés n’était autre que Watson. Sur son site de campagne, on pouvait lire : « Nous pensons que les capacités uniques de Watson pour analyser l’information, et prendre des décisions éclairées et transparentes, en font un candidat idéal pour le poste à responsabilités que représente celui de président. » S’en suivait un argumentaire étayé, qui vantait les mérites des capacités d’analyse de l’IA, avec la prise en compte de tous les aspects d’un problème, l’évaluation des qualités et des défauts de chaque décision et leur impact potentiel sur l’économie, l’environnement, l’éducation, la santé, la diplomatie et les libertés publiques.

Dans les faits, il ne s’agissait pas d’une véritable candidature portée par IBM, mais d’une initiative personnelle de l’artiste et designer Aaron Siegel. Son objectif ? « J’espère que cela poussera les gens à discuter du potentiel de l’intelligence artificielle dans la politique. », déclarait-il dans un entretien alors accordé à la presse. On peut sourire à cette idée, mais le sujet est en fait plus sérieux qu’il n’y paraît. Car le monde actuel est devenu si complexe qu’il est difficile d’analyser globalement une situation et les impacts d’une décision.

On peut se représenter cette complexité comme un grand réseau dynamique multidimensionnel. Avec plusieurs enjeux majeurs : l’épuisement progressif des ressources planétaires, le réchauffement climatique, les conflits armés, l’omniprésence du terrorisme, la surpopulation, l’économique mondialisée, la lutte contre la pauvreté… pour ne citer que les plus évidents. Le plus souvent, les décisions qui sont prises n’ont pour objectif que de résoudre un problème « local ». Mais les « effets de bord » sur d’autres noeuds du réseau peuvent être importants : à titre d’exemple, une décision prise pour assurer le seul équilibre financier du système de retraite a des conséquences multiples, directes et indirectes dans toute la société.

L’IA : un outil pour moderniser les instances de gouvernance

Avec les avancées récentes de l’IA, on prend conscience de la complémentarité entre l’intelligence humaine et celle des machines. Pour simplifier, la première, généralement, prend ses décisions de façon émotionnelle et avec empathie, en tenant compte du contexte, avant de rationaliser ses choix. La seconde, quant à elle, analyse méthodiquement les données mises à sa disposition, avant de prendre une décision logique. La question n’est donc pas tant de remplacer les politiques par des IA, mais de moderniser les instances de gouvernance. Entre autres, en les dotant d’outils d’analyse et de prise de décision à la hauteur des enjeux.

Pour rester dans la course de l’IA déjà engagée au niveau mondial, la France a récemment annoncé sa stratégie. Mais en dépit de recommandations pour faire de l’État un pionnier dans l’adoption de l’IA, les actions envisagées restent timides et, surtout, la sphère politique y est totalement absente.

Dans une telle perspective, outre un investissement important de recherche et développement, plusieurs problématiques restent à aborder. Dont celle de l’objectivité des analyses face à des biais possibles, ou encore la transparence des décisions. La complexité des situations et le côté « boîte noire » de certaines technologies, comme les réseaux de neurones profonds, compliquent en effet l’explication d’une décision dont la justification résiderait dans un réseau complexe de causes et de conséquences. Cela ne rend pas la tâche aisée face à certains discours qui nient la complexité du monde, en proposant des discours simplistes pour susciter l’adhésion de l’opinion publique.

Ajoutons pour conclure que la science-fiction a depuis longtemps imaginé des sociétés gouvernées par des IA. Ainsi, la Culture inventée par l’écrivain écossais Iain M. Banks est une parfaite utopie où l’humanité, entièrement gérée par des IA, est devenue une civilisation multiforme, décentralisée, pacifiste, tolérante, éthique. Les culturiens y jouissent d’une durée de vie étendue, et passent la majorité de leur temps en loisirs. Mais tout n’y est pas si simple. Car l’utopie n’est jamais très loin de la dystopie et du cauchemar.

Jean-Claude Heudin, Directeur IIM & Chercheur Intelligence Artificielle, Groupe Léonard de Vinci
La version originale de cet article a été publiée sur The Conversation.

Le projet Living Joconde sélectionné pour Futur en Seine

« Living Joconde » est un projet de recherche mené par l’IIM (Institut de l’Internet et du Multimédia) en partenariat avec l’école de design Strate. J'ai l'honneur d'être à la fois le directeur de l'IIM mais aussi celui du projet. Florent Aziosmanoff, auteur de « Living Art : l'art numérique » aux éditions CNRS, fait partie de l'équipe du projet. Cette action est labellisée par Cap Digital et financée par la région Ile-de-France. Elle sera présentée lors de Futur en Seine 2015. Pour sa 5e édition, ce festival mondial présentera du 11 au 21 juin 2015, au cœur de Paris et dans toute l’Île-de-France, les dernières innovations numériques françaises et internationales aux professionnels ainsi qu’au grand public.

Le projet de recherche est basé sur le célèbre tableau « La Joconde » de Léonard de Vinci qui sera décliné en :

(1) Un prototype de « bijou connecté » capable de s’animer et de réagir face à son propriétaire et en fonction de l’environnement. Cette approche ouvre la perspective de la joaillerie connectée et plus spécifiquement de bijoux « vivants ».
(2) Une installation numérique mettant en scène une reproduction interactive du fameux tableau à l’échelle 1, capable de s’animer et de réagir à son environnement. Cette approche ouvre la perspective des « peintures vivantes ».
(3) Une version « personnelle » de la « Living Joconde » sous la forme d’une application interactive sur tablette numérique.

Créé dans l’esprit du Living Art & Design, la « Living Joconde » propose non pas de posséder une Joconde, mais de vivre avec une Joconde.

Le projet tire parti des compétences des partenaires en matière d’installation interactive, de robotique et d’intelligence artificielle, de mécatronique, de design d’objets connectés et communicants. Outre les défis en terme d'animation haute-définition, de perception de l'environnement, de mécatronique, etc., j'ai un intérêt tout particulier pour le moteur « central » des dispositifs puisqu'il s'agira d'un module d'intelligence artificielle mettant en œuvre un « métabolisme émotionnel » capable de donner « vie » à la célèbre peinture de Léonard de Vinci. En clin d’œil, voici les premières images issues du projet (merci à Fabrice Houlné de l'IIM) montrant le modèle 3D développé (image ci-dessus) et un sourire étrange (image ci-contre).

Immortalité numérique : intelligence artificielle et transcendance

Je profite de la sortie cette semaine du film Transcendance avec Johnny Depp pour publier un essai sur lequel je travaille depuis plusieurs années : Immortalité numérique.

Le thème du film est indéniablement celui de la singularité technologique. En voici le pitch :

Dans un futur proche, un groupe de scientifiques tente de concevoir le premier ordinateur doté d’une conscience et capable de réfléchir de manière autonome. Ils doivent faire face aux attaques de terroristes anti-technologies qui voient dans ce projet une menace pour l’espèce humaine. Lorsque le scientifique à la tête du projet est assassiné, sa femme se sert de l’avancée de ses travaux pour transcender l’esprit de son mari dans le premier super ordinateur de l’histoire. Pouvant désormais contrôler tous les réseaux liés à internet, il devient ainsi quasi omnipotent. Mais comment l’arrêter s’il perdait ce qui lui reste d’humanité ?

Encore un blockbuster qui joue sur la peur qu'inspire les machines. On avait espéré avec la série suédoise Real Humans un peu d'originalité, mais la seconde saison est, de ce point de vue, décevante. Bref, revenons à mon essai. Voici un résumé du livre :

Les technologies numériques bousculent ce que nous avions cru établi, jusqu’à remettre en cause la nature humaine. Il en est ainsi de ce rêve aussi ancien que l’humanité : l’immortalité. L’homme, ce mortel, a en effet toujours envié cette longévité aux dieux. Et voici que la science et la technologie nous laissent entrevoir la possibilité de devenir immortel, si ce n’est au niveau de la chair, en tout cas au niveau de notre personnalité numérique.

Certains prédisent que les avancées vont s’accélérer de manière exponentielle jusqu’à l’avènement d’une intelligence artificielle omnisciente. Dès lors, nous pourrions vivre comme de purs esprits débarrassés des contingences organiques. Allons-nous devenir des fantômes numériques errants dans les limbes d’Internet, des cyborgs immortels ou bien encore des clones accédant à leur passé multimédia ?

L’objectif de ce livre est de faire un état de ces questions qui régulièrement font l’objet de débats et de questionnements. En particulier, il convient de bien différencier l’image véhiculée par les films à grand spectacle et la réalité des laboratoires.

Dans la première partie, le livre introduit la notion d'immortalité numérique en montrant l'évolution de l'identité et de la personnalité sur les réseaux vers celle d’un double virtuel. Dans un second temps, il remonte aux racines de l'immortalité. Autrefois chasse gardée des religions, ce sujet est devenu un enjeu pour la science et la technologie, non seulement pour la médecine et les biotechnologies, mais également pour le numérique.

La seconde partie aborde le sujet controversé de la singularité technologique. Depuis l'accélération exponentielle du progrès jusqu'à l'immortalité par téléchargement de l'esprit dans un

ordinateur, en passant par l'avènement d'une super- intelligence artificielle, le livre tord le cou aux prédictions fantasmatiques des transhumanistes. Sans rejeter la possibilité de progrès scientifiques significatifs, il revient à une vision plus réaliste des perspectives liées aux recherches dans les laboratoires.

En particulier, dans la troisième partie, le livre fait un point sur cette jeune discipline qu'est l'intelligence artificielle. Après avoir fait beaucoup parler d'elle et fait rêver le grand public, elle a connu une succession d'avancées et de périodes moins fastes, voire de désaffection. Le livre rappelle son histoire et les principaux courants qui la composent, puis il présente une vision pragmatique de ses enjeux et de ses applications.

La quatrième et dernière partie aborde le sujet de la transcendance. Pour les hommes, elle est synonyme d'immortalité, d'une vie éternelle à l'instar des dieux, fusse-t- elle limitée à une sauvegarde de la mémoire multimédia d'un individu sous la forme d'un fantôme numérique. Pour une machine, immortelle par construction, la véritable transcendance est plutôt celle de l'accès à la conscience. Pour conclure, Jean-Claude Heudin propose une approche de l'intelligence artificielle basée sur les sciences de la complexité afin d’étudier cette perspective d'un point de vue scientifique.

Eugene Goostman a t-il passé avec succès le test de Turing ?

Le test de Turing... Voilà une antiquité qui ressurgit du siècle dernier comme un fantôme avec toujours les mêmes fantasmes.

Mettons tout de suite les choses au point. NON : Eugène Goostman n'a pas passé avec succès le fameux test de Turing, le Graal de l'IA classique. Certes, dans son article fondateur de l'IA, publié en 1950, Turing prédisait que dans les 50 ans, des machines pourraient être confondues avec un humain dans plus de 30% des cas lors de conversations de 5 minutes, mais ceci est une mauvaise interprétation de ce qu'il pensait être son "jeu de l'imitation".

Rappelons-en brièvement le principe : ce test consiste à mettre en confrontation verbale un interrogateur avec un ordinateur et un humain au travers d'un clavier-écran de manière à ne pas voir ni entendre celui-qui répond. Si l’homme qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, alors on peut considérer que le logiciel de l’ordinateur est doté des mêmes capacités que l'esprit humain : intelligence, esprit, conscience...

Voyons ce qu'il en est.

Le principal problème consiste dans la durée du test. Même si l'on admet sa validité, alors celui-ci doit être beaucoup plus long. En outre, si l'on testait l'orthographe de quelqu'un par une dictée de 5 minutes et qu'il obtenait comme note 3 sur 10, on ne dirait certainement pas qu'il est bon. Pour être bon, il faudrait qu'il obtienne régulièrement plus de 8.

C'est la même chose avec le test de Turing. Pour qu'une machine le passe avec succès, il faudrait qu'on ne puisse pas distinguer ses réponses de l'humain très régulièrement, c'est à dire dans plus de 80% (au moins) et sur une durée beaucoup plus longue. En fait, théoriquement, pour affirmer que les deux  "systèmes" sont équivalents, il faudrait un temps infiniment long : A = B si et seulement si T tend vers l'infini. En d'autres termes, seulement dans cette condition il nous serait strictement impossible de faire la différence.

Le second problème vient de la pertinence du test lui-même. J'ai déjà écrit sur ce sujet et je ne suis pas le seul, car le test de Turing a été au centre des débats entre l'IA "forte" et l'IA "faible", entre les fonctionnalistes et les matérialistes depuis 1950.

Je ne reparlerai donc pas ici de l'expérience de pensée de la "chambre chinoise" créée par le philosophe John Searle (lire mon dernier livre à ce sujet : Immortalité numérique). Mais en voici une autre, plus simple, que j'ai appelé "Le faux Van Gogh". Imaginez que nous ayons un peintre qui ait appris à reproduire à la perfection les toiles du maître. Les tableaux seraient si parfaits, que seuls quelques rares experts pourraient faire la différence. Pourrions-nous dire pour autant que le peintre pense comme Van Gogh ? Pourrait-on dire qu'il EST Van Gogh ? Évidemment non. Et si l'on remplace le peintre par un robot, cela ne change rien à l'affaire.

Cela rejoint le thème également très discuté depuis des siècles de la réalité des mathématiques. Un phénomène modélisé par un jeu d'équations, qui permet de comprendre et prédire ses comportements, est-il équivalent au phénomène ? Les mathématiques existent-elles dans la réalité physique ?

Personnellement, je répond une nouvelle fois : non.

Pour conclure, je pense que le test de Turing a beaucoup vieilli. Il prend le problème de l'IA de la plus mauvaise manière qui soit : essayer de faire croire qu'une machine peut remplacer un humain sans que l'on puisse faire une quelconque différence. Cette approche est, de mon point de vue philosophiquement et éthiquement critiquable. L'IA est une formidable discipline, pleine de promesses, mais elle doit être au service de l'homme et non le remplacer.

Retour d'Innorobo 2014

Innorobo est devenu en quelques années seulement le rendez-vous incontournable de la robotique pour tous les professionnels et les passionnés de robotique (un grand merci à Catherine Simon sans qui cet événement n'existerait pas). Outre la création d'un fond d’investissement Robolution Capital de 80 millions d'Euros, l'événement majeur de cette édition fut sans nul doute la première présentation publique du robot humanoïde Roméo d'Aldebaran Robotics.

Pour mémoire, Romeo est un projet de développement de robot humanoïde autonome piloté par une équipe d'Aldébraran et supporté par le pôle de compétitivité Cap Digital. C'est un projet du Fond Unique Interministériel (FUI) financé par la DGCIS (Ministère de l’Économie et des Finances), la Région Ile de France et la Ville de Paris. Les partenaires initiaux de ce projet, outre Aldebaran Robotics, sont : Acapela, As An Angel, CEA LIST, CNRS LIMSI, INRIA, Institut de la Vision, LAAS, LISV de l'Université de Versailles Saint Quentin, LPPA du Collège de France, Spirops, Telecom ParisTech, Voxler. Un coup de chapeau au passage à la société SPIROPS spécialisée en IA et créée par l'un de mes anciens thésards, Axel Buendia.

Venons-en à Roméo. Ce robot humanoïde a un côté "serviteur docile" qui rappelle Robin Williams dans l'Homme Bicentenaire, réalisé par Chris Colombus (1999) d'après un roman de l'incontournable Isaac Asimov. Le moins que l'on puisse dire, c'est qu'il ne fait pas peur. Sa taille d'un mètre quarante le rend assez grand pour être utile dans le contexte de l'aide à la personne, tout en lui donnant la corpulence rassurante d'un jeune homme. Il doit être capable à terme de se repérer face à des obstacles, de marcher, porter des objets voire des humains, l'objectif étant qu'il puisse être un robot d'assistance aux personnes dépendantes. J'ai apprécié au passage la présence d'un bouton (rouge) d'arrêt d'urgence dans son dos, système que j'appelais de mes vœux dans mon essai sur les 3 lois de la robotique. Roméo est en développement et il n'est pas encore totalement autonome, puisque la démonstration nécessitait quand même deux ingénieurs en "back-office" qui pilotaient et contrôlaient tous ses faits et gestes.

Ce projet montre clairement le dynamisme français dans ce jeune secteur de la robotique de service. Reste la vraie question qui me taraude l'esprit : où est donc passée Juliette ?

Pourquoi Google investit dans la robotique ?

Avec l'acquisition récente de l'un des fleurons high-tech américain, Boston Dynamics, à qui l'on doit entre autres les robots BigDog et Atlas, Google confirme son intérêt pour la robotique. Beaucoup se perdent en conjectures sur la raison de ces acquisitions...

Pourtant, en mettant à la tête de sa nouvelle division robotique, Andy Rubin, l’un des créateurs d’Android, il n'y a pas à douter des raisons stratégiques du géant américain.

En quelques années seulement, Android s'est imposé comme le leader des systèmes d'exploitation sur le marché des smartphones et tablettes : 81% pour Android, 13% pour iOS et seulement 4% environ pour Microsoft (source Strategy Analytics 2013). De fait, Android est devenu le système d'exploitation le plus répandu au monde, toutes plateformes confondues. Microsoft n'a plus que ses yeux pour pleurer et Apple doit rapidement de remettre de la perte de son Guru visionnaire...

Si Google investit donc dans la robotique, c'est parce qu'il a bien compris que pour augmenter son marché et rester le leader incontesté, il fallait maintenant étendre l'emprise d'Android sur les applications futures des objets connectés, des objets prêts du corps (wearable), des systèmes embarqués et des robots. Ce marché pourrait dépasser très largement en nombre d'unités celui des mobiles. Quand, lors de mes conférences, je parle de la superposition prochaine du virtuel et du réel, en voici une confirmation.

Du coup, on reparle aussi des tendances transhumanistes de la firme de Mountain View (je ne m'en prive pas moi-même d'ailleurs). Mais, même si la robotique est bien dans le faisceau des préoccupations transhumanistes, cette explication n'est pas la principale : "business is business". C'est en tout cas une très bonne nouvelle pour la robotique en générale et la robotique française en particulier. Que le géant Google investisse, qu'Amazon expérimente de son côté la livraison par Drone, va rendre les investisseurs beaucoup plus ouverts sur les projets robotiques. À vos tableurs!

Why making complex robots when you can hack nature?

Within the next decades, we will be able to hack (efficiently) micro-organisms and insects. Why making tiny flying machines when you can hack and fly a real bug?
In 2006 the DARPA (US Defense Advanced Research Projects Agency) asked scientists to submit "innovative proposals to develop technology to create insect-cyborgs". Initialy launched as a science fair, the idea was to create robo-bugs and drone-bugs for many applications such as detecting traces of explosives, finding people in collapsed buidings, and also... many military and intelligence applications. As a (not so) funny example, remember this scene in the Fifth Element movie from Luc Besson (see image) when a roach kitted out with a video camera and a microphone tried to get information from the world's president. You could say that's only a science-fiction movie, but just read the article here about the real roach-cyborg experiment.

There is also a growing community of "biohackers", science enthusiasts who are experimenting with genes, brains and bodies outside the confines of traditional laboratories. Giving amateurs access to some of science's most sophisticated tools and techniques is good... and bad. Some researchers fully expects that "kids will be able to hack these things, like they wrote code in the Commodore 64 days". Well... stop. Just think about what's we are doing here: a bug is a living animal. And that's "only" a bug. Imagine viruses. Imagine dogs. We must start thinking about where we'd draw our ethical lines.
That's for sure, with the convergence of nanotech, biotech and cybertech, we will be able to modify and hack nature in the next future. As every scientific and technological advances, there will be fantastic applications but also very dangerous ones. Hacking something without understanding it could lead to very bad consequences. I think there must be an ethical debate about this. However, I think also that we can't refuse the benefits of experiments, mainly because scientific discoveries and technological advances are the only solution to our planet's main problems. But we must move (fast) forward with a human-centered ethical approach, not with short-term financial purposes. When I write "human-centered", I mean also that humans belong to nature, and as a consequence, it includes also our living environment : earth and all its creatures.

Using AI in educational ebooks

Et voilà… “Discover how works a Computer” is available on the iBookStore since a few days. This is the first ebook in a series about complexity published by Science eBook. It was designed using HTML5/CSS3 and (a lot of) Javascript. The first idea was to have a « lab » in order to be able to experiment directly (simple) assembly programming in the ebook. The second idea was to check the knowledge of the reader at the end using an embedded intelligent conversational agent.

Of course, everything is not perfect. In particular, I encounter a lot of problems for implementing these ideas with all the constraints of the ePUB format: this is a “pure” ePUB3 ebook with no use of any platform dependent or online features. It was quite difficult to integrate the EVA (Evolutionary Virtual Agent) technology and I was obliged to cut many features. Also, I am not very satisfied with the interactivity for the AI. I developed a small keyboard since it was the only way to have one inside the ebook without calling the iPad’s specific routines. Anyway, it will be much better when fluent speech recognition and synthesis will be available eReaders and tablets.
Nevertheless, this is the first ebook with built-in artificial intelligence and I am quite proud of it! I think it is a first step in using enhanced contents and artificial intelligence into ebooks and it prefigures what could be done in larger online learning systems such as MOOCs in the near future. It shows also that we can design now small objects and systems with artificial intelligence inside for improving the human interface.

L'autre, le semblable, le différent...

Les 6 et 7 décembre prochains, j'aurai le plaisir de participer à la treizième édition du colloque GYPSY sous la direction du Professeur René Fryman du Docteur Muriel Flis-Trèves au Centre Universitaire des Saint-Pères à Paris. René Frydman est connu car il a permis la première naissance d'un « bébé éprouvette ». J'interviendrai le vendredi 6 à 17H00 sur le thème « Demain tous cyborg ? ». Voici l'argument du colloque :

Mettre au monde… en laissant le hasard du génotype déterminer les différences et les ressemblances, le singulier et le semblable, l’unique et le commun. L’aventure est renouvelée par des millions d’hommes et de femmes.

Prolongement de soi, l’individu issu de l’ADN de ses parents n’en est pas moins un nouvel humain, ne se résumant pas à la somme des deux patrimoines génétiques.

S’il en est de même pour les enfants nés grâce aux techniques biomédicales, ces dernières bousculent et réaménagent nos schémas de pensées sur la maternité, la paternité, mais aussi l’altérité. Les figures additionnelles du donneur et de la donneuse de gamètes dans les couples, les maternités tardives, l’homoparentalité, la sélection des embryons dans les maladies génétiques, le choix du sexe, nous obligent à considérer l’être à qui l’on donne vie avec d’autres repères que ceux habituellement mis en oeuvre.

La gémellité pose aussi la question du semblable et du différent. Qui est l’autre pour son jumeau ? Que signifie vivre avec son semblable ? Et la ressemblance pourquoi intrigue t-elle ?

Le débat se prolonge autour d’enjeux qui sont déjà une réalité. Implémenter les technologies qui tiennent au corps comme les Googles Glass et bientôt l’iWatch, remplacer des membres par des prothèses ou être soigné par des cellules souches, le placement de micropuces, ce couplage entre cybernétique et nature humaine modifie notre notion du semblable ? Sommes nous déjà des hommes cyborgs ? Des hommes « augmentés » ? Comment vivra-t-on demain aux côtés de robots nous ressemblant en tous points, conçus pour nous assister dans toutes les tâches de la vie quotidienne, physiques ou intellectuelles ?

Que signifie d’autre part, s’identifier à l’autre pour les psychanalystes ? Les anthropologues, philosophes mais aussi juristes mesurent chaque jour la distance à conserver entre soi et l’autre pour s’impliquer sans se perdre. Les modalités à partir desquelles nous construisons notre regard sur nos semblables et notre amour pour l’autre, demeurent mouvantes et incertaines. L’altérité, une condition de l’émergence identitaire, ne survient-t-elle pas quand nous considérons et respectons son absolue différence ?

Les apports scientifiques, psychanalytiques, littéraires, artistiques, historiques, sociologiques, juridiques, politiques sur le thème de « l’autre, le semblable, le différent… » augurent des journées de réflexions passionnantes…

An ebook with embedded Artificial Intelligence

I‘ve just finished my first ebook using the (relatively) new epub version 3 format and it’s amazing what can be done. In fact, you can do almost all what can be done with HTML5 including complex Javascript programs.

My project is to create a series of ebooks about my favorite subjects in science: complexity, evolution, artificial intelligence, etc. And you know what? I have decided to put a lot of technology in that project. The idea is to use Artificial Intelligence inside an ebook to help people learn…

My first book will be on “How works a Computer”, because I realized that many people, even sometime junior programmers (!), don’t know how a microprocessor executes machine code, its basic principle, who invented it and when. In the ebook I have integrated a “lab” which is basically a simulator of a microprocessor. So people will be able not only to learn but also to experiment directly in the ebook!

At the end, instead of a classical quiz, you will find an intelligent conversational agent. You can chat with it for fun, but you can also try to answer questions about what you have learned and the agent will evaluate your level.

For that project, I have used the first Javascript implementation of my EVA (Evolutionary Virtual Agent) technology. The unexpected point was that an ebook does not enable you to integrate HTML text inputs and thus, for example, the iPad virtual keyboard will never appear... Too bad. Well, it takes me only few hours to fix that problem by programming from scratch a new virtual keyboard using HTML5. I’m now in the phase of testing everything and fix details…

The ebook will be soon online on science-ebook.com science-ebook.com. Keep tuned.

L'intelligence collective de la grenouille

Mettons au clair immédiatement cette histoire : je n'ai rien contre les grenouilles. Au contraire. Mais, il faut bien reconnaître qu'elles ne brillent pas par leur intelligence collective.

Il y a bien longtemps maintenant, au siècle dernier, l'Intelligence Artificielle "classique" cherchait à réaliser une machine intelligente basée sur l'idée que l'on pouvait modéliser nos processus de raisonnement indépendamment de la structure du cerveau. Fertile aux débuts, avec en particulier les systèmes experts, cette approche a vite trouvé ses limites.

Dans le même temps, ou presque, le développement des Réseaux Neuronaux a pris le contre pied de cette démarche en adoptant le modèle du neurone formel. Là encore, malgré des résultats pourtant prometteurs, le réductionnisme inhérent à la méthode n'a pas permis de dépasser le stade d'applications mettant en scène quelques milliers de neurones artificiels.

Plus tard, l'Intelligence Artificielle Distribuée et l'Intelligence Collective ont caressé l'espoir de l'émergence. Il s'agit de voir apparaître des capacités cognitives inédites d'une communauté résultant des interactions multiples entre ses membres. Chaque agent possède une information locale et limitée et obéit à un ensemble de règles simples. L'intérêt provient plutôt des relations entre agents qui peuvent être nombreuses et multiples et d'où doit émerger une structure utile à la collectivité. Chaque individu trouve alors un bénéfice à collaborer et sa propre performance au sein du groupe est meilleure que s'il était isolé (source Wikipédia).

Okay. Mais cela me semble un peu... utopique. C'est un peu comme si l'on constituait une équipe de personnes ayant presque toutes les mêmes compétences, sans chef de projet, et que l'on espérait qu'émerge une organisation apte à résoudre les problèmes et mener le projet à son terme. On peut en rêver, mais cela ne marche pas (bien).

J'ai en effet beau chercher, aucun exemple d'intelligence collective de cette sorte, apte à résoudre  des problèmes complexes, ne me vient à l'esprit. Bien au contraire, nombre d'assemblées accouchent péniblement de consensus mous, qui ne résolvent pas grand chose si ce n'est leur propre continuité.

On me rabâchera les incontournables exemples des fourmis et autres insectes ou agents sociaux. Je suis évidemment d'accord, les ayant moi-même étudiés, programmés, simulés... Mais il faut bien reconnaître que ces exemples d'intelligences collectives sont limités à des comportements finalement assez simples : recherche de nourriture, regroupement, évitement, etc.

C'est comme si l'on s'attendait miraculeusement à ce que l'intelligence de la fourmilière puisse égaler ou dépasser l'intelligence humaine. Non et c'est bien là le problème. En aucun cas, ce type de système n'est apte à résoudre des problèmes dont la complexité dépasse de loin celle de leur propre organisation.

Si l'on souhaite progresser, il faut passer à de nouveaux modèles d'intelligence de la multitude. Ces modèles ne sont pas simples et ne peuvent se limiter à quelques règles élémentaires. Leur complexité ne peut tenir compte que du local et du global. Ils seront massivement parallèles avec de multiples niveaux d'organisations hybrides, dynamiques et interconnectés.

Alors, arriverons-nous à sauver les grenouilles d'une extinction annoncée? Rien n'est moins sûr. Mais cela vaut le coup d'essayer, n'est-ce pas?