Wednesday, May 03, 2017

Le mythe du progrès exponentiel

Je reviens dans cet article sur l'un des sujets que j'aborde plus longuement dans mon livre « Immortalité numérique ». L’une des clés de voûte de la thèse transhumanisme réside dans l’accélération sans précédent du progrès technologique qui conduirait, à courte échéance, à l’émergence d’une singularité technologique : une superintelligence capable de s’améliorer elle-même et qui prendrait en mains l’avenir de l’humanité.
Cette hypothèse repose essentiellement sur une extrapolation de la loi de Moore, pour laquelle, grosso modo, la puissance de calcul de nos ordinateurs doublerait tous les deux ans.  En positionnant sur un graphe à échelle logarithmique l’évolution de la puissance des machines depuis l’apparition des premiers calculateurs, on se rend compte que cela ressemble en effet bigrement au début d’une jolie fonction exponentielle. En extrapolant, c’est-à-dire en traçant la suite de la courbe en se basant sur la même progression, on obtient une fonction impressionnante où  la puissance d’un ordinateur dépasse celle du cerveau humain vers 2030, puis celle de tous les humains de la planète réunis vers 2045. Aux alentours de 2100, la courbe devient presque verticale avec une puissance qui tend vers l’infini et au-delà, comme dirait Buzz l’éclair.
La conséquence de cette hypothèse pour Ray Kurzweil et les transhumanistes est donc évidente : très rapidement la puissance de calcul sera telle qu’elle permettra à une intelligence artificielle (IA) d’atteindre un niveau d’intelligence sans précédent et d’accéder à la conscience. Ensuite, on ne sait plus trop ce qui se passerait, d’où la métaphore de la singularité qui fait référence à l’horizon des événements d’un trou noir. Cela pourrait-être le début d’un scénario de science-fiction (et cela l’a été avec plus ou moins de succès), mais beaucoup y croient réellement jusqu’à devenir une sorte de prédiction quasi-religieuse qui échappe à toute rationalité.

Dans le monde abstrait des mathématiques, un tel modèle simple (pour ne pas dire simpliste) conduit à cette conclusion surprenante. Toutefois, dans la réalité, une telle extrapolation ne tient pas la route une seule seconde. Elle néglige en effet  un si grand nombre de paramètres, que cela en devient fascinant. Ainsi, pour ne citer que les plus évidents,  elle ne tient absolument pas compte de l’énergie et des ressources nécessaires. Pourtant, nous prenons conscience à quel point les ressources planétaires sont limités. Elle ne tient pas compte non plus de l’aplatissement constatée depuis plusieurs années de la fameuse loi de Moore. Elle ne tient pas compte encore du fait que la puissance de calcul n’est pas l’intelligence. Elle ne tient pas compte enfin de l’impact sur l’économie et la société, du rejet social qu’elle ne manquerait pas de provoquer, etc.  En conclusion l’hypothèse de la singularité technologique est une expérience de pensée intéressante, mais elle ne résiste pas à la complexité de la réalité.

À quoi ressemble alors la courbe de l’accroissement du progrès technologique si ce n’est pas une exponentielle ?

Une première évidence est que le progrès technologique est une courbe croissante. Toutefois, comme pour l’évolution biologique, celle-ci n’est pas non plus linéaire ni constante.  Si l’on considère une innovation particulière, sa propagation dans le temps est en général assez bien décrite par une fonction en S de type sigmoïde.  À un niveau plus global, l’évolution technologique montre une succession non-linéaire d’accroissements rapides suivis de périodes de stases plus ou moins longues. Le cas particulier de l’IA est assez édifiant sur ce point, avec ses périodes d’intense innovation et ses « hivers » successifs. Cela rappelle évidemment la théorie des équilibres ponctués formulée par l’évolutionniste Stephen Jay Gould. Cela rejoint aussi l’hypothèse que j’ai formulée il y a quelques années déjà à propos de « l’évolution aubord du chaos ».

En outre, comme dans la théorie de Gould, il peut arriver des événements « catastrophiques » qui ralentissent fortement voir « reset » l’évolution, avant de repartir… Or, les dangers qui nous guettent sont non-négligeables : épuisement des ressources planétaires, pollution, réchauffement climatique, pandémie, crise économique majeure, guerre mondiale, etc. Il faut donc espérer  que notre intelligence et notre niveau technologique, sans devenir infinis, deviennent suffisants pour les éviter ou sinon, en atténuer les conséquences.

Friday, April 28, 2017

Les Intelligences Artificielles ne sont pas vivantes

Dans l'imaginaire collectif, l'IA est devenue un mythe moderne. Même si elle n'existe pas encore en tant que telle, pour beaucoup, y compris certains érudits, il n'y a aucun doute : dans un futur proche, une superintelligence émergera et surpassera l'intelligence humaine en tous points. Cette quasi divinité prendra alors le contrôle de la destinée humaine. Pour le meilleur, selon les technoprophètes du transhumanisme. Pour le pire, selon certaines personnalités qui voient là l'une des plus grandes menaces qui pèsent sur l'humanité.
Malgré les tentatives de retour à la raison de nombreux scientifiques du domaine, rien n'y fait. Les articles prémonitoires se succèdent et s'empilent sur la toile. Le moindre événement dans le microcosme IA devient aussitôt un argument de plus qui étaye la thèse d'une singularité technologique en croissance exponentielle.

Pourtant, il existe de nombreux arguments rationnels pour montrer que cette hypothèse est très peu vraisemblable. Je ne vais pas les énumérer à nouveau, car je l'ai déjà fait dans mon livre Immortalité numérique. Je vais plutôt avancer un nouvel argument qui, à ma connaissance, n'a encore jamais été mis en avant. Il est le suivant :

Les IA ne sont pas vivantes et il n'y a pratiquement aucune chance qu'elles le deviennent.

Le nec plus ultra de l'intelligence artificielle actuellement, c'est un réseau de neurones artificiels profond (deep Learning), c'est-à-dire composé d'un nombre important de couches (de 4 à plusieurs centaines). Le dispositif comporte une couche d'entrée, qui permet de lui transmettre des données, et une couche en sortie, qui permet de récupérer le résultat après propagation des données de couche en couche.
Après des années de galère, on sait aujourd'hui apprendre à un tel réseau à reconnaître des formes (au sens large du terme) et à généraliser à partir des données qu'on lui présente. Il est alors capable d'effectuer des régressions ou des classifications selon le type d'application envisagée avec un taux de réussite proche du sans-faute.
Un tel système n'est cependant pas vivant et il ne peut pas le devenir, dans l'état actuel de nos connaissances. Sans entrer dans une démonstration théorique complexe, son organisation est celle d'un automate et non celle d'une structure autonome au sens de l'autopoièse. Et l'on peut prendre toutes les autres définitions de la vie issues de la biologie : les architectures IA actuelles n'ont pratiquement aucune des caractéristiques de la vie telle qu'on la connaît.

Il n'existe aucun exemple d'être conscient qui ne soit vivant.

Il me semble que la conscience (awareness) soit un préalable indispensable à l'avènement d'une superintelligence. Or, il me semble également que la vie est un préalable tout aussi indispensable à l'apparition de la conscience, fussent-elle d'ordre primaire. Je ne parle même pas ici d'une conscience d'ordre supérieure, c'est-à-dire liée au langage.
Il faut se rendre à l'évidence : les IA actuelles ne sont pas vivantes, elles sont inertes. Elles ont tout au plus certaines facettes de l'intelligence que l'on attribue à l'homme, mais là s'arrête la comparaison.
L'illusion de la vie n'est pas la vie. Nous avons beau projeter sur les IA toutes les capacités que l'on attribue à l'esprit humain, par anthropomorphisme, elles sont plus mortes que vivantes. En fait, on ne peut même pas dire qu'elles soient mortes, puisqu'elles n'ont jamais été vivantes.

C'est probablement d'ailleurs l'une des causes du malaise profond de certains à propos de l'IA. Tous comme certains robots androïdes trop ressemblants à l'homme, ces fantômes d'esprits errent au fond de la vallée de l'étrange.

Le pari de Voltaire

Je me suis réveillé dans un pays que je ne connaissais pas. Cela m’arrive de temps en temps. J’ai cette capacité étrange de voyager dans l’espace et dans le temps. Cette fois là, je me suis retrouvé dans une ville peu connue du nom d’Uruk. Cela ne me disait rien, du moins au début…

Et puis je me suis souvenu.

Uruk était une ville de l’ancienne Mésopotamie, dans le sud de l’Irak. J’étais remonté jusqu’en 3500 avant J.-C. environ, à l’origine de l’une des plus grandes découvertes de l’humanité. L’une de celles, peu nombreuses, qui ont changé la destinée humaine. En effet, depuis peu, les commerçants de cette région avaient adopté un procédé pour graver sur des pierres un inventaire de leurs biens, de leurs bêtes et des échanges commerciaux. Peu à peu, au départ purement comptable, ce besoin s’était transformé et certains avaient bizarrement commencé à écrire…

Cela ne s’était pas fait tout seul. Beaucoup d’entre eux avait du affronter les plaisanteries de leur entourage, voire une certaine agressivité. Le changement a toujours fait peur, quelle que soit l’époque.

« Pourquoi écrire des histoires et les figer dans la pierre, alors que l’on peut les raconter de vive voix ? » disait l’un.

« Je préfère écouter un conteur, le soir, en groupe, près d’un bon feu », disait l’autre.

« Pourquoi vouloir faire disparaître ainsi nos traditions orales ? » argumentaient certains.

J’ai bien essayé de les convaincre de l’importance de cet événement, mais la plupart ne m’écoutaient même pas. Après tout, je n’étais qu’un étranger de passage.

Quelques temps plus tard, je me suis réveillé dans une ville complètement différente. Déjà, il y faisait plus froid et il pleuvait. Les gens parlaient entre eux d’un certain Johannes Gensfleisch zur Laden. L’homme avait emprunté beaucoup d’argent, tout d’abord à son cousin, puis à un banquier, pour financer un projet complètement fou. Malheureusement, la mise au point de son invention avait pris plus de temps que prévu et les résultats des ventes étaient plus que mitigés. En clair, il était en faillite et il avait beaucoup d’ennuis…

Et puis j’ai compris.

Celui dont le projet était voué à l’échec n’était autre que Gutemberg. J’avais atterri en 1452 à Mayence en Allemagne, au moment même où il imprimait les premières bibles.

« Cela ne va pas marcher… » disaient les gens d’un air entendu.

« Je suis trop attaché à la sensation du parchemin et au travail artistique des copistes », m’avait confié un moine.

« Comment peut-on envisager un avenir où les livres ne seraient plus copiés par des humains mais par des machines ? » s’inquiétait un membre éminent de la haute société.

« Pourquoi autant de livres ? La plupart ne savent même pas lire ! » me dit un passant en haussant les épaules.

J’ai bien essayé de les convaincre de l’importance de cette invention, mais l’animosité était palpable. Je me suis dit que si je continuais ainsi, j’allais terminer sur un bûcher. Alors, je n’ai plus rien dit.

Ces temps derniers, je n’ai plus vécu une seule de ces expériences spatio-temporelles étranges. Alors j’ai repris le cours normal de ma vie. Le week-end dernier, j’étais invité en tant qu’auteur par l’association Délires d’encre pour le festival ScientiLivre près de Toulouse. J’ai signé quelques dédicaces. J’ai également animé une conférence sur « les enjeux du livre numérique ». Il y avait une centaine d’auditeurs… Bon, d’accord, une bonne cinquantaine, mais il faisait très beau et très chaud à Toulouse en ce dimanche d’octobre.

Et là, d’un seul coup, j’ai pris conscience que l’histoire se répétait à nouveau.

J’ai eu beau argumenter sur l’importance de la révolution numérique, du « changement de monde » dont parlait Michel Serres l’année précédente au même endroit, j’ai bien vu les mines renfrognées de certains.

« Les jeunes ne lisent plus et ce ne sont pas ces machines qui vont changer quelque chose », m’a dit un vieil auteur dont je ne révélerai pas le nom.

« Je suis trop habituée au livre et à la sensation du papier », m’a confié une jeune femme qui se destinait à une carrière dans l’édition. « J’espère que je trouverais du travail après mes études », a-t-elle ajouté, visiblement inquiète.

« Vous êtes bien trop optimiste ! » m’a dit une autre personne.


Et bien, le croirez-vous, je suis parti plutôt rassuré.

J'ai publié cet article initialement sur le Blog de Thilbault Delavaud le 30 octobre 2014, mais il me semble toujours autant d'actualité.

Friday, April 21, 2017

L’intelligence artificielle, bientôt candidate à l’Élysée ?

En février 2011, à l’issue de trois manches, un dénommé Watson battait à plate couture deux champions du jeu « Jeopardy ! » et remportait le gain de 1 million de dollars. Or Watson n’est autre qu’un programme d’intelligence artificielle (IA) développé par IBM. Et l’événement, abondamment commenté, démontrait donc que l’IA n’était plus confinée à des jeux comme les échecs, mais pouvait répondre à des questions de culture générale formulées en langage naturel (Illustration : démonstration des capacités de Watson dans le jeu « Jeopardy ! » en 2011 Rosemaryetoufee / Wikimedia commons)Plus récemment, lors des débats télévisés entre les principaux prétendants au poste suprême de président de la République, la mise en scène évoquait sans ambiguïté les jeux populaires en France comme « Question pour un champion », « Des chiffres et des lettres » ou encore « Jeopardy ! » aux États-Unis. On y voyait des candidats qui s’affrontaient debout derrière des pupitres, avec des temps de réponse chronométrés, et des résultats s’affichant en temps réel. Tout était là, jusqu’aux codes et aux couleurs du genre. D’où cette question, volontairement provocatrice…

Que donnerait le débat d’une IA face à des politiques ?


Avant de répondre, résumons la situation de part et d’autre. Depuis la victoire de Watson, les avancées spectaculaires de l’IA, notamment dans le domaine de l’apprentissage profond ou deep learning, ont suscité de très nombreux questionnements. Les technoprophètes du transhumanisme prédisent l’avènement dans un futur proche d’une super-intelligence qui prendrait en main la destinée de la planète après une envolée exponentielle de ses capacités. Pour certains, cette « singularité technologique » serait une véritable bénédiction. Pour d’autres, elle mettrait inévitablement fin à l’espèce humaine.
Sans aller jusqu’à ces points de vue extrêmes, il est certain que dans les années à venir, l’IA impactera profondément de nombreux secteurs d’activité, et les métiers qui leur sont associés. Mais dans le même temps, on ne peut qu’observer avec amertume la méfiance et le discrédit croissant des citoyens envers les institutions et les acteurs de la sphère politique. Les symptômes sont nombreux : désengagement dans les représentations traditionnelles que sont les partis politiques et les syndicats, absentéisme record aux élections, vote contestataire pour les extrêmes, personnalités politiques régulièrement décriées pour leur manque d’efficacité ou leurs agissements dans certaines affaires, etc. Il ne sert à rien de se voiler la face : les bases institutionnelles de nos démocraties représentatives branlent de toutes parts.
Vu la défiance des Français envers leur classe politique et l’accélération des progrès en IA, la réponse à notre question ne fait donc aucun doute : une IA aurait une chance non négligeable de battre les candidats humains. D’ailleurs, dans un sondage mené en février 2017 par Opentext auprès de 2000 Français, près d’un tiers d’entre eux pensait qu’une technologie intelligente prendrait de meilleures décisions que le gouvernement. Il n’y aurait donc pas que certaines catégories de métiers, comme les chauffeurs de taxi ou les radiologues, touchés par l’essor de la robotisation et de l’IA : les ministres et même le président de la République pourraient perdre leur travail !

La campagne « Watson 2016 », un sujet plus sérieux qu’il n’y paraît


En 2016, déjà, lors de l’élection présidentielle américaine, l’un des candidats annoncés n’était autre que Watson. Sur son site de campagne, on pouvait lire : « Nous pensons que les capacités uniques de Watson pour analyser l’information, et prendre des décisions éclairées et transparentes, en font un candidat idéal pour le poste à responsabilités que représente celui de président. » S’en suivait un argumentaire étayé, qui vantait les mérites des capacités d’analyse de l’IA, avec la prise en compte de tous les aspects d’un problème, l’évaluation des qualités et des défauts de chaque décision et leur impact potentiel sur l’économie, l’environnement, l’éducation, la santé, la diplomatie et les libertés publiques.
Dans les faits, il ne s’agissait pas d’une véritable candidature portée par IBM, mais d’une initiative personnelle de l’artiste et designer Aaron Siegel. Son objectif ? « J’espère que cela poussera les gens à discuter du potentiel de l’intelligence artificielle dans la politique. », déclarait-il dans un entretien alors accordé à la presse. On peut sourire à cette idée, mais le sujet est en fait plus sérieux qu’il n’y paraît. Car le monde actuel est devenu si complexe qu’il est difficile d’analyser globalement une situation et les impacts d’une décision.
On peut se représenter cette complexité comme un grand réseau dynamique multidimensionnel. Avec plusieurs enjeux majeurs : l’épuisement progressif des ressources planétaires, le réchauffement climatique, les conflits armés, l’omniprésence du terrorisme, la surpopulation, l’économique mondialisée, la lutte contre la pauvreté… pour ne citer que les plus évidents. Le plus souvent, les décisions qui sont prises n’ont pour objectif que de résoudre un problème « local ». Mais les « effets de bord » sur d’autres noeuds du réseau peuvent être importants : à titre d’exemple, une décision prise pour assurer le seul équilibre financier du système de retraite a des conséquences multiples, directes et indirectes dans toute la société.

L’IA : un outil pour moderniser les instances de gouvernance


Avec les avancées récentes de l’IA, on prend conscience de la complémentarité entre l’intelligence humaine et celle des machines. Pour simplifier, la première, généralement, prend ses décisions de façon émotionnelle et avec empathie, en tenant compte du contexte, avant de rationaliser ses choix. La seconde, quant à elle, analyse méthodiquement les données mises à sa disposition, avant de prendre une décision logique. La question n’est donc pas tant de remplacer les politiques par des IA, mais de moderniser les instances de gouvernance. Entre autres, en les dotant d’outils d’analyse et de prise de décision à la hauteur des enjeux.
Pour rester dans la course de l’IA déjà engagée au niveau mondial, la France a récemment annoncé sa stratégie. Mais en dépit de recommandations pour faire de l’État un pionnier dans l’adoption de l’IA, les actions envisagées restent timides et, surtout, la sphère politique y est totalement absente.
Dans une telle perspective, outre un investissement important de recherche et développement, plusieurs problématiques restent à aborder. Dont celle de l’objectivité des analyses face à des biais possibles, ou encore la transparence des décisions. La complexité des situations et le côté « boîte noire » de certaines technologies, comme les réseaux de neurones profonds, compliquent en effet l’explication d’une décision dont la justification résiderait dans un réseau complexe de causes et de conséquences. Cela ne rend pas la tâche aisée face à certains discours qui nient la complexité du monde, en proposant des discours simplistes pour susciter l’adhésion de l’opinion publique.
Ajoutons pour conclure que la science-fiction a depuis longtemps imaginé des sociétés gouvernées par des IA. Ainsi, la Culture inventée par l’écrivain écossais Iain M. Banks est une parfaite utopie où l’humanité, entièrement gérée par des IA, est devenue une civilisation multiforme, décentralisée, pacifiste, tolérante, éthique. Les culturiens y jouissent d’une durée de vie étendue, et passent la majorité de leur temps en loisirs. Mais tout n’y est pas si simple. Car l’utopie n’est jamais très loin de la dystopie et du cauchemar.
Jean-Claude Heudin, Directeur IIM & Chercheur Intelligence Artificielle, Groupe Léonard de Vinci
La version originale de cet article a été publiée sur The Conversation.

Friday, November 14, 2014

Le projet Living Joconde sélectionné pour Futur en Seine

« Living Joconde » est un projet de recherche mené par l’IIM (Institut de l’Internet et du Multimédia) en partenariat avec l’école de design Strate. J'ai l'honneur d'être à la fois le directeur de l'IIM mais aussi celui du projet. Florent Aziosmanoff, auteur de « Living Art : l'art numérique » aux éditions CNRS, fait partie de l'équipe du projet. Cette action est labellisée par Cap Digital et financée par la région Ile-de-France. Elle sera présentée lors de Futur en Seine 2015. Pour sa 5e édition, ce festival mondial présentera du 11 au 21 juin 2015, au cœur de Paris et dans toute l’Île-de-France, les dernières innovations numériques françaises et internationales aux professionnels ainsi qu’au grand public.
Le projet de recherche est basé sur le célèbre tableau « La Joconde » de Léonard de Vinci qui sera décliné en :
(1) Un prototype de « bijou connecté » capable de s’animer et de réagir face à son propriétaire et en fonction de l’environnement. Cette approche ouvre la perspective de la joaillerie connectée et plus spécifiquement de bijoux « vivants ».
(2) Une installation numérique mettant en scène une reproduction interactive du fameux tableau à l’échelle 1, capable de s’animer et de réagir à son environnement. Cette approche ouvre la perspective des « peintures vivantes ».
(3) Une version « personnelle » de la « Living Joconde » sous la forme d’une application interactive sur tablette numérique.
Créé dans l’esprit du Living Art & Design, la « Living Joconde » propose non pas de posséder une Joconde, mais de vivre avec une Joconde.
Le projet tire parti des compétences des partenaires en matière d’installation interactive, de robotique et d’intelligence artificielle, de mécatronique, de design d’objets connectés et communicants. Outre les défis en terme d'animation haute-définition, de perception de l'environnement, de mécatronique, etc., j'ai un intérêt tout particulier pour le moteur « central » des dispositifs puisqu'il s'agira d'un module d'intelligence artificielle mettant en œuvre un « métabolisme émotionnel » capable de donner « vie » à la célèbre peinture de Léonard de Vinci. En clin d’œil, voici les premières images issues du projet (merci à Fabrice Houlné de l'IIM) montrant le modèle 3D développé (image ci-dessus) et un sourire étrange (image ci-contre).

Sunday, June 22, 2014

Immortalité numérique : intelligence artificielle et transcendance

Je profite de la sortie cette semaine du film Transcendance avec Johnny Depp pour publier un essai sur lequel je travaille depuis plusieurs années : Immortalité numérique.
Le thème du film est indéniablement celui de la singularité technologique. En voici le pitch :
Dans un futur proche, un groupe de scientifiques tente de concevoir le premier ordinateur doté d’une conscience et capable de réfléchir de manière autonome. Ils doivent faire face aux attaques de terroristes anti-technologies qui voient dans ce projet une menace pour l’espèce humaine. Lorsque le scientifique à la tête du projet est assassiné, sa femme se sert de l’avancée de ses travaux pour transcender l’esprit de son mari dans le premier super ordinateur de l’histoire. Pouvant désormais contrôler tous les réseaux liés à internet, il devient ainsi quasi omnipotent. Mais comment l’arrêter s’il perdait ce qui lui reste d’humanité ?
Encore un blockbuster qui joue sur la peur qu'inspire les machines. On avait espéré avec la série suédoise Real Humans un peu d'originalité, mais la seconde saison est, de ce point de vue, décevante. Bref, revenons à mon essai. Voici un résumé du livre :
Les technologies numériques bousculent ce que nous avions cru établi, jusqu’à remettre en cause la nature humaine. Il en est ainsi de ce rêve aussi ancien que l’humanité : l’immortalité. L’homme, ce mortel, a en effet toujours envié cette longévité aux dieux. Et voici que la science et la technologie nous laissent entrevoir la possibilité de devenir immortel, si ce n’est au niveau de la chair, en tout cas au niveau de notre personnalité numérique.
Certains prédisent que les avancées vont s’accélérer de manière exponentielle jusqu’à l’avènement d’une intelligence artificielle omnisciente. Dès lors, nous pourrions vivre comme de purs esprits débarrassés des contingences organiques. Allons-nous devenir des fantômes numériques errants dans les limbes d’Internet, des cyborgs immortels ou bien encore des clones accédant à leur passé multimédia ?
L’objectif de ce livre est de faire un état de ces questions qui régulièrement font l’objet de débats et de questionnements. En particulier, il convient de bien différencier l’image véhiculée par les films à grand spectacle et la réalité des laboratoires.
Dans la première partie, le livre introduit la notion d'immortalité numérique en montrant l'évolution de l'identité et de la personnalité sur les réseaux vers celle d’un double virtuel. Dans un second temps, il remonte aux racines de l'immortalité. Autrefois chasse gardée des religions, ce sujet est devenu un enjeu pour la science et la technologie, non seulement pour la médecine et les biotechnologies, mais également pour le numérique.
La seconde partie aborde le sujet controversé de la singularité technologique. Depuis l'accélération exponentielle du progrès jusqu'à l'immortalité par téléchargement de l'esprit dans un
ordinateur, en passant par l'avènement d'une super- intelligence artificielle, le livre tord le cou aux prédictions fantasmatiques des transhumanistes. Sans rejeter la possibilité de progrès scientifiques significatifs, il revient à une vision plus réaliste des perspectives liées aux recherches dans les laboratoires.
En particulier, dans la troisième partie, le livre fait un point sur cette jeune discipline qu'est l'intelligence artificielle. Après avoir fait beaucoup parler d'elle et fait rêver le grand public, elle a connu une succession d'avancées et de périodes moins fastes, voire de désaffection. Le livre rappelle son histoire et les principaux courants qui la composent, puis il présente une vision pragmatique de ses enjeux et de ses applications.
La quatrième et dernière partie aborde le sujet de la transcendance. Pour les hommes, elle est synonyme d'immortalité, d'une vie éternelle à l'instar des dieux, fusse-t- elle limitée à une sauvegarde de la mémoire multimédia d'un individu sous la forme d'un fantôme numérique. Pour une machine, immortelle par construction, la véritable transcendance est plutôt celle de l'accès à la conscience. Pour conclure, Jean-Claude Heudin propose une approche de l'intelligence artificielle basée sur les sciences de la complexité afin d’étudier cette perspective d'un point de vue scientifique.

Saturday, June 21, 2014

Eugene Goostman a t-il passé avec succès le test de Turing ?

Le test de Turing... Voilà une antiquité qui ressurgit du siècle dernier comme un fantôme avec toujours les mêmes fantasmes.
Mettons tout de suite les choses au point. NON : Eugène Goostman n'a pas passé avec succès le fameux test de Turing, le Graal de l'IA classique. Certes, dans son article fondateur de l'IA, publié en 1950, Turing prédisait que dans les 50 ans, des machines pourraient être confondues avec un humain dans plus de 30% des cas lors de conversations de 5 minutes, mais ceci est une mauvaise interprétation de ce qu'il pensait être son "jeu de l'imitation".
Rappelons-en brièvement le principe : ce test consiste à mettre en confrontation verbale un interrogateur avec un ordinateur et un humain au travers d'un clavier-écran de manière à ne pas voir ni entendre celui-qui répond. Si l’homme qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, alors on peut considérer que le logiciel de l’ordinateur est doté des mêmes capacités que l'esprit humain : intelligence, esprit, conscience...
Voyons ce qu'il en est.
Le principal problème consiste dans la durée du test. Même si l'on admet sa validité, alors celui-ci doit être beaucoup plus long. En outre, si l'on testait l'orthographe de quelqu'un par une dictée de 5 minutes et qu'il obtenait comme note 3 sur 10, on ne dirait certainement pas qu'il est bon. Pour être bon, il faudrait qu'il obtienne régulièrement plus de 8.
C'est la même chose avec le test de Turing. Pour qu'une machine le passe avec succès, il faudrait qu'on ne puisse pas distinguer ses réponses de l'humain très régulièrement, c'est à dire dans plus de 80% (au moins) et sur une durée beaucoup plus longue. En fait, théoriquement, pour affirmer que les deux  "systèmes" sont équivalents, il faudrait un temps infiniment long : A = B si et seulement si T tend vers l'infini. En d'autres termes, seulement dans cette condition il nous serait strictement impossible de faire la différence.
Le second problème vient de la pertinence du test lui-même. J'ai déjà écrit sur ce sujet et je ne suis pas le seul, car le test de Turing a été au centre des débats entre l'IA "forte" et l'IA "faible", entre les fonctionnalistes et les matérialistes depuis 1950.
Je ne reparlerai donc pas ici de l'expérience de pensée de la "chambre chinoise" créée par le philosophe John Searle (lire mon dernier livre à ce sujet : Immortalité numérique). Mais en voici une autre, plus simple, que j'ai appelé "Le faux Van Gogh". Imaginez que nous ayons un peintre qui ait appris à reproduire à la perfection les toiles du maître. Les tableaux seraient si parfaits, que seuls quelques rares experts pourraient faire la différence. Pourrions-nous dire pour autant que le peintre pense comme Van Gogh ? Pourrait-on dire qu'il EST Van Gogh ? Évidemment non. Et si l'on remplace le peintre par un robot, cela ne change rien à l'affaire.
Cela rejoint le thème également très discuté depuis des siècles de la réalité des mathématiques. Un phénomène modélisé par un jeu d'équations, qui permet de comprendre et prédire ses comportements, est-il équivalent au phénomène ? Les mathématiques existent-elles dans la réalité physique ?
Personnellement, je répond une nouvelle fois : non.
Pour conclure, je pense que le test de Turing a beaucoup vieilli. Il prend le problème de l'IA de la plus mauvaise manière qui soit : essayer de faire croire qu'une machine peut remplacer un humain sans que l'on puisse faire une quelconque différence. Cette approche est, de mon point de vue philosophiquement et éthiquement critiquable. L'IA est une formidable discipline, pleine de promesses, mais elle doit être au service de l'homme et non le remplacer.