Immortalité numérique : intelligence artificielle et transcendance

Je profite de la sortie cette semaine du film Transcendance avec Johnny Depp pour publier un essai sur lequel je travaille depuis plusieurs années : Immortalité numérique.

Le thème du film est indéniablement celui de la singularité technologique. En voici le pitch :

Dans un futur proche, un groupe de scientifiques tente de concevoir le premier ordinateur doté d’une conscience et capable de réfléchir de manière autonome. Ils doivent faire face aux attaques de terroristes anti-technologies qui voient dans ce projet une menace pour l’espèce humaine. Lorsque le scientifique à la tête du projet est assassiné, sa femme se sert de l’avancée de ses travaux pour transcender l’esprit de son mari dans le premier super ordinateur de l’histoire. Pouvant désormais contrôler tous les réseaux liés à internet, il devient ainsi quasi omnipotent. Mais comment l’arrêter s’il perdait ce qui lui reste d’humanité ?

Encore un blockbuster qui joue sur la peur qu'inspire les machines. On avait espéré avec la série suédoise Real Humans un peu d'originalité, mais la seconde saison est, de ce point de vue, décevante. Bref, revenons à mon essai. Voici un résumé du livre :

Les technologies numériques bousculent ce que nous avions cru établi, jusqu’à remettre en cause la nature humaine. Il en est ainsi de ce rêve aussi ancien que l’humanité : l’immortalité. L’homme, ce mortel, a en effet toujours envié cette longévité aux dieux. Et voici que la science et la technologie nous laissent entrevoir la possibilité de devenir immortel, si ce n’est au niveau de la chair, en tout cas au niveau de notre personnalité numérique.

Certains prédisent que les avancées vont s’accélérer de manière exponentielle jusqu’à l’avènement d’une intelligence artificielle omnisciente. Dès lors, nous pourrions vivre comme de purs esprits débarrassés des contingences organiques. Allons-nous devenir des fantômes numériques errants dans les limbes d’Internet, des cyborgs immortels ou bien encore des clones accédant à leur passé multimédia ?

L’objectif de ce livre est de faire un état de ces questions qui régulièrement font l’objet de débats et de questionnements. En particulier, il convient de bien différencier l’image véhiculée par les films à grand spectacle et la réalité des laboratoires.

Dans la première partie, le livre introduit la notion d'immortalité numérique en montrant l'évolution de l'identité et de la personnalité sur les réseaux vers celle d’un double virtuel. Dans un second temps, il remonte aux racines de l'immortalité. Autrefois chasse gardée des religions, ce sujet est devenu un enjeu pour la science et la technologie, non seulement pour la médecine et les biotechnologies, mais également pour le numérique.

La seconde partie aborde le sujet controversé de la singularité technologique. Depuis l'accélération exponentielle du progrès jusqu'à l'immortalité par téléchargement de l'esprit dans un

ordinateur, en passant par l'avènement d'une super- intelligence artificielle, le livre tord le cou aux prédictions fantasmatiques des transhumanistes. Sans rejeter la possibilité de progrès scientifiques significatifs, il revient à une vision plus réaliste des perspectives liées aux recherches dans les laboratoires.

En particulier, dans la troisième partie, le livre fait un point sur cette jeune discipline qu'est l'intelligence artificielle. Après avoir fait beaucoup parler d'elle et fait rêver le grand public, elle a connu une succession d'avancées et de périodes moins fastes, voire de désaffection. Le livre rappelle son histoire et les principaux courants qui la composent, puis il présente une vision pragmatique de ses enjeux et de ses applications.

La quatrième et dernière partie aborde le sujet de la transcendance. Pour les hommes, elle est synonyme d'immortalité, d'une vie éternelle à l'instar des dieux, fusse-t- elle limitée à une sauvegarde de la mémoire multimédia d'un individu sous la forme d'un fantôme numérique. Pour une machine, immortelle par construction, la véritable transcendance est plutôt celle de l'accès à la conscience. Pour conclure, Jean-Claude Heudin propose une approche de l'intelligence artificielle basée sur les sciences de la complexité afin d’étudier cette perspective d'un point de vue scientifique.

Eugene Goostman a t-il passé avec succès le test de Turing ?

Le test de Turing... Voilà une antiquité qui ressurgit du siècle dernier comme un fantôme avec toujours les mêmes fantasmes.

Mettons tout de suite les choses au point. NON : Eugène Goostman n'a pas passé avec succès le fameux test de Turing, le Graal de l'IA classique. Certes, dans son article fondateur de l'IA, publié en 1950, Turing prédisait que dans les 50 ans, des machines pourraient être confondues avec un humain dans plus de 30% des cas lors de conversations de 5 minutes, mais ceci est une mauvaise interprétation de ce qu'il pensait être son "jeu de l'imitation".

Rappelons-en brièvement le principe : ce test consiste à mettre en confrontation verbale un interrogateur avec un ordinateur et un humain au travers d'un clavier-écran de manière à ne pas voir ni entendre celui-qui répond. Si l’homme qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, alors on peut considérer que le logiciel de l’ordinateur est doté des mêmes capacités que l'esprit humain : intelligence, esprit, conscience...

Voyons ce qu'il en est.

Le principal problème consiste dans la durée du test. Même si l'on admet sa validité, alors celui-ci doit être beaucoup plus long. En outre, si l'on testait l'orthographe de quelqu'un par une dictée de 5 minutes et qu'il obtenait comme note 3 sur 10, on ne dirait certainement pas qu'il est bon. Pour être bon, il faudrait qu'il obtienne régulièrement plus de 8.

C'est la même chose avec le test de Turing. Pour qu'une machine le passe avec succès, il faudrait qu'on ne puisse pas distinguer ses réponses de l'humain très régulièrement, c'est à dire dans plus de 80% (au moins) et sur une durée beaucoup plus longue. En fait, théoriquement, pour affirmer que les deux  "systèmes" sont équivalents, il faudrait un temps infiniment long : A = B si et seulement si T tend vers l'infini. En d'autres termes, seulement dans cette condition il nous serait strictement impossible de faire la différence.

Le second problème vient de la pertinence du test lui-même. J'ai déjà écrit sur ce sujet et je ne suis pas le seul, car le test de Turing a été au centre des débats entre l'IA "forte" et l'IA "faible", entre les fonctionnalistes et les matérialistes depuis 1950.

Je ne reparlerai donc pas ici de l'expérience de pensée de la "chambre chinoise" créée par le philosophe John Searle (lire mon dernier livre à ce sujet : Immortalité numérique). Mais en voici une autre, plus simple, que j'ai appelé "Le faux Van Gogh". Imaginez que nous ayons un peintre qui ait appris à reproduire à la perfection les toiles du maître. Les tableaux seraient si parfaits, que seuls quelques rares experts pourraient faire la différence. Pourrions-nous dire pour autant que le peintre pense comme Van Gogh ? Pourrait-on dire qu'il EST Van Gogh ? Évidemment non. Et si l'on remplace le peintre par un robot, cela ne change rien à l'affaire.

Cela rejoint le thème également très discuté depuis des siècles de la réalité des mathématiques. Un phénomène modélisé par un jeu d'équations, qui permet de comprendre et prédire ses comportements, est-il équivalent au phénomène ? Les mathématiques existent-elles dans la réalité physique ?

Personnellement, je répond une nouvelle fois : non.

Pour conclure, je pense que le test de Turing a beaucoup vieilli. Il prend le problème de l'IA de la plus mauvaise manière qui soit : essayer de faire croire qu'une machine peut remplacer un humain sans que l'on puisse faire une quelconque différence. Cette approche est, de mon point de vue philosophiquement et éthiquement critiquable. L'IA est une formidable discipline, pleine de promesses, mais elle doit être au service de l'homme et non le remplacer.