Friday, April 28, 2017

Les Intelligences Artificielles ne sont pas vivantes

Dans l'imaginaire collectif, l'IA est devenue un mythe moderne. Même si elle n'existe pas encore en tant que telle, pour beaucoup, y compris certains érudits, il n'y a aucun doute : dans un futur proche, une superintelligence émergera et surpassera l'intelligence humaine en tous points. Cette quasi divinité prendra alors le contrôle de la destinée humaine. Pour le meilleur, selon les technoprophètes du transhumanisme. Pour le pire, selon certaines personnalités qui voient là l'une des plus grandes menaces qui pèsent sur l'humanité.
Malgré les tentatives de retour à la raison de nombreux scientifiques du domaine, rien n'y fait. Les articles prémonitoires se succèdent et s'empilent sur la toile. Le moindre événement dans le microcosme IA devient aussitôt un argument de plus qui étaye la thèse d'une singularité technologique en croissance exponentielle.

Pourtant, il existe de nombreux arguments rationnels pour montrer que cette hypothèse est très peu vraisemblable. Je ne vais pas les énumérer à nouveau, car je l'ai déjà fait dans mon livre Immortalité numérique. Je vais plutôt avancer un nouvel argument qui, à ma connaissance, n'a encore jamais été mis en avant. Il est le suivant :

Les IA ne sont pas vivantes et il n'y a pratiquement aucune chance qu'elles le deviennent.

Le nec plus ultra de l'intelligence artificielle actuellement, c'est un réseau de neurones artificiels profond (deep Learning), c'est-à-dire composé d'un nombre important de couches (de 4 à plusieurs centaines). Le dispositif comporte une couche d'entrée, qui permet de lui transmettre des données, et une couche en sortie, qui permet de récupérer le résultat après propagation des données de couche en couche.
Après des années de galère, on sait aujourd'hui apprendre à un tel réseau à reconnaître des formes (au sens large du terme) et à généraliser à partir des données qu'on lui présente. Il est alors capable d'effectuer des régressions ou des classifications selon le type d'application envisagée avec un taux de réussite proche du sans-faute.
Un tel système n'est cependant pas vivant et il ne peut pas le devenir, dans l'état actuel de nos connaissances. Sans entrer dans une démonstration théorique complexe, son organisation est celle d'un automate et non celle d'une structure autonome au sens de l'autopoièse. Et l'on peut prendre toutes les autres définitions de la vie issues de la biologie : les architectures IA actuelles n'ont pratiquement aucune des caractéristiques de la vie telle qu'on la connaît.

Il n'existe aucun exemple d'être conscient qui ne soit vivant.

Il me semble que la conscience (awareness) soit un préalable indispensable à l'avènement d'une superintelligence. Or, il me semble également que la vie est un préalable tout aussi indispensable à l'apparition de la conscience, fussent-elle d'ordre primaire. Je ne parle même pas ici d'une conscience d'ordre supérieure, c'est-à-dire liée au langage.
Il faut se rendre à l'évidence : les IA actuelles ne sont pas vivantes, elles sont inertes. Elles ont tout au plus certaines facettes de l'intelligence que l'on attribue à l'homme, mais là s'arrête la comparaison.
L'illusion de la vie n'est pas la vie. Nous avons beau projeter sur les IA toutes les capacités que l'on attribue à l'esprit humain, par anthropomorphisme, elles sont plus mortes que vivantes. En fait, on ne peut même pas dire qu'elles soient mortes, puisqu'elles n'ont jamais été vivantes.

C'est probablement d'ailleurs l'une des causes du malaise profond de certains à propos de l'IA. Tous comme certains robots androïdes trop ressemblants à l'homme, ces fantômes d'esprits errent au fond de la vallée de l'étrange.

1 comment:

Grégory G.D. Benicourt said...

Ne parle t-on pas de durée de vie pour une machine ? ^^ Plus sérieusement, les IA sont immatérielles (ou presque) et tant qu'elle le resteront, elles ne pourront pas répondre aux conditions que l'on accepte habituellement pour définir ce qu'est la vie. Encore faut-il s'entendre sur une définition. Mais lorsqu'une machine sera véritablement programmée pour croitre, éviter de mourir, voir assimiler des éléments externes et se reproduire... on pourra probablement parler de vie. Cela ne signifie pas qu'elle seront conscientes pour autant bien entendu. Après, si on veut aborder ce sujet, avez-vous lu le livre "Deus Machine" de Pierre Ouellette ? Il y décrit la naissance d'une IA sur une base biologique, et la création d'un logiciel qui se rapproche d'un "inconscient" (au sens psychanalytique). Le programme conscient ne sait pas que l'inconscient le commande, et il est amené à se poser des questions. Certes, ces questions proviennent du programme "inconscient", mais la conscience ne le sait pas. Un étrange parallèle se forme alors avec nous... on sait que les pulsions viennent de l'inconscient, les instincts, tout un tas de symboles, etc. Quelle est véritablement notre part de libre arbitre. Si un jour une machine manifeste les mêmes traits qu'un être humain, sera t-elle si différente de nous au fond ? Bon, personnellement, je trouve que l'IA à l'image de l'homme n'a aucune intérêt, sauf celui d'amener une nouvelle réflexion sur la nature profonde de la conscience humaine. Donc, oui, les IA ne sont pas vivantes, mais le seront probablement bientôt car il suffit juste d'en programmer une en ce sens (selon la définition de la vie vue ci-avant). Maintenant, nous sommes loin de voir une conscience émerger en effet... loin technologiquement, mais loin dans le temps... avec l'accélération du progrès actuel (je sais que vous n’adhérez pas à la thèse de la singularité, mais au moins à l'accélération non?) rien n'est moins sûr. Enfin, c'est mon avis.