Vallée de l'étrange et barrière de complexité - Uncanny Valley and Complexity Barrier

Est-il possible réellement de créer des êtres artificiels ? Je veux dire : des créatures artificielles qui soient si proches des êtres vivants que l’on ne sache plus faire la différence ?

Il faut bien reconnaître que la démarche classique qui consiste à partir des technologies les plus récentes pour tenter de concevoir des êtres artificiels donne des résultats intéressants, souvent utiles, mais encore très loin de ce que la nature est capable de produire. Cela a été le cas pour la technologie horlogère avec les grands automates des Lumières. C’est aujourd’hui encore le cas avec les robots basés sur les cyber-technologies. La question est de savoir pourquoi. Nous faut-il de plus gros ordinateurs, plus rapides ? Est-ce que quelque-chose nous aurait échappé ?

Dans un post précédent, j’ai évoqué la thèse de la vallée de l’étrange du Japonais Masahiro Mori. La vision traditionnelle est que plus on ajoute de détails à un robot androïde, plus on se rapproche de l’humain et plus l’empathie devient importante. Masashiro Mori a montré, qu’au contraire, plus un robot humanoïde est similaire à un être humain, plus ses imperfections nous paraissent monstrueuses. La théorie prévoit cependant qu'au delà d'un certain niveau de perfection dans l'imitation, les robots humanoïdes retrouveraient une plus grande acceptation.

De mon point de vue, cette vallée de l’étrange, où chaque infime détail peut rompre la cohérence de l’ensemble, correspond dans les faits à une barrière de complexité. Cette barrière est due à notre niveau de compréhension (encore faible) des phénomènes complexes et à la nature même de nos technologies qui ne sont pas (encore) aptes à permettre l’élaboration de systèmes ayant le même ordre de grandeur de complexité qu’un être vivant. Nous sommes capables de « simuler » très habilement mais « réaliser » une créature artificielle aussi complexe qu’un être vivant reste une tâche encore hors de notre portée, n’en déplaise aux partisans d’une singularité technologique imminente…

L’approche qui consiste à franchir la barrière de complexité d’en bas vers le haut en « sautant » au-dessus de la vallée semble donc très difficile. Néanmoins, il existe une autre voie : celle qui consiste à partir d’en haut et redescendre. Autrement dit, il s’agit de partir du vivant et de le modifier en utilisant nos technologies. Les avancées récentes des biotechnologies et des nanotechnologies semblent aller dans ce sens. Ce chemin ne se heurte plus à la barrière de complexité qu’elle enjambe avec aisance. Cela ne veut pas dire qu’il faille s’y engouffrer sans réfléchir : heureusement quelques gardes fous éthiques permettront, du moins je l’espère, de sauter sans tomber dans le précipice de la vallée des monstres. Alors demain tous cyborgs?

Is it possible to actually create artificial beings? I mean: artificial creatures that are so close to living beings that we do no longer see the difference?
We must recognize that the traditional approach which is to use our latest technology to try to create artificial beings gives interesting results, often useful, but still far from what nature have produced. This was the case for the clock mechanical technology which allowed the creation of the great android automata during the 17th Century. It's still the case with robots based on our cyber-technologies. The question is why. Do we need larger and faster computers? Have we missed something important?
In a previous post, I discussed the “uncanny valley” thesis from Masahiro Mori. The traditional view is that if more and more details are added to an android robot, then it will be closer to human and our empathy will increase. Masashiro Mori showed, however, that when human replicas look and act almost (but not perfectly) like actual human beings, it causes a response of revulsion among human observers. However, the theory predicts that beyond a certain threshold of perfection in the imitation, humanoid robots would find greater acceptance.
From my point of view, this uncanny valley, where every small detail may break the coherence of the all, corresponds to a complexity barrier. This barrier is due to our level of understanding (still weak) of complex phenomena and the nature of our technologies that are not (yet) capable of allowing the design of systems having the same order of magnitude of complexity that living beings. We are able to "simulate" very cleverly, but "realizing" an artificial creature as complex as a living being is a task still beyond our reach, no offense to the supporters of the impending technological singularity ...
Thus, the approach to overcome the barrier of complexity from bottom to top, “crossing” or “skipping” over the valley seems very difficult. However, there is another way: one that is from top to bottom. In other words, it starts from real living beings and uses our technologies to modify them. Recent advances in biotechnology and nanotechnology seem to go in this direction. This path runs over the barrier of complexity with ease. This does not mean we have to rush into it: fortunately few ethical guardrails will allow us, at least I hope, to jump without falling into the abyss of the valley of monsters. So tomorrow, all cyborgs?

IC2012 : Concevoir des dispositifs capables d'augmenter la pensée

Je participerais le lundi 25 Juin, en tant que conférencier invité, aux 23èmes Journées Francophones d'Ingénierie des Connaissances à Paris (centre des Cordeliers). Le thème de cette année est particulièrement intéressant :

"Du mythe d’Icare au projet de la biomimétique lancé par J.M. Benyus, l’homme s’applique à copier la nature pour concevoir ou améliorer ses systèmes techniques. Dans le domaine de l’IA, de la robotique et du data mining, on citera pour exemple les algorithmes évolutionnaires, les algorith
mes d'optimisation par essaim de particules, ou encore les modèles d’optimisation inspirés du comportement des insectes sociaux. Dans tous les cas, il s’agit de s’inspirer plus ou moins fortement de modélisations de structures existant dans la nature (structures s ociales, biologiques, etc.) et d’appliquer les lois qui régissent ces structures aux données dans un problème d’optimisation.
L’Ingénierie des Connaissances (IC) peut-elle adopter une telle démarche ? L’IC a-t-elle besoin des Sciences Cognitives ? Les concepteurs d’ontologies ont-ils par exemple intérêt à s’appuyer sur les travaux réalisés sur la mémoire sémantique et la catégorisation ? Plus généralement, l’IC a-t-elle un quelconque avantage à s’inspirer des modèles du vivant pour concevoir ses dispositifs ?
On serait spontanément porté à répondre à ces questions par la positive. Les premiers raisonneurs en Intelligence Artificielle (IA) s’inspirent de modèles psychologiques du raisonnement ou de la formation des concepts chez l’homme. La théorie de la rationalité limitée d’Herbert Simon, visant à modéliser les stratégies sur lesquels s’appuie l’individu pour prendre des décisions, servit de base au développement des méthodes heuristiques en IA : le raisonnement à base de règles, et par exemple d’arbres de décisions. Et le modèle de représentation utilisé dans les ontologies contemporaines est une reprise des réseaux sémantiques, développés par les psychologues dans les années 1960 pour rendre compte de la manière dont les concepts sont organisés dans la mémoire humaine.
Cependant, le projet de l’IC, en tant que secteur de l’ingénierie, n’est pas de créer des machines qui pensent, encore moins des machines qui pensent comme l’homme – mais de concevoir des machines capables d’aider l’homme à penser. Or a-t-on besoin de connaître les mécanismes de la cognition pour assister celle-ci ? Une supplémentation efficace de la cognition humaine exige manifestement une certaine compréhension de son fonctionnement. Mais l’histoire nous fournit nombre d’exemples d’artéfacts cognitifs, tels le boulier, manifestement inventés indépendamment de toute théorie du fonctionnement cognitif.
On le voit, ce problème est donc moins évident qu’il n’y parait. Des nuances sont nécessaires. La finalité de cet atelier sera précisément d’expliciter et de discuter ces nuances."

Personnellement, ma présentation sera centrée sur une approche de l'IA influencée par les sciences de la complexité. En voici le pitch :

Du super-ordinateur intelligent à la singularité technologique, l'intelligence artificielle (IA) a toujours fait l'objet de prédictions fantasmatiques. Ce phénomène a été amplifié par la littérature de science-fiction et les films à grand spectacles où l'IA est souvent représentée comme une entité omnisciente et belliqueuse. Malgré de nombreuses avancées, la réalité dans les laboratoires est bien plus laborieuse, mais aussi dans ses applications plus rassurante. Nous rappellerons brièvement les grandes étapes de l'histoire tumultueuse de cette discipline, puis nous tenterons de comprendre les raisons profondes qui limitent son développement. Nous proposerons alors une approche qui s'appuie sur les sciences de la complexité, non pas pour obtenir des machines qui pensent comme l’humain mais des machines qui complètent notre intelligence. Dans ce contexte, sur la base de quelques exemples expérimentaux, nous discuterons l’hypothèse qu’une intelligence, qu’elle soit naturelle ou artificielle, ne peut exister qu’à la frontière entre l’ordre et le chaos.

Vivre avec les robots

Découvrez le documentaire (52') réalisé par Elodie Fertil pour Gedeon Programmes sur les robots : Vivre avec les robots. Voici le pitch :

 Jusqu’à aujourd’hui, il était difficile d’imaginer qu’un jour, des robots faits de métal et d’électronique pourraient rivaliser avec l’homme. Et pourtant ... Ces dernières années, de spectaculaires progrès technologiques permettent désormais aux machines de faire de plus en plus partie de notre vie. Grâce au documentaire « Vivre avec les robots », nous allons faire la découverte de ces robots qui, grâce à leur capacité à nous remplacer pour des taches délicates, compliquées, physiques ou ennuyeuses, grâce à leurs performances en terme d’interactions et de communication, deviennent progressivement des acteurs majeurs de nos sociétés. Dans notre environnement, ils sont d’ailleurs déjà omniprésents. Sans même nous en rendre compte, nous faisons sans cesse appel à eux et avec les progrès de l’intelligence artificielle, ils sont sur le point de s’immiscer encore davantage dans notre quotidien. Tout au long du film, de nombreuses questions se poseront, qu’elles soient technologiques, sociologiques ou même philosophiques. Sommes-nous prêts à côtoyer les machines aussi intimement, à laisser les secondes générations d’androïdes à l’apparence humaine entrer dans nos maisons, s’occuper de nos familles, et même pourquoi pas, prendre parfois notre place ? Sommes-nous capables de les laisser s’instruire et évoluer à notre contact ? Pouvons-nous vivre avec des créatures possédant une vie mentale programmée ? Et si la technologie le permettait dans un futur proche, pourrions-nous accepter de cohabiter avec une autre forme de vie intelligente, des machines pensantes capables peut-être un jour de nous surpasser ? Ces questions ne sont désormais plus farfelues ni réservées au seul public fan de science- fiction. Dans le film « Vivre avec les robots », nous y apporterons des réponses en interrogeant des scientifiques, des inventeurs, des utilisateurs, des chefs d’entreprises, qui nous donneront un avant gout du futur tel qu’ils l’imaginent. Car, qu’on les redoute ou qu’on les attende avec impatience, il semble bien qu’à l’avenir, humains et robots soient vouées à cohabiter ensemble.