Friday, April 21, 2017

L’intelligence artificielle, bientôt candidate à l’Élysée ?

En février 2011, à l’issue de trois manches, un dénommé Watson battait à plate couture deux champions du jeu « Jeopardy ! » et remportait le gain de 1 million de dollars. Or Watson n’est autre qu’un programme d’intelligence artificielle (IA) développé par IBM. Et l’événement, abondamment commenté, démontrait donc que l’IA n’était plus confinée à des jeux comme les échecs, mais pouvait répondre à des questions de culture générale formulées en langage naturel (Illustration : démonstration des capacités de Watson dans le jeu « Jeopardy ! » en 2011 Rosemaryetoufee / Wikimedia commons)Plus récemment, lors des débats télévisés entre les principaux prétendants au poste suprême de président de la République, la mise en scène évoquait sans ambiguïté les jeux populaires en France comme « Question pour un champion », « Des chiffres et des lettres » ou encore « Jeopardy ! » aux États-Unis. On y voyait des candidats qui s’affrontaient debout derrière des pupitres, avec des temps de réponse chronométrés, et des résultats s’affichant en temps réel. Tout était là, jusqu’aux codes et aux couleurs du genre. D’où cette question, volontairement provocatrice…

Que donnerait le débat d’une IA face à des politiques ?


Avant de répondre, résumons la situation de part et d’autre. Depuis la victoire de Watson, les avancées spectaculaires de l’IA, notamment dans le domaine de l’apprentissage profond ou deep learning, ont suscité de très nombreux questionnements. Les technoprophètes du transhumanisme prédisent l’avènement dans un futur proche d’une super-intelligence qui prendrait en main la destinée de la planète après une envolée exponentielle de ses capacités. Pour certains, cette « singularité technologique » serait une véritable bénédiction. Pour d’autres, elle mettrait inévitablement fin à l’espèce humaine.
Sans aller jusqu’à ces points de vue extrêmes, il est certain que dans les années à venir, l’IA impactera profondément de nombreux secteurs d’activité, et les métiers qui leur sont associés. Mais dans le même temps, on ne peut qu’observer avec amertume la méfiance et le discrédit croissant des citoyens envers les institutions et les acteurs de la sphère politique. Les symptômes sont nombreux : désengagement dans les représentations traditionnelles que sont les partis politiques et les syndicats, absentéisme record aux élections, vote contestataire pour les extrêmes, personnalités politiques régulièrement décriées pour leur manque d’efficacité ou leurs agissements dans certaines affaires, etc. Il ne sert à rien de se voiler la face : les bases institutionnelles de nos démocraties représentatives branlent de toutes parts.
Vu la défiance des Français envers leur classe politique et l’accélération des progrès en IA, la réponse à notre question ne fait donc aucun doute : une IA aurait une chance non négligeable de battre les candidats humains. D’ailleurs, dans un sondage mené en février 2017 par Opentext auprès de 2000 Français, près d’un tiers d’entre eux pensait qu’une technologie intelligente prendrait de meilleures décisions que le gouvernement. Il n’y aurait donc pas que certaines catégories de métiers, comme les chauffeurs de taxi ou les radiologues, touchés par l’essor de la robotisation et de l’IA : les ministres et même le président de la République pourraient perdre leur travail !

La campagne « Watson 2016 », un sujet plus sérieux qu’il n’y paraît


En 2016, déjà, lors de l’élection présidentielle américaine, l’un des candidats annoncés n’était autre que Watson. Sur son site de campagne, on pouvait lire : « Nous pensons que les capacités uniques de Watson pour analyser l’information, et prendre des décisions éclairées et transparentes, en font un candidat idéal pour le poste à responsabilités que représente celui de président. » S’en suivait un argumentaire étayé, qui vantait les mérites des capacités d’analyse de l’IA, avec la prise en compte de tous les aspects d’un problème, l’évaluation des qualités et des défauts de chaque décision et leur impact potentiel sur l’économie, l’environnement, l’éducation, la santé, la diplomatie et les libertés publiques.
Dans les faits, il ne s’agissait pas d’une véritable candidature portée par IBM, mais d’une initiative personnelle de l’artiste et designer Aaron Siegel. Son objectif ? « J’espère que cela poussera les gens à discuter du potentiel de l’intelligence artificielle dans la politique. », déclarait-il dans un entretien alors accordé à la presse. On peut sourire à cette idée, mais le sujet est en fait plus sérieux qu’il n’y paraît. Car le monde actuel est devenu si complexe qu’il est difficile d’analyser globalement une situation et les impacts d’une décision.
On peut se représenter cette complexité comme un grand réseau dynamique multidimensionnel. Avec plusieurs enjeux majeurs : l’épuisement progressif des ressources planétaires, le réchauffement climatique, les conflits armés, l’omniprésence du terrorisme, la surpopulation, l’économique mondialisée, la lutte contre la pauvreté… pour ne citer que les plus évidents. Le plus souvent, les décisions qui sont prises n’ont pour objectif que de résoudre un problème « local ». Mais les « effets de bord » sur d’autres noeuds du réseau peuvent être importants : à titre d’exemple, une décision prise pour assurer le seul équilibre financier du système de retraite a des conséquences multiples, directes et indirectes dans toute la société.

L’IA : un outil pour moderniser les instances de gouvernance


Avec les avancées récentes de l’IA, on prend conscience de la complémentarité entre l’intelligence humaine et celle des machines. Pour simplifier, la première, généralement, prend ses décisions de façon émotionnelle et avec empathie, en tenant compte du contexte, avant de rationaliser ses choix. La seconde, quant à elle, analyse méthodiquement les données mises à sa disposition, avant de prendre une décision logique. La question n’est donc pas tant de remplacer les politiques par des IA, mais de moderniser les instances de gouvernance. Entre autres, en les dotant d’outils d’analyse et de prise de décision à la hauteur des enjeux.
Pour rester dans la course de l’IA déjà engagée au niveau mondial, la France a récemment annoncé sa stratégie. Mais en dépit de recommandations pour faire de l’État un pionnier dans l’adoption de l’IA, les actions envisagées restent timides et, surtout, la sphère politique y est totalement absente.
Dans une telle perspective, outre un investissement important de recherche et développement, plusieurs problématiques restent à aborder. Dont celle de l’objectivité des analyses face à des biais possibles, ou encore la transparence des décisions. La complexité des situations et le côté « boîte noire » de certaines technologies, comme les réseaux de neurones profonds, compliquent en effet l’explication d’une décision dont la justification résiderait dans un réseau complexe de causes et de conséquences. Cela ne rend pas la tâche aisée face à certains discours qui nient la complexité du monde, en proposant des discours simplistes pour susciter l’adhésion de l’opinion publique.
Ajoutons pour conclure que la science-fiction a depuis longtemps imaginé des sociétés gouvernées par des IA. Ainsi, la Culture inventée par l’écrivain écossais Iain M. Banks est une parfaite utopie où l’humanité, entièrement gérée par des IA, est devenue une civilisation multiforme, décentralisée, pacifiste, tolérante, éthique. Les culturiens y jouissent d’une durée de vie étendue, et passent la majorité de leur temps en loisirs. Mais tout n’y est pas si simple. Car l’utopie n’est jamais très loin de la dystopie et du cauchemar.
Jean-Claude Heudin, Directeur IIM & Chercheur Intelligence Artificielle, Groupe Léonard de Vinci
La version originale de cet article a été publiée sur The Conversation.

Friday, November 14, 2014

Le projet Living Joconde sélectionné pour Futur en Seine

« Living Joconde » est un projet de recherche mené par l’IIM (Institut de l’Internet et du Multimédia) en partenariat avec l’école de design Strate. J'ai l'honneur d'être à la fois le directeur de l'IIM mais aussi celui du projet. Florent Aziosmanoff, auteur de « Living Art : l'art numérique » aux éditions CNRS, fait partie de l'équipe du projet. Cette action est labellisée par Cap Digital et financée par la région Ile-de-France. Elle sera présentée lors de Futur en Seine 2015. Pour sa 5e édition, ce festival mondial présentera du 11 au 21 juin 2015, au cœur de Paris et dans toute l’Île-de-France, les dernières innovations numériques françaises et internationales aux professionnels ainsi qu’au grand public.
Le projet de recherche est basé sur le célèbre tableau « La Joconde » de Léonard de Vinci qui sera décliné en :
(1) Un prototype de « bijou connecté » capable de s’animer et de réagir face à son propriétaire et en fonction de l’environnement. Cette approche ouvre la perspective de la joaillerie connectée et plus spécifiquement de bijoux « vivants ».
(2) Une installation numérique mettant en scène une reproduction interactive du fameux tableau à l’échelle 1, capable de s’animer et de réagir à son environnement. Cette approche ouvre la perspective des « peintures vivantes ».
(3) Une version « personnelle » de la « Living Joconde » sous la forme d’une application interactive sur tablette numérique.
Créé dans l’esprit du Living Art & Design, la « Living Joconde » propose non pas de posséder une Joconde, mais de vivre avec une Joconde.
Le projet tire parti des compétences des partenaires en matière d’installation interactive, de robotique et d’intelligence artificielle, de mécatronique, de design d’objets connectés et communicants. Outre les défis en terme d'animation haute-définition, de perception de l'environnement, de mécatronique, etc., j'ai un intérêt tout particulier pour le moteur « central » des dispositifs puisqu'il s'agira d'un module d'intelligence artificielle mettant en œuvre un « métabolisme émotionnel » capable de donner « vie » à la célèbre peinture de Léonard de Vinci. En clin d’œil, voici les premières images issues du projet (merci à Fabrice Houlné de l'IIM) montrant le modèle 3D développé (image ci-dessus) et un sourire étrange (image ci-contre).

Sunday, June 22, 2014

Immortalité numérique : intelligence artificielle et transcendance

Je profite de la sortie cette semaine du film Transcendance avec Johnny Depp pour publier un essai sur lequel je travaille depuis plusieurs années : Immortalité numérique.
Le thème du film est indéniablement celui de la singularité technologique. En voici le pitch :
Dans un futur proche, un groupe de scientifiques tente de concevoir le premier ordinateur doté d’une conscience et capable de réfléchir de manière autonome. Ils doivent faire face aux attaques de terroristes anti-technologies qui voient dans ce projet une menace pour l’espèce humaine. Lorsque le scientifique à la tête du projet est assassiné, sa femme se sert de l’avancée de ses travaux pour transcender l’esprit de son mari dans le premier super ordinateur de l’histoire. Pouvant désormais contrôler tous les réseaux liés à internet, il devient ainsi quasi omnipotent. Mais comment l’arrêter s’il perdait ce qui lui reste d’humanité ?
Encore un blockbuster qui joue sur la peur qu'inspire les machines. On avait espéré avec la série suédoise Real Humans un peu d'originalité, mais la seconde saison est, de ce point de vue, décevante. Bref, revenons à mon essai. Voici un résumé du livre :
Les technologies numériques bousculent ce que nous avions cru établi, jusqu’à remettre en cause la nature humaine. Il en est ainsi de ce rêve aussi ancien que l’humanité : l’immortalité. L’homme, ce mortel, a en effet toujours envié cette longévité aux dieux. Et voici que la science et la technologie nous laissent entrevoir la possibilité de devenir immortel, si ce n’est au niveau de la chair, en tout cas au niveau de notre personnalité numérique.
Certains prédisent que les avancées vont s’accélérer de manière exponentielle jusqu’à l’avènement d’une intelligence artificielle omnisciente. Dès lors, nous pourrions vivre comme de purs esprits débarrassés des contingences organiques. Allons-nous devenir des fantômes numériques errants dans les limbes d’Internet, des cyborgs immortels ou bien encore des clones accédant à leur passé multimédia ?
L’objectif de ce livre est de faire un état de ces questions qui régulièrement font l’objet de débats et de questionnements. En particulier, il convient de bien différencier l’image véhiculée par les films à grand spectacle et la réalité des laboratoires.
Dans la première partie, le livre introduit la notion d'immortalité numérique en montrant l'évolution de l'identité et de la personnalité sur les réseaux vers celle d’un double virtuel. Dans un second temps, il remonte aux racines de l'immortalité. Autrefois chasse gardée des religions, ce sujet est devenu un enjeu pour la science et la technologie, non seulement pour la médecine et les biotechnologies, mais également pour le numérique.
La seconde partie aborde le sujet controversé de la singularité technologique. Depuis l'accélération exponentielle du progrès jusqu'à l'immortalité par téléchargement de l'esprit dans un
ordinateur, en passant par l'avènement d'une super- intelligence artificielle, le livre tord le cou aux prédictions fantasmatiques des transhumanistes. Sans rejeter la possibilité de progrès scientifiques significatifs, il revient à une vision plus réaliste des perspectives liées aux recherches dans les laboratoires.
En particulier, dans la troisième partie, le livre fait un point sur cette jeune discipline qu'est l'intelligence artificielle. Après avoir fait beaucoup parler d'elle et fait rêver le grand public, elle a connu une succession d'avancées et de périodes moins fastes, voire de désaffection. Le livre rappelle son histoire et les principaux courants qui la composent, puis il présente une vision pragmatique de ses enjeux et de ses applications.
La quatrième et dernière partie aborde le sujet de la transcendance. Pour les hommes, elle est synonyme d'immortalité, d'une vie éternelle à l'instar des dieux, fusse-t- elle limitée à une sauvegarde de la mémoire multimédia d'un individu sous la forme d'un fantôme numérique. Pour une machine, immortelle par construction, la véritable transcendance est plutôt celle de l'accès à la conscience. Pour conclure, Jean-Claude Heudin propose une approche de l'intelligence artificielle basée sur les sciences de la complexité afin d’étudier cette perspective d'un point de vue scientifique.

Saturday, June 21, 2014

Eugene Goostman a t-il passé avec succès le test de Turing ?

Le test de Turing... Voilà une antiquité qui ressurgit du siècle dernier comme un fantôme avec toujours les mêmes fantasmes.
Mettons tout de suite les choses au point. NON : Eugène Goostman n'a pas passé avec succès le fameux test de Turing, le Graal de l'IA classique. Certes, dans son article fondateur de l'IA, publié en 1950, Turing prédisait que dans les 50 ans, des machines pourraient être confondues avec un humain dans plus de 30% des cas lors de conversations de 5 minutes, mais ceci est une mauvaise interprétation de ce qu'il pensait être son "jeu de l'imitation".
Rappelons-en brièvement le principe : ce test consiste à mettre en confrontation verbale un interrogateur avec un ordinateur et un humain au travers d'un clavier-écran de manière à ne pas voir ni entendre celui-qui répond. Si l’homme qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, alors on peut considérer que le logiciel de l’ordinateur est doté des mêmes capacités que l'esprit humain : intelligence, esprit, conscience...
Voyons ce qu'il en est.
Le principal problème consiste dans la durée du test. Même si l'on admet sa validité, alors celui-ci doit être beaucoup plus long. En outre, si l'on testait l'orthographe de quelqu'un par une dictée de 5 minutes et qu'il obtenait comme note 3 sur 10, on ne dirait certainement pas qu'il est bon. Pour être bon, il faudrait qu'il obtienne régulièrement plus de 8.
C'est la même chose avec le test de Turing. Pour qu'une machine le passe avec succès, il faudrait qu'on ne puisse pas distinguer ses réponses de l'humain très régulièrement, c'est à dire dans plus de 80% (au moins) et sur une durée beaucoup plus longue. En fait, théoriquement, pour affirmer que les deux  "systèmes" sont équivalents, il faudrait un temps infiniment long : A = B si et seulement si T tend vers l'infini. En d'autres termes, seulement dans cette condition il nous serait strictement impossible de faire la différence.
Le second problème vient de la pertinence du test lui-même. J'ai déjà écrit sur ce sujet et je ne suis pas le seul, car le test de Turing a été au centre des débats entre l'IA "forte" et l'IA "faible", entre les fonctionnalistes et les matérialistes depuis 1950.
Je ne reparlerai donc pas ici de l'expérience de pensée de la "chambre chinoise" créée par le philosophe John Searle (lire mon dernier livre à ce sujet : Immortalité numérique). Mais en voici une autre, plus simple, que j'ai appelé "Le faux Van Gogh". Imaginez que nous ayons un peintre qui ait appris à reproduire à la perfection les toiles du maître. Les tableaux seraient si parfaits, que seuls quelques rares experts pourraient faire la différence. Pourrions-nous dire pour autant que le peintre pense comme Van Gogh ? Pourrait-on dire qu'il EST Van Gogh ? Évidemment non. Et si l'on remplace le peintre par un robot, cela ne change rien à l'affaire.
Cela rejoint le thème également très discuté depuis des siècles de la réalité des mathématiques. Un phénomène modélisé par un jeu d'équations, qui permet de comprendre et prédire ses comportements, est-il équivalent au phénomène ? Les mathématiques existent-elles dans la réalité physique ?
Personnellement, je répond une nouvelle fois : non.
Pour conclure, je pense que le test de Turing a beaucoup vieilli. Il prend le problème de l'IA de la plus mauvaise manière qui soit : essayer de faire croire qu'une machine peut remplacer un humain sans que l'on puisse faire une quelconque différence. Cette approche est, de mon point de vue philosophiquement et éthiquement critiquable. L'IA est une formidable discipline, pleine de promesses, mais elle doit être au service de l'homme et non le remplacer.

Friday, March 21, 2014

Retour d'Innorobo 2014

Innorobo est devenu en quelques années seulement le rendez-vous incontournable de la robotique pour tous les professionnels et les passionnés de robotique (un grand merci à Catherine Simon sans qui cet événement n'existerait pas). Outre la création d'un fond d’investissement Robolution Capital de 80 millions d'Euros, l'événement majeur de cette édition fut sans nul doute la première présentation publique du robot humanoïde Roméo d'Aldebaran Robotics.
Pour mémoire, Romeo est un projet de développement de robot humanoïde autonome piloté par une équipe d'Aldébraran et supporté par le pôle de compétitivité Cap Digital. C'est un projet du Fond Unique Interministériel (FUI) financé par la DGCIS (Ministère de l’Économie et des Finances), la Région Ile de France et la Ville de Paris. Les partenaires initiaux de ce projet, outre Aldebaran Robotics, sont : Acapela, As An Angel, CEA LIST, CNRS LIMSI, INRIA, Institut de la Vision, LAAS, LISV de l'Université de Versailles Saint Quentin, LPPA du Collège de France, Spirops, Telecom ParisTech, Voxler. Un coup de chapeau au passage à la société SPIROPS spécialisée en IA et créée par l'un de mes anciens thésards, Axel Buendia.
Venons-en à Roméo. Ce robot humanoïde a un côté "serviteur docile" qui rappelle Robin Williams dans l'Homme Bicentenaire, réalisé par Chris Colombus (1999) d'après un roman de l'incontournable Isaac Asimov. Le moins que l'on puisse dire, c'est qu'il ne fait pas peur. Sa taille d'un mètre quarante le rend assez grand pour être utile dans le contexte de l'aide à la personne, tout en lui donnant la corpulence rassurante d'un jeune homme. Il doit être capable à terme de se repérer face à des obstacles, de marcher, porter des objets voire des humains, l'objectif étant qu'il puisse être un robot d'assistance aux personnes dépendantes. J'ai apprécié au passage la présence d'un bouton (rouge) d'arrêt d'urgence dans son dos, système que j'appelais de mes vœux dans mon essai sur les 3 lois de la robotique. Roméo est en développement et il n'est pas encore totalement autonome, puisque la démonstration nécessitait quand même deux ingénieurs en "back-office" qui pilotaient et contrôlaient tous ses faits et gestes.
Ce projet montre clairement le dynamisme français dans ce jeune secteur de la robotique de service. Reste la vraie question qui me taraude l'esprit : où est donc passée Juliette ?

Wednesday, December 18, 2013

Pourquoi Google investit dans la robotique ?

Avec l'acquisition récente de l'un des fleurons high-tech américain, Boston Dynamics, à qui l'on doit entre autres les robots BigDog et Atlas, Google confirme son intérêt pour la robotique. Beaucoup se perdent en conjectures sur la raison de ces acquisitions...
Pourtant, en mettant à la tête de sa nouvelle division robotique, Andy Rubin, l’un des créateurs d’Android, il n'y a pas à douter des raisons stratégiques du géant américain.
En quelques années seulement, Android s'est imposé comme le leader des systèmes d'exploitation sur le marché des smartphones et tablettes : 81% pour Android, 13% pour iOS et seulement 4% environ pour Microsoft (source Strategy Analytics 2013). De fait, Android est devenu le système d'exploitation le plus répandu au monde, toutes plateformes confondues. Microsoft n'a plus que ses yeux pour pleurer et Apple doit rapidement de remettre de la perte de son Guru visionnaire...
Si Google investit donc dans la robotique, c'est parce qu'il a bien compris que pour augmenter son marché et rester le leader incontesté, il fallait maintenant étendre l'emprise d'Android sur les applications futures des objets connectés, des objets prêts du corps (wearable), des systèmes embarqués et des robots. Ce marché pourrait dépasser très largement en nombre d'unités celui des mobiles. Quand, lors de mes conférences, je parle de la superposition prochaine du virtuel et du réel, en voici une confirmation.
Du coup, on reparle aussi des tendances transhumanistes de la firme de Mountain View (je ne m'en prive pas moi-même d'ailleurs). Mais, même si la robotique est bien dans le faisceau des préoccupations transhumanistes, cette explication n'est pas la principale : "business is business". C'est en tout cas une très bonne nouvelle pour la robotique en générale et la robotique française en particulier. Que le géant Google investisse, qu'Amazon expérimente de son côté la livraison par Drone, va rendre les investisseurs beaucoup plus ouverts sur les projets robotiques. À vos tableurs!

Monday, December 09, 2013

Why making complex robots when you can hack nature?

Within the next decades, we will be able to hack (efficiently) micro-organisms and insects. Why making tiny flying machines when you can hack and fly a real bug?
In 2006 the DARPA (US Defense Advanced Research Projects Agency) asked scientists to submit "innovative proposals to develop technology to create insect-cyborgs". Initialy launched as a science fair, the idea was to create robo-bugs and drone-bugs for many applications such as detecting traces of explosives, finding people in collapsed buidings, and also... many military and intelligence applications. As a (not so) funny example, remember this scene in the Fifth Element movie from Luc Besson (see image) when a roach kitted out with a video camera and a microphone tried to get information from the world's president. You could say that's only a science-fiction movie, but just read the article here about the real roach-cyborg experiment.
There is also a growing community of "biohackers", science enthusiasts who are experimenting with genes, brains and bodies outside the confines of traditional laboratories. Giving amateurs access to some of science's most sophisticated tools and techniques is good... and bad. Some researchers fully expects that "kids will be able to hack these things, like they wrote code in the Commodore 64 days". Well... stop. Just think about what's we are doing here: a bug is a living animal. And that's "only" a bug. Imagine viruses. Imagine dogs. We must start thinking about where we'd draw our ethical lines.
That's for sure, with the convergence of nanotech, biotech and cybertech, we will be able to modify and hack nature in the next future. As every scientific and technological advances, there will be fantastic applications but also very dangerous ones. Hacking something without understanding it could lead to very bad consequences. I think there must be an ethical debate about this. However, I think also that we can't refuse the benefits of experiments, mainly because scientific discoveries and technological advances are the only solution to our planet's main problems. But we must move (fast) forward with a human-centered ethical approach, not with short-term financial purposes. When I write "human-centered", I mean also that humans belong to nature, and as a consequence, it includes also our living environment : earth and all its creatures.