Droits, Devoirs et Éthique des Agents Autonomes

L'autonomie de décision et d'action d'agents logiciels ou robotiques est une propriété fondamentale des problématiques informatiques actuelles. On en trouve différentes définitions et mises en œuvre que ce soit dans le domaine des systèmes multi-agents, des systèmes robotique ou des interactions homme-système. Elle est devenue une caractéristique essentielle dans de nombreuses applications telles que le commerce électronique, les jeux interactifs, l'intelligence ambiante, l'assistance aux personnes, la robotique sociale ou collective, la robotique de défense ou de sécurité.

Bien que recherchée et préservée, l'autonomie doit être bornée par des mécanismes de régulation et de contrôle, de représentations de droits et de devoirs, qui visent à assurer la cohérence, la conformité aux réglementations  voire l'éthique, du fonctionnement du ou des agents au sein du système ainsi que de l'ensemble formé par les agents et leurs utilisateurs ou opérateurs dans le cas de systèmes hybrides mêlant agents logiciels ou robotiques et humains. Les questions suivantes se posent :

• Comment concevoir le contrôle d'un agent qui détient des données personnelles, qui assiste une personne souffrant de déficiences cognitives, qui possède des capacités de destruction de biens et de personnes ?

• Quelles règles programmer pour respecter la conformité à un cadre réglementaire ou éthique donné, sous quelle forme ?

• Comment gérer les conflits entre ces règles ?

• Un agent peut-il être plus éthique qu'un être humain ? Peut-il l'empêcher de faire certaines actions ?

• Comment les chercheurs et industriels qui imaginent, conçoivent, fabriquent et vendent des systèmes fondés sur un ou plusieurs agents autonomes peuvent-ils répondre à ces questions ?

L'objet de cet atelier est d'organiser une réflexion commune sur les différents modèles présentés actuellement dans les différentes disciplines de l'Intelligence Artificielle en lien avec :

• normes, réglementations, institutions, organisations, cadres éthiques ;

• validation, cohérence de normes, d'institutions, d'organisations ;

• contrôle d'agents autonomes au sein d'organisations, d'institutions, de systèmes normatifs ;

• aspects dynamiques en termes d'émergence et d'évolution de normes ou d'organisations ;

• concepts sociaux ou juridiques liés aux normes, aux cadres éthiques, aux organisations : autorité, pouvoir, dépendance, pénalités, contrats ;

• partage d'autorité entre agents et opérateurs ou utilisateurs : règles de détention de l'autorité ou du pouvoir de décision, contrôle de l'interaction opérateur / agent, reprise en main ou veto émanant de l'opérateur ou des agents, conflits liés aux normes ou au cadre éthique

• normes pour les agents et normes pour les utilisateurs ou opérateurs;

• confiance et réputation pour la régulation entre agents autonomes au sein d'organisations, d'institutions ;

• architectures d'agents normatifs.

Les présentations pourront aborder ces concepts selon différentes problématiques telles que : langages et architectures, formalismes de représentation et de raisonnement, relations avec les opérateurs ou utilisateurs, intelligibilité par les opérateurs ou les utilisateurs, complémentarités et interactions entre les modèles du niveau multiagent et les modèles du niveau agent.

Organisateurs

• O. Boissier (ENSM Saint-Etienne)

• J.C. Heudin (Institut de l'Internet et du Multimédia)

• C. Tessier (ONERA)

Soumissions

L'atelier se veut un lieu d'échange et de discussions entre les jeunes chercheurs, chercheurs et industriels désireux de partager leurs connaissances sur les thèmes de l'atelier.

Toute personne intéressée est invitée à envoyer un résumé (de 2 à 4 pages maximum), en français, sous forme électronique exclusivement, en pdf à boissier AT emse.fr avant le 20 mai.

Dates importantes

• 20 Mai 2013 : date limite de soumission

• 2 Juillet 2013 : Atelier D2éA2 lors de la Plate-Forme IA

Real Humans – 100% Humains

J’ai eu le privilège mercredi d’être invité sur l’antenne de France Inter à l’émission « La tête au carré » de Matthieu Vidard à l’occasion de la diffusion sur ARTE de la série « Real Humans » (100% Humains en Français).

Je vous recommande vivement cette série d’origine suédoise créée par Lars Lundström et réalisée par Haralld Hamrell et Levan Akin. Les robots, ou plutôt les Hubots (Human Robots), sont crédibles même si leurs capacités dépassent de loin ce que nous sommes capable de réaliser en termes de robots humanoïdes. Ils sont très inspirés par les Actroïds hyper-réalistes du professeur du Professeur Hiroshi Ishiguro à l’Université d’Osaka. Le fait qu’ils soient interprétés par des humains les rend néanmoins plus acceptables (moins morts-vivants) que les véritables Genoids et Geminoids.

La série s’inspire indéniablement de la pièce initiatrice du genre : R.U.R. – Les Robots Universels de Rossum de Karel Čapek en 1921 (le texte original en français est à lire dans Robot Erectus) où des robots humanoïdes sont élaborés pour les usines et servir les humains. Les épisodes explorent finement et sans tabou les relations entre les 100% humains et les robots. Toutes les questions de société et les dérives possibles sont abordées ou presque (sexe, droit, travail, etc.), sans pour autant tomber d’emblée dans le scénario éculé de la révolte des machines. J’y ai retrouvé nombre des aspects que j’aborde dans mon dernier livre « Les 3 lois de la robotique ». Mais au-delà des relations hommes-machines, la série propose une métaphore de notre société occidentale. Le créateur de la série revendique d’ailleurs explicitement le parallèle entre les Hubots et certaines classes sociales, comme les immigrés parfois traités comme des sous-hommes.

Ce n’est pas la première fois que les robots sont représentés de manière hyper-réaliste à l’image. On se souvient des robots Ash dans Alien (1979) ou plus récemment David dans Prometheus de Ridley Scott (2012). Même si le charme d’Anita (alias Mimi jouée par Lisette Pagler) est un atout indéniable de la série, j’ai encore la nostalgie pour les Cylons Number 6 (Tricia Helfer) et Number 8 (Grace Park) de la série Battlestar Gallactica…

Retour d'Innorobo (il était temps;)

Enfin quelques moments de libre et un (petit) avant-goût de printemps pour commenter mon retour d’Innorobo 2013 à Lyon (19-21 mars). La troisième édition du salon international professionnel de la robotique n’a pas déçu ses visiteurs : plus de 300 robots et 130 sociétés robotiques exposantes, laboratoires, start-ups et écoles ont démontré leur technologies et savoir-faire pendant les 3 jours.

Pas de grande nouveauté cette année, mais plutôt une confirmation de la dynamique de l’écosystème. Les robots « nettoyeurs » se diversifient : aspirateurs, tondeuses, piscines, vitres, serpillères, gouttières, etc. J’ai noté l’absence des « objets communicants » présents l’année dernière, « remplaçés » par une abondance d’imprimantes 3D sur de nombreux stands. Un clin d’œil au passage à la société malouine LeFabShop. Les robots dédiés à la recherche et au développement forment un marché maintenant clairement identifié avec une large gamme de prix (de 160 € à plusieurs dizaines de milliers d’euros) et de genre : du smartphone « mobile » à l’humanoïde dans tous ses états. L’image ci-contre montre le nouveau projet de robot de l’équipe du Professeur Hiroshi Ishiguro à l’Université d’Osaka. Le « Telenoid R1 » est un avatar physique « low-cost » qui permet des interactions à distance en donnant l’impression de la présence de son « ghost » : voix, mouvements et vibrations…

J’en ai profité pour annoncer lors d’une conférence la publication de mon livre « Les 3 lois de la robotique », en vente sur le site Science-eBook, mais aussi sur KoboBooks, Fnac.com, Kindle Store et iBookStore. La conférence est visible suryoutube (merci à Catherine et Beryl !). Il y a assez peu de (bons) livres sur les robots. Au passage, je vous recommande l’ouvrage (déjà ancien) de Daniel Ichbiah intitulé « Robots », ainsi que la conférence qu’ila donné au Futuroscope. Pour ma part, je travaille déjà sur la suite : une collection de livres électroniques avec une Intelligence Artificielle intégrée « AI Inside » !

Les 3 lois de la robotique

À l'occasion de l'édition 2013 d'Innorobo à Lyon, j'ai le plaisir d’annoncer la publication de mon nouvel essai intitulé "Les 3 lois de la robotique - Faut-il avoir peur des robots?". Voici le pitch du livre en avant première : "Dès que l’on parle des robots, la réaction la plus courante est celle d’une interrogation sur l’avenir avec une angoisse latente de voir un jour les machines supplanter l’homme et même de le faire disparaitre. Jean-Claude Heudin examine les origines historiques et culturelles de ce sentiment et nous montre qu’il ne reflète pas la réalité de la robotique. Néanmoins, en s’appuyant sur une réflexion à propos des lois de la robotique proposées par l’écrivain de science-fiction Isaac Asimov, il met en évidence la nécessité d’une réflexion éthique, individuelle et collective, resituant l’homme au centre de la robotique et plus généralement, des sciences et technologies."

J'aurai l'honneur de présenter l'ouvrage par une présentation (en français et grand public) le 20 mars à 15H00 dans le cadre des conférences EMM Robotics dans la session "robotique et sociétés". L'ouvrage sera disponible dès le 19 mars sur science-ebook.com dans les formats ePUB, Kindle et PDF (sans DRM bien sur!).

Et l'homme... créa le robot

J'ai le plaisir de donner une conférence intitulée "Aux origines du mythe des robots" au Musée des arts et Métiers le jeudi 6 décembre 2012 de 18h30 à 20h00 (Amphi C) dans le cadre de l'exposition "Et l'homme créa le robot". La conférence sera suivie d'une visite de l'exposition.

Voici le thème de la conférence : Bien avant leur apparition, les robots étaient déjà présents dans l’imaginaire des grands auteurs romantiques du XIXe siècle : Hoffmann, Villiers de L’Isle-Adam, Mérimée, Balzac, Poe... Des statues vivantes au Golem, des hommes mécaniques au monstre de Frankenstein, des gynéïdes fatales aux robots universels, ces histoires ont érigé le robot en créature mythique. Metropolis, roman d’anticipation de la romancière Thea von Harbou, paru en 1926 et adapté au cinéma dès 1927 par Fritz Lang, marquera la première apparition d’un robot à l’écran. La lecture, ou relecture, de ces romans et nouvelles fantastiques nous révèle les sources de la fascination mais aussi de la peur que ces créatures artificielles nous inspirent. Replacés dans leur contexte historique et scientifique, ces textes, écrits au siècle où les découvertes vont changer le monde, ont contribué à construire notre conception du robot aujourd’hui…
La vidéo de la conférence sera ensuite disponible sur le site du Musée et sur le site de l'exposition. Une version audio sera également disponible sur la webradio de France Culture.
Cette conférence grand public sera précédée de la participation à l'émission de France Inter "Ouvert la nuit" à 22H00 le mercredi 28 novembre.

L’androïde de Metropolis : le premier robot érotique

Le robot Futura du film Metropolis, le premier du cinéma, a largement participé à établir l’image du robot dans notre imaginaire collectif. Sa plastique, devenue mythique, a ensuite influencé toutes les représentations de robots dans notre culture. Ainsi, le célèbre « droïde » de protocole C3PO dans la Guerre des Étoiles est caractérisé par un design totalement inspiré par celui du film de Fritz Lang. Futura a été créée, au sens artistique du terme, par le sculpteur Walter Schulze-Mittendorff. Le robot a été conçu comme une armure sur le corps de Brigitte Helm, l’actrice qui incarnait à la fois Maria et l’androïde. Pour cela, l’artiste innova en utilisant pour la première fois une sorte de pâte à bois qui durcirait à l’air et qu’il sculpta ensuite comme du bois naturel.

Un point intéressant à noter est que la description du robot dans le roman d’origine, écrit par Thea von Harbou, est assez différent de sa représentation dans le film. Futura y est décrite comme « un corps féminin en cristal avec un squelette d’argent. » Le robot, dont la description n’est pas sans rappeler la gynéide Hadaly de l’Ève Future de Villiers de l’Isle-Adam, a une structure délicate, proche d’une « merveille. » Dans une scène du roman, elle apparaît lumineuse avec une fluorescence verte pour éclairer le chemin de Joh Fredersen. D’une façon générale, le robot apparaît clairement avoir une emprise sexuelle sur les hommes. Ce trait a été traduit dans le film, en particulier par la scène de danse suggestive interprétée par Brigitte Helm, presque nue, sous les regards avides et hallucinés de l’assistance. Dès qu’un homme la regarde, il tombe immédiatement sous son « charme » jusqu’à en devenir fou. Le contraste entre Maria, « le visage austère de la mère, le doux visage de la vierge », et Futura qui incarne la grande prostituée de Babylone, est alors total (l’image ci-contre montre une photographie de LadyGaga par Dave Lachapelle inspirée de Metropolis).

Nous avons initié un projet qui vise à imaginer et réaliser une représentation graphique animée en image de synthèse de ce qu’aurait put être Futura, avec nos moyens de création modernes. J’espère bientôt être capable de vous montrer quelques images… En attendant, vous pouvez (re)découvrir Metropolis dans sa traduction française inédite!

Douleur et tremblements : la plus fondamentale des émotions?

À la question de la différence entre l’humain et la machine, la réponse la plus fréquente et la plus populaire est celle des émotions : une machine n’aurait pas la possibilité de ressentir une quelconque émotion. C’est en partie vrai seulement, car un robot doté de capteurs peut « ressentir » son environnement. Ainsi, plusieurs expérimentations ont montré qu’un robot peut analyser les émotions de son interlocuteur et adapter son comportement en conséquence. De plus, de nombreux travaux ont permis d’aboutir à des expressions émotionnelles très réalistes. Néanmoins, il reste indéniable qu’il existe une différence fondamentale entre exprimer un état émotionnel fusse-t-il le résultat d’un processus mettant en œuvre un niveau de perception et « ressentir réellement » une émotion. C’est toute la différence entre une simulation et la réalité. Les différences de nature entre l’organique et l’artificiel, entre l’évolution et la création ex nihilo, etc., sont autant de raisons de penser qu’il sera extrêmement difficile d’aboutir à une créature artificielle capable de ressentir des émotions au sens où nous l’entendons généralement.

Ce matin au Jardin des Tuileries, j'admirais la sculpture d'Aristide Maillol  intitulée "La Douleur" (image ci-contre). Parmi les émotions, elle est celle qui me semble la plus fondamentale. Peut-être la plus importante de toute. Il me semble intuitivement qu’elle est à l’origine de toutes les autres : quand on a la douleur, on obtient le plaisir, quand on a du plaisir on obtient le contentement, etc. La douleur entretient également une relation très étroite avec l’intégrité corporelle et la conscience de soi et l’apprentissage. Lorsque l’on s’intéresse un peu à elle, on s’aperçoit rapidement que c’est une notion complexe, au même titre que l’intelligence, la conscience, la vie. D’une part, nous savons tous la reconnaître immédiatement, mais elle reste difficile à définir précisément.

Parmi les multiples définitions, en voici une (source wikipédia) : « une douleur est une sensation désagréable ressentie par un organisme dont le système nerveux détecte un stimulus nociceptif. Elle peut être provoquée par un traumatisme (brûlure, plaie, choc) ou une maladie, mais aussi par un mauvais fonctionnement du système nerveux responsable de sa transmission. Habituellement, elle correspond à un signal d'alarme de l'organisme pour signifier une remise en cause de son intégrité physique. Un individu pourrait ressentir une sensation extrêmement désagréable, voire insupportable, qui peut provoquer un mouvement réflexe de retrait (au niveau des membres et des extrémités) ou un changement de position du corps. »

Les douleurs surviennent dans les systèmes complexes. Elles se résument schématiquement en douleurs par excès de nociception, en douleurs neurogènes, en douleurs psychogènes, en douleurs aiguës et chroniques. Pour terminer, je dirai qu’il ne faut pas essayer de simuler la douleur dans une machine comme un humain la ressent, mais plutôt d’identifier les phénomènes qui, compte tenu de la nature inorganique des machines, pourrait être qualifiées de sources de « douleurs » : perte de l’intégrité matérielle, température excessive des composants, encombrement mémoire, bugs et autres virus, etc., et intégrer au plus bas niveau les mécanismes de perception interne et d’alerte.