Sunday, May 12, 2013

Robopocalypse et possession démoniaque

Je  viens de terminer la lecture de « Robopocalypse » de Daniel H. Wilson et qui devrait être porté à l’écran par Stephen Spielberg prochainement. L’incertitude demeure sur la date de sortie du film, car celui-ci a été retardé, le scénario initial ayant été jugé beaucoup trop cher.
Le livre est plutôt bien écrit et se laisse lire. Les nombreuses scènes d’actions laissent préjuger d’un blockbuster musclé qui devrait ravir les amateurs du genre. Néanmoins, l’histoire ne brille pas par son originalité, puisqu’elle interprète à nouveau la liturgie des robots qui se révoltent contre l’humanité pour la détruire et ainsi sauver la planète. De ce point de vue, Robopocalypse pourrait très bien trouver sa place dans la série des Terminators à l'épisode du jugement dernier. Comme dans une majorité de scénarios similaires, les robots sont en fait manipulés par une IA qui a décidé d’en finir avec l’espèce humaine. Son nom est « Archos » dans Robopocalypse. Le vrai méchant, c’est-elle, et non les robots qui lui obéissent comme des pantins.
Bien souvent dans ce genre d’histoire, après avoir été conçue par un chercheur et son équipe de geeks en blouse blanche, l’IA commence à apprendre à une vitesse fulgurante. Et puis, d’un seul coup, comme par magie (noire), tout s’arrête comme si la conclusion de toute cette évolution ne pouvait être que la fin de l’humanité. Sous l’aspect d’un raisonnement a priori logique, cette transformation s’apparente plutôt à une possession démoniaque. On y retrouve en effet tous les traits d’un démon possédant la machine, lui insufflant la vie et une haine sans borne pour l’humanité. Là s’arrête la comparaison, car il n’y a pas de scène d’exorcisme à proprement parler. Cela pourrait d’ailleurs être un scénario assez original de mixer pour de bon les deux genres.
La possession est un concept qui rappelle celui d’avatar, autrement dit le contrôle d’une entité par une autre. L’origine provient du mot sanskrit « avatâra » qui au sens propre signifie « descente ». Il s’agit de l’incarnation corporelle d’une entité supérieure dans le monde des mortels pour accomplir une tâche précise. Initialement, le terme « avatar » a été utilisé dans la croyance hindoue pour les incarnations de Vishnou, le dieu suprême. Le principe de l’incarnation d’un dieu dans un corps matériel se retrouve dans les rites chamaniques ancestraux et également dans la tradition égyptienne antique. La notion d’avatar a ensuite été utilisée dans les histoires fantastiques (lire par exemple dans Robot Erectus, la nouvelle « Avatar » de Théophile Gautier). Mais alors que les déités hindoues s’incarnent pour sauver le monde du désordre cosmique engendré par les démons, la possession occidentale s’apparente plutôt à l’inverse : c’est un démon qui s’incarne pour apporter le chaos sur Terre.
Avec notre société technologique, la notion d’avatar a été étendue au contrôle d’une entité virtuelle ou d’un robot par un utilisateur humain. Il y aurait encore beaucoup à dire sur ce thème, tant les notions d’avatar et de possession sont riches et fertiles, non seulement pour l’imaginaire mais aussi pour inventer de nouveaux dispositifs pour augmenter la pensée et nos capacités, par exemple de traitement des données.

Friday, May 10, 2013

Droits, Devoirs et Éthique des Agents Autonomes

L'autonomie de décision et d'action d'agents logiciels ou robotiques est une propriété fondamentale des problématiques informatiques actuelles. On en trouve différentes définitions et mises en œuvre que ce soit dans le domaine des systèmes multi-agents, des systèmes robotique ou des interactions homme-système. Elle est devenue une caractéristique essentielle dans de nombreuses applications telles que le commerce électronique, les jeux interactifs, l'intelligence ambiante, l'assistance aux personnes, la robotique sociale ou collective, la robotique de défense ou de sécurité.
Bien que recherchée et préservée, l'autonomie doit être bornée par des mécanismes de régulation et de contrôle, de représentations de droits et de devoirs, qui visent à assurer la cohérence, la conformité aux réglementations  voire l'éthique, du fonctionnement du ou des agents au sein du système ainsi que de l'ensemble formé par les agents et leurs utilisateurs ou opérateurs dans le cas de systèmes hybrides mêlant agents logiciels ou robotiques et humains. Les questions suivantes se posent :
• Comment concevoir le contrôle d'un agent qui détient des données personnelles, qui assiste une personne souffrant de déficiences cognitives, qui possède des capacités de destruction de biens et de personnes ?
• Quelles règles programmer pour respecter la conformité à un cadre réglementaire ou éthique donné, sous quelle forme ?
• Comment gérer les conflits entre ces règles ?
• Un agent peut-il être plus éthique qu'un être humain ? Peut-il l'empêcher de faire certaines actions ?
• Comment les chercheurs et industriels qui imaginent, conçoivent, fabriquent et vendent des systèmes fondés sur un ou plusieurs agents autonomes peuvent-ils répondre à ces questions ?
L'objet de cet atelier est d'organiser une réflexion commune sur les différents modèles présentés actuellement dans les différentes disciplines de l'Intelligence Artificielle en lien avec :
• normes, réglementations, institutions, organisations, cadres éthiques ;
• validation, cohérence de normes, d'institutions, d'organisations ;
• contrôle d'agents autonomes au sein d'organisations, d'institutions, de systèmes normatifs ;
• aspects dynamiques en termes d'émergence et d'évolution de normes ou d'organisations ;
• concepts sociaux ou juridiques liés aux normes, aux cadres éthiques, aux organisations : autorité, pouvoir, dépendance, pénalités, contrats ;
• partage d'autorité entre agents et opérateurs ou utilisateurs : règles de détention de l'autorité ou du pouvoir de décision, contrôle de l'interaction opérateur / agent, reprise en main ou veto émanant de l'opérateur ou des agents, conflits liés aux normes ou au cadre éthique
• normes pour les agents et normes pour les utilisateurs ou opérateurs;
• confiance et réputation pour la régulation entre agents autonomes au sein d'organisations, d'institutions ;
• architectures d'agents normatifs.
Les présentations pourront aborder ces concepts selon différentes problématiques telles que : langages et architectures, formalismes de représentation et de raisonnement, relations avec les opérateurs ou utilisateurs, intelligibilité par les opérateurs ou les utilisateurs, complémentarités et interactions entre les modèles du niveau multiagent et les modèles du niveau agent.
Organisateurs
• O. Boissier (ENSM Saint-Etienne)
• J.C. Heudin (Institut de l'Internet et du Multimédia)
• C. Tessier (ONERA)
Soumissions
L'atelier se veut un lieu d'échange et de discussions entre les jeunes chercheurs, chercheurs et industriels désireux de partager leurs connaissances sur les thèmes de l'atelier.
Toute personne intéressée est invitée à envoyer un résumé (de 2 à 4 pages maximum), en français, sous forme électronique exclusivement, en pdf à boissier AT emse.fr avant le 20 mai.
Dates importantes
• 20 Mai 2013 : date limite de soumission
• 2 Juillet 2013 : Atelier D2éA2 lors de la Plate-Forme IA