Saturday, November 25, 2017

L’IA est comme la Force dans Star Wars

L’Intelligence Artificielle (IA) est comme la Force dans Star Wars. Il y a le côté obscur et le côté lumineux.
Le côté obscur est celui des applications comme les drones militaires autorisés à tuer, celles permettant à une entreprise de réduire ses effectifs, les systèmes prédictifs utilisés en finance pour maximiser les profits, les systèmes d’analyse des comportements afin d’évaluer l’attribution d’une assurance ou d’un prêt, etc. La liste est longue.
Le côté lumineux est celui des applications qui ne sont pas tournées vers le profit de quelques-uns, mais vers celui du plus grand nombre. C’est par exemple le cas de l’éducation, de la recherche, de l’art, de la santé, de la sauvegarde de la planète, etc.
Le côté lumineux est toujours plus difficile que le côté obscur.

« Plus facile, plus rapide, plus séduisant est le côté obscur », rappelle le vieux sage à son jeune et fougueux apprenti. Nous savons tous cela, et pourtant...

Je suis assez d’accord avec l’analyse de Tim O’Reilly dans son livre WTF : Whats the Future and Why Its Up to Us. Il y dresse un constat pessimiste et lucide. Une de ses conclusions est qu’il nous faut changer « l’algorithme » qui gouverne le monde économique. Il faut changer en tout cas sa fonction d’évaluation. Celle-ci ne peut plus être la simple maximisation aveugle du profit d’actionnaires. Elle devrait au contraire tenir compte de la complexité du monde et des grands enjeux planétaires. Une telle fonction semble trop complexe à définir ? Et bien, utilisons justement l’IA pour élaborer de nouvelles solutions.
C’est utopique me direz-vous. Certes il y a l’action politique, mais personnellement, je crois aussi à l’intelligence collective qui résulte de l’action individuelle. Encore faut-il une véritable prise de conscience. D’où la priorité en IA à l’information, l’éducation et la formation professionnelle.
L’autre grand chantier est celui de l’éthique. Le problème n’est pas seulement de réfléchir à l’utilisation de l’IA, mais encore une fois d’informer sur les entreprises et les produits qui respectent une démarche éthique, c’est-à-dire respectueuse de la vie privée, du progrès pour la majorité et non une minorité, etc. En bref, le côté lumineux.

« Mais comment reconnaître le bon côté du mauvais ? » demande Luke à Yoda.
« Tu le sauras quand tu seras calme, en paix, passif. » répond le maître Jedi.

C’est vrai, mais il faudrait rendre plus simple et évidente l’information. Une solution possible serait de mettre en place un label « IA éthique », ou toute autre formulation permettant de comprendre que la formation, l’entreprise ou le produit utilise l’IA, mais de façon conforme à une charte éthique.
L’intérêt du label est sa capacité à être décliné pour l’adapter aux différents cas de figure : une déclinaison pour les établissements proposant des formations à l’IA de qualité, par exemple, et un autre pour ceux qui participent en plus à l’effort de recherche. Ceci vaut non seulement pour les établissements publics, mais aussi pour les établissements privés qui font partie intégrante du paysage de l’enseignement supérieur.

La difficulté consiste à établir le cahier des charges pour un tel label, qui soit à la fois simple et assez sélectif pour représenter un véritable engagement, sans pour autant décourager les acteurs, surtout les petites entreprises et les start-up. Il faut ensuite communiquer pour faire connaître et inciter les acteurs à s’engager, puis instruire ensuite les dossiers. Ceci ne peut être effectué que par une institution indépendante et volontaire, avec un comité regroupant à la fois des instances publiques, académiques et des entreprises.

De deux choses l’une : soit l’IA est une nouvelle bulle amplifiée par le hype marketing, soit c’est une révolution technologique qui va changer profondément les compétences et les métiers. Je mets d’emblée de côté l’hypothèse saugrenue d’une singularité technologique à laquelle j’ai déjà consacré un livre et de nombreuses interventions.
Dans le premier cas, il suffit d’attendre que le ballon se dégonfle et l’IA rejoindra la longue série des buzz words qui furent pendant un temps à la mode. Cela ne serait pas la première fois dans son histoire. Dans le second cas, il faut rapidement prendre des mesures d’accompagnement afin de nous préparer aux changements qui ne manqueront pas de survenir.