Est-ce raisonnable de concevoir une intelligence artificielle capable de tromper l’Humain ?

L’intelligence artificielle Libratus a remporté le tournoi de poker Heads Up No-Limit Texas Hold’em’ qui durait 20 jours et réunissait 4 champions mondiaux (Jason Les, Dong Kyu Kim, Daniel McAulay et Jimmy Chou). L’intelligence artificielle a empoché 1 766 250 dollars, faisant d’elle la première machine à surpasser l’Homme à ce jeu réputé complexe puisque les joueurs ne disposent pas de toutes les informations nécessaires pour prendre la meilleure décision (on parle de situation d’information imparfaite). L’intelligence artificielle Libratus a ainsi détecté le bluff de ses adversaires et elle a elle-même bluffé lorsqu’elle l’estimait nécessaire. Libratus pourrait s’appliquer à d’autres situations d’information imparfaite, dans les stratégies militaires ou pour appréhender les marchés financiers, mais certains spécialistes s’inquiètent. Est-ce vraiment raisonnable de bâtir des IA capables de détourner les informations et de tromper l’Humain ?

L’an passé, l’intelligence artificielle (IA) Alphago, développée par la filiale de Google DeepMind, mettait KO le champion du monde de jeu de Go Lee Sedol. Grâce à son système en deep learning, la machine avait appris de ses échecs pour se perfectionner, saisir le mode de jeu de son adversaire, prédire ses coups à venir et gagner le tournoi du jeu de stratégie réputé le plus difficile au monde (plus difficile que les échecs du fait du nombre de combinaisons possibles estimé à 10 puissances 171). Des dires de Lee Sedol, la machine était dotée d’une « forme d’instinct » totalement déconcertante.

Une intelligence artificielle (IA) empoche plus d’un million de dollars au poker

Nous nous penchons aujourd’hui sur un autre jeu de stratégie. Une équipe de chercheurs de l’Université Carnegie Mellon (Pittsburg, Etats-Unis) a conçu une intelligence artificielle, baptisée Libratus, et l’a entrainée à jouer au poker. Libratus a ensuite participé au marathon de vingt jours « Heads Up No-Limit Texas Hold’em » et a remporté la première place en empochant 1 766 250 dollars, contre les quatre champions Jason Les, Dong Kyu Kim, Daniel McAulay et Jimmy Chou.

Libratus est la première intelligence artificielle à surpasser l’Humain au poker – en 2015, un autre programme baptisé Claudio s’était frotté au tournoi sans succès. « C’est un énorme pas en avant pour l’intelligence artificielle », a déclaré Tuomas Sandholm, professeur à la Carnegie Mellon University et responsable de l’équipe à l’initiative de Libratus.

Des Humains fatigués par 20 jours de marathon vs une IA perfectionnée au quotidien

Soulevons que sur vingt jours de marathon, les joueurs humains ont certainement connu des moments de fatigue et se sont peut-être émoussés avec le temps. En parallèle, les parties réalisées par l’IA infatigable étaient analysées quotidiennement par un superordinateur et les trois plus grosses faiblesses corrigées pour perfectionner l’algorithme au fur et à mesure – nous pouvons évoquer des armes inégales en matière d’endurance exigée pour ce type de tournoi.

Néanmoins, la victoire de Libratus marque un nouveau pas dans le domaine de l’intelligence artificielle, car le poker est un jeu ultra complexe… Plus complexe à appréhender que les échecs et le jeu de Go, par exemple, puisque les joueurs ne connaissent pas les cartes de leurs adversaires et, de fait, ne disposent pas de toutes les informations nécessaires pour prendre la meilleure décision (on parle de situation d’information imparfaite). Plus que des probabilités et de la stratégie, le poker nécessite un brin de psychologie.

Quid d’une intelligence artificielle capable de tromper l’Humain dans les domaines financiers ou de la stratégie militaire ?

Ici, la machine a pu composer avec le hasard, la loi des probabilités, mais aussi avec le bluff de ses adversaires et elle a elle-même bluffé lorsqu’elle estimait cette action nécessaire. « Est-il raisonnable d’apprendre aux machines à tromper, dominer, dépasser les hommes ? Est-il sage de leur apprendre à cacher leurs intentions, à déployer des stratégies agressives et manipulatrices comme dans le jeu de go ? (…) », soulevait Laurent Alexandre, PDG de la société française DNAVision spécialisée dans la biologie moléculaire, à l’époque de la victoire d’AlphaGo de Google au Championnat du monde de jeu de Go.

Il n’a pas tort. Selon le professeur Tuomas Sandholm de Carnegie Mellon, Libratus pourrait s’appliquer à d’autres situations d’information imparfaite, dans les stratégies militaires, les négociations commerciales de haut niveau ou les marchés financiers, mais est-il raisonnable pour ce genre d’activité de travailler avec une IA capable de bluffer, de détourner les informations et de tromper son utilisateur ?

24 commentaires