Facebook, ou comme nous sommes censés les appeler maintenant Meta, a annoncé plus tôt dans la journée que son intelligence artificielle CICERO avait atteint une “performance de niveau humain” dans le jeu de société Diplomatiequi se distingue par le fait qu’il s’agit d’un jeu basé sur l’interaction humaine, et non sur les mouvements et les manœuvres (comme, par exemple, les échecs).
Voici une bande-annonce franchement angoissante:
Si vous n’avez jamais joué Diplomatie, et se demandent peut-être quel est le problème, c’est un jeu de société sorti pour la première fois dans les années 1950 qui est joué principalement par des gens assis autour d’une table (ou se séparant dans des pièces) et négociant des trucs. Il n’y a pas de dés ou de cartes affectant le jeu; tout est déterminé par des humains qui communiquent avec d’autres humains.
Donc, pour les créateurs d’une IA, dire qu’elle joue à un « niveau humain » dans un jeu comme celui-ci est une affirmation assez audacieuse ! Un que Meta soutient en disant que CICERO opère en fait à deux niveaux différents, l’un analysant la progression et l’état du jeu, l’autre essayant de communiquer avec les niveaux humains d’une manière que nous comprendrions et avec laquelle nous interagirions.
Meta a fait appel au “champion du monde de la diplomatie” Andrew Goff pour soutenir leurs revendications, qui dit “beaucoup de joueurs humains adouciront leur approche ou ils commenceront à être motivés par la vengeance et CICERO ne le fait jamais. Il joue simplement la situation telle qu’il la voit. Il est donc impitoyable dans l’exécution de sa stratégie, mais il n’est pas impitoyable d’une manière qui agace ou frustre les autres joueurs.
Cela semble optimal, mais comme le dit Goff, peut-être aussi optimale. Ce qui reflète le fait que même si CICERO joue assez bien pour suivre les humains, il est loin d’être parfait. Comme le disent Meta eux-mêmes dans un article de blog, CICERO “génère parfois un dialogue incohérent qui peut saper ses objectifs”, et ma propre critique serait que chaque exemple qu’ils fournissent de sa communication (comme celui ci-dessous) le fait ressembler à un employé de bureau psychopathe terrifié que s’ils ne finissent pas chaque phrase avec !!! vous penserez qu’ils sont une personne terrible.
Bien sûr, le but ultime de ce programme n’est pas de gagner des jeux de société. C’est simplement en utilisant Diplomatie comme un “bac à sable” pour “faire progresser l’interaction homme-IA”:
Bien que CICERO ne soit capable que de jouer à Diplomacy, la technologie derrière cette réalisation est pertinente pour de nombreuses applications du monde réel. Le contrôle de la génération du langage naturel via la planification et le RL pourrait, par exemple, réduire les barrières de communication entre les humains et les agents alimentés par l’IA. Par exemple, les assistants IA d’aujourd’hui excellent dans les tâches simples de questions-réponses, comme vous dire la météo, mais que se passerait-il s’ils pouvaient maintenir une conversation à long terme dans le but de vous enseigner une nouvelle compétence ? Sinon, imaginez un jeu vidéo dans lequel les personnages non-joueurs (PNJ) pourraient planifier et converser comme les gens – comprendre vos motivations et adapter la conversation en conséquence – pour vous aider dans votre quête de prendre d’assaut le château.
Je ne suis peut-être pas un dirigeant milliardaire de Facebook, mais au lieu de dépenser tout ce temps et cet argent pour améliorer les assistants en IA, ce dont personne en dehors de la recherche sur l’IA et des dépenses des entreprises ne semble se soucier, ne pourrions-nous pas simplement… embaucher des humains à qui je peux parler Au lieu?
