Plusieurs experts considèrent l’année 2016 comme l’année de l’émergence de l’intelligence artificielle, c’est alors que le programme a vaincu pour la première fois un joueur humain au jeu de go. Jusque-là, une telle chose était considérée comme impossible, depuis lors, au contraire, l’intelligence artificielle semble invincible. Une nouvelle victoire humaine peut sembler d’autant plus surprenante.
Le site Web Ars Technica a rendu compte d’un match de quinze matchs opposant l’intelligence artificielle spécialisée et “imbattable” KataGo au joueur de go amateur Kellin Pelrine. Une personne à l’intérieur a “écrasé” la machine avec un résultat de 14:1. Son succès peut être légèrement terni par le fait qu’il a conçu la stratégie qu’il a utilisée à l’aide d’un programme informatique spécialisé. Mais le jeu lui-même n’était entre les mains que de Pelrin, la machine ne l’aidait en aucune façon.
Pelrine a fait analyser par son algorithme les jeux de go auxquels l’IA a joué. Le but était de trouver les erreurs, les trous, les fautes ou les lacunes qu’ils contenaient. Et finalement, il a trouvé une faiblesse – curieusement, elle est commune à beaucoup de bonnes IA, y compris le populaire ChatGPT.
Comment humilier l’intelligence artificielle
“Il nous a été étonnamment facile d’abuser de ce système”, a commenté Adam Gleave, qui dirige la société de recherche californienne FAR AI, qui a conçu le programme. Il a ajouté que le logiciel a joué plus d’un million de parties contre KataGo, l’un des meilleurs systèmes pour jouer au go, afin de trouver un “angle mort” qu’un joueur humain pourrait exploiter. Et il l’a trouvé.
La stratégie gagnante révélée par le logiciel n’est pas exactement primitive, mais selon Pelrin, ce n’est pas si difficile à apprendre pour un joueur humain légèrement plus avancé. Pour le tester, il a également essayé un jeu contre une autre IA de haut niveau spécialisée dans le go – et a également facilement battu ce système Leela Zero.
La tactique de Pelrin consistait à enfiler lentement une grande “boucle” de pierres pour entourer l’un des groupes de l’adversaire tout en distrayant l’IA avec des mouvements dans d’autres coins du plateau. Selon Pelrin, le robot go-playing n’a pas remarqué sa vulnérabilité – jusqu’à ce qu’il soit trop tard. “En tant qu’être humain, je le remarquerais assez facilement”, a-t-il ajouté.
Machines invincibles
Il n’est pas encore clair si Pelrine serait capable de vaincre même l’intelligence artificielle AlphaGo, qui a d’abord vaincu le grand maître humain. Ce joueur, le meilleur grand maître de l’époque, Lee Sedol, a abandonné peu de temps après la défaite – disant qu’il était inutile de continuer si les machines ne pouvaient pas être battues. Bien qu’AlphaGo ne soit pas accessible au public, selon Ars Technika, les systèmes contre lesquels Pelrine a réussi sont de qualité comparable.
La découverte d’une faiblesse dans certaines des machines de jeu les plus avancées indique une faille fondamentale dans les systèmes d’apprentissage en profondeur qui sous-tendent l’intelligence artificielle la plus avancée d’aujourd’hui, a déclaré le professeur d’informatique Stuart Russell à Ars Technica. Il a ajouté que ces systèmes ne “comprennent” que des situations spécifiques auxquelles ils ont été exposés dans le passé, mais sont incapables de généraliser d’une manière facile pour les humains. “Je pense que nous nous sommes trop hâtés d’attribuer une intelligence surhumaine aux machines”, a-t-il ajouté.