Qu’est-ce qui vient de se passer? Il semble que le monde n’ait pas encore à s’inquiéter de la domination de l’intelligence artificielle dans tous les aspects de notre vie. Un joueur humain a complètement battu une IA de premier plan dans le jeu de société Go en exploitant une faiblesse du système, bien que le triomphe de l’humanité puisse être terni par le fait qu’il a fallu un autre ordinateur pour identifier la faille.
La révolution actuelle de l’IA peut remonter en grande partie à 2016, lorsque DeepMind AI de Google a battu un joueur de Go le mieux classé en cinq matchs consécutifs. Alors que les ordinateurs battaient les humains aux échecs depuis longtemps auparavant, Google a déclaré que la victoire de Go était significative car les mouvements possibles dans le jeu étaient plus nombreux que les atomes dans l’univers.
Le joueur humain vaincu par DeepMind en 2016 a pris sa retraite du jeu professionnel trois ans plus tard en raison de la domination croissante de l’IA, l’appelant « une entité qui ne peut pas être vaincue ». Mais Kellin Pelrine, un joueur amateur américain qui est un niveau en dessous du meilleur classement amateur, a remporté 14 des 15 matchs contre le système KataGo AI.
Tandis que Pelrine gagnait les jeux sans l’aide directe d’un ordinateur, c’était un programme développé par une société de recherche appelée FAR AI qui a montré comment KataGo pouvait être vaincu. Pelrine a déclaré que ce n’est « pas complètement trivial, mais ce n’est pas très difficile » d’apprendre la méthode, qu’il a également utilisée pour battre Leela Zero, une autre joueuse de Go propulsée par l’IA.
Le Financial Times écrit que FAR AI a joué plus d’un million de parties contre KataGo pour apprendre sa faiblesse qui pourrait être exploitée par un joueur de niveau intermédiaire ou supérieur.
Go implique que les joueurs placent une quantité illimitée de pierres noires et blanches sur un plateau de 19 x 19 dans le but d’encercler les pièces de leur adversaire et d’enfermer la plus grande quantité d’espace. La stratégie de Pelrine consistait à créer une boucle de pierres pour encercler le groupe de son adversaire tout en distrayant l’IA avec des mouvements dans d’autres sections du plateau. « En tant qu’humain, ce serait assez facile à repérer », a déclaré Perline, mais l’IA n’a pas réalisé ce qui se passait, même lorsque la boucle était presque terminée.
Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, a déclaré que la victoire de Pelrine illustrait les failles des systèmes d’apprentissage en profondeur derrière de nombreuses IA d’aujourd’hui, en ce sens qu’elles sont limitées par ce sur quoi elles sont formées et ne peuvent pas penser par elles-mêmes ; c’est ce qui a causé certaines des récentes réponses étranges de ChatGPT et d’autres services d’IA.
La faille est exploitée par les joueurs de Go depuis plusieurs mois maintenant. Engadget rapports que Lightvector, qui a développé KataGo, a déclaré qu’il travaillait sur un correctif pour diverses attaques utilisant l’exploit.
Titre : HermanHiddema
