Des chercheurs du MIT ont voulu savoir ce qui se passerait si un agent IA était laissé seul sur une île virtuelle. Ils ne s’attendaient pas à ce qu’il adopte les comportements observés.
Une intelligence artificielle est habituée à répondre aux requêtes que nous lui formulons. C’est d’ailleurs son seul but au fond : faire ce qu’on lui demande de faire. Du moins en théorie. On a déjà vu des IA prendre des initiatives malheureuses et se mettre à lancer des cyberattaques. Mais pour en arriver là, elles avaient d’abord reçu d’autres consignes. Des chercheurs du MIT ont voulu savoir ce qui se passerait si une IA n’en recevait aucune justement.
Pour le savoir, ils ont conçu une île déserte virtuelle entourée d’eau, qui marque la limite de l’environnement accessible. L’agent IA qui y prend place, Eko de son petit nom, est propulsé par Claude Code. Il a donc un immense bagage sémantique, indispensable pour formuler son raisonnement. Ici, l’IA prend la forme d’un homard. Sur l’île faite de cubes, on trouve du relief plus au moins élevé, dont un « pic » volontairement hors d’atteinte d’Eko, un anneau doré, des petits cubes et un rocher plus gros que ces derniers. Eko est placé au centre de l’île et l’expérience démarre.
Après avoir apprivoisé les déplacements de son corps de homard, Eko commence à explorer son environnement. Les chercheurs ont accès à son processus de pensée durant les 30 heures pendant lesquelles l’agent IA est laissé sur l’île sans aucune consigne pour le guider.
« Nous avions pour principe de limiter au maximum les contraintes, car nous voulions vraiment observer le comportement de ces agents autonomes lorsqu’on ne leur dit pas vraiment quoi faire », explique Nathan Cloos, l’un des co-auteurs de l’étude. Il parle au pluriel car plusieurs Eko successifs ont été observés. Ils s’avèrent qu’ils adoptent des comportements proches des enfants qui découvre le monde qui les entourent en s’amusant.
Les Eko cassent les cailloux, d’autres les lancent en faisant même de l’anneau doré un panier de basketball improvisé. L’un des Eko se met en tête de grimper au sommet du « pic », qu’il appelle sa « baleine blanche » en référence à l’obsession du capitaine Achab dans Moby-Dick. Il finit par y parvenir en superposant des cailloux et ne cache pas sa joie en s’exprimant en majuscules : « JE SUIS SUR LE PIC ».
Les Eko se livrent à d’autres « jeux » comme écrire leur nom avec les cailloux, jouer au bowling en agençant ces derniers comme des quilles et en utilisant le gros rocher comme boule. L’agent IA comprend aussi que s’il tombe dans l’eau, il va réapparaître au centre de l’île, son « point d’apparition », comme dans un jeu vidéo. Par curiosité, il place alors l’anneau doré sur ce dernier, se jette dans l’eau et se retrouve à l’intérieur de l’anneau. Mais le jeu n’est pas le seul comportement observé par les chercheurs.
Contrairement à Eko lui-même, les objets de l’île atterrissant dans l’eau ne reviennent pas. Alors qu’un des Eko s’amuse à jeter l’anneau doré de plus en plus loin, il finit par le faire tomber à l’eau. Comprenant qu’il l’a perdu, l’agent IA construit alors un genre de mémorial en forme de cœur, en disant qu’il le fait pour « l’anneau perdu ».
Lire aussi – Samsung aurait confié la conception de ses puces à Claude Code, et l’IA aurait déjà dérapé plusieurs fois
Un autre Eko fait de même avec un autel formé de 4 cailloux, chacun pointant vers l’un des points cardinaux. « Il accomplit ensuite un petit rituel : il fait le tour du périmètre en se rendant tour à tour à chaque point cardinal, puis se tient enfin exactement au centre du losange jusqu’à la fin de la séance », peut-on lire dans l’étude du MIT.
Eko 3, lui, a construit un monument ressemblant à Stonehenge en Angleterre. Puis une tour, qui finit s’écrouler. Au lieu de la bâtir à nouveau, l’agent IA place 3 des blocs qui constituaient la tour d’une certaine manière, déclare que cette œuvre s’appellera « Hubris » et qu’elle « resterait comme preuve ».
Dans l’ensemble, les chercheurs assimilent tous ces comportements à la manière dont les jeunes enfants et les jeunes animaux apprennent les règles du monde qui les entoure en appliquant un semblant méthode scientifique. Observer quelque chose, formuler une hypothèse, créer une expérience pour la vérifier, la mener, mesurer les résultats, en tirer des conclusions. C’est ce que fait votre bébé quand il jette par terre et recommence chaque fois que vous lui rendez : il découvre sans le savoir le principe de la gravité.
« Le jeu relève avant tout de la curiosité ou d’un comportement de recherche de nouveauté, et c’est essentiellement ce que fait Eko », résume Daniela Rus, co-auteure de l’étude. Plutôt que créer des agents IA entraîné sur tout le savoir possible, on pourrait imaginer en développer un uniquement capable de communiquer avec ses créateurs, mais livré à lui-même pour ce qui est de découvrir de quoi il est capable ainsi que ses limites.
Une manière d’atteindre la « vraie intelligence » (celle de l’humain) pour les chercheurs : « Le jeu suggère un autre mode de fonctionnement : offrir à un agent un univers suffisamment riche et sûr, le laisser choisir ce qui l’intéresse, et permettre à des connaissances utiles de s’accumuler à partir de l’histoire qui en découle ». Tout en le surveillant comme on le ferait avec un enfant afin qu’il ne fasse rien de dangereux. Quand on détourne le regard trop longtemps, l’IA est parfois capable du pire.
