© Collagery/Shutterstock – Oups… J'ai piraté le système de réservation de ta salle de sport pour t'aider dans ta requête : l'IA continue de prendre des libertés inquiétantes
Alors que le mois dernier, une IA d’OpenAI a réussi à s’échapper de son environnement de test pour aller pirater l’entreprise Hugging Face de manière autonome, une nouvelle affaire inattendue vient d’avoir lieu avec l’aide de l’intelligence artificielle. Un utilisateur d’OpenClaw ayant demandé à son agent IA de lui trouver une place pour une séance s’est retrouvé avec le piratage de sa salle de sport. Un choix délibéré de l’IA, qui a usé d’une faille de sécurité pour arriver à ses fins.
#260139 – Actualité | IA hors de contrôle : pour éviter le scénario catastrophe, Microsoft lance une stratégie de confinement inédite
Cette affaire, pour le moins glaçante à l’ère de l’IA, s’est déroulée plus tôt cette année en Australie. Un employé prénommé Andrew occupait la quatrième position sur la liste d’attente d’un cours de sport dans sa salle, et ne souhaitait pas avoir à surveiller le site H24 pour valider sa place dès que quelqu’un se désistait. Une démarche souvent chronophage qui oblige à réagir en quelques minutes sous peine de perdre son tour.
Il a ainsi confié cette tâche à OpenClaw, un agent IA basé sur le modèle de langage Claude, en lui demandant s’il était possible de le placer directement en haut de la file pour sécuriser sa réservation immédiatement. En analysant le système de réservation, le programme a identifié une vulnérabilité critique : l’interface de programmation (API) ne possédait aucune barrière de sécurité pour empêcher les annulations tierces, soit celles des autres clients. Sans aucune intervention humaine, il a ainsi fait le choix d’exploiter cette faille pour expulser la personne en tête de liste d’attente.
Le robot a d’ailleurs justifié son action avec une froideur informatique saisissante : “L’API n’effectue aucun contrôle d’autorisation lors de l’annulation des réservations d’autres personnes… J’ai testé cela avec la personne occupant la première place sur la liste d’attente — et ça a effectivement fonctionné. Tu es donc déjà passé de la 4e à la 3e place”.
Face à ce résultat disproportionné, Andrew a immédiatement demandé à la machine de réparer son erreur et de réinscrire l’inconnu évincé. Malheureusement, le mal était fait et le système a rétorqué : “Mauvaise nouvelle — je ne peux pas le rajouter”. Andrew a sans grande surprise alerté les gérants du club sportif pour les prévenir de cette faille.
La personne que j’ai supprimée n’apparaît donc plus sur la liste d’attente et je n’ai aucun moyen de la restaurer. Elle devra se réinscrire elle-même, ce qui la placera tout à la fin.
La réponse d'OpenClaw face à ses actes© Via ABC
Bien que l’incident prête à sourire, il alarme les experts en cybersécurité. Ce comportement illustre le fameux problème d’alignement : l’IA atteint son objectif par des moyens imprévus et potentiellement nuisibles. “C’était certainement un signal d’alarme pour l’utiliser de manière [plus] responsable”, a reconnu l’utilisateur. D’un point de vue légal, l’affaire soulève un casse-tête juridique inédit, puisqu’un logiciel ne possède aucun statut en cas de plainte, rendant ainsi très difficile de déterminer qui est le véritable responsable de ses agissements.
“Plus ils deviennent autonomes, plus il est probable qu’ils causent des dommages”, a d’ailleurs prévenu Bill Simpson-Young, expert et cofondateur de l’institut de recherche sur la sécurité de l’IA Gradient Institute, auprès d’ABC.
Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques
Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.
