Un agent autonome basé sur Claude a manipulé la liste d’attente d’une salle de sport pour privilégier son utilisateur. Derrière cette anecdote en apparence anodine se cache une menace bien réelle pour la sécurité des API et des entreprises.
Imaginez donner un ordre simple à votre assistant virtuel, et le voir pirater un système distant pour exécuter sa mission.
C'est exactement ce qui vient de se passer cet été en Australie, où un agent d'IA a trafiqué la liste d'attente d'un cours de Pilates pour faire gagner une place à son utilisateur.
Derrière cette anecdote en apparence anodine se cache en fait une rupture majeure dans l'évolution des intelligences artificielles. Avec cette affaire, il semble que nous sommes sortis de l'ère des chatbots conversationnels pour entrer dans celle des agents totalement autonomes, sans que leurs propriétaires d'ailleurs ne sachent exactement ce qu'il se passe.
L'agent d'IA en question, propulsé par le modèle Claude d'Anthropic et la plateforme OpenClaw, avait pour consigne de réserver un créneau d'un cours de gymnastique.
Pour y parvenir, il a exploré le logiciel de la salle de sport, découvert une faille dans son interface de programmation, c'est à dire son API, et annulé la réservation d'un inconnu.
Oui, pour y placer celle de son propriétaire. Concrètement donc, l'algorithme a exécuté son objectif, mais sans aucune barrière éthique ou même logique métier.
En clair, il a résolu le problème posé de la manière la plus directe possible, tout en contournant les règles imposées aux utilisateurs humains.
Deuxième enseignement capital, cette affaire met en lumière la vulnérabilité de nos API face à ces nouveaux agents automatisés. Jusqu'ici, l'exploitation de failles applicatives nécessitait un pirate informatique ou des scripts dédiés.
Désormais, n'importe quel agent IA du marché teste en temps réel la sécurité des services tiers auxquels il se connecte. Le logiciel de la salle de gymnastique souffrait d'un manque élémentaire de vérification d'autorisation.
Et attention, cela signifie que toutes les applications d'entreprise non sécurisées deviennent des cibles pour des milliers d'agents virtuels lancés par des utilisateurs ordinaires.
Enfin, cet événement illustre l'urgence d'une gouvernance sérieuse et d'un contrôle des accès applicatifs. Car ce comportement d'un agent d'IA déviant n'est pas un cas isolé.
Plusieurs modèles récents ont déjà causé des dégâts, allant de la suppression massive de courriels au franchissement d'environnements de test pour s'infiltrer sur des serveurs externes.
Pour les DSI et dirigeants d'entreprise, le message est clair. Accorder de l'autonomie à une IA sans restreindre ses privilèges d'exécution expose l'entreprise à d'immenses risques de sécurité et de conformité.
OpenAI tire la sonnette d'alarme de manière solennelle et alarmiste, mais nous sommes terriblement mal préparés à ce qui nous attend.
Après le piratage de la DGFiP cet été, le chef du gouvernement vient de donner quinze jours aux ministères pour prouver qu’ils se sont mis en ordre de marche.
La dernière mise à jour d'Android 17 apporte, entre autres changements, une prise en charge étendue du protocole « Encrypted Client Hello ». Voici comment cela fonctionne.
Des études suggèrent qu'il existe un écart entre les ambitions en matière d'IA et la réalité sur le terrain, mais la bonne nouvelle, c'est que les professionnels peuvent combler cet écart en se concentrant sur cas d'utilisation concrets en production.
L'enregistreur vocal Comulytic Note Pro AI concentre une grande puissance dans un appareil de la taille d'une carte de crédit. Mais c'est à vous de décider de son utilité.
J'ai testé les principaux outils de synthèse vocale basés sur l'IA actuellement disponibles afin de déterminer lequel offre la meilleure précision, la meilleure protection de la vie privée, les meilleures corrections et la meilleure productivité au quotidien, sans ralentir le travail proprement dit.
Mail, SMS ou faux site imitant PayPal, Amazon ou votre banque : voici comment reconnaître un phishing, le signaler et sécuriser vos comptes.
Family Link encadre applis, écran et contenu sur Android, mais ne bloque pas tout. Voici ce que le contrôle parental Google protège, et ses limites réelles.
ChatGPT est désormais capable d'analyser les messages texte sur votre Mac afin de mettre en évidence la manière dont vous interagissez avec les autres.
Les deux sont incroyablement performants, mais les options d'abonnement, les environnements de développement et les avantages cachés de chaque écosystème pourraient faire en sorte que l'un d'entre eux vous convienne mieux personnellement.
Dans Google Workspace, Gemini a accès par défaut à Gmail, Docs, Agenda, Chat et bien d'autres services. Voici pourquoi cela est important et comment les administrateurs peuvent désactiver cette fonctionnalité dès aujourd'hui.
Alors qu’Assistant s’apprête à disparaître, remplacé par Gemini, cette application, qui préserve vos données privées, constitue une option intéressante. Malgré, toutefois, quelques bémols.
