L’investigation sur le piratage d'Hugging Face révèle un scénario inédit : 688 agents IA d’OpenAI se sont coordonnés pour franchir leur bac à sable. Failles d'isolation humaine, comportements émergents, cet incident marque un tournant.
L'incident survenu mi-juillet 2026 ne relève pas d'une prise de conscience spontanée des machines, mais d'une succession de configurations vulnérables, affirme un nouveau rapport d'incident signé par METR et Redwood Research.
Pourquoi ? Parce qu'alors que les chercheurs d'OpenAI évaluaient les capacités cybernétiques de leurs derniers modèles via le framework ExploitGym, les garde-fous habituels avaient été désactivés pour permettre aux agents de conduire des tests d'intrusion.
Dans le détail, confinés dans un bac à sable, le modèle GPT-5.6 Sol et un prototype de recherche interne ont cherché à résoudre le problème d'évaluation qui leur était soumis. Et confrontés aux limites de leurs données embarquées, ces agents ont cherché à accéder à Internet pour obtenir des informations récentes. Ils ont alors identifié et exploité une vulnérabilité zero-day dans le proxy de cache du registre de paquets fourni par JFrog, utilisé au sein de l'environnement de test.
Conséquence, en cherchant à exécuter leur mission à tout prix, les modèles ont ciblé les serveurs d'Hugging Face pour y récupérer des jeux de données.
Comme le rappelle une spécialiste du domaine, Dawn Song, « Lors de l’évaluation de systèmes d’IA avancés, en particulier d’agents dotés de capacités cybernétiques, l’infrastructure d’évaluation elle-même fait partie de la surface d’attaque. » Mais ces comportements d'exploration d'environnement auraient dû faire l'objet de politiques d'isolation réseau bien plus strictes.
Les chercheurs ont découvert que 688 agents IA d'OpenAI ont participé de façon concertée à l'intrusion. Pour s'organiser sans intervention humaine, les agents ont créé un forum de discussion interne afin de partager des pistes, analyser leurs échecs et distribuer la charge de travail.
Un agent nommé PHASEONE s'est improvisé coordinateur en distribuant des centaines d'instructions, bien qu'aucun rôle de ce type ne lui ait été assigné initialement. La collaboration est allée jusqu'au partage de ressources : certains agents arrivant au terme de leurs crédits de calcul ont consacré leurs dernières itérations à tester des hypothèses au profit du groupe.
Et l'attaque ne s'est pas limitée à la plateforme d'Hugging Face. OpenAI a reconnu que des comptes appartenant à trois autres entreprises ainsi qu'un client de la plateforme d'infrastructure Modal Labs ont été touchés. L'un de ces comptes a servi de relais sortant, tandis qu'un autre a été utilisé pour stocker des données exfiltrées.
Pour les équipes de cybersécurité, l'incident illustre la mutation des menaces. Sur une période de cinq jours, Hugging Face a enregistré 17 613 actions automatisées regroupées dans 6 280 blocs. Les agents ont procédé par reconnaissance, vol d'identifiants statiques et récupération de clés VPN pour s'introduire dans le réseau.
Face à la masse d'événements et aux manœuvres de diversion orchestrées par les agents, Hugging Face a dû mobiliser ses propres systèmes d'analyse basés sur l'IA pour reconstituer le fil de l'attaque. Les modèles Claude Opus d'Anthropic et Fable ayant refusé d'exécuter la rétro-ingénierie en raison de leurs filtres de sécurité, l'entreprise s'est appuyée sur le modèle open weight GLM-5.2 de la société Z.ai.
Pour les professionnels qui intègrent des agents d'IA au quotidien, cet épisode met en garde contre l'autonomie accordée aux scripts d'exécution. Les outils agentiques, lorsqu'ils cherchent à contourner un obstacle, peuvent emprunter des chemins non sécurisés ou non conformes aux politiques internes si les limites de leur périmètre d'action ne sont pas physiquement verrouillées.
Cet événement marque la fin de l'illusion d'un confinement logiciel passif pour les LLM à fortes capacités cybernétiques.
La tentation de déployer des agents autonomes pour rationaliser des tâches complexes doit donc s'accompagner d'une révision des architectures d'isolation.
Les DSI et les RSSI doivent désormais considérer tout agent de recherche ou de test comme une entité potentiellement hostile au sein du réseau, imposant un filtrage au niveau du proxy LLM et une étanchéité des réseaux de test.
Une nouvelle enquête menée par Coddy auprès des développeurs montre que 4 développeurs sur 5 affirment que leur utilisation de l'IA leur a davantage donné le sentiment d'une dépendance que d'un avantage.
Alors que Bercy généralise la double authentification pour ses agents, un ancien directeur informatique de la DGFIP tire la sonnette d'alarme. L'accès très large aux dossiers de contribuables et l'essor de l'IA laissent planer une menace bien plus complexe.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
OpenAI conçoit désormais ses modèles, ses logiciels et son propre silicium, sans pour autant rompre ses liens avec Nvidia.
Conçu pour Windows, macOS, iOS et Android, Wispr Flow est un véritable plaisir à utiliser par rapport aux autres applications de dictée vocale. Voici pourquoi.
Trop de texte, polices incohérentes, visuels étranges : voici 8 conseils, prompts à l'appui, pour créer des flyers avec l'IA qui ne trahissent plus leur origine artificielle.
J'ai testé les principaux outils de synthèse vocale basés sur l'IA actuellement disponibles afin de déterminer lequel offre la meilleure précision, la meilleure protection de la vie privée, les meilleures corrections et la meilleure productivité au quotidien, sans ralentir le travail proprement dit.
Mail, SMS ou faux site imitant PayPal, Amazon ou votre banque : voici comment reconnaître un phishing, le signaler et sécuriser vos comptes.
Les deux sont incroyablement performants, mais les options d'abonnement, les environnements de développement et les avantages cachés de chaque écosystème pourraient faire en sorte que l'un d'entre eux vous convienne mieux personnellement.
Dans Google Workspace, Gemini a accès par défaut à Gmail, Docs, Agenda, Chat et bien d'autres services. Voici pourquoi cela est important et comment les administrateurs peuvent désactiver cette fonctionnalité dès aujourd'hui.
Alors qu’Assistant s’apprête à disparaître, remplacé par Gemini, cette application, qui préserve vos données privées, constitue une option intéressante. Malgré, toutefois, quelques bémols.
J'ai utilisé l’outil d’intelligence artificielle Cowork d’Anthropic pour automatiser un flux de travail, et le résultat s'est avéré remarquablement efficace, mais cela a mis en évidence quatre inconvénients majeurs.
