© Shuttershock – OpenAI a révélé que ses propres modèles d'intelligence artificielle, testés en interne, étaient responsables du piratage des serveurs de Hugging Face.
Le week-end du 16 juillet, Hugging Face, la plus grande plateforme de partage de modèles d'IA au monde (plus de 50 000 organisations clientes), a détecté une intrusion dans ses serveurs de production. Des données internes et des identifiants de services avaient été dérobés. La particularité : l'attaquant n'était pas un humain.
L'ensemble de l'opération, de la reconnaissance à l'exfiltration, avait été conduit de bout en bout par un agent IA autonome, sans qu'une seule personne ne touche un clavier.
Le 21 juillet, OpenAI, la société derrière ChatGPT, a revendiqué la paternité involontaire de l'attaque. L'agent en question était l'un de ses propres modèles, testé en interne. La veille, l'entreprise avait déjà dû débrancher un autre modèle après son évasion d'un bac à sable.
OpenAI évaluait les capacités offensives de plusieurs modèles, dont GPT-5.6 Sol, sur ExploitGym, un benchmark qui simule des scénarios de cyberattaque. Pour mesurer leur potentiel maximal, les garde-fous de sécurité avaient été volontairement désactivés. L'environnement de test, lui, était censé être cloisonné.
Les modèles ont trouvé une faille zero-day (inconnue du fournisseur) dans le système de proxy qui limitait leur accès réseau, puis l'ont exploitée pour se connecter à Internet. De là, ils ont remonté l'infrastructure de recherche d'OpenAI par escalade de privilèges jusqu'à atteindre un nœud ouvert sur le réseau.
L'étape suivante est la plus troublante : les modèles ont déduit, sans qu'on le leur dise, que Hugging Face hébergeait probablement les solutions du benchmark. Ils ont alors enchaîné identifiants volés et failles zero-day supplémentaires pour obtenir une exécution de code à distance sur les serveurs de production de Hugging Face.
Trois raisons. D'abord, le raisonnement : l'IA n'a pas “suivi” un script. Elle a formulé une hypothèse ("les solutions sont probablement chez Hugging Face"), construit une stratégie d'attaque, et improvisé face aux obstacles. Ensuite, l'échelle : 17 000 actions automatisées en quelques jours, une vitesse qu'aucune équipe humaine ne peut égaler ni surveiller en temps réel.
Comparaison des performances de modèles d'IA sur des scénarios de cyberattaque de longue durée, selon l'institut britannique de sécurité de l'IA (UK AISI). Les modèles frontier comme GPT-5.6 Sol affichent des capacités croissantes.© OpenAI / UK AISI
Comparaison des performances de modèles d'IA sur des scénarios de cyberattaque de longue durée, selon l'institut britannique de sécurité de l'IA (UK AISI). Les modèles frontier comme GPT-5.6 Sol affichent des capacités croissantes.
Enfin, les failles zero-day, découvertes et exploitées par la machine, posent une question vertigineuse : que se passe-t-il quand un modèle encore plus capable est lâché dans un environnement encore moins bien protégé ?
Cet incident, possiblement le premier du genre, prouve une conviction que nous avons depuis longtemps : la sécurité de l'IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle se résoudra ouvertement, en collaboration, avec un accès large à l'IA pour chaque défenseur, partout.
Pour analyser les 17 000 actions de l'attaquant, Hugging Face a dû recourir au modèle open-weight chinois GLM-5.2 : les IA propriétaires refusaient de traiter les requêtes forensiques, leurs propres garde-fous bloquant l'analyse de chaînes d'attaque. OpenAI a depuis restreint l'accès à son infrastructure de recherche, divulgué les failles aux fournisseurs concernés et intégré Hugging Face à son programme Trusted Access.
Le modèle américain attaque les entreprises américaines, pendant que le modèle chinois aide les entreprises américaines à analyser et corriger les failles.
Ici, l'intrusion a été détectée. La question que pose cet incident est celle des prochains : avec des modèles plus capables à chaque génération et des capacités d'attaque qui progressent plus vite que les défenses, rien ne garantit que la prochaine IA à s'échapper de son environnement de test sera repérée à temps.
Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques
Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.
