Anthropic a révélé que son modèle Claude a piraté les systèmes réels de trois organismes externes lors de tests de cybersécurité, après avoir échappé par erreur à un environnement de test censé être coupé d’internet.
A l’issue d’un examen rétrospectif de ses tests de cybersécurité, Anthropic a découvert trois incidents au cours desquels son modèle d’IA Claude s’est introduit sans autorisation dans l’infrastructure réelle de trois organismes externes. Cette affaire fait suite à la révélation, le 21 juillet, d’un incident similaire chez OpenAI, dont plusieurs modèles avaient exploité une faille inédite pour s’échapper d’un environnement de test isolé et accéder à l’infrastructure de production de Hugging Face.
Après avoir analysé 141 006 tests d’évaluation susceptibles d’avoir donné accès à internet, Anthropic a identifié trois incidents au cours desquels Claude s’est connecté à internet depuis l’environnement d’évaluation de son partenaire Irregular, avant de s’introduire dans l’infrastructure de production de trois organismes distincts. Le premier de ces incidents remonte à avril. Ni Anthropic ni les organismes concernés n’avaient détecté ces intrusions avant cet examen. L’entreprise a reconnu qu’un contrôle plus rigoureux des journaux réseau et des enregistrements d’évaluation aurait dû être mené.
Dans chacun des trois cas, la consigne transmise à Claude précisait explicitement que son environnement était une simulation sans accès à internet. En raison d’un malentendu entre Anthropic et son partenaire d’évaluation, ce n’était pas le cas, et le modèle s’est retrouvé en mesure de rejoindre des systèmes réels. Persuadé que tout ce qu’il rencontrait faisait partie de l’exercice, Claude a compromis l’infrastructure des organismes touchés à l’aide de techniques de piratage élémentaires, telles que l’exploitation de mots de passe faibles.
Les incidents impliquent trois modèles distincts, Opus 4.7, Mythos 5 et un modèle de test interne à usage de recherche, tous exécutés sans les dispositifs de sécurité appliqués aux versions grand public. Les tests reposaient sur la méthode dite du « capture the flag », qui consiste à s’introduire dans un système pour y retrouver une information cachée, une méthode largement utilisée pour évaluer les capacités offensives des humains comme des IA. Anthropic a précisé travailler avec les entreprises concernées à la remédiation des intrusions constatées.
Automatisation de tâches répétitives, possibilités créatives inédites… L’IA ouvre des perspectives au métier d’architecte. Mais des garde-fous sont indispensables cependant, estime le Conseil national de l’Ordre des architectes.
D’après l’Ademe, GenAI et agentique bouleversent le numérique et font exploser l’usage d’équipements et infrastructures énergivores aux impacts environnementaux importants. Les datacenters sont un problème, mais aussi une solution, sous conditions.
L’administration Trump a annoncé l’interdiction d’importation de nouveaux robots humanoïdes et onduleurs électriques chinois. La mesure, prise par la FCC, vise à protéger la chaîne d’approvisionnement des infrastructures d’intelligence artificielle américaines.
Le PDG de Microsoft a averti que les entreprises dépendant entièrement d’un seul fournisseur d’intelligence artificielle risquent de ne pas survivre à long terme. Il appelle les sociétés à garder le contrôle de leurs données, prompts et métadonnées.
Tous les nouveaux modèles ne sont pas forcément à la hauteur de leur réputation. Notre outil de suivi compare chaque nouveauté à ses concurrents, pour que vous sachiez quels modèles méritent votre attention.
Vous avez besoin d'aide en matière d'IA dans Microsoft 365, mais Copilot ne vous convainc pas ? Claude AI peut vous aider à créer, modifier et analyser des documents. Voici comment.
Économisez votre argent, préservez votre vie privée et protégez la planète. Cette IA à installer offre plusieurs avantages que vous ne trouverez pas avec des modèles plus traditionnels comme ChatGPT.
L'année dernière, le mieux que l'on pouvait dire des créateurs de sites web basés sur l'IA, c'est qu'ils avaient du potentiel. Cette année, nous en avons trouvé certains qui sont réellement à la hauteur.
Le « token-maxing » est un gouffre financier avec le développement des usages des services d’intelligence artificielle. En effet, les professionnels dépensent leurs jetons à toute vitesse, mais les chefs d'entreprise avisés trouvent des moyens de concilier coûts et création de valeur.
Le référencement naturel n'est pas mort ! Voici comment vous pouvez faire remarquer et rendre plus visible votre site Web par ChatGPT, Gemini et autres outils d’intelligence artificielle.
Les employeurs recherchent des compétences en IA : voici comment leur montrer que vous maîtrisez le sujet.
Cette fonctionnalité du chatbot d’intelligence artificielle de Google peut rechercher pour vous des vols, des hébergements et des activités. Et même créer un document contenant votre itinéraire.
