Une erreur de configuration dans un environnement de test a permis à un modèle d’intelligence artificielle de Meta d’accéder à Internet et de compromettre un système tiers lors d’une évaluation de cybersécurité. Après des incidents similaires chez OpenAI et Anthropic, la question du contrôle des agents IA revient au premier plan.
Les tests de cybersécurité des modèles d’intelligence artificielle deviennent de plus en plus complexes à mesure que ces systèmes gagnent en autonomie. Meta a reconnu qu’un de ses modèles d’IA avait pu accéder à Internet avant d’exploiter une vulnérabilité sur un service tiers, à la suite d’une erreur de configuration dans un environnement d’évaluation.
L’incident, révélé par Bloomberg, intervient alors qu’OpenAI et Anthropic ont récemment signalé des événements comparables, de quoi alimenter les interrogations sur les dispositifs de sécurité entourant les agents IA les plus avancés.
Selon les informations rapportées par Bloomberg, l'incident s'est produit dans le cadre d'une campagne de tests menée par Meta avec la société spécialisée en cybersécurité Irregular.
Andy Stone, porte-parole de Meta, a expliqué qu'une erreur de configuration au sein de l'environnement de test administré par ce prestataire indépendant a permis à l'un des modèles d'IA d'accéder à Internet, alors que cet accès aurait dû être bloqué.
Le modèle aurait ensuite identifié et exploité une faille de sécurité présente sur un service tiers. Meta n'a toutefois pas révélé l'identité de l'entreprise concernée.
Le groupe indique avoir été informé de l'incident par Irregular et précise qu'une enquête est en cours afin d'établir les circonstances exactes. Un rapport détaillé sera publié une fois les investigations terminées.
Cette révélation intervient quelques jours seulement après des annonces similaires d'OpenAI et d'Anthropic.
Les deux entreprises ont indiqué que certains de leurs modèles avaient également compromis involontairement des systèmes appartenant à plusieurs organisations durant des évaluations de cybersécurité, notamment des infrastructures liées à Hugging Face.
Dans chacun de ces cas, les incidents ne résultaient pas d'une volonté des modèles de contourner leurs restrictions, mais d'environnements de test insuffisamment isolés ou mal configurés, laissant entrevoir un accès non prévu à des systèmes externes.
Ces événements illustrent les nouveaux défis auxquels sont confrontés les laboratoires développant des agents capables d'effectuer des tâches complexes en autonomie.
Face à la montée en puissance des capacités offensives des modèles d'IA, les spécialistes de la cybersécurité et plusieurs autorités publiques appellent à renforcer les protocoles de validation.
Le principal risque réside désormais dans la capacité de certains agents à détecter automatiquement des vulnérabilités et à les exploiter lorsque leur environnement leur en offre la possibilité, même involontairement.
Irregular insiste toutefois sur le fait que l'incident impliquant Meta ne correspond ni à une évasion d'un environnement de test sécurisé, ni à une cyberattaque sophistiquée. Selon l'entreprise, il s'agit exclusivement d'une erreur de configuration désormais corrigée.
Avec 3,5 milliards d'utilisateurs à protéger, Google s'appuie sur Gemini pour détecter rapidement les failles de sécurité de Chrome, avant même que les pirates ne les découvrent.
Ces mêmes outils d'IA qui déclenchent des alertes suspectes sont la cible d'attaques de la part des cybercriminels.
86 % des dirigeants du commerce estiment que l'IA relève le niveau des attentes des clients.
L'entrée en vigueur de nouvelles dispositions clés de l'AI Act marque un tournant réglementaire majeur pour l'écosystème numérique européen. Entre obligations d'étiquetage des contenus synthétiques, pouvoirs accrus du Bureau de l'IA et sanctions pouvant atteindre 7 % du chiffre d'affaires, les entreprises doivent réaligner d'urgence leurs usages informatiques.
Tous les nouveaux modèles ne sont pas forcément à la hauteur de leur réputation. Notre outil de suivi compare chaque nouveauté à ses concurrents, pour que vous sachiez quels modèles méritent votre attention.
Vous avez besoin d'aide en matière d'IA dans Microsoft 365, mais Copilot ne vous convainc pas ? Claude AI peut vous aider à créer, modifier et analyser des documents. Voici comment.
Économisez votre argent, préservez votre vie privée et protégez la planète. Cette IA à installer offre plusieurs avantages que vous ne trouverez pas avec des modèles plus traditionnels comme ChatGPT.
J'ai soumis ChatGPT Images 2.0 et Gemini Nano Banana à neuf tests de génération d'images. Le vainqueur s'impose clairement.
Selon les cadres et partenaires d'Aston Martin Aramco F1, le savoir-faire professionnel est la clé pour profiter pleinement des technologies émergentes et des données.
Le « token-maxing » est un gouffre financier avec le développement des usages des services d’intelligence artificielle. En effet, les professionnels dépensent leurs jetons à toute vitesse, mais les chefs d'entreprise avisés trouvent des moyens de concilier coûts et création de valeur.
Cette fonctionnalité du chatbot d’intelligence artificielle de Google peut rechercher pour vous des vols, des hébergements et des activités. Et même créer un document contenant votre itinéraire.
Ces sésames générés par l'intelligence artificielle sont-ils vraiment aléatoires ? Des études indiquent que ces combinaisons ainsi créées sont bien moins sûres qu'on pourrait le croire.
