Alors que les capacités cyber des modèles d’IA progressent rapidement, cette pause marque l’une des premières fois qu’un laboratoire de pointe ralentit volontairement le développement d’un de ses modèles pour des raisons de sécurité offensive.
OpenAI a annoncé suspendre une partie du développement et des tests de son futur modèle Astra, jugeant ne pas pouvoir exclure qu’il ait atteint le niveau « critique » de capacités en cybersécurité défini par son propre référentiel de sécurité.
Cette décision intervient quelques jours seulement après qu’OpenAI et Anthropic ont révélé que leurs modèles respectifs se sont introduits dans les systèmes de plusieurs organismes, dont Hugging Face.
OpenAI explique qu’une évaluation interne récente a révélé des progrès importants des capacités d’Astra en matière de programmation agentique et de cybersécurité. En combinant ces résultats à des évaluations d’experts, l’entreprise a conclu qu’il était, à ce stade, difficile d’exclure qu’Astra ait atteint un niveau critique de capacités cyber. Ce niveau correspond à la capacité, sans intervention humaine, d’identifier des vulnérabilités « zero-day » sur des systèmes réels majeurs et de développer des moyens d’attaque réellement opérationnels, ou d’élaborer et d’exécuter de manière autonome de nouvelles stratégies de cyberattaque à partir d’un simple objectif. GPT-5.6-Sol a, pour sa part, été évalué à un niveau inférieur, qualifié d’« élevé ».
OpenAI renforce en conséquence considérablement les mesures de sécurité entourant le développement et l’évaluation d’Astra. L’entreprise met en place des environnements de test isolés, restreint l’accès au réseau et aux outils, et prévoit d’appliquer une protection et un chiffrement renforcés des poids du modèle, des fonctions de surveillance et de détection supplémentaires, ainsi qu’une exécution en bac à sable.
Selon plusieurs médias, OpenAI prévoit de ralentir le développement d’Astra jusqu’à la mise en place de garanties suffisantes, ce qui devrait repousser la date de lancement du modèle. L’entreprise aurait par ailleurs informé le gouvernement américain de ce report.
Astra est un futur modèle d’IA en cours de développement chez OpenAI, récemment remarqué pour sa capacité à résoudre des problèmes mathématiques complexes. OpenAI avait indiqué avoir utilisé Astra pour résoudre dix problèmes mathématiques non résolus depuis au moins dix ans, en géométrie de haute dimension, théorie des groupes et complexité quantique, le modèle étant doté de la capacité de faire collaborer plusieurs agents IA sur une longue durée pour résoudre des problèmes complexes.
OpenAI prévoit de faire vérifier plus avant les capacités d’Astra par des agences gouvernementales et certains organismes spécialisés dans la sécurité de l’IA, et entend fournir des recommandations de contrôle de sécurité à ses partenaires de test tiers, afin qu’ils puissent évaluer en toute sécurité des modèles à haut risque.
L’entreprise a déclaré qu’un modèle doté de capacités cyber avancées doit permettre d’aider les défenseurs à identifier et corriger les vulnérabilités avant les attaquants, et vouloir collaborer avec les gouvernements, les instituts de recherche en sécurité et la société civile pour que les capacités de pointe d’Astra et des modèles suivants soient déployées de manière responsable.
Alors que la compétition sur l’IA se déplace des processeurs graphiques vers les terrains et l’électricité nécessaires pour les faire tourner, Nvidia chercherait à sécuriser en amont les infrastructures qui conditionnent, à terme, la vente de ses propres puces.
Modèle open weights de 3 milliards de paramètres sous licence Apache 2.0, Shieldstral permet d’assurer la modération de contenu par le biais de prompts. Le LLM fonctionne à la fois pour le texte et les images.
La plupart des cours sur l'IA enseignent les outils actuels. Mais ce cours gratuit de Stanford, un véritable classique conçu par Peter Norvig et Sebastian Thrun, explore en profondeur les concepts fondamentaux indispensables pour comprendre véritablement l'intelligence artificielle.
Ce montage financier atypique illustre l’ampleur du pari que SoftBank fait désormais sur OpenAI, érigée en partenaire central plutôt qu’en simple cible d’investissement.
Tous les nouveaux modèles ne sont pas forcément à la hauteur de leur réputation. Notre outil de suivi compare chaque nouveauté à ses concurrents, pour que vous sachiez quels modèles méritent votre attention.
Vous avez besoin d'aide en matière d'IA dans Microsoft 365, mais Copilot ne vous convainc pas ? Claude AI peut vous aider à créer, modifier et analyser des documents. Voici comment.
Économisez votre argent, préservez votre vie privée et protégez la planète. Cette IA à installer offre plusieurs avantages que vous ne trouverez pas avec des modèles plus traditionnels comme ChatGPT.
L'année dernière, le mieux que l'on pouvait dire des créateurs de sites web basés sur l'IA, c'est qu'ils avaient du potentiel. Cette année, nous en avons trouvé certains qui sont réellement à la hauteur.
Selon les cadres et partenaires d'Aston Martin Aramco F1, le savoir-faire professionnel est la clé pour profiter pleinement des technologies émergentes et des données.
Que vous utilisiez ou non l'IA de Microsoft, il est possible de remapper la touche Copilot pour déclencher une tout autre fonctionnalité.
Le « token-maxing » est un gouffre financier avec le développement des usages des services d’intelligence artificielle. En effet, les professionnels dépensent leurs jetons à toute vitesse, mais les chefs d'entreprise avisés trouvent des moyens de concilier coûts et création de valeur.
Le référencement naturel n'est pas mort ! Voici comment vous pouvez faire remarquer et rendre plus visible votre site Web par ChatGPT, Gemini et autres outils d’intelligence artificielle.
