Le PDG d'Anthropic, Dario Amodei, estime que le rythme de progression de l'intelligence artificielle doit être ajusté pour laisser davantage de temps à la recherche en sécurité. Une position soutenue publiquement par Sam Altman et Elon Musk, malgré leurs profondes divergences sur l'avenir du secteur.
La course aux performances dans l'intelligence artificielle pourrait-elle aller trop vite ? C'est l'alerte lancée par Dario Amodei, le patron d'Anthropic, qui appelle les acteurs du secteur à revoir le rythme de développement des modèles d'IA les plus avancés. Selon lui, les entreprises doivent consacrer davantage de temps à l'évaluation des risques, à la mise en place de garde-fous et à la recherche sur l'alignement des systèmes avec les objectifs humains.
Dans une prise de position, le dirigeant estime qu'un ralentissement maîtrisé pourrait contribuer à réduire le risque de perte de contrôle sur des systèmes de plus en plus autonomes. Une proposition qui a rapidement reçu le soutien de Sam Altman, PDG d'OpenAI, et d'Elon Musk, patron de SpaceX et cofondateur historique d'OpenAI.
Un rapprochement de vues particulièrement notable, alors que les trois dirigeants se sont régulièrement opposés sur la stratégie, la gouvernance et la commercialisation de l'IA.
Pour Dario Amodei, le développement des modèles d'IA de pointe ne peut plus reposer uniquement sur la recherche de performances toujours plus élevées. Le PDG d'Anthropic estime que les entreprises doivent adapter leur calendrier afin de consacrer davantage de ressources à la sécurité et à la compréhension des capacités émergentes.
Le dirigeant propose notamment de prévoir une à deux années supplémentaires dédiées aux mesures de sécurité et aux recherches sur l'alignement. L'objectif ne serait pas de mettre un terme à l'innovation, mais de permettre aux chercheurs et aux organismes d'évaluation de mieux anticiper les comportements potentiellement dangereux des modèles.
Cette approche cible notamment les systèmes capables d'exécuter des tâches complexes de manière autonome, de développer des outils ou de contribuer à la conception de nouvelles générations de modèles. À mesure que leurs capacités progressent, leur supervision devient un enjeu central pour les entreprises comme pour les pouvoirs publics.
© Sam Altman, PDG d'OpenAI ; Elon Musk, PDG de SpaceX
La proposition de Dario Amodei a suscité des réactions chez deux figures majeures de l'industrie. Sam Altman, à la tête d'OpenAI, a exprimé son accord avec l'idée d'adapter le rythme de développement de l'IA de pointe. Il a également jugé pertinente la proposition visant à donner aux évaluateurs indépendants un accès aux systèmes de sécurité comparable à celui des employés des entreprises concernées.
Elon Musk a, de son côté, partagé la publication de Dario Amodei en ajoutant un commentaire bref : « Dario a raison. »
Ce soutien est particulièrement remarquable compte tenu des relations tendues entre les trois dirigeants. Elon Musk, qui a participé à la création d'OpenAI en 2015 avant de quitter son conseil d'administration en 2018, critique depuis plusieurs années l'orientation commerciale de l'entreprise et son dirigeant Sam Altman. De son côté, Anthropic s'est positionnée comme un concurrent d'OpenAI en mettant fortement l'accent sur la sécurité et le développement responsable des modèles.
L'accord sur le principe d'un rythme de développement mieux maîtrisé ne signifie toutefois pas que les divergences stratégiques entre ces acteurs ont disparu.
Au-delà du ralentissement, Dario Amodei défend un renforcement du contrôle externe des entreprises spécialisées dans l'IA avancée. Son plan repose notamment sur la possibilité, pour des évaluateurs indépendants, d'inspecter en continu les systèmes de gestion de la sécurité des grands laboratoires.
Anthropic a indiqué vouloir faciliter cet accès en mettant à la disposition des évaluateurs externes des moyens comparables à ceux dont bénéficient les salariés de l'entreprise. Cela pourrait inclure des espaces de travail, des badges d'accès et des ordinateurs professionnels.
L'idée est de permettre à des organismes tiers de vérifier plus efficacement les pratiques de sécurité, plutôt que de dépendre uniquement des audits ponctuels ou des déclarations des entreprises elles-mêmes. Une telle démarche soulève néanmoins des questions importantes concernant la confidentialité des informations sensibles, la protection de la propriété intellectuelle et l'indépendance réelle des évaluateurs.
Le dirigeant appelle également les autorités américaines à examiner la possibilité d'autoriser certaines formes de coopération entre entreprises d'IA sur les normes de sécurité et les mécanismes de maîtrise du rythme de développement, sans que ces initiatives soient automatiquement assimilées à des pratiques anticoncurrentielles.
Dario Amodei justifie son appel à la prudence par l'évolution rapide des capacités des modèles. Il estime que l'IA entre dans une phase où elle pourrait participer de façon de plus en plus autonome au développement de systèmes de nouvelle génération.
Dans ce scénario, plusieurs agents d'IA pourraient être interconnectés et fonctionner à grande échelle sur Internet. Le patron d'Anthropic met en garde contre la possibilité que de tels systèmes produisent des dommages majeurs si les mécanismes de supervision et de contrôle ne sont pas suffisamment robustes.
Il évoque un horizon de six à douze mois au cours duquel les risques pourraient s'aggraver, tout en appelant à ne pas confondre prudence et arrêt de l'innovation. Selon lui, l'enjeu est d'adopter un calendrier plus flexible, capable d'intégrer des phases de vérification, d'évaluation indépendante et de renforcement des dispositifs de sécurité.
Cette vision n'est cependant pas unanimement partagée dans l'industrie. Certains acteurs craignent que les appels à renforcer les exigences de sécurité ne conduisent à une réglementation plus stricte, susceptible de favoriser les entreprises disposant déjà de moyens financiers et techniques considérables. Les jeunes pousses, les chercheurs indépendants et les projets open source pourraient alors rencontrer davantage de difficultés pour rivaliser avec les grands laboratoires.
La coopération internationale constitue également un défi majeur. Dario Amodei estime que les initiatives de sécurité ne pourront être pleinement efficaces si la compétition entre les grandes puissances, notamment les États-Unis et la Chine, pousse les entreprises à accélérer continuellement leurs développements.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
En déboursant 7,5 milliards de dollars pour s'offrir la start-up OpenRouter, Stripe frappe un grand coup face aux géants du cloud. Une opération spectaculaire qui transforme le token en nouvelle monnaie et pourrait bien alléger vos factures d'IA.
Anthropic aurait choisi le Nasdaq comme place de cotation pour une introduction en Bourse potentiellement historique, visant un montant levé égal ou supérieur aux 86,3 milliards de dollars de SpaceX en juin dernier.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
L'enregistreur vocal Comulytic Note Pro AI concentre une grande puissance dans un appareil de la taille d'une carte de crédit. Mais c'est à vous de décider de son utilité.
Conçu pour Windows, macOS, iOS et Android, Wispr Flow est un véritable plaisir à utiliser par rapport aux autres applications de dictée vocale. Voici pourquoi.
Trop de texte, polices incohérentes, visuels étranges : voici 8 conseils, prompts à l'appui, pour créer des flyers avec l'IA qui ne trahissent plus leur origine artificielle.
