Recevez tous les soirs un résumé de l’actu importante avec Le Récap’
Depuis 2024 et l’irruption de Llama 3, puis peu après des modèles gpt-oss d’OpenAI, l’écosystème de l’IA s’écharpe sur une question qui paraît sémantique mais ne l’est pas : qu’est-ce qu’un modèle « ouvert » ?
Meta a longtemps revendiqué le label « open source » pour Llama, avant de devoir progressivement réviser son vocabulaire sous la pression de la communauté du logiciel libre, qui l’accuse d’« open washing ».
Le terme qui s’impose désormais pour désigner ces modèles est celui d’« open model » ou d’« open weight ». Une nuance qui change tout, mais que le grand public, et une bonne partie de la presse, continue de confondre avec l’open source.
Le problème dépasse largement le débat de puristes. L’IA est devenue un sujet géopolitique de premier plan : Washington a brièvement coupé l’accès à Mythos et Fable 5 pour raisons de sécurité nationale, tandis que la Chine réfléchit à verrouiller ses propres modèles de pointe pour éviter qu’ils ne profitent à des puissances étrangères. Dans ce contexte, savoir précisément ce qu’un acteur ouvre, et ce qu’il garde fermé, devient une question de confiance.
Pour trancher noir sur blanc ce qui relève de l’un ou de l’autre, l’Open Source Initiative (OSI) travaille depuis plusieurs années à poser une définition rigoureuse des deux termes.
L’Open Source Initiative, qui fait référence en la matière depuis les origines du logiciel libre, a publié en 2024 la première version stable de sa définition de l’IA open source (OSAID).
La condition pour exercer ces libertés est d’avoir accès à la forme préférentielle permettant de modifier le système, pas seulement au résultat final.
Concrètement, cela signifie que pour mériter le label open source, un modèle d’IA doit livrer bien plus que ses poids (les paramètres numériques issus de l’entraînement). Il faut aussi le code d’entraînement, le jeu de données utilisé pour l’entraîner, ou à défaut une description complète de sa composition quand sa diffusion n’est pas légalement possible, et une transparence sur la manière dont ce jeu de données a été constitué et nettoyé.
Or, l’open weight, à l’inverse, ne couvre qu’un seul de ces éléments : les poids finaux du réseau de neurones, la version qu’il a atteinte à la fin de son entraînement. Un développeur peut ainsi télécharger, faire tourner et affiner un modèle open weight, mais sans jamais savoir précisément sur quelles données il a été entraîné, ni pouvoir reproduire le processus qui a mené à ce résultat.
Une réelle différence de nature, qui explique en grande partie les résultats des tests menés par l’OSI sur des modèles existants. Résultat : très peu passent l’épreuve avec succès. Pythia (EleutherAI), OLMo (Ai2), Amber et CrystalCoder (LLM360) ou T5 (Google) en font partie. En face, des modèles largement médiatisés comme Llama, Grok, Phi-2 ou Mixtral ont été jugés non conformes, faute de composants requis ou en raison de conditions légales incompatibles avec les principes de l’open source.
Au-delà de l’aspect définition, cette distinction nourrit un débat plus large sur la gouvernance des modèles frontier, comprenez les modèles aux capacités encore inégalées.
Dario Amodei, le patron d’Anthropic, défend par exemple depuis longtemps l’idée que l’open source devient dangereux une fois appliqué aux modèles les plus capables : diffuser les poids d’un système à la pointe de l’état de l’art revient, selon lui, à perdre tout contrôle sur les usages malveillants qui peuvent en être faits. Cette position justifie la stratégie entièrement propriétaire d’Anthropic, voire davantage pour Mythos, réservé un temps à des organisations triées sur le volet dans le cadre du programme Glasswing.
En face, l’argumentaire de l’OSI et d’une partie de la communauté du logiciel libre défend l’inverse : l’ouverture, loin d’être un risque, serait une condition de la sécurité. Elle permettrait l’audit indépendant des biais et des vulnérabilités, éviterait la concentration du pouvoir technologique entre quelques mains, et donnerait aux chercheurs les moyens de faire progresser la sécurité de l’IA plutôt que de la laisser dépendre de la seule bonne volonté d’un éditeur.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information. C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez, voici trois bonnes raisons de soutenir notre travail :
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
