Accueil / Tech News / On peut télécharger l’IA d’OVH taillée pour 8 Go de RAM : ce que valent ses scores face à Mistral

On peut télécharger l’IA d’OVH taillée pour 8 Go de RAM : ce que valent ses scores face à Mistral

Mardi, OVHcloud dévoilait Olala mini 7A1B, son premier grand modèle de langage, sans aligner le moindre score de benchmark. C’est corrigé : à l’occasion de son AI Summit, ce jeudi 19 novembre à Paris, l’hébergeur roubaisien a mis le modèle en ligne sur Hugging Face, la plateforme de référence pour partager ces fichiers, avec un rapport technique et un tableau comparatif face à 18 autres petits modèles.

OVHcloud ne publie pas un modèle, mais cinq. La version finale, pensée pour discuter, raisonner et utiliser des outils, est accompagnée du modèle de base, brut, sans réglage pour la conversation, d’une version intermédiaire et de deux déclinaisons spécialisées, l’une dans le résumé de documents, l’autre dans la traduction. Toutes sont sous licence Apache 2.0, qui autorise l’usage commercial sans contrepartie.

L’entreprise annonce aussi publier la recette de ses données d’entraînement et ses outils d’entraînement, ce qui reste rare : la plupart des modèles dits « ouverts » se contentent des poids, c’est-à-dire du modèle lui-même. Olala a été entraîné sur 12 800 milliards de tokens en anglais et dans 36 autres langues, principalement européennes.

Pour l’essayer sans rien installer, un chatbot est accessible sur olala.ovh.com. Les développeurs peuvent aussi l’appeler par API chez OVHcloud ou chez Blade, la plateforme de Shadow.

OVHcloud a confronté Olala à 18 modèles de taille comparable, sur douze tests qui mesurent le suivi d’instructions, les connaissances scientifiques, le code et les mathématiques. Résultat : une moyenne de 68 sur 100, qui le classe septième.

Du 19 au 30 novembre, le Plaud Note Pro passe à 149 € au lieu de 189 € ! Il enregistre vos réunions, les transcrit et les synthétise pour vous, il suffit d’appuyer sur un bouton. Les Plaud Note, NotePin et NotePin S sont aussi à -20 %. Bref, c’est le moment d’arrêter de perdre du temps au travail !

Face à Mistral, le match est partagé : Olala devance Ministral 3 3B, mais reste derrière Ministral 3 8B. Il fait surtout beaucoup mieux que les autres modèles européens du tableau, comme EuroLLM 9B ou Apertus 8B, sous la barre des 32 de moyenne.

Ce classement doit être lu en gardant en tête la conception d’Olala. Sur ses 7 milliards de paramètres, les réglages internes appris pendant l’entraînement, il n’en active qu’un milliard pour chaque mot qu’il écrit, contre 4 milliards pour Qwen3.5 4B ou 8 milliards pour Ministral 3 8B. Il calcule donc moins, et va plus vite. Parmi les modèles qui fonctionnent sur le même principe, seul Ling 3.0 tiny, d’Ant Group, fait mieux. Mais pour qui veut une petite IA sur son ordinateur, la question reste celle du résultat, et un Qwen3.5 4B fait mieux sur neuf tests sur douze.

Ces chiffres sont ceux d’OVHcloud, mesurés avec ses propres réglages : aucun organisme indépendant ne les a encore reproduits.

OVHcloud le reconnaît lui-même : son modèle est « plus fort en suivi d’instructions, plus faible en mathématiques de compétition ». Sur IFBench, qui vérifie qu’une IA respecte des contraintes précises (un nombre de mots, un format imposé), Olala obtient 57,7 %, le double de Ministral 3 8B. En sciences de niveau universitaire (GPQA Diamond), il plafonne à 50,5 %, contre 75,8 % pour Qwen3.5 4B. Next relève la même limite dans le rapport technique : des connaissances restreintes, faute de taille.

C’est cohérent avec l’usage visé. Olala mini est pensé pour des tâches courtes et répétées des millions de fois : résumer, classer, extraire une information, appeler le bon outil. OVHcloud a d’ailleurs entraîné le modèle à enchaîner jusqu’à 75 appels d’outils d’affilée. Il réfléchit avant de répondre, avec quatre niveaux d’effort au choix, du mode désactivé au mode « élevé », conseillé pour les maths.

Le modèle « tient sur un PC sans carte graphique dédiée », promettait OVHcloud. C’est vrai, mais pas encore avec les outils grand public. La fiche du modèle le précise : Ollama, LM Studio et la version officielle de llama.cpp ne savent pas encore le charger. Il faut passer par des versions modifiées de ces logiciels, publiées par OVHcloud, et donc par la ligne de commande.

Une fois installé, le modèle est léger. La version compressée la plus petite pèse 6 Go, et OVHcloud n’a pas publié de version plus compressée, faute de gain suffisant. Sur un MacBook Air M5 doté de 16 Go de mémoire, la version 6 bits génère environ 70 tokens par seconde selon l’entreprise, bien plus vite qu’on ne lit. La version non compressée, elle, réclame 13,6 Go.

Olala a un premier client : Qwant. Les réponses « flash » du moteur de recherche, affichées en tête des résultats comme les résumés IA de Google, reposent désormais sur la version spécialisée dans le résumé. Elle traite 3 millions de requêtes par jour, avec trois fois moins de ressources que le modèle précédent et des réponses 20 % plus rapides, selon OVHcloud. Ce modèle précédent venait de Mistral, confirme Next.

Le client n’est pas tout à fait extérieur. Qwant appartient depuis 2023 à une société codétenue par la famille Klaba et la Caisse des dépôts, et le modèle tourne sur les GPU de Shadow, racheté en 2021 par une société d’Octave Klaba. Les trois entreprises ont annoncé ce jeudi une alliance pour une « IA souveraine de bout en bout ». En revanche, rien n’a été dit sur la qualité des résumés.

Une version 1.1 est attendue d’ici la fin de l’année. Sa fenêtre de contexte, la quantité de texte que le modèle garde en tête, passera de 32 000 à 128 000 tokens, et le raisonnement mathématique doit progresser. La version 2.0 dépassera les 100 milliards de paramètres. Devant la presse, Octave Klaba a précisé une fourchette de 100 à 300 milliards pour début 2027, rapporte le JDN, et vise à terme un modèle de 3 000 milliards de paramètres pour la cybersécurité et le développement.

Pour un premier modèle, conçu par une équipe d’une centaine de personnes, Olala mini tient son rang sans briller. Sa vraie singularité est ailleurs : l’ouverture complète, données comprises.

Envie de retrouver les meilleurs articles de Frandroid sur Google News ? Vous pouvez suivre Frandroid sur Google News en un clic.

Pour nous soutenir gratuitement, dites simplement à Google d’ajouter Frandroid à vos sources préférées en cliquant ici.

Journaliste tech depuis 2013 et Chef de rubrique Survoltés chez Frandroid depuis 2022.

Mon quotidien ? Décortiquer la mobilité de demain et la transition énergétique. Je suis spécialiste des voitures électriques, des écosystèmes d'énergie (panneaux photovoltaïques, batteries) et du hardware (PC et Mac).

Fasciné par le sifflement des moteurs électriques et leur couple instantané, je suis aussi un cycliste du dimanche (gravel) et un explorateur des capacités offertes par l'intelligence artificielle dans la vie quotidienne.

C'est enregistré ! Surveillez votre boîte aux lettres, vous allez entendre parler de nous !

Origine de l’article : lire l’article original

Traduction