Jusqu’à 330€ d’avantages avec nos offres Hello Prime ou Hello Prime Duo, dont 80€ cash à l’ouverture de compte !
Malgré son nom, l’application ne se limite pas aux modèles Llama de Meta. Elle doit son nom à llama.cpp, un moteur open source d’IA locale. Elle lit donc tous les modèles au format GGUF, comme Qwen, Mistral ou Gemma. Pour chacun, elle affiche le nombre de paramètres (la taille du modèle), la place prise sur le disque et la prise en charge des images.
Ollama et LM Studio simplifient déjà l’IA locale. Pourtant, comme le relève Clubic, Llama Windows est développé par l’équipe de llama.cpp elle-même. Il range les modèles dans le dossier standard de Hugging Face, alors qu’Ollama utilise son propre stockage. Un modèle téléchargé une fois sert donc aussi aux autres outils compatibles.
Les développeurs ont aussi droit à un serveur local compatible avec l’API d’OpenAI, l’interface qui permet aux logiciels de dialoguer avec un modèle. Leurs scripts et agents peuvent s’y brancher pour utiliser les modèles installés sur le PC. L’application tourne sur les processeurs x86 et Arm, et aussi sur les nouveaux PC Nvidia RTX Spark.
Par contre, une installation plus simple ne change rien au matériel nécessaire. Les gros modèles demandent toujours beaucoup de mémoire et de puissance de calcul. Llama Windows se télécharge gratuitement sur llama.app, et son code est publié sur GitHub.
Retrouvez un résumé du meilleur de l’actu tech tous les matins sur WhatsApp, c’est notre nouveau canal de discussion Frandroid que vous pouvez rejoindre dès maintenant !
Pour nous soutenir gratuitement, dites simplement à Google d’ajouter Frandroid à vos sources préférées en cliquant ici.
Journaliste et Chef de rubrique PC, Hardware & Gaming
Passionné de tech, d'optimisation Windows, de jeux narratifs indéprimant, ainsi que de fast FPS, j'ai rejoint Frandroid en 2023 pour communiquer mes passions à l'écrit dans les univers PC, hardware et gaming. Je parle aussi bien actualités GPU, CPU, PC portables que des frasques de Windows 11 ou du DLSS.
C'est enregistré ! Surveillez votre boîte aux lettres, vous allez entendre parler de nous !
