XDA a signalé le changement en mars : Ollama 0.19 a basculé son backend Apple Silicon vers MLX et le prefill a augmenté d’environ 1,6x, avec un décodage proche de 2x sur le même matériel série M. La raison en est la partie de l’architecture Mac qui est devenue silencieusement la fonctionnalité essentielle pour l’IA locale. La mémoire unifiée permet au GPU de lire la même RAM que le CPU utilise, donc un MacBook 64 Go peut charger un modèle classe 70B qui ne tiendrait pas sur une carte RTX 24 Go, et MLX, le propre framework ML d’Apple, a appris à pousser ce matériel plus fort que les runtimes multiplates-formes ne l’ont jamais pu.
Nous avons testé 7 des meilleures applications pour exécuter des LLMs locaux sur Mac, en privilégiant les outils qui exploitent vraiment MLX ou Metal plutôt que ceux qui compilent simplement. L’analyse a été banale : à quelle vitesse un modèle se charge sur une M2 Pro, à quel point l’application utilise proprement l’accélération GPU, si l’interface de chat est agréable après une heure, et si le projet suit les nouvelles architectures de modèles. La plupart des options solides sont gratuites ou ont un niveau personnel généreux.
Ce qu’il faut rechercher dans une application Mac de LLM local
Une poignée de critères distinguent les outils qui survivent sur un MacBook de ceux qui sont désinstallés la deuxième semaine :
- Support MLX. Le framework d’Apple est maintenant le chemin le plus rapide sur les puces série M. Les applications qui envoient un backend MLX, et non juste un wrapper llama.cpp, continueront à élargir l’avance sur le silicium M5 et ultérieur.
- Accélération GPU Metal. Pour les applications toujours sur llama.cpp, la qualité du backend Metal décide si les tokens par seconde sont utilisables ou une présentation de diapositives.
- Compatibilité GGUF. GGUF est le format que le catalogue Hugging Face envoie. Une application qui ne peut pas charger un GGUF récent est un cul-de-sac, même sur Apple Silicon.
- Sensibilisation à la mémoire unifiée. Les bonnes applications montrent combien de RAM partagée un modèle consommera et vous empêchent de charger quelque chose qui causera une permutation. Les mauvaises laissent macOS s’épuiser puis planter.
- API compatible OpenAI. Un endpoint local sur
localhostest ce qui branche le modèle aux extensions d’éditeur, aux carnets et aux raccourcis. Les applications les plus fortes en exposent un sans configuration supplémentaire. - Posture de confidentialité. Certaines applications s’exécutent complètement hors ligne. D’autres téléphonent à la maison pour l’analyse par défaut et nécessitent un drapeau pour arrêter, ce qui importe si la raison d’aller local était la confidentialité en premier lieu.
Comparaison rapide
| Application | Meilleure pour | Support Apple Silicon | Plan gratuit | Fonctionnalité distinctive |
|---|---|---|---|---|
| Ollama | Installations d’une ligne avec backend MLX | Moteur MLX sur série M | Oui (open source) | API compatible OpenAI sur localhost:11434 |
| LM Studio | Chat soigné avec GGUF et MLX côte à côte | Runtime MLX natif | Oui (gratuit pour usage personnel) | Charger GGUF et un modèle MLX dans une fenêtre |
| Jan | Chat entièrement open source qui respecte le mode hors ligne | Metal via llama.cpp | Oui (open source) | Pas de télémétrie et panneau de paramètres transparent |
| GPT4All | Macs à faible RAM et Apple Silicon ancien | Metal via llama.cpp | Oui (open source) | Quants de priorité CPU accordés pour les machines 8 GB |
| Msty | Comparaison de deux modèles locaux côte à côte | Metal via llama.cpp | Oui (niveau gratuit) | Deux modèles, une fenêtre, le même prompt |
| MLX Chat (mlx-lm) | Débit maximal et fine-tuning | MLX de première partie | Oui (open source) | Runtime de référence Apple pour modèles MLX |
| Llama.cpp | Contrôle direct du backend Metal | Noyaux Metal accordés à la main | Oui (open source) | Le runtime que chaque autre application enveloppe |
Les 7 meilleures applications pour exécuter des LLMs locaux sur Mac
1. Ollama — meilleure installation d’une ligne avec backend MLX
Ollama a déplacé son backend Apple Silicon vers MLX dans la version 0.19 et a transformé un runtime stable en un remarquablement rapide. La même commande ollama run extrait un modèle quantifié et démarre le chat, mais sur un Mac série M avec au moins 32 Go de mémoire unifiée le nouveau moteur traite le prefill environ 1,6x plus rapide et le décodage près de 2x plus rapide que le chemin llama.cpp qu’il a remplacé. Les récentes mises à jour ont ajouté le support NVFP4 4-bit pour une meilleure qualité au même coût de mémoire.
Où il y a des lacunes : Le moteur MLX est limité à Apple Silicon avec suffisamment de mémoire unifiée, les anciens MacBooks 16 Go se retrouvant avec le runtime standard. L’interface propriétaire reste un CLI et un daemon, donc la plupart des gens l’associent à un frontend de chat séparé.
Tarification :
- Gratuit : open source, pas de frais de licence
- Payant : aucun
Plates-formes : macOS, Windows, Linux
Télécharger : ollama.com
Conclusion : Choisissez Ollama pour les LLMs locaux sur Mac si vous voulez le backend le plus rapide avec le coût d’installation le plus bas et que vous êtes heureux d’apporter votre propre interface.
2. LM Studio — meilleure interface de chat pour mélanger GGUF et MLX
LM Studio est l’une des rares applications qui exécute les modèles llama.cpp GGUF et MLX dans la même fenêtre, ce qui en fait le moyen le plus facile de ressentir la différence de vitesse Apple Silicon sur le même prompt. Apple a cité LM Studio dans ses matériaux de lancement M5 pour cette raison. Le navigateur de modèles se connecte à Hugging Face, signale les variantes optimisées MLX, et montre si un fichier tiendra dans votre mémoire unifiée avant de vous engager au téléchargement.
Où il y a des lacunes : La licence permet l’usage personnel gratuit mais un plan payant est requis dans les contextes commerciaux, ce qui vaut la peine de savoir avant d’installer sur un MacBook d’entreprise. L’application est en source fermée.
Tarification :
- Gratuit : usage personnel
- Payant : plan de travail pour usage commercial
Plates-formes : macOS, Windows, Linux
Télécharger : lmstudio.ai
Conclusion : Choisissez LM Studio pour les LLMs locaux sur Mac si vous voulez une seule fenêtre qui gère la découverte de modèles, la sélection MLX ou GGUF, le chat et une API locale.
3. Jan — meilleur client de chat entièrement open source pour macOS
Jan est ce qui se passe quand une équipe reconstruit l’expérience de LM Studio en open source à partir de zéro. L’application de bureau se sent native sur macOS, utilise le backend Metal via llama.cpp pour l’accélération GPU, et la politique déclarée du projet est de s’exécuter complètement hors ligne sans télémétrie. Le panneau de paramètres rend évident quels commutateurs affectent les appels réseau, ce qui est inhabituel dans cette catégorie.
Où il y a des lacunes : Les performances traînent Ollama et LM Studio sur Apple Silicon car Jan n’a pas encore envoyé un runtime MLX de première classe, laissant une partie du débit série M sur la table. Les histoires mobiles et API distantes sont plus récentes que le chat de bureau.
Tarification :
- Gratuit : open source, pas de frais de licence
- Payant : aucun
Plates-formes : macOS, Windows, Linux
Télécharger : jan.ai
Conclusion : Choisissez Jan pour les LLMs locaux sur Mac si l’open source importe plus que d’extraire les 20 derniers pour cent de votre GPU.
4. GPT4All — meilleur pour Apple Silicon ancien et Macs 8 GB
GPT4All fait toujours le travail ennuyeux mieux que la plupart sur le matériel que le reste du domaine a arrêté de maintenir. La liste des modèles par défaut est accordée pour l’inférence CPU et GPU modeste, les petits quants s’exécutent sur M1 MacBook Air avec 8 Go de mémoire unifiée, et l’interface de chat comprend le chat de document local qui pointe vers un dossier sur le disque. Pour les propriétaires de MacBooks Apple Silicon de modèle base qui ont reculé devant les modèles 7B tournant au ralenti, la sélection de modèles petits curés est le bon point de départ.
Où il y a des lacunes : L’accélération Apple Silicon est supportée via Metal mais ce n’est pas là que se concentre le projet, les modèles plus grands trainant les applications conscientes MLX. L’interface de chat est fonctionnelle plutôt que belle.
Tarification :
- Gratuit : open source, pas de frais de licence
- Payant : aucun
Plates-formes : macOS, Windows, Linux
Télécharger : gpt4all.io
Conclusion : Choisissez GPT4All pour les LLMs locaux sur Mac si votre mémoire unifiée est serrée et que vous voulez un client de chat livré avec des modèles accordés pour cela.
5. Msty — meilleur pour comparer deux modèles locaux sur le même prompt
Msty comble un vide spécifique sur macOS : il peut communiquer avec deux modèles locaux à la fois et afficher leurs réponses côte à côte. Combiné avec des crochets pour les APIs distantes, cela la rend la façon la plus facile de comparer une nouvelle version Qwen MLX par rapport à Gemma GGUF sur le même prompt sans jongler deux fenêtres. Les piles de connaissances vous permettent d’attacher des dossiers ou des URL à un chat pour la récupération, et le build macOS se sent native.
Où il y a des lacunes : Le niveau gratuit couvre la plupart de l’usage personnel, mais certaines fonctionnalités puissantes sont derrière un plan payant. La recherche de modèles est plus étroite que celle de LM Studio et il n’y a pas de runtime MLX de première classe, le débit brut traînant les applications conscientes MLX.
Tarification :
- Gratuit : plan personnel riche en fonctionnalités
- Payant : plan Aurum pour les fonctionnalités avancées
Plates-formes : macOS, Windows, Linux
Télécharger : msty.app
Conclusion : Choisissez Msty pour les LLMs locaux sur Mac si vous comparez activement des modèles et voulez un client de chat conçu pour ce flux de travail.
6. MLX Chat (mlx-lm) — meilleur pour débit maximal et fine-tuning
MLX Chat est la couche de chat sur mlx-lm, le runtime de référence d’Apple pour exécuter et fine-tuner les LLMs avec MLX. C’est la façon la plus directe d’utiliser le framework qui alimente les backends MLX d’Ollama et LM Studio, et sur le matériel classe M5 les propres chiffres d’Apple montrent MLX se séparant de llama.cpp par une marge significative, avec temps jusqu’au premier token sous trois secondes sur un modèle MoE 30B. pip install mlx-lm plus un ID de modèle Hugging Face vous donne un chat ligne de commande fonctionnant.
Où il y a des lacunes : C’est l’outil le plus proche de la liste d’un projet de recherche. Il n’y a pas d’installateur soigné ou de navigateur de modèles, vous gérez les environnements Python, et les interfaces de chat qui l’enveloppent sont minimales. C’est aussi macOS uniquement, par conception.
Tarification :
- Gratuit : open source, pas de frais de licence
- Payant : aucun
Plates-formes : macOS (uniquement Apple Silicon)
Télécharger : github.com/ml-explore/mlx-lm
Conclusion : Choisissez MLX Chat pour les LLMs locaux sur Mac si vous voulez le propre runtime Apple à portée de main et vous êtes à l’aise dans un terminal.
7. Llama.cpp — meilleur contrôle direct du backend Metal
Llama.cpp est le runtime que presque chaque application dans cette liste enveloppe ou utilisait autrefois. Le construire depuis la source sur un Mac prend une commande, le backend Metal est accordé à la main pour Apple Silicon, et le binaire llama-server expose la même API compatible OpenAI que les applications soignées sans installateur entre. Pour quiconque veut voir exactement quel noyau s’exécute, les paramètres du sampler par requête, ou tester une architecture de modèle complètement nouvelle le jour où elle arrive sur Hugging Face, c’est le chemin.
Où il y a des lacunes : Pas d’interface de chat propre au-delà d’une interface Web basique, pas de navigateur de modèles curé, et la surface du drapeau est assez large pour que la première exécution implique généralement la lecture du README. Les applications conscientes MLX ont commencé à la dépasser en débit brut sur les puces série M les plus récentes.
Tarification :
- Gratuit : open source, pas de frais de licence
- Payant : aucun
Plates-formes : macOS, Windows, Linux
Télécharger : github.com/ggml-org/llama.cpp
Conclusion : Choisissez Llama.cpp pour les LLMs locaux sur Mac si vous voulez le runtime que chaque autre application enveloppe, sans rien entre vous et les noyaux Metal.
Comment choisir
Si vous voulez le chemin le plus simple vers une configuration fonctionnelle sur Apple Silicon, installez Ollama et associez-le avec un frontend de chat que vous aimez.
Si vous voulez une application qui gère MLX, GGUF, la découverte de modèles et le chat dans une fenêtre soignée, installez LM Studio.
Si l’open source importe plus que les 20 derniers pour cent de débit, installez Jan.
Si votre MacBook a 8 Go de mémoire unifiée ou un ancien M1, installez GPT4All et restez avec ses modèles petits curés.
Si vous comparez activement des modèles sur le même prompt, installez Msty.
Si vous voulez le propre runtime Apple à portée de main et vous ne craignez pas un terminal, installez MLX Chat sur mlx-lm.
Si vous voulez le contrôle direct du backend Metal sans rien en travers, construisez Llama.cpp depuis la source.
FAQ
MLX rend-il vraiment les LLMs locaux plus rapides sur Mac que llama.cpp ?
Sur Apple Silicon actuel, oui. Les propres chiffres d’Ollama après le passage à MLX ont montré le prefill environ 1,6x plus rapide et le décodage près de 2x plus rapide sur le même matériel série M, et les benchmarks M5 publiés par Apple montrent MLX s’écarter davantage sur les puces les plus récentes. Sur les anciennes machines M1 et M2 l’écart est plus petit mais toujours réel.
Combien de mémoire unifiée ai-je besoin pour exécuter un LLM local sur un Mac ?
Pour une expérience confortable avec un modèle 7B à quantification 4-bit, 16 Go de mémoire unifiée suffisent. Pour les modèles classe 14B, 32 Go est le point idéal. Pour les modèles 70B denses ou les modèles mixture-of-experts 30B-A3B avec marge pour le contexte, 64 Go ou plus est ce que vous voulez.
Ollama est-elle la meilleure application pour exécuter des LLMs locaux sur Mac ?
C’est le meilleur backend pour la plupart des utilisateurs Mac maintenant que le moteur MLX a été envoyé. Si vous voulez aussi une interface de chat soignée dans la même fenêtre, LM Studio se rapproche davantage d’une réponse à une application. Ollama plus une interface séparée reste la pile la plus commune.
Puis-je utiliser un LLM local sur mon Mac avec mon éditeur de code ?
Oui. N’importe quelle application qui expose un endpoint compatible OpenAI, incluant Ollama, LM Studio, Jan et Msty, peut être définie comme l’URL de base dans les extensions d’éditeur ciblant OpenAI. Continue, le mode apportez-votre-propre-clé de Cursor, et la plupart des extensions VS Code acceptent cela et ne voient jamais votre code quitter la machine.
