Le fait qu’AMD Lemonade ait discrètement obtenu le support Nvidia est le type de petite version qui résout un grand problème du monde réel. Quiconque exécute des LLM locaux sur plusieurs machines a dû dupliquer son magasin de modèles, réajuster ses quantifications et jongler avec deux runtimes différents pour maintenir sa pile utilisable sur un ordinateur de bureau domestique et un ordinateur portable professionnel. La portabilité est tout l’argument de l’IA locale, et jusqu’à cette année, la plupart des runtimes étaient verrouillés sur une seule famille de matériel.
Nous avons testé huit runtimes IA locaux pour ordinateur qui font de la portabilité matérielle une fonctionnalité de première classe. La liste mélange des outils spécialisés multi-fournisseurs avec des runtimes plus anciens qui ont ratrapé le côté multi-backend. Chaque choix fonctionne sur au moins Windows et Linux, six fonctionnent sur macOS avec accélération Apple Silicon, et les huit peuvent déplacer un fichier de modèle GGUF d’une machine à l’autre sans refonte.
Ce qu’il faut rechercher dans un runtime IA local portable
La portabilité est ce qui permet à un runtime d’obtenir une place sur la liste, mais quelques éléments séparent les choix qui se déplacent bien des choix qui le prétendent.
- Support GPU multi-fournisseur. Nvidia CUDA, AMD ROCm ou Vulkan, Apple Metal, Intel Arc. Deux fournisseurs est le minimum, trois est portable
- Neutralité du format de modèle. GGUF est la lingua franca actuelle. Tout ce qui ne lit que son propre format perd des points
- API compatible OpenAI. Si un runtime n’en expose pas un, votre code client existant se casse lors du déplacement
- Portabilité de la configuration. Une carte de modèle qui arrive avec le runtime est meilleure que celle que vous construisez de zéro sur la machine cible
- Empreinte d’installation. Un seul exécutable se déplace plus facilement qu’une pile de cinq services Docker
- Magasin de modèles. Le runtime ne doit pas forcer le re-téléchargement d’un modèle que vous avez déjà sur disque
Comparaison rapide
| Runtime | Meilleur pour | Fournisseurs GPU | OS | Points forts |
|---|---|---|---|---|
| Ollama | Token de première fois le plus rapide | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Magasin de modèles que vous pouvez pointer entre machines |
| LM Studio | Test multi-fournisseur basé sur GUI | Nvidia, AMD, Apple, Intel | Windows, macOS, Linux | Backend MLX sur Apple Silicon |
| llama.cpp | Le runtime que tout le monde clone | Nvidia, AMD (Vulkan), Apple | Windows, macOS, Linux | Version binaire unique |
| Jan | Remplacement ChatGPT open source | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Serveur compatible OpenAI local sur le port 1337 |
| GPT4All | Débutants sur matériel modeste | CPU, Nvidia, AMD | Windows, macOS, Linux | Fonctionne correctement sur Snapdragon X ARM |
| AMD Lemonade | D’abord AMD avec support Nvidia | AMD NPU, AMD GPU, Nvidia GPU | Windows, Linux | Planification consciente du NPU pour Ryzen AI 300 |
| KoboldCpp | Runtime de contexte long d’un seul fichier | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Livraison de génération d’image et TTS dans le même binaire |
| Text Generation WebUI | Utilisateurs expérimentés qui veulent chaque bouton | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Chaque chargeur et chaque type de quant dans une interface |
1. Ollama - Meilleur pour le token de première fois le plus rapide
Ollama est le chemin le plus court de ollama pull à un modèle en cours d’exécution, et le magasin de modèles Ollama est la chose la plus proche d’un gestionnaire de paquets que l’IA locale possède. L’histoire de la portabilité s’est renforcée en 2025 lorsque les versions Windows et Linux ont été transférées vers un format de répertoire de modèles partagé, donc pointer OLLAMA_MODELS vers un dossier synchronisé signifie que les mêmes modèles apparaissent sur les deux machines.
Où il s’agit en retrait: Le keep-alive de cinq minutes par défaut recharge les modèles en permanence. Réglez OLLAMA_KEEP_ALIVE sur une valeur plus longue sur n’importe quelle machine monolocataire.
Prix: Gratuit, licence MIT.
Plates-formes: Windows, macOS, Linux.
Télécharger: ollama.com
Conclusion: Achetez si vous voulez l’ergonomie la plus rapide. L’écosystème d’Ollama est désormais plus grand que tous les autres runtimes combinés.
2. LM Studio - Meilleur pour le test multi-fournisseur basé sur GUI
LM Studio offre l’une des meilleures expériences GUI pour l’IA locale, et son support multi-backend le place un cran au-dessus pour les tests multi-fournisseur. Le backend MLX sur Apple Silicon lit environ 30 à 50 pour cent plus rapidement que le même modèle sur llama.cpp Metal, ce qui est une grande marge pour la foule Mac Studio et MacBook Pro.
Où il s’agit en retrait: La licence commerciale de l’équipe a changé de tarification en 2025. L’usage personnel reste gratuit.
Prix: Gratuit pour usage personnel.
Plates-formes: Windows, macOS, Linux.
Télécharger: lmstudio.ai
Conclusion: Le choix si vous voulez une interface graphique appropriée et que vous partagez votre travail entre Nvidia et Apple Silicon.
3. llama.cpp - Meilleur runtime que tout le monde clone
llama.cpp est l’implémentation de référence que la plupart des autres runtimes encapsulent. La version binaire unique depuis 2024 rend la portabilité triviale, et le backend Vulkan a ajouté un support AMD de première classe sans la douleur d’installation de ROCm. Les compilations Metal, CUDA, Vulkan et CPU lisent tous les mêmes fichiers GGUF.
Où il s’agit en retrait: L’interface CLI. Il n’y a pas d’interface graphique par défaut.
Prix: Gratuit, licence MIT.
Plates-formes: Windows, macOS, Linux.
Télécharger: github.com/ggerganov/llama.cpp
Conclusion: Le choix si vous voulez le binaire le plus allégé. Le runtime de tout le monde repose sur celui-ci.
4. Jan - Meilleur remplacement ChatGPT compatible OpenAI
Jan est l’un des remplaçants ChatGPT open source les plus puissants du bureau. Son serveur compatible OpenAI sur le port 1337 signifie que chaque bibliothèque cliente OpenAI communique avec lui sans refonte, et le support MCP depuis 2024 permet à Jan de se connecter aux agents d’appels d’outils.
Où il s’agit en retrait: Le magasin de modèles est plus petit que celui d’Ollama.
Prix: Gratuit, Apache 2.0.
Plates-formes: Windows, macOS, Linux.
Télécharger: jan.ai
Conclusion: Achetez si vous voulez un remplacement ChatGPT qui maintient votre code client OpenAI existant portable.
5. GPT4All - Meilleur pour le matériel modeste
GPT4All fonctionne sur le matériel que les autres runtimes refusent de démarrer. Le support Snapdragon X ARM a été un citoyen de première classe depuis 2024, et l’inférence CPU seul est traitée comme un objectif, pas un repli. La fonction Local Docs de Nomic maintient les documents indexés sur l’appareil.
Où il s’agit en retrait: Le catalogue de modèles est conservé plus petit qu’Ollama ou LM Studio.
Prix: Gratuit, licence MIT, utilisation commerciale permissive.
Plates-formes: Windows, macOS, Linux.
Télécharger: gpt4all.io
Conclusion: Le choix si la machine cible est un ordinateur portable professionnel sans GPU dédié.
6. AMD Lemonade - Meilleur AMD en premier avec support Nvidia
AMD Lemonade a débuté comme la pile IA locale d’AMD pour les NPU de la série Ryzen AI 300, et le support Nvidia 2026 le place dans la conversation de la portabilité. La planification consciente du NPU de Lemonade en fait le runtime local le plus rapide sur un ordinateur portable Ryzen AI 300, et le support Nvidia signifie que vous pouvez reporter la même configuration entre un ordinateur portable AMD professionnel et un ordinateur de bureau Nvidia maison.
Où il s’agit en retrait: La documentation est à la traîne d’Ollama et LM Studio. macOS n’est pas supporté.
Prix: Gratuit, licence MIT.
Plates-formes: Windows, Linux.
Télécharger: lemonade-sdk.github.io
Conclusion: Meilleur runtime pour quiconque sur une machine Ryzen AI. Maintenant portable vers Nvidia si vous partagez le temps entre les deux.
7. KoboldCpp - Meilleur runtime de contexte long d’un seul fichier
KoboldCpp est livré en tant qu’un exécutable, pas d’installateur, pas de service et pas de dépendances. Il lit GGUF, offre la génération d’image et TTS dans le même binaire, et sa gestion du contexte est la plus forte pour l’écriture de forme longue.
Où il s’agit en retrait: L’interface est fonctionnelle, pas jolie.
Prix: Gratuit, AGPL.
Plates-formes: Windows, macOS, Linux.
Télécharger: github.com/LostRuins/koboldcpp
Conclusion: Le runtime à garder sur une clé USB.
8. Text Generation WebUI - Meilleur pour les utilisateurs expérimentés
Text Generation WebUI d’Oobabooga est le runtime qui expose chaque bouton. Chaque chargeur, chaque type de quant, chaque format de fiche personnage, tout dans une interface Gradio. Non pour quiconque veut “ça marche juste”, mais le bon choix pour les lecteurs qui ajustent leur configuration.
Où il s’agit en retrait: La configuration de première exécution prend plus de temps que tout autre runtime de la liste.
Prix: Gratuit, AGPL.
Plates-formes: Windows, macOS, Linux.
Télécharger: github.com/oobabooga/text-generation-webui
Conclusion: Le choix si votre flux de travail dépend du basculement des chargeurs et des quantifications sans éditer les fichiers de configuration.
Comment choisir le bon
Si votre priorité est le token de première fois le plus rapide sur n’importe quel matériel, achetez Ollama. Son ergonomie est toujours en avance sur tout le reste, et le multiplicateur de son écosystème est réel.
Si vous partagez le temps entre un Mac Apple Silicon et un ordinateur de bureau Windows Nvidia, LM Studio est le choix. Si votre matériel cible inclut AMD Ryzen AI 300, Lemonade est le choix et son nouveau support Nvidia signifie que vous n’avez pas à changer de runtimes lorsque vous vous déplacez vers une machine différente.
Jan est le remplacement ChatGPT. GPT4All est le choix pour le matériel modeste. KoboldCpp est le choix pour une configuration portable d’un seul fichier USB. Text Generation WebUI est le choix si vous voulez changer les chargeurs par modèle. llama.cpp est le choix si vous voulez un script shell et rien de plus.
Ignorer les runtimes propriétaires qui ne s’exécutent que sur le matériel d’un seul fournisseur à moins que ce fournisseur ne soit votre pile complète.
FAQ
Quel est le runtime IA local le plus rapide sur Apple Silicon?
LM Studio avec MLX fonctionne environ 30 à 50 pour cent plus rapidement que llama.cpp Metal sur le même modèle. Ollama réduit l’écart depuis que son backend MLX a atterri.
Puis-je déplacer mon magasin de modèles Ollama vers une autre machine?
Oui. Pointez OLLAMA_MODELS vers un dossier synchronisé (iCloud, Syncthing, Dropbox) et les mêmes modèles apparaissent sur les deux machines. Verrouillez la version binaire d’Ollama si vous franchirez les limites du système d’exploitation.
AMD Lemonade fonctionne-t-il vraiment sur Nvidia maintenant?
Oui, depuis la version 2026. Ce n’est pas une implémentation CUDA complète, mais le point de terminaison compatible OpenAI fonctionne entre fournisseurs, et l’inférence Nvidia est au même niveau que le backend Nvidia d’Ollama pour la plupart des quants GGUF.
Quel runtime IA local utilise la moins de VRAM?
llama.cpp avec quantification Q4_K_M. KoboldCpp l’égale car il encapsule le même moteur. LM Studio et Ollama utilisent les mêmes mathématiques mais livrent un contexte par défaut plus élevé qui consomme VRAM.
Y a-t-il un runtime IA local disponible pour iOS ou Android?
Non, aucun des huit ne fonctionne sur mobile. Sur Android, regardez MLC LLM ou Layla. Sur iOS, regardez Private LLM ou Enclave.
