L’article de XDA sur Hermes Agent a soulevé la lacune qui préoccupe les passionnés de LLM locaux depuis deux ans : un modèle dans une fenêtre de chat n’est pas la même chose qu’un modèle capable de vraiment faire des choses. Un modèle de 70B tournant sur votre propre GPU, c’est impressionnant. Un modèle de 7B capable de lire vos fichiers, d’exécuter un script et de réécrire le résultat, c’est utile d’une façon que la boîte de chat n’est pas.
Nous avons testé sept applis desktop qui ajoutent des capacités d’agent aux LLM locaux, en utilisant Ollama et LM Studio comme moteurs de modèles sur Windows, macOS et Linux. Les choix couvrent les cadres open-source qui gèrent les scripts, les fichiers et les shells, ainsi que les outils plus légers qui se concentrent sur une seule tâche bien exécutée.
Ce qui importe dans un agent LLM local
- Flexibilité du moteur. Un agent utile fonctionne avec n’importe quel serveur de modèle que vous exécutez déjà. Ollama, LM Studio, llama.cpp et les points de terminaison compatibles OpenAI apparaissent tous ici.
- Exécution d’outils que vous pouvez vérifier. Les agents qui exécutent des commandes shell ont besoin d’une étape de confirmation ou d’un bac à sable. Les exécutions d’outils en boîte noire sur une véritable station de travail, c’est comment les expériences d’LLM local se terminent avec des dotfiles endommagés.
- Limites d’accès aux fichiers. « Lire n’importe quel fichier » est pratique mais dangereux. Les meilleurs outils vous permettent de limiter un agent à un dossier de projet.
- Mémoire entre les exécutions. Certaines tâches veulent une conversation vierge. D’autres veulent du contexte de l’exécution d’hier. Les outils diffèrent selon que la mémoire est optionnelle.
- Coût de l’échec. Un agent cloud défaillant, c’est un appel API gaspillé. Un agent local défaillant qui a exécuté la mauvaise commande shell, c’est une tâche de récupération. Choisissez des outils qui échouent en toute sécurité.
Comparaison rapide
| Appli | Idéale pour | Support du moteur | Exécution d’outils | Licence |
|---|---|---|---|---|
| Open Interpreter | Shell en langage naturel avec exécution de code | Ollama, LM Studio, llama.cpp, compatible OpenAI | Oui, mode sans risque optionnel | AGPLv3 |
| OpenHands | Agent d’ingénierie logicielle pour vrais codebases | Compatible OpenAI, Ollama | Oui, en bac à sable Docker | MIT |
| Hermes Agent | Exécuteur léger lié aux modèles Hermes | Ollama, LM Studio, llama.cpp | Oui, outils scriptés | MIT |
| AutoGPT | Exécuteur de tâches autonome à long horizon | Compatible OpenAI, Ollama via shim | Oui, basé sur plugin | MIT |
| AgentGPT | Agent hébergé dans le navigateur avec option auto-hébergée | Compatible OpenAI, Azure, proxy local | Oui, dans le navigateur | GPL-3.0 |
| Continue | Agent de codage dans l’éditeur | Ollama, LM Studio, compatible OpenAI | Oui, limité à l’IDE | Apache 2.0 |
| CrewAI | Cadre d’orchestration multi-agent | Tout point de terminaison compatible OpenAI | Oui, via outils Python | MIT |
Les applis
1. Open Interpreter — Meilleur shell à usage général
Open Interpreter est la chose la plus proche d’« un LLM local qui peut utiliser votre ordinateur ». Installez-le à partir de pip, pointez-le vers un point de terminaison Ollama ou LM Studio, et demandez-lui de résumer le contenu d’un dossier, renommer des fichiers par date ou interroger une base de données SQLite. Il écrit en Python, demande confirmation avant d’exécuter, et renvoie la sortie dans la conversation.
Où cela ne fonctionne pas bien : Le mode par défaut exécute le code localement avec confirmation ; le mode sans risque ajoute un bac à sable mais limite ce que les outils peuvent faire. Les petits modèles locaux hallucinent occasionnellement des appels de fonction qui échouent à l’exécution. Le REPL interactif est excellent ; l’interface graphique desktop est plus récente et plus brute.
Tarification :
- Gratuit : open source AGPLv3
- Payant : aucun
Plates-formes : Windows, macOS, Linux
Télécharger : Open Interpreter | Source
En résumé : Choisissez ceci quand vous voulez un seul outil de ligne de commande qui transforme un LLM local en assistant shell fonctionnel.
2. OpenHands — Meilleur pour les tâches d’ingénierie logicielle
OpenHands (le projet précédemment connu sous le nom OpenDevin) est construit pour le travail à l’échelle du codebase. L’agent s’exécute à l’intérieur d’un bac à sable Docker, dispose d’un vrai shell, peut utiliser un navigateur et exécuter des plans multi-étapes contre un référentiel Git. Il se branche sur les points de terminaison compatibles OpenAI, y compris les proxies locaux Ollama et LM Studio, donc le modèle reste sur votre matériel tandis que l’agent obtient les outils de développement complets.
Où cela ne fonctionne pas bien : Configuration plus lourde qu’Open Interpreter ; vous avez besoin de Docker en cours d’exécution et disposé à donner au conteneur des ressources substantielles. Les petits modèles locaux (moins de 13B) ont du mal avec la planification multi-étapes qu’OpenHands attend. L’interface web est fonctionnelle mais pas aussi fluide que la version hébergée dans le cloud.
Tarification :
- Gratuit : open source MIT
- Payant : aucun
Plates-formes : Windows, macOS, Linux (via Docker)
Télécharger : OpenHands
En résumé : Choisissez ceci quand l’agent doit lire un vrai codebase, exécuter des tests et produire une pull request.
3. Hermes Agent — Meilleur exécuteur léger
Hermes Agent est le projet que XDA a mis en évidence. Il associe un LLM local avec un petit runtime d’agent ciblé qui peut exécuter des scripts et lire des fichiers, conçu autour de la famille de modèles Hermes affinés mais compatible avec n’importe quel modèle ajusté au chat servir via Ollama ou llama.cpp. L’empreinte est petite et la configuration est courte.
Où cela ne fonctionne pas bien : Projet plus jeune ; la documentation et la base de connaissances communautaire sont minces. Les meilleurs résultats proviennent de son exécution avec les modèles de la famille Hermes sur lesquels le runtime a été affiné ; les modèles ouverts génériques fonctionnent mais moins fiablement. L’orchestration des travaux est plus simple qu’OpenHands.
Tarification :
- Gratuit : open source MIT
- Payant : aucun
Plates-formes : Windows, macOS, Linux
Télécharger : Hermes Agent sur GitHub
En résumé : Choisissez ceci quand vous voulez un petit exécuteur qui s’efface et exécute les scripts que vous avez déjà.
4. AutoGPT — Meilleur exécuteur de tâches autonome
AutoGPT a popularisé le motif « donner un objectif à un LLM et le laisser figurer les étapes ». La réécriture récente prend en charge un constructeur d’agent de style graphe, des plugins pour la recherche web, la manipulation de fichiers et l’utilisation d’outils, ainsi qu’un backend auto-hébergé qui communique avec les points de terminaison de modèles locaux via des proxies compatibles OpenAI.
Où cela ne fonctionne pas bien : Les boucles autonomes sur les petits modèles locaux peuvent spiraler, accumulant les appels d’outils sans faire de progrès. L’écosystème de plugins a grandi énormément pendant le cycle de battage publicitaire de 2023, puis s’est amenuisé ; vérifiez les plugins avant de leur accorder l’accès au système de fichiers. L’interface est plus chargée que les alternatives CLI.
Tarification :
- Gratuit : open source MIT
- Payant : cloud géré optionnel
- vs OpenHands : objectifs plus larges, exécution moins structurée
Plates-formes : Windows, macOS, Linux
Télécharger : AutoGPT
En résumé : Choisissez ceci quand la tâche est large et l’objectif est « voir ce que l’agent trouve » plutôt que « exécuter ce plan défini ».
5. AgentGPT — Meilleure option centrée sur le navigateur
AgentGPT s’exécute dans un onglet du navigateur. Il expose une interface basée sur les objectifs qui décompose un objectif de haut niveau en sous-tâches et les exécute via un point de terminaison de modèle. La construction Docker auto-hébergée vous permet de la pointer vers un serveur de modèle local, ce qui garde le modèle sur votre matériel tout en vous donnant une interface web utilisable pour les utilisateurs non techniques.
Où cela ne fonctionne pas bien : L’exécution d’outils est plus limitée qu’Open Interpreter ou OpenHands ; elle s’appuie davantage sur la recherche et le raisonnement que sur l’accès au système de fichiers. La version hébergée est un SaaS payant ; la version auto-hébergée est le chemin gratuit.
Tarification :
- Gratuit : GPL-3.0 auto-hébergé
- Payant : plans hébergés à partir d’environ 40 USD par mois pour des limites supérieures
Plates-formes : Windows, macOS, Linux (navigateur ; backend via Docker)
Télécharger : AgentGPT
En résumé : Choisissez ceci quand vous voulez une interface web que vos coéquipiers non techniques peuvent utiliser, pointée vers votre serveur de modèle local.
6. Continue — Meilleur agent dans l’éditeur
Continue est une extension VS Code et JetBrains qui transforme l’éditeur en interface d’agent. Il se branche sur Ollama, LM Studio, llama.cpp et les points de terminaison compatibles OpenAI, prend en charge l’utilisation d’outils limitée à l’espace de travail, et gère l’autocomplétion, le chat et les modifications multi-étapes sans quitter l’IDE.
Où cela ne fonctionne pas bien : La profondeur agentique est plus faible qu’OpenHands ; c’est excellent pour « éditer ces fichiers selon cette invite » et plus faible pour « explorer ce codebase de bout en bout ». La surface des outils est limitée à l’IDE plutôt qu’à la machine entière.
Tarification :
- Gratuit : open source Apache 2.0
- Payant : fonctionnalités d’équipe optionnelles
Plates-formes : Windows, macOS, Linux (comme extension VS Code ou JetBrains)
Télécharger : Continue | Source
En résumé : Choisissez ceci quand le travail se fait dans un IDE et que vous voulez l’agent à l’intérieur de l’éditeur, pas dans une fenêtre séparée.
7. CrewAI — Meilleur pour les configurations multi-agent
CrewAI est un cadre Python, pas une appli polie. Le point d’inclusion : quand « un agent » est la mauvaise unité de travail et que vous avez vraiment besoin d’un chercheur, d’un rédacteur et d’un critique fonctionnant en coordination, c’est le chemin le plus convivial pour le configurer contre un serveur de modèle local. Il cible le public des développeurs Python et produit du code d’orchestration plutôt qu’une interface de chat.
Où cela ne fonctionne pas bien : Code d’abord, pas d’interface graphique. Vous devez définir l’équipe, les outils et les tâches en Python. La courbe d’apprentissage est réelle et la documentation suppose la familiarité avec les motifs de style LangChain.
Tarification :
- Gratuit : open source MIT
- Payant : CrewAI Enterprise optionnel
Plates-formes : Windows, macOS, Linux (comme bibliothèque Python)
En résumé : Choisissez ceci quand un agent n’est pas suffisant et que vous pouvez écrire en Python.
Comment choisir le bon
- Si vous voulez un seul outil de ligne de commande qui fait le travail : Open Interpreter.
- Si vous voulez un agent qui gère de vrais projets logiciels : OpenHands.
- Si vous voulez un petit exécuteur lié à la famille Hermes : Hermes Agent.
- Si vous voulez une autonomie large et acceptez le coût : AutoGPT.
- Si vous voulez une interface web pour les utilisateurs non techniques : AgentGPT.
- Si le travail se fait dans un IDE : Continue.
- Si vous avez besoin de plusieurs agents coordonnés : CrewAI.
FAQ
Quelle est la différence entre un agent LLM local et un modèle de chat ?
Un modèle de chat produit du texte. Un agent s’exécute en boucle : penser, appeler un outil, observer le résultat, penser à nouveau, appeler un autre outil, jusqu’à ce que l’objectif soit atteint ou la boucle se termine. Les outils sont des scripts, des lectures de fichiers, des recherches web, des commandes shell ou n’importe quoi d’autre que le cadre expose. Le même modèle peut être l’un ou l’autre selon le wrapper de runtime.
Puis-je exécuter ceux-ci sur un Raspberry Pi ?
Certains le peuvent, avec de petits modèles. Open Interpreter et Hermes Agent sont assez légers pour commencer. OpenHands a besoin de ressources Docker au-delà de ce qu’un Pi livre confortablement. Prévoyez au moins 16 GB de RAM et un GPU ou Apple Silicon pour tout agent construit autour d’un modèle de 13B ou plus.
Lequel est le plus sûr à exécuter sur une véritable station de travail ?
OpenHands met tout en bac à sable à l’intérieur de Docker par défaut, ce qui donne l’isolation la plus forte. Open Interpreter a un mode sans risque qui ajoute une couche de bac à sable. Traitez le reste comme vous le feriez pour tout outil qui exécute des scripts arbitraires : limitez-le à un dossier de projet, ne l’exécutez pas en tant que root, et faites une sauvegarde avant de le laisser toucher à quelque chose d’important.
Ai-je besoin d’un GPU ?
Les agents utiles commencent à sembler réactifs autour des modèles de 13B. Sans GPU, un modèle de 7B sur un CPU moderne est gérable pour les tâches simples. Un Mac Apple Silicon avec 32 GB de mémoire unifiée fonctionne étonnamment bien. Un GPU NVIDIA discret avec 16 GB+ est la configuration la plus flexible.
Puis-je utiliser ceux-ci avec l’API d’OpenAI au lieu d’un modèle local ?
Oui pour la plupart d’entre eux. Les cadres listés acceptent n’importe quel point de terminaison compatible OpenAI, donc la même configuration fonctionne contre GPT-4o, Anthropic via un proxy, Groq, Together, ou votre instance locale Ollama. Le point du local est de garder les données sur votre matériel ; le code de l’agent n’a pas besoin de la source.
Quelle est la différence entre OpenHands et Open Interpreter ?
OpenHands est construit pour les tâches d’ingénierie contre un codebase, avec un bac à sable fort et une boucle de planification. Open Interpreter est construit pour l’utilisation « shell en langage naturel » sur la machine entière, avec un bac à sable plus léger et une interface centrée sur le chat. Utilisez OpenHands dans un repo ; utilisez Open Interpreter sur la machine.
