SyntheticSynthetic/Docs
ProduitsNouveautés
Tableau de bord →

AE Agent

Utiliser des modèles locaux (Ollama / LM Studio)

Exécutez un modèle d'IA entièrement sur votre propre machine — gratuit, privé et hors ligne. AE Agent se connecte à Ollama, à LM Studio ou à tout endpoint compatible OpenAI exécuté en local. Rien ne quitte votre ordinateur.

Les modèles locaux sont parfaits pour la confidentialité et le coût nul, mais la qualité d'utilisation des outils varie selon le modèle. Pour le mode Agent, utilisez un modèle récent et performant — llama3.1 ou plus récent, ou qwen2.5 ou plus récent. Les modèles plus petits ou plus anciens peuvent avoir du mal à appeler les outils de façon fiable.

Ollama

1

Installez Ollama

Téléchargez et installez Ollama pour votre système d'exploitation depuis ollama.com/download. Il exécute un serveur local sur http://localhost:11434.
2

Téléchargez et lancez un modèle

Dans un terminal, téléchargez un modèle compatible avec les outils et lancez-le :
ollama run llama3.1
La première exécution télécharge le modèle. Ensuite, il reste disponible en local.
3

Connectez-le à AE Agent

Ouvrez Settings → Local AI et définissez l'URL sur :
http://localhost:11434
Cliquez sur Detect models. AE Agent liste tous les modèles que vous avez téléchargés. Choisissez-en un — il apparaît dans le sélecteur de modèles sous Local.

LM Studio

1

Installez et chargez un modèle

Installez LM Studio depuis lmstudio.ai, téléchargez un modèle depuis sa bibliothèque et chargez-le.
2

Démarrez le serveur local

Dans LM Studio, ouvrez l'onglet Local Server et démarrez le serveur. Il expose un endpoint compatible OpenAI sur http://localhost:1234.
3

Connectez-le à AE Agent

Dans Settings → Local AI, définissez l'URL sur :
http://localhost:1234
Cliquez sur Detect models et sélectionnez le modèle que vous avez chargé.

Endpoints personnalisés compatibles OpenAI

Tout serveur compatible avec l'API chat-completions d'OpenAI fonctionne de la même manière. Saisissez son URL de base dans Settings → Local AI et cliquez sur Detect models. Cela couvre les environnements auto-hébergés comme le serveur de llama.cpp, vLLM et similaires.

Endpoints par défaut

Ollamahttp://localhost:11434
LM Studiohttp://localhost:1234
PersonnaliséVotre URL de base compatible OpenAI
Si Detect models ne trouve rien, vérifiez que le serveur local est bien en cours d'exécution et que l'URL et le port correspondent. Un modèle doit aussi avoir été téléchargé (Ollama) ou chargé (LM Studio) avant d'apparaître.