SyntheticSynthetic/Docs
ProductosNovedades
Panel →

AE Agent

Usar modelos locales (Ollama / LM Studio)

Ejecuta un modelo de IA completamente en tu propia máquina: gratis, privado y sin conexión. AE Agent se conecta a Ollama, LM Studio o cualquier endpoint compatible con OpenAI que corra localmente. Nada sale de tu computadora.

Los modelos locales son ideales para la privacidad y el costo cero, pero la calidad del uso de herramientas varía según el modelo. Para el modo Agente, usa un modelo reciente y capaz — llama3.1 o más nuevo, o qwen2.5 o más nuevo. Los modelos más pequeños o antiguos pueden tener dificultades para llamar herramientas de forma confiable.

Ollama

1

Instala Ollama

Descarga e instala Ollama para tu sistema operativo desde ollama.com/download. Corre un servidor local en http://localhost:11434.
2

Descarga y ejecuta un modelo

Desde una terminal, descarga un modelo con soporte de herramientas e inícialo:
ollama run llama3.1
La primera ejecución descarga el modelo. Después queda disponible localmente.
3

Conéctalo en AE Agent

Abre Settings → Local AI, define la URL en:
http://localhost:11434
Haz clic en Detect models. AE Agent lista todos los modelos que descargaste. Elige uno — aparece en el selector de modelos en Local.

LM Studio

1

Instala y carga un modelo

Instala LM Studio desde lmstudio.ai, descarga un modelo de su biblioteca y cárgalo.
2

Inicia el servidor local

En LM Studio, abre la pestaña Local Server e inícialo. Expone un endpoint compatible con OpenAI en http://localhost:1234.
3

Conéctalo en AE Agent

En Settings → Local AI, define la URL en:
http://localhost:1234
Haz clic en Detect models y selecciona el modelo que cargaste.

Endpoints personalizados compatibles con OpenAI

Cualquier servidor que hable la API de chat-completions de OpenAI funciona de la misma manera. Escribe su URL base en Settings → Local AI y haz clic en Detect models. Esto cubre entornos auto-alojados como el servidor de llama.cpp, vLLM y similares.

Endpoints predeterminados

Ollamahttp://localhost:11434
LM Studiohttp://localhost:1234
PersonalizadoTu URL base compatible con OpenAI
Si Detect models no encuentra nada, confirma que el servidor local esté efectivamente corriendo y que la URL/puerto coincidan. Además, un modelo tiene que estar descargado (Ollama) o cargado (LM Studio) antes de que aparezca.