AE Agent
Lokale Modelle nutzen (Ollama / LM Studio)
Führen Sie ein KI-Modell komplett auf Ihrem eigenen Rechner aus — kostenlos, privat und offline. AE Agent verbindet sich mit Ollama, LM Studio oder jedem lokal laufenden OpenAI-kompatiblen Endpunkt. Nichts verlässt Ihren Computer.
Lokale Modelle sind ideal für Datenschutz und null Kosten, doch die Qualität der Tool-Nutzung hängt vom Modell ab. Verwenden Sie für den Agent-Modus ein leistungsfähiges, aktuelles Modell —
llama3.1 oder neuer bzw. qwen2.5 oder neuer. Kleinere oder ältere Modelle haben mitunter Mühe, Tools zuverlässig aufzurufen.Ollama
1
Ollama installieren
Laden Sie Ollama für Ihr Betriebssystem von ollama.com/download herunter und installieren Sie es. Es betreibt einen lokalen Server unter
http://localhost:11434.2
Modell herunterladen und starten
Laden Sie in einem Terminal ein Modell mit Tool-Unterstützung herunter und starten Sie es:Beim ersten Start wird das Modell heruntergeladen. Danach bleibt es lokal verfügbar.
ollama run llama3.1
3
In AE Agent verbinden
Öffnen Sie Settings → Local AI und setzen Sie die URL auf:Klicken Sie auf Detect models. AE Agent listet alle heruntergeladenen Modelle auf. Wählen Sie eines aus — es erscheint in der Modellauswahl unter Local.
http://localhost:11434
LM Studio
1
Installieren und Modell laden
Installieren Sie LM Studio von lmstudio.ai, holen Sie sich ein Modell aus der Bibliothek und laden Sie es.
2
Lokalen Server starten
Öffnen Sie in LM Studio den Tab Local Server und starten Sie den Server. Er stellt unter
http://localhost:1234 einen OpenAI-kompatiblen Endpunkt bereit.3
In AE Agent verbinden
Setzen Sie unter Settings → Local AI die URL auf:Klicken Sie auf Detect models und wählen Sie Ihr geladenes Modell aus.
http://localhost:1234
Benutzerdefinierte OpenAI-kompatible Endpunkte
Jeder Server, der die Chat-Completions-API von OpenAI spricht, funktioniert genauso. Geben Sie seine Basis-URL unter Settings → Local AI ein und klicken Sie auf Detect models. Das umfasst selbst gehostete Runtimes wie den Server von llama.cpp, vLLM und ähnliche.
Standard-Endpunkte
| Ollama | http://localhost:11434 |
| LM Studio | http://localhost:1234 |
| Benutzerdefiniert | Ihre OpenAI-kompatible Basis-URL |
Findet Detect models nichts, prüfen Sie, ob der lokale Server tatsächlich läuft und URL/Port übereinstimmen. Außerdem muss ein Modell erst heruntergeladen (Ollama) oder geladen (LM Studio) sein, bevor es erscheint.