AE Agent
ローカルモデルの使用(Ollama / LM Studio)
AIモデルを完全に自分のマシン上で実行できます。無料・プライベートで、オフラインでも使えます。AE Agentは、Ollama、LM Studio、またはローカルで動作する任意のOpenAI互換エンドポイントに接続します。データがコンピューターの外に出ることはありません。
ローカルモデルはプライバシーの面でもコストゼロの面でも優れていますが、ツール使用の品質はモデルによって異なります。エージェントモードでは、
llama3.1以降やqwen2.5以降など、高性能な最近のモデルを使ってください。小規模なモデルや古いモデルでは、ツールを安定して呼び出せないことがあります。Ollama
1
Ollamaをインストール
ollama.com/downloadからお使いのOS用のOllamaをダウンロードしてインストールします。Ollamaは
http://localhost:11434でローカルサーバーを実行します。2
モデルをダウンロードして実行
ターミナルから、ツール呼び出しに対応したモデルをダウンロードして起動します:初回の実行時にモデルがダウンロードされます。以降はローカルでいつでも使えます。
ollama run llama3.1
3
AE Agentで接続
Settings → Local AIを開き、URLを次のように設定します:Detect modelsをクリックします。AE Agentがダウンロード済みのすべてのモデルを一覧表示します。1つ選ぶと、モデル選択メニューのLocalの下に表示されます。
http://localhost:11434
LM Studio
1
モデルをインストールして読み込む
lmstudio.aiからLM Studioをインストールし、ライブラリからモデルをダウンロードして読み込みます。
2
ローカルサーバーを起動
LM StudioでLocal Serverタブを開き、サーバーを起動します。
http://localhost:1234でOpenAI互換のエンドポイントが公開されます。3
AE Agentで接続
Settings → Local AIで、URLを次のように設定します:Detect modelsをクリックし、読み込んだモデルを選択します。
http://localhost:1234
OpenAI互換のカスタムエンドポイント
OpenAIのchat-completions APIに対応したサーバーであれば、同じ方法で使えます。Settings → Local AIにそのベースURLを入力し、Detect modelsをクリックします。llama.cppのサーバーやvLLMなど、セルフホスト型のランタイムもこの方法で使えます。
デフォルトのエンドポイント
| Ollama | http://localhost:11434 |
| LM Studio | http://localhost:1234 |
| カスタム | OpenAI互換のベースURL |
Detect modelsで何も見つからない場合は、ローカルサーバーが実際に起動していること、URLとポートが一致していることを確認してください。また、モデルはあらかじめダウンロード(Ollama)または読み込み(LM Studio)しておかないと表示されません。