SyntheticSynthetic/ドキュメント
製品更新履歴
ダッシュボード →

AE Agent

ローカルモデルの使用(Ollama / LM Studio)

AIモデルを完全に自分のマシン上で実行できます。無料・プライベートで、オフラインでも使えます。AE Agentは、Ollama、LM Studio、またはローカルで動作する任意のOpenAI互換エンドポイントに接続します。データがコンピューターの外に出ることはありません。

ローカルモデルはプライバシーの面でもコストゼロの面でも優れていますが、ツール使用の品質はモデルによって異なります。エージェントモードでは、llama3.1以降やqwen2.5以降など、高性能な最近のモデルを使ってください。小規模なモデルや古いモデルでは、ツールを安定して呼び出せないことがあります。

Ollama

1

Ollamaをインストール

ollama.com/downloadからお使いのOS用のOllamaをダウンロードしてインストールします。Ollamaはhttp://localhost:11434でローカルサーバーを実行します。
2

モデルをダウンロードして実行

ターミナルから、ツール呼び出しに対応したモデルをダウンロードして起動します:
ollama run llama3.1
初回の実行時にモデルがダウンロードされます。以降はローカルでいつでも使えます。
3

AE Agentで接続

Settings → Local AIを開き、URLを次のように設定します:
http://localhost:11434
Detect modelsをクリックします。AE Agentがダウンロード済みのすべてのモデルを一覧表示します。1つ選ぶと、モデル選択メニューのLocalの下に表示されます。

LM Studio

1

モデルをインストールして読み込む

lmstudio.aiからLM Studioをインストールし、ライブラリからモデルをダウンロードして読み込みます。
2

ローカルサーバーを起動

LM StudioでLocal Serverタブを開き、サーバーを起動します。http://localhost:1234でOpenAI互換のエンドポイントが公開されます。
3

AE Agentで接続

Settings → Local AIで、URLを次のように設定します:
http://localhost:1234
Detect modelsをクリックし、読み込んだモデルを選択します。

OpenAI互換のカスタムエンドポイント

OpenAIのchat-completions APIに対応したサーバーであれば、同じ方法で使えます。Settings → Local AIにそのベースURLを入力し、Detect modelsをクリックします。llama.cppのサーバーやvLLMなど、セルフホスト型のランタイムもこの方法で使えます。

デフォルトのエンドポイント

Ollamahttp://localhost:11434
LM Studiohttp://localhost:1234
カスタムOpenAI互換のベースURL
Detect modelsで何も見つからない場合は、ローカルサーバーが実際に起動していること、URLとポートが一致していることを確認してください。また、モデルはあらかじめダウンロード(Ollama)または読み込み(LM Studio)しておかないと表示されません。