AI 助理與聊天介面

讓 OpenClaw、Hermes Agent、Open WebUI、LobeChat、Cherry Studio 等助理與聊天 App 透過 Hakila 使用所有模型

個人助理、聊天介面與知識庫工具，大多支援自訂 OpenAI 相容端點。把 Base URL 指到 Hakila 後，同一把 API Key 就能使用 GPT、Claude、Gemini、Grok 等所有 chat 模型，用量依 Hakila 的價格與預算管理。

程式代理（OpenCode、Aider、Cline 等）請見其他 Coding Agent。

共通設定

欄位	值
Base URL（OpenAI 相容）	`https://api.hakila.ai/v1`
Base URL（Anthropic 相容）	`https://api.hakila.ai`（不加 `/v1`）
API Key	Hakila API Key
模型	完整的 Hakila 模型 id，例如 `anthropic/claude-sonnet-5`、`openai/gpt-6-sol`、`google/gemini-pro-latest`、`hakila/auto`

模型須在這把 API Key 的允許清單內，可用的模型以 GET /v1/models 為準。
會自動抓模型清單的 App，清單裡也會有 embedding、生圖等模型；聊天請選 chat 模型。
需要向量化文件（RAG、知識庫）時，embedding 模型可以填 openai/text-embedding-3-small 等 Embeddings 模型，同樣走 https://api.hakila.ai/v1。

個人助理

OpenClaw

在 ~/.openclaw/openclaw.json 新增一個 OpenAI 相容的自訂供應商，再把預設模型設成「供應商 id／模型 id」：

{
  env: { vars: { HAKILA_API_KEY: "你的 Hakila API Key" } },
  agents: {
    defaults: {
      model: { primary: "hakila/anthropic/claude-sonnet-5" },
    },
  },
  models: {
    mode: "merge",
    providers: {
      hakila: {
        baseUrl: "https://api.hakila.ai/v1",
        apiKey: "${HAKILA_API_KEY}",
        api: "openai-completions",
        models: [
          { id: "anthropic/claude-sonnet-5", name: "Claude Sonnet 5" },
          { id: "openai/gpt-6-sol", name: "GPT-6 Sol" },
          { id: "google/gemini-pro-latest", name: "Gemini Pro (latest)" },
        ],
      },
    },
  },
}

models 列出的模型可以用 openclaw models list 檢查，再用 openclaw models set hakila/<模型 id> 切換。

Hermes Agent

執行 hermes model，選 Custom endpoint，依序填入 Base URL https://api.hakila.ai/v1、Hakila API Key 與模型 id。也可以直接編輯 ~/.hermes/config.yaml：

model:
  provider: custom
  base_url: https://api.hakila.ai/v1
  default: anthropic/claude-sonnet-5
  key_env: HAKILA_API_KEY

PicoClaw

在 ~/.picoclaw/config.json 的 model_list 新增模型。model 開頭的 openai/ 只用來選擇協定，不會送給 Hakila，所以後面要接完整的 Hakila 模型 id：

{
  "model_list": [
    {
      "model_name": "claude-sonnet-5",
      "model": "openai/anthropic/claude-sonnet-5",
      "api_base": "https://api.hakila.ai/v1",
      "api_keys": ["你的 Hakila API Key"]
    }
  ],
  "agents": {
    "defaults": { "model_name": "claude-sonnet-5" }
  }
}

設定檔版本 2 會忽略 config.json 裡的金鑰，請依 PicoClaw 文件把 api_keys 放到 ~/.picoclaw/.security.yml。

NanoClaw

NanoClaw 以 Claude Agent SDK 執行，走 Hakila 的 Messages API。在專案根目錄的 .env 設定以下兩個值後再執行 setup，金鑰會存進 NanoClaw 的憑證保管庫，容器內只會拿到替代值：

NANOCLAW_ANTHROPIC_BASE_URL=https://api.hakila.ai
NANOCLAW_ANTHROPIC_AUTH_TOKEN=你的 Hakila API Key

Messages API 也能轉換到 GPT、Gemini、Grok 等非 Claude 模型，詳見非 Claude 模型。

Letta

用 CLI 連接 OpenAI 相容供應商，再以 /model 選擇模型：

letta --backend local connect openai-compatible \
  --base-url https://api.hakila.ai/v1 \
  --api-key "$HAKILA_API_KEY"

在 Letta App 裡則是 /connect → OpenAI-compatible API，填入同樣的 Base URL 與 API Key。Letta 需要支援工具呼叫的模型，Hakila 的 chat 模型都支援。

聊天介面

Open WebUI

管理員到 Admin Panel → Settings → Connections，在 OpenAI API 旁按 + 新增連線： URL 填 https://api.hakila.ai/v1，Key 填 Hakila API Key。儲存後模型會從 Hakila 自動載入。

用 Docker 部署時也可以改用環境變數：

docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL=https://api.hakila.ai/v1 \
  -e OPENAI_API_KEY=$HAKILA_API_KEY \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

知識庫的 embedding 可以在 Admin Panel → Settings → Documents 把 Embedding Model Engine 改成 OpenAI，填入同樣的 URL 與 Key。

LobeChat

在 設定 → AI 服務商 新增自訂服務商，請求格式選 OpenAI，API 代理位址填 https://api.hakila.ai/v1，貼上 API Key 後按「取得模型列表」。自架時也可以用環境變數覆寫內建的 OpenAI 服務商：

OPENAI_API_KEY=你的 Hakila API Key
OPENAI_PROXY_URL=https://api.hakila.ai/v1
OPENAI_MODEL_LIST=-all,+anthropic/claude-sonnet-5,+openai/gpt-6-sol,+google/gemini-pro-latest

Cherry Studio

設定 → 模型服務 → 新增，類型選 OpenAI，API 位址填 https://api.hakila.ai（Cherry Studio 會自動補上 /v1），貼上 API Key 後按「管理」從 Hakila 取得模型。只用 Claude 模型時，也可以新增類型為 Anthropic 的服務商，位址同樣填 https://api.hakila.ai。

Jan

Settings → Model Providers，按供應商清單旁的 + 新增，API 格式選 OpenAI-compatible， Base URL 填 https://api.hakila.ai/v1、API Key 填 Hakila API Key。儲存後 Jan 會從 Hakila 讀取模型，也可以按 + 手動加入模型 id。

Msty

Model Hub → Model Providers → Add Provider，選 Open AI Compatible，Inference Endpoint 填 https://api.hakila.ai/v1 （保留 /v1），貼上 API Key 後按 Fetch Models。

知識庫與搜尋

AnythingLLM

設定 → AI Providers → LLM，供應商選 Generic OpenAI：

欄位	值
Base URL	`https://api.hakila.ai/v1`
API Key	Hakila API Key
Chat Model Name	例如 `anthropic/claude-sonnet-5`
Token context window	依模型目錄填寫

工作區的文件向量化可以在 Embedder 同樣選 Generic OpenAI，模型填 openai/text-embedding-3-small。

Khoj

自架的 Khoj 在管理後台（/server/admin）設定：

新增 AI Model API：Api Key 填 Hakila API Key，Api Base Url 填 https://api.hakila.ai/v1。
新增 Chat Model：Name 填模型 id（例如 anthropic/claude-sonnet-5），Model Type 選 OpenAI，Ai Model Api 選上一步建立的項目。
在設定頁的聊天模型選單選擇剛建立的模型。

在設定頁的模型供應商新增 OpenAI，Base URL 填 https://api.hakila.ai/v1、API Key 填 Hakila API Key，再到 Chat Models 加入模型 id。Docker 部署可以改用環境變數 OPENAI_BASE_URL 與 OPENAI_API_KEY。 Embedding 模型可以加入 openai/text-embedding-3-small，或使用 Perplexica 內建的本機模型。

AI 助理與聊天介面

本頁目錄