用量與預算
RequestLogs 用量追蹤與 API Key 預算控制
每次 Gateway 請求都會寫入用量記錄,並可依 API Key 預算阻擋超支請求。
用量記錄
成功與失敗的 /api/v1/chat/completions 都會留下記錄(概念欄位):
- Workspace / Organization / User / ApiKey(可選人員)
- model、provider、upstream model
- prompt / completion tokens、延遲、HTTP status
- 可選的 request / response body(由伺服器設定控制)
Admin 後台可用這些資料查看用量與成本。
API Key 預算
Admin 建立/更新金鑰時以 新台幣(BudgetTwd) 設定預算;資料庫與 Gateway 內部仍以 USD(BudgetUsd / SpentUsd) 儲存與累計,以對齊供應商單價。換算採固定匯率(目前 1 USD = 33 TWD)。
當 SpentUsd >= BudgetUsd 時,後續請求回傳:
{
"error": {
"message": "API key budget exceeded.",
"code": 402
}
}未設定預算(Admin 不填、內部為 null)代表不限制。
組織/單位/人員也可設層級預算上限;金鑰預算不得超過所屬層級允許的上限(由 Admin API 驗證)。
計價來源
目錄中的模型有 PromptPerMillion / CompletionPerMillion(USD / 1M tokens)。
hakila/auto 與 OpenRouter 轉發的實際成本,會依最終路由到的上游模型計算。