密钥保险库
集中托管生产、测试、个人和团队 Token，按环境隔离，支持自动轮换。
vault.rotate("prod", "7d")
把 Token 从“到处散落”变成“统一调度”。
对研发团队友好，对财务和安全团队也透明。所有请求都经过策略、限额、审计和熔断。
智能路由
根据成本、延迟、模型能力和健康状态，自动选择最合适的上游通道。
route.by(cost, latency, health)
成本限额
按部门、项目、应用、模型设置预算上限，超额自动降级或冻结。
budget.cap(team, month)
全链路审计
每一次调用都有签名日志、追踪 ID 和用量归因，排障和对账更清晰。
audit.trace(req_*)
接入只改一个 Base URL，后面都交给网关。
兼容常见 OpenAI 风格接口，也可以通过 Adapter 适配企业内部模型、代理服务和私有化 API。
01 / Client
业务服务继续使用熟悉的 SDK 或 HTTP 调用。
02 / Policy
身份鉴权、权限策略、预算规则和模型白名单。
03 / Relay
健康检查、智能路由、重试、熔断与回退。
04 / Provider
统一分发到多家模型供应商或私有模型池。
quickstart.js
const client = new OpenAI({
apiKey: "trk_team_prod_xxxxx",
baseURL: "https://relay.example.com/v1"
});
const reply = await client.chat.completions.create({
model: "auto-fast",
messages: [{ role: "user", content: "生成一份周报" }],
metadata: {
project: "growth-dashboard",
budget_key: "marketing-q2"
}
});
console.log(reply.choices[0].message.content);安全不是附加项，而是中转站的底座。
适合团队内部共享模型能力，也适合对外提供受控 API 服务。
最小权限Token 按应用、环境、模型和调用域进行隔离，避免一个密钥横向扩散。
异常熔断遇到暴涨流量、异常来源或上游故障，自动触发限制、降级和通知。
可追溯账单请求、Token、部门、项目和成本全部关联，月底不用再手工猜账。