一句话选型结论:Lunar.dev AI Gateway 更适合希望把 AI API 与 MCP 流量统一纳入安全、可观测和策略治理流程的团队。
Lunar.dev AI Gateway 是什么?
Lunar.dev 文档强调 AI Gateway 与 MCPX,用于部署、配置和扩展受治理的 AI 流量入口。它适合在多 AI 服务接入、团队权限和流量治理开始复杂时纳入候选。
从方向舵的收录角度,它属于“模型网关与 API 路由”,重点看是否能用正规的方式统一多模型调用、路由策略、成本监控、失败兜底和日志审计,而不是把它当作共享 Key 或低价 token 中转服务。
我能拿它做什么?
| 使用目标 | 可尝试的用法 | 选型时先确认 |
|---|---|---|
| 统一模型或 API 入口 | 把多模型、AI API 或 MCP 流量放到统一网关后面,减少业务代码里的 provider 分散适配。 | 确认是否兼容当前模型、鉴权方式、流式响应、工具调用和 SDK。 |
| 路由和失败兜底 | 按模型能力、成本、可用性或策略切换请求,并保留直接调用核心供应商的回滚路径。 | 失败重试、fallback、错误语义和路由规则是否可解释、可测试。 |
| 日志审计和成本治理 | 记录调用量、延迟、错误、成本和策略命中情况,便于上线后排查问题。 | 日志是否支持脱敏、保留周期、导出、团队权限和预算上限。 |
| 安全和合规边界 | 用策略、权限和审计把 API Key、模型访问和敏感数据处理收拢到可管理流程里。 | 服务条款、隐私政策、数据处理区域和企业合规要求是否匹配。 |
适合哪些人?
- 已经接入多个 LLM 或 AI API 供应商,需要统一治理入口的团队。
- 需要限流、日志、审计、预算和失败兜底的小型 SaaS 或开发者工具团队。
- 希望保留 BYOK、自托管或多供应商弹性,而不是依赖单一模型厂商的工程团队。
- 正在从原型走向生产,需要把模型调用风险显性化的产品负责人。
价格和隐藏成本怎么看?
公开页面未稳定提取到完整价格表,选型时应确认免费额度、团队席位、调用量、日志保留、企业功能和支持方式。
| 成本项 | 判断方法 |
|---|---|
| 平台费用 | 确认免费额度、团队版、企业版和是否按调用量、日志量或席位计费。 |
| 模型费用 | 模型网关通常不会消除底层模型成本,要单独计算各模型供应商账单。 |
| 迁移成本 | 查看是否兼容 OpenAI 风格 API、是否支持 BYOK、是否容易替换供应商。 |
| 治理成本 | 关注 API Key 权限、限流、日志保留、审计和敏感数据遮罩。 |
和同类工具比看什么?
- 是否支持你真实使用的模型供应商、API 格式、流式响应和鉴权方式。
- 路由、缓存、fallback、限流和预算能力是否能映射到业务维度。
- 日志、审计、脱敏、数据保留和团队权限是否满足生产环境要求。
- 托管服务和自托管方案之间的维护成本、数据边界和上线速度如何取舍。
- 迁移出去时,路由配置、调用记录和模型策略是否容易重建。
不适合的情况
- 只是想找低价 token、共享 Key、账号拼车或绕过平台限制的服务。
- 无法确认服务主体、隐私政策、服务条款、日志保存和数据处理方式。
- 业务会把敏感用户数据、支付信息或内部密钥直接交给第三方且没有审计流程。
- 当前只是个人临时测试,不需要统一路由、限流、日志和成本控制。
合规收录边界
- 只收录正规模型网关、API 路由、BYOK、多模型聚合、限流、日志、审计和成本监控工具。
- 不收录共享 Key、低价 token 倒卖、代充、拼车号、镜像绕限制、免实名或灰产用途服务。
- 涉及用户数据、API Key、日志和跨境服务时,必须提示自行核对服务条款、隐私政策和数据边界。
本站按“模型网关与 API 路由”口径收录,不按“token 中转站”口径收录。使用前请自行确认服务条款、账号合规、数据处理方式、日志保存策略和所在地法律要求。
低风险试用建议
先使用测试 Key、低风险 prompt 和小流量请求验证路由、失败返回、日志脱敏、预算上限和切换供应商流程。通过后,再把生产流量逐步接入,并保留回滚方案。
页面更新时间:2026-06-13
Pellet AI 是智能 LLM routing 工具,适合评估自动选择更小模型、降低成本和保留分析能力。