不止一个模型供应商
团队希望把 OpenAI、Anthropic 和兼容上游统一放到企业自己的 API 入口后面。
企业网关选型
如果只有一个应用调用一个供应商,只做请求转发可能就够了。当多个团队开始共用上游账号、 分发内部 Key,并且不断有人问“谁用了多少、成本归谁”时,就需要把访问、路由、用量和成本边界一起管起来。
问题变化时
团队希望把 OpenAI、Anthropic 和兼容上游统一放到企业自己的 API 入口后面。
业务服务、部门或自动化任务需要独立 API Key,而不是共用同一批上游供应商密钥。
供应商 Key 不应该散落在每个服务仓库、脚本和团队环境变量里。
平台或财务团队需要按项目、API Key、模型、供应商和上游通道查看用量。
你希望内部用户无需预充值也能调用,但仍然沉淀用量和费用记录用于分析。
某个 Key 或通道失败时,网关应该冷却异常凭证,并尽量切换到其他可用凭证。
决策表
| 能力 | NeoGate | 基础转发代理 | SaaS AI 网关 |
|---|---|---|---|
| 部署在自己的基础设施里 | 支持 | 通常支持 | 有限或不支持 |
| 兼容现有客户端的 OpenAI 接口 | 支持 | 通常支持 | 通常支持 |
| Anthropic 兼容接口 | 支持 | 部分支持 | 通常支持 |
| 管理后台统一管理通道和凭证 | 支持 | 视项目而定 | 支持 |
| 给团队和应用发项目 API Key | 支持 | 视项目而定 | 支持 |
| 按项目、Key、模型和通道看用量 | 支持 | 视项目而定 | 支持 |
| 内部模式下记录成本 | 支持 | 较少内置 | 视服务而定 |
| 后续切换计费模式 | 支持 | 较少内置 | 通常支持 |
| 先单节点,后续按需集群 | 支持 | 取决于项目 | 由服务商托管 |
适合场景
非目标场景