250+ LLM 统一网关：可观测、路由与护栏
Portkey 在 docs.portkey.ai 提供 SDK 或 OpenAI 兼容网关（PORTKEY_GATEWAY_URL），统一 250+ 模型接入、请求监控与路由；开源 Gateway 可自建，托管版含每月 1 万次免费额度。
使用场景
- 网关层日志与 failover
- 多厂商路由
- 合规审查
- 免费额度原型
- 保留 OpenAI SDK + createHeaders
主要功能
- Portkey SDK 与 OpenAI 网关模式
- 250+ 模型统一接口
- 监控、缓存与路由
- 企业私有云与无 body 日志
- OIDC SSO
相关推荐
相关推荐
3 收录条目
Helicone
Helicone 通过 ai-gateway.helicone.ai 提供 OpenAI 兼容网关，可调用 100+ 模型并将请求记录到控制台；支持 0% 加价额度、上游故障回退及自带厂商密钥（BYOK）。
OpenRouter
OpenRouter 提供与 OpenAI 风格兼容的统一 API，让团队可以在一个接入层上调用多家模型、对比成本与效果，并按场景调整路由策略，减少多供应商 SDK 维护成本。
LiteLLM
LiteLLM 是 docs.litellm.ai 上的开源 Python 库与可选代理栈：通过单一 completion 接口调用多家提供商，响应保持 OpenAI 风格；文档介绍 Router 重试/回退/负载均衡、观测回调，以及带虚拟密钥与费用追踪的 LiteLLM Proxy，并含 MCP Gateway 说明。