ngrok AI Gateway

ngrok AI Gateway 为每种模型提供一个托管网关：公共提供商、自定义端点以及您自己运行的模型。使用一键和一个 URL 在 OpenAI、Anthropic 和自托管模型之间进行路由，并具有可观察性、访问控制和内置回退功能。您的私有模型通过 ngrok 的网络进行连接，因此它们位于托管提供商旁边，而不会暴露于公共互联网。