qwen-bg
Requesty LLM 网关
一款 LLM 网关,可作为智能中间件满足您所有的 LLM 需求。只需不到 5 分钟,即可使用单个 API 密钥与 200 多个 LLM 提供商集成。开箱即用,即可获得追踪、遥测、可观测性、安全性等功能。
航班时刻表
qwenmax-bg
Requesty LLM 网关

什么是 Requesty LLM 网关?

Requesty 是一个 LLM门户网站 它作为智能中间件,满足您所有的LLM需求。与……集成 200多首页法学硕士(LLM)提供商 只需更改一个值:您的基本 URL。使用单个 API 密钥即可访问所有服务提供商,无需再为充值和速率限制而烦恼。

一旦你切换了基本 URL,你就会得到:

  • 追踪: 无需更改任何代码,即可查看所有 LLM 推理调用。
  • 遥测: 无需更改任何代码,即可查看延迟、请求计数、缓存率等信息。
  • 计费: 准确了解您在每个供应商处以及每个使用场景下的具体支出。
  • 数据安全: 保护您的个人身份信息和公司机密,在它们到达LLM提供商之前对其进行屏蔽。
  • 隐私: 限制仅限特定区域的提供商使用
  • 智能路由: 基于 Requesty 的智能路由分类模型路由请求,从而节省成本并提高性能

使用案例和功能

1. 使用单个 API 密钥访问 200 多个模型 没有任何速率限制

2. 获取与 OpenAI 兼容的访问权限 致所有LLM提供者

3. 获取汇总的追踪、遥测和计费数据 对于您所有的LLM推理调用

访问网站