闭源模型官方直连,
开源模型多供应商可选
闭源模型通过企业 API 直连模型厂商;开源模型接入多家一线推理服务商。价格、响应表现、调用策略,都成为你选择来源的依据。
模型、服务商、策略,都由你定
模型服务商平台接入的服务商自有 API Key服务商 A / 服务商 B
策略虚拟模型 my-app均衡 · 价格 · 时延 · 吞吐量失败回退
结果实际模型与线路重试与回退记录成员 / 项目归属
把可用模型服务,组合成你的模型池。
选择平台模型服务商,也可接入自己持有 API Key 的模型服务商。
让调用方式,跟着业务需要调整。
给应用一个固定的虚拟模型名,再设价格、时延、吞吐量等偏好与失败回退。
每次选择,都有清楚的调用记录。
钱花在哪里、这次调用发生了什么、下一步怎样调整:实际模型、线路、耗时、重试回退和费用归属都在记录里。
常见问题
LYRouter 是什么?
一个由你掌管的 AI 模型聚合平台。一把 Key 接入多家模型和自有 Key,配路由、查调用、管团队,模型服务按量付费。
闭源模型和开源模型的接入方式有什么不同?
闭源模型通过企业 API 直连模型厂商;开源模型接入多家一线推理服务商,同一模型可以在不同供应商之间选择。
我已经有厂商的 Key 或 Token 套餐,能一起管吗?
能。把自有 Key 托管到 LYRouter,和平台模型放在同一个入口,应用只用一把 LYRouter Key。上游费用仍付给原服务商,网关按 0.1 Credits/请求(限时 0.01 Credits/请求)计收。
换模型要改代码吗?
不用。改模型名即可;用虚拟模型的话,连模型名都不用改。
我的请求内容会被记录吗?
默认只记录模型、来源、耗时、用量等请求元数据以及法律要求保留的数据,不记录正文。正文日志由你自己决定是否开启。