AI资讯

Perplexity 发布 Orchestrator API,一个接口调度 45 款以上模型

发布时间:2026年11月18日 11:00:00

11 月 18 日,Perplexity 发布 Orchestrator API:把 OpenAI、Anthropic、谷歌、xAI 与开源权重厂商的模型收在同一个接口后,按可用性、容量与延迟自动选择供应商。文档显示支持 OpenAI Chat Completions、Responses 与 Anthropic Messages 三种格式,按所选模型的 token 单价计费、无单次附加费,同模型失败会自动换部署重发;不接受自带密钥,部分模型需更高使用等级。


事件:把「选模型」变成一个 API

11 月 18 日,Perplexity 发布 Orchestrator API。

它把多家厂商的模型收在同一个接口后面:

来源覆盖
闭源厂商OpenAI、Anthropic、谷歌、xAI
开放权重多家开源模型提供方

路由由系统自动完成,依据三条:

  1. 可用性(哪家在服务)
  2. 容量(谁还有余量)
  3. 延迟(谁更快)

发布帖提到 45 款以上模型、按 key 的花费上限与允许模型清单;但已读的 FAQ 未给出总数与上限,访问控制实际通过使用等级与组织设置实现。

接口层面的关键细节

已直接读取的文档给出了几条硬信息:

项目说明
兼容格式OpenAI Chat Completions、OpenAI Responses、Anthropic Messages
计费方式按所选模型的 token 单价,无单次请求附加费
失败处理自动把请求转发到同模型的另一个部署
自带密钥不支持
部分模型需要更高使用等级

「同模型换部署重发」这一条最有价值:它把「某家临时故障」变成了对调用方透明的事件。

它替代了什么

在 Orchestrator 之前,想同时用多家模型,通常有三种做法:

做法代价
自己写路由网关要维护各家 SDK 差异、重试、限流
用开源网关(如 LiteLLM)自部署、自己兜住稳定性
绑一家厂商无法获得跨厂商的容量与价格优势

Orchestrator 等于把前两种的工作外包出去,代价是放弃自带密钥——你的调用必须走 Perplexity 的计费通道。

最需要追问的一点:自动路由的成本不透明

文档明确说「按所选模型单价计费」,但没有单独说明「选择过程本身」的成本。

也就是说:路由决策如果由一个小模型完成,这部分算不算钱?在报价里看不到答案。对高频调用方,这可能是账单里说不清的一块。

三层影响

对应用开发者:多模型切换成本大幅下降,做 A/B 与降级更容易。

对云与网关厂商:托管式路由会挤压自建网关的需求。

对模型厂商:进入「被选择」的位置——路由会挑更便宜、更快、更可用的那一个,品牌忠诚度下降。

需要冷静看的几点

  1. 45 款以上的具体清单未在文档中确认。
  2. 花费上限与 allowlist 只见于发布帖。
  3. 自动路由的决策成本未计入说明。
  4. 不接受自带密钥,意味着议价空间归平台。
  5. 同模型多部署的覆盖范围未知,不是所有模型都有多部署。

观察点

  1. 路由策略是否可配置(价格优先 / 延迟优先)。
  2. 失败重发是否计入调用次数。
  3. 与 OpenRouter 等既有网关的功能差异。
  4. 企业版是否支持自带密钥。

一句话总结:Orchestrator API 卖的不是模型,而是「不用再操心选哪个模型」——代价是把密钥与议价权交给平台,而路由本身的成本,目前还没写进价目表。