Auto Router 是什么,谁发布的

2026 年 9 月 30 日,Cloudflare 发布了一个叫 Auto Router 的新功能,它放在 Cloudflare 的 AI Gateway 里面,目前是公开测试版。你可以把它想成学校食堂里的“智能打饭阿姨”:你不用说今天想吃哪道菜,她看你拿的餐盘和饭量,自动给你打一份够吃又不浪费的饭。

它的用法很简单:把模型名字写成 cloudflare/auto,之后每个请求就会自动交给一个“够聪明”的模型去处理。Cloudflare 说,他们内部用 OpenCode 测试时,相比只用 OpenAI Sol 和 Anthropic Claude Opus 这类前沿模型,最高能省 30% 的钱。官方没有说明它是否开源,也没有说明公开测试版什么时候结束。

为什么需要自动选模型

很多公司用 AI 时,一开始会发很多 API 钥匙,让员工随便用。后来大家固定用几个工具,比如写代码、做表格、跑智能体。问题来了:不是每个任务都需要最贵最强的模型。总结一封邮件,不需要用“博士级”模型;但安全工程团队又确实需要强模型。手动选模型,既麻烦又容易花冤枉钱。

Cloudflare 的想法是,既然所有请求都已经经过 AI Gateway,那网关就不该只记账和拦限额,还应该帮用户做决定。Auto Router 就是让网关自己判断:这个请求到底需要多强的模型,然后自动发过去。这样组织能省钱,用户需要强模型时也还能用到。

它怎么判断该用哪个模型

当你把请求发给 cloudflare/auto,AI Gateway 先列出一批“能接这个活”的模型。它会排除不支持请求格式或执行方式的模型,也会考虑凭证、账单配置、访问控制和花费限额。如果某个上游供应商坏了,它会先跳过,等恢复后再放回候选名单。

接着,路由器会看最近几轮对话,把对话送给一个跑在 Workers AI 上的多任务分类模型。这个分类模型会做两件事:一是判断任务属于 14 个类别中的哪一类,比如写代码、做计划、查资料、分析数据;二是给请求打四个维度的分,每个维度 1 到 5 分,分别是复杂度、模糊度、重要程度和对前文上下文的依赖。

省钱和质量的平衡怎么算

分类模型给出信号后,另一个评分矩阵会把这些信号和模型基准测试结果合在一起,估算每个模型有多适合这个请求。然后路由器把“预期质量”和“输入输出 token 价格”放在一起算。简单请求里,价格权重更大,小模型只要够用就能赢;任务越难,价格惩罚越小,强模型就有更多机会赢。

用简化公式说,它选的是“效用”最高的模型:效用 = 预期质量 – 自适应成本惩罚。这就像买文具:抄写作业买普通本子就行,做毕业设计才买高级绘图本。不是越贵越好,而是刚好够用最划算。

长对话里换模型为什么要小心

在调试或写代码这种很长的智能体会话里,花钱的大头往往不是模型标价,而是缓存读取。缓存就像你写作业时桌上摊开的参考书,换模型等于把书全收走,新模型得重新把上下文写一遍。有时候换模型仍然值得,因为新模型的缓存读写更便宜,很快能把重写成本赚回来。

Auto Router 会计算缓存读写成本。在一轮对话内,缓存是热的,换模型通常不划算,所以尽量不换。跨轮对话时,它会加一个“切换惩罚”,上下文越长,惩罚越大。已经持有活跃缓存的模型按便宜的缓存读取价算,其他候选模型要按重写整个上下文的完整成本算。原文还说,未来希望切换时尽量留在同一模型家族,因为大多数模型读不懂另一个模型的推理 token。

官方测试结果说明了什么

Cloudflare 用内部通用知识工作基准测试比较了 cloudflare/auto、Anthropic Claude Opus 5.5 和 OpenAI GPT-6 Sol。每个任务三个样本,共 97 个任务。cloudflare/auto 成功 252/291,成功率 86.6%,总成本 2.10 美元,每次成功 0.0084 美元;Claude Opus 5.5 成功率 96.6%,总成本 5.91 美元,每次成功 0.0210 美元;GPT-6 Sol 成功率 84.2%,总成本 2.64 美元,每次成功 0.0108 美元。

也就是说,Auto Router 的表现接近日常主力模型,成本大约是 Sol 的 80%、Opus 的 35%。原文提醒,token 单价低不一定总成本低,因为便宜模型可能用更多 token。路由器要最小化的是“预测轨迹成本”,不是简单按每百万 token 价格做平衡。

适合谁用,有什么限制

Auto Router 最适合任务种类很杂的大组织,既有技术团队也有非技术团队,日常要处理邮件、日历、Slack、文件、差旅和财务等知识工作。它不太适合所有请求都必须用同一个最强模型的场景,也不适合完全不想让请求经过 AI Gateway 的团队。公开测试版意味着功能可能变化,官方没有说明是否额外收费、支持哪些地区、是否开源。

它的好处是路由决定可以检查:你能看到每个任务被预测成什么类别、什么复杂度,从而理解为什么选了某个模型。新模型发布时,也不需要重新训练,只要把基准测试权重加进评分矩阵。原文最后提到,除了 cloudflare/auto,还计划发布其他路由配置,但具体内容官方未说明。

官方来源

本文由 AIGCWHY 自动监测系统发现,经结构化处理后发布。重要决策请打开原文核验。

查看原始发布信息 ↗