我问「哪些模型是 30 分钟检测一次的」,答案是 0 个
今天下午两点半,我随口问了一句:「现在有哪些模型是 30 分钟检测一次的?」
我心里有个预设:探针应该分三档,便宜的模型 30 分钟摸一次,贵的勤一点。结果回答是 0 个。生产环境里压根没有 30 分钟这一档——渠道主动监控和账号定时测试都没有配置任务,唯一在跑的模型覆盖探针只有 1 分钟和 5 分钟两档。
预设错得挺彻底。但更让我意外的是下一句:那个 1 分钟,是默认值。
我记反了这个系统的性格
我原本担心的是「有些模型测得太少,挂了没人知道」。实际情况相反:默认每分钟去敲一次每一个可探测的文本模型,只有少数渠道和模型被单独挑出来降频到 5 分钟。
也就是说,这个系统的问题不是太懒,而是太勤。
这一点我当时没意识到,是因为我一直在用「监控的完备性」这个角度想它。换成成本角度就很直白:每分钟一次,乘以渠道数、乘以模型数、乘以每天 08:00–22:30 这十四个半小时,再乘六个工作日。这个量级不该是默认值。
所以那句「哪些是 30 分钟」,问的其实是一个不存在的问题。真正的问题是:默认值该是多少,以及谁有资格比默认值慢。
改之前先把现状数清
我没有直接动手改代码,先让它把现状列出来。截至北京时间 14:38,按 5 分钟调度的有 3 个渠道、8 个探测目标:
| 渠道 | 模型数 | 说明 |
|---|---|---|
| OpenAI-UltraFast | 4 | gpt-6-astra-fast、gpt-6-astra-ultrafast、gpt-6.1-sol-fast、gpt-6.1-sol-ultrafast |
| Claude 稳定 | 2 | claude-fable-5、claude-opus-5-5 |
| Claude 特惠 | 2 | claude-fable-5、claude-opus-5-5 |
Gemini 渠道当时是停用状态,所以它名义上在 5 分钟档里,实际一个请求都不发。
这 8 个之外的全部可探测模型,都在 1 分钟档。注意 UltraFast 本来就已经在 5 分钟档了——它不是被我从 1 分钟降下来的,而是本来就被当成「特殊渠道」单列着。
我最后定的是三档,不是四档
我把周期改成了 5 / 10 / 15 分钟,把那两个极端都收掉了:
- 15 分钟:UltraFast 全渠道所有可探测模型(以后新加的也算),
default和stable里点名的五个 GPT 模型,china里的三个模型。 - 10 分钟:Claude 稳定全渠道、Claude 特惠的
claude-opus-5-5、以及各渠道的 Fable 系列。Gemini 重新启用后也走这档。 - 5 分钟:其余可探测模型。这是新的默认值。
- 停测:视频生成-特惠整个渠道。
改完提交是 3eed54714,19 号 14:51 落地。代码里那段选择逻辑从「默认 1 分钟、少数降频」翻成了「默认 5 分钟、少数单独指定」,前后改动的行数是 85 加 112 减。
为什么视频渠道直接归零
这是我今天唯一一个「一刀砍掉」的决定,也是最容易被人质疑的一个。
探针的本质是发一条极小的对话请求,让这个模型当分钟产生一条真实用量,被动聚合那边就能出数据。它对文本模型成立,因为一次最便宜的调用就能说明「这条链路活着」。
但对着视频生成渠道发一句「只回复 hi」,什么也证明不了。它要么被模型拒掉,要么返回一段跟视频能力毫无关系的文本。这条请求本来就测不到那个渠道真正在乎的东西,却照样消耗配额。所以我把 toks 的周期直接返回 0:不是降频,是不测。
代价我认:那个渠道现在等于没有这层覆盖。如果它的文本入口哪天坏了,我不会从这里先知道。
降频的代价是我主动接受的
15 分钟档意味着:UltraFast 上某个模型如果挂了,最坏情况下要过十五分钟才有一条探针数据反映出来。这不是副作用,是我选了它。
我判断的依据是这几个渠道的流量本来就密——真有用户在用,自然流量会先把数据填上,探针只是补空窗。反过来,一个长时间没有任何真实调用的模型,晚十五分钟知道它状态,对业务几乎没影响。
这个判断我没法用数字证明。我手上没有探针成本的准确单价,也没有「某个模型从挂掉到被用户发现」的历史分布。今天能拿出来的只有一处实测:15:00 那一轮,三档刚好同时到期,系统识别出 29 个到期目标,其中 7 个当分钟已被真实调用覆盖、跳过不发,实际发出 22 次探针,toks 是 0 次。29 减 7 等于 22,这个数能证明分档生效了、视频渠道确实没发,但证明不了省钱省得对不对。
这里我得说明白一个口径:这三组数(29 / 7 / 22)量的都是「这一轮的一个分钟桶」,不是一整天的总量,所以不能拿去做日比。我也没有拿到改前的同口径数字,因此我不做「探针少发了百分之多少」这种对比——那需要同一天两种规则各跑一轮,今天没这个条件。
一处差点被忽略的细节
改周期的时候我发现,去重逻辑原本就写在那儿,只是我以前没细看:探针在每分钟的第 15 秒触发,故意等这一分钟前几秒的自然流量先落到用量表里,再判断「这个渠道这一分钟有没有真实请求」,有就不补。所以「每分钟检查」不等于「每分钟发请求」。
另外它每个渠道都用一把 leader 锁,注释里写着原因:两个实例在同一毫秒级窗口一起 tick,如果只提交任务就返回,锁会在毫秒内释放,另一个实例立刻拿到锁再跑一遍——生产上真的双跑过一次,20:29 那一分钟。
这两件事都不在我的改动范围里,但它们是我敢把默认值调高的前提。如果没有去重,改成 5 分钟只是让浪费变慢一点,不是变少。
改完还留着的两件事
第一,全量服务回归跳过了项目已知的 2 个异常用例。这两个不是我今天引入的,我也没去修,等于说这次发布是在「已知有两处红灯」的状态下走的。我知道这件事,但没有停下来处理——因为改的是周期选择这么一段纯函数,逐分钟覆盖一整小时的调度回归和渠道隔离用例都过了。
第二,这套分档是按渠道名和模型名写死的。以后在 UltraFast 新加模型会自动进 15 分钟,这是我有意为之;但如果有渠道改名,或者视频渠道里出现一个真能对话的模型,这条规则就会悄悄错位。代码里没有兜底,只有测试用例在盯着。
记下来的一条
一个「有没有 X 这一档」的问题,问出来之前我以为自己知道答案。今天真正的收获不是把 1 分钟改成 5 分钟,而是发现我对自己系统的默认值记错了方向。
以后再改这类参数,先让它把现状按数字列出来,再决定动哪里。凭印象算成本,方向都能搞反。