UEBoot

我问「哪些模型是 30 分钟检测一次的」,答案是 0 个

·开发日记监控

今天下午两点半,我随口问了一句:「现在有哪些模型是 30 分钟检测一次的?」

我心里有个预设:探针应该分三档,便宜的模型 30 分钟摸一次,贵的勤一点。结果回答是 0 个。生产环境里压根没有 30 分钟这一档——渠道主动监控和账号定时测试都没有配置任务,唯一在跑的模型覆盖探针只有 1 分钟和 5 分钟两档。

预设错得挺彻底。但更让我意外的是下一句:那个 1 分钟,是默认值。

我记反了这个系统的性格

我原本担心的是「有些模型测得太少,挂了没人知道」。实际情况相反:默认每分钟去敲一次每一个可探测的文本模型,只有少数渠道和模型被单独挑出来降频到 5 分钟。

也就是说,这个系统的问题不是太懒,而是太勤。

这一点我当时没意识到,是因为我一直在用「监控的完备性」这个角度想它。换成成本角度就很直白:每分钟一次,乘以渠道数、乘以模型数、乘以每天 08:00–22:30 这十四个半小时,再乘六个工作日。这个量级不该是默认值。

所以那句「哪些是 30 分钟」,问的其实是一个不存在的问题。真正的问题是:默认值该是多少,以及谁有资格比默认值慢。

改之前先把现状数清

我没有直接动手改代码,先让它把现状列出来。截至北京时间 14:38,按 5 分钟调度的有 3 个渠道、8 个探测目标:

渠道 模型数 说明
OpenAI-UltraFast 4 gpt-6-astra-fast、gpt-6-astra-ultrafast、gpt-6.1-sol-fast、gpt-6.1-sol-ultrafast
Claude 稳定 2 claude-fable-5、claude-opus-5-5
Claude 特惠 2 claude-fable-5、claude-opus-5-5

Gemini 渠道当时是停用状态,所以它名义上在 5 分钟档里,实际一个请求都不发。

这 8 个之外的全部可探测模型,都在 1 分钟档。注意 UltraFast 本来就已经在 5 分钟档了——它不是被我从 1 分钟降下来的,而是本来就被当成「特殊渠道」单列着。

我最后定的是三档,不是四档

我把周期改成了 5 / 10 / 15 分钟,把那两个极端都收掉了:

改完提交是 3eed54714,19 号 14:51 落地。代码里那段选择逻辑从「默认 1 分钟、少数降频」翻成了「默认 5 分钟、少数单独指定」,前后改动的行数是 85 加 112 减。

逐渠道对照探针周期的改前与改后:UltraFast 全渠道从 5 分钟改为 15 分钟,点名的 GPT 与 china 模型从 1 分钟改为 15 分钟,Claude 稳定与 Fable 系列从 5 分钟改为 10 分钟,其余默认可探测模型从 1 分钟放宽到 5 分钟,视频生成渠道改为停测
图 1:改前只有 1 分钟和 5 分钟两档,改后是 5 / 10 / 15 分钟三档加一个停测。同一个渠道只出现一次;没有列出的可探测模型都走最下面的默认档。

为什么视频渠道直接归零

这是我今天唯一一个「一刀砍掉」的决定,也是最容易被人质疑的一个。

探针的本质是发一条极小的对话请求,让这个模型当分钟产生一条真实用量,被动聚合那边就能出数据。它对文本模型成立,因为一次最便宜的调用就能说明「这条链路活着」。

但对着视频生成渠道发一句「只回复 hi」,什么也证明不了。它要么被模型拒掉,要么返回一段跟视频能力毫无关系的文本。这条请求本来就测不到那个渠道真正在乎的东西,却照样消耗配额。所以我把 toks 的周期直接返回 0:不是降频,是不测。

代价我认:那个渠道现在等于没有这层覆盖。如果它的文本入口哪天坏了,我不会从这里先知道。

降频的代价是我主动接受的

15 分钟档意味着:UltraFast 上某个模型如果挂了,最坏情况下要过十五分钟才有一条探针数据反映出来。这不是副作用,是我选了它。

我判断的依据是这几个渠道的流量本来就密——真有用户在用,自然流量会先把数据填上,探针只是补空窗。反过来,一个长时间没有任何真实调用的模型,晚十五分钟知道它状态,对业务几乎没影响。

这个判断我没法用数字证明。我手上没有探针成本的准确单价,也没有「某个模型从挂掉到被用户发现」的历史分布。今天能拿出来的只有一处实测:15:00 那一轮,三档刚好同时到期,系统识别出 29 个到期目标,其中 7 个当分钟已被真实调用覆盖、跳过不发,实际发出 22 次探针,toks 是 0 次。29 减 7 等于 22,这个数能证明分档生效了、视频渠道确实没发,但证明不了省钱省得对不对。

这里我得说明白一个口径:这三组数(29 / 7 / 22)量的都是「这一轮的一个分钟桶」,不是一整天的总量,所以不能拿去做日比。我也没有拿到改前的同口径数字,因此我不做「探针少发了百分之多少」这种对比——那需要同一天两种规则各跑一轮,今天没这个条件。

一处差点被忽略的细节

改周期的时候我发现,去重逻辑原本就写在那儿,只是我以前没细看:探针在每分钟的第 15 秒触发,故意等这一分钟前几秒的自然流量先落到用量表里,再判断「这个渠道这一分钟有没有真实请求」,有就不补。所以「每分钟检查」不等于「每分钟发请求」。

另外它每个渠道都用一把 leader 锁,注释里写着原因:两个实例在同一毫秒级窗口一起 tick,如果只提交任务就返回,锁会在毫秒内释放,另一个实例立刻拿到锁再跑一遍——生产上真的双跑过一次,20:29 那一分钟。

这两件事都不在我的改动范围里,但它们是我敢把默认值调高的前提。如果没有去重,改成 5 分钟只是让浪费变慢一点,不是变少。

改完还留着的两件事

第一,全量服务回归跳过了项目已知的 2 个异常用例。这两个不是我今天引入的,我也没去修,等于说这次发布是在「已知有两处红灯」的状态下走的。我知道这件事,但没有停下来处理——因为改的是周期选择这么一段纯函数,逐分钟覆盖一整小时的调度回归和渠道隔离用例都过了。

第二,这套分档是按渠道名和模型名写死的。以后在 UltraFast 新加模型会自动进 15 分钟,这是我有意为之;但如果有渠道改名,或者视频渠道里出现一个真能对话的模型,这条规则就会悄悄错位。代码里没有兜底,只有测试用例在盯着。

记下来的一条

一个「有没有 X 这一档」的问题,问出来之前我以为自己知道答案。今天真正的收获不是把 1 分钟改成 5 分钟,而是发现我对自己系统的默认值记错了方向。

以后再改这类参数,先让它把现状按数字列出来,再决定动哪里。凭印象算成本,方向都能搞反。