每个密钥每分钟 600 次请求:让机器人撞上限额的五种 getStatus 轮询错误
机器人手上同时跑着二三十个订单。昨天一切正常,今天却有一部分 getStatus 调用被拒绝。问题通常出在轮询循环上。我们的虚拟号码 API 按密钥限流:每分钟 600 次。用这个密钥发出的任何请求都会计入,从 getNumber 到 setStatus 都算在内。getStatus 轮询写得粗糙,就会吃掉整个机器人的请求额度。
五个吃掉限额的错误
轮询不设间隔。getStatus 外面套一个没有延时的循环,上一个响应刚回来,下一个请求就发了出去。这样一个订单就可能把密钥一分钟的额度用光。查得再勤,验证码也不会来得更快:要等目标服务向这个号码发出短信,验证码才会出现。同一订单的两次轮询之间要留出间隔,并且从收到响应的那一刻开始计时。
继续轮询已结束的订单。机器人拿到了验证码,却没有关闭订单,轮询线程还在不停地查状态。又或者订单已经过期,钱也退回了余额,号码却一直挂在队列里,直到重启才消失。验证码可用:调用 setStatus,状态设为 6(完成),订单随即移出队列。同一号码还需要再收一个验证码:状态设为 3,继续轮询。设置状态 8(取消)之后,或者 getStatus 一返回订单已关闭,就立刻把它从队列里移除。
重试不做退避(backoff)。请求因网络超时失败,或者因限额被拒,机器人马上就重发。所有 worker 都这么做的话,每一次拒绝都会引出一个新请求,密钥会一直处于超限状态,直到负载自己降下来。重试时要逐步拉长间隔,比如 1、2、4、8 秒,上限设为半分钟。再加一点随机偏移,免得所有 worker 在同一秒醒来。
所有环境共用一个密钥。生产机器人、测试环境和“临时跑一下”的脚本,分的是同一份每分钟 600 次的额度。跑一轮测试就把一分钟的额度全部用完,生产订单就查不到状态了。在控制台里可以创建多个带名称的密钥,比如 prod-bot、staging 和 local。密钥字符串我们只显示一次,之后只保存它的指纹,所以请马上把它存进密钥管理系统。这样一来,测试密钥万一泄露,直接吊销就行,不用停掉生产机器人。
超时设置不考虑激活时限。每个服务的时限各不相同,目前均为 1 小时,由服务目录决定。所有服务共用一个常量,两头都会出错。机器人提前放弃、取消了订单,而验证码本可能在剩下的几分钟里到达。机器人等得比时限还久,就会去轮询一个已经关闭的订单,而这笔订单的钱早已自动退回余额。请为每个服务单独保存超时时间。另外要注意,订单购买后至少过一分钟才能取消:机器人如果买完立刻取消,会被拒绝,然后开始反复重试。
如何把多个 worker 控制在每分钟 600 次以内
额度按轮询间隔来算最方便:
进行中的订单数 × (60 / 轮询间隔秒数) + 其他调用 ≤ 600
每 5 秒轮询一次的订单,每分钟消耗 12 次请求。如果这个密钥只用来调用 getStatus,可以同时跑 50 个订单。但 getNumber、setStatus、getBalance 和重试也都计入额度,所以要给它们留出余量,比如五分之一。这样留给 getStatus 的就是 480 次:间隔 5 秒时可跑 40 个订单,间隔 10 秒时可跑 80 个。同一个密钥上有四个 worker 的话,每个分到 10 个或 20 个订单。
再看上限。同时进行的订单数,基础上限是 100 个,实际上限取决于账户信誉。100 个订单每 5 秒轮询一次,每分钟就是 1200 次 getStatus 调用,是密钥限额的两倍。间隔改成 10 秒,正好 600 次,其他调用就没有余地了。
限额按密钥计算,不按 worker 计算,所以各个 worker 需要一个共享的限流器。最简单的做法是把轮询集中到一个循环里:每隔一个间隔,它把进行中的订单遍历一遍,再把结果分发给各个 worker。如果进程分布在不同的机器上,就把请求计数器放在共享存储里。不必在每次 getNumber 之前都查一遍余额和价格:定时调用 getBalance 和 getPrices 刷新即可。
找出被遗忘的脚本在用的密钥
在控制台打开 API 密钥列表,看一下“最后使用时间”。很久没人用的密钥,一般是原型或旧测试环境留下的。把它吊销,被遗忘的配置文件里那串密钥就会失效。如果最近还有使用记录,但从名字看不出是谁在用,就把这个脚本找出来。它的限额是单独计算的,但余额是共用的,它可能正在花你的钱买号码。用不上的密钥都吊销掉,每个仍在使用的环境各留一个名称清楚的独立密钥。