促销邮件定在上午十点发,八万条收件人。脚本一跑,十分钟内全部推给投递服务。结果对方开始返回429,队列越堆越长。第一批人十点收到,最后一批下午三点才到。代码没写错,坏在限速和并发两个参数上。
限速管节奏,并发管连接
限速是单位时间内最多发多少封,比如每分钟 500 封。并发是同一时刻允许多少条连接在跑,比如 10 条。两者不是一回事。
很多人只调并发,觉得开 50 条连接就快 50 倍。实际不是。对方的接收服务器对连接数和速率都有上限,你连得越猛,越容易触发限流,返回临时错误,邮件被退回来重试,总耗时反而更长。这就像超市只开两个收银台,你挤十个人过去,谁也结不了账。
反过来,只限速不控并发也不行。每分钟 500 封,却开着 200 条连接,每条发两三封就闲置,握手成本高,还占着对方的连接池。
坑一:重试流量把限速冲垮
最常见的问题是限速只管首次发送,不管重试。对方返回4xx临时错误,很多客户端会立刻重试。原本每分钟 500 封,遇到一波超时,重试流量叠进来,实际速率翻倍,然后被限得更死,再重试,形成雪崩。
做法是把重试也纳入同一个限速器。重试任务不单独开通道,统一进队列,按退避间隔排队。否则你以为自己很守规矩,对方看到的却是你在加倍发送。
坑二:并发按任务设,不按账号收口
一个发信账号常被多个任务共用:营销一批、通知一批、事务邮件一批。每个任务各自设了 10 条并发,加起来就是 30 条。单看每个任务都合规,合起来就超了。
并发应该按发信账号或按出口 IP 统一管,而不是让任务各管各的。用一个共享计数器,任务取到号才能发,用完归还。这样任何时刻总连接数都可控。
坑三:只盯平均速率,不看瞬时尖峰
限速器做成每秒清零的计数器,容易出现前半秒发完 500 封、后半秒干等的情况。对方的检测常看短窗口,瞬时尖峰照样触发限流。
比较简单的方式是用令牌桶:按固定速率往桶里放令牌,发一封取一个,桶有上限,突发就被削平。代码不复杂,效果比固定窗口稳。
限速和并发是两道闸,单独调大任何一道,另一道都会替你承受后果。
马上能做的三件事
- 把重试流量并入同一个限速器,重试任务走退避队列,不另开通道。
- 并发计数按发信账号或出口 IP 统一管理,别让每个任务自己设并发数。
- 限速器用令牌桶替代每秒清零的固定窗口,先削掉瞬时尖峰,再谈提高总量。
