接口限流的四种算法

固定窗口计数器

单位时间内超阈值的请求被丢弃。

单位时间内可接收的请求有可能为阈值的2倍。

例:10秒为一单位,阈值5.

第一个10秒的后5秒接收请求5个,停止接收。

第二个10秒的签5秒接收请求5个,停止接收。

两个窗口并没有超过阈值,但前后两个5秒就是一单位时间,接收了10个请求。

滑动窗口计数器

接口限流的四种算法

每5秒可通过5个请求。

第6秒,前5秒的请求总和3<5,可通过2个请求,多的丢弃。

扫描二维码关注公众号,回复: 12219388 查看本文章

第7、8秒,前5秒的请求总和=5,不通过任何请求。

第9秒,前5秒的请求总和4<5,可通过1个请求,多的丢弃。

以此类推。

漏桶算法

其实就是生产-消费模式的消息队列。

所有请求都放入消息队列(桶)中,消费者以固定频率从桶内取请求并处理。请求数超过桶的阈值则丢弃或排队。

消费者获取请求的频率是固定的,在突发大流量请求的情况下,即便桶内请求已满且消费者自身性能足够的情况下,响应速度也无法提高。

令牌桶算法

令牌以固定频率生成并放入桶中,令牌满了则丢弃。

请求从桶内获取令牌,有令牌则执行,无令牌则丢弃。

相比漏桶,即便有突发大流量请求进来,只要有令牌就可以及时得到执行。

猜你喜欢

转载自blog.51cto.com/15067227/2603611