总结haproxy各调度算法的实现方式及其应用场景

企业开发 2022-07-25 01:57:59 阅读次数: 0

总结haproxy各调度算法的实现方式及其应用场景

HAProxy调度算法

HAProxy通过固定参数 balance 指明对后端服务器的调度算法，该参数可以配置在listen或backend选项中 。

HAProxy的调度算法分为静态和动态调度算法，但是有些算法可以根据参数在静态和动态算法中相互转换。

1 静态算法

静态算法：按照事先定义好的规则轮询进行调度，不关心后端服务器的当前负载、连接数和响应速度等，且无法实时动态修改权重(只能为0和1，不支持其它值)或者修改后不生效，如果需要修改只能靠重启HAProxy生效。

1.1 static-rr

static-rr：基于权重的轮询调度，该算法与轮循算法相似，只是它是静态的，这意味着动态更改服务器的权重不会产生任何影响。不支持运行时利用socat进行权重的动态调整(只支持0和1，不支持其它值)及后端服务器慢启动，其后端主机数量没有限制，相当于LVS中的 wrr

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance static-rr
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 2 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27

1.2 first

first：根据服务器在列表中的位置，自上而下进行调度，但是其只会当第一台服务器的连接数达到上限，新请求才会分配给下一台服务（一旦服务器达到其 maxconn 值，使用下一个服务器）。该算法的目的是始终使用最小的服务器数量，以便可以关闭额外的服务器在非密集时间。因此会忽略服务器的权重设置，此方式使用较少

不支持用socat进行动态修改权重，可以设置0和1，可以设置其它值但无效，该算法忽略服务器权重。

#代码实现
maxconn <maxconn> #当前后端server的最大并发连接数

[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance first
    server rs1 10.0.0.17:80 maxconn 1 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试，同时运行下面命令，观察结果
[root@client ~]#while true;do curl http://10.0.0.7/index.html ; sleep 0.1;done
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17

2 动态算法

动态算法：基于后端服务器状态进行调度适当调整，新请求将优先调度至当前负载较低的服务器，且权重可以在haproxy运行时动态调整无需重启。

2.1 roundrobin

roundrobin：基于权重的轮询动态调度算法，支持权重的运行时调整，不同于lvs中的rr轮训模式，HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)，其每个后端backend中最多支持4095个real server，支持对real server权重动态调整，roundrobin为默认调度算法，此算法使用广泛

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance roundrobin
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 2 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17

2.2 leastconn

leastconn：加权的最少连接算法，支持权重的运行时调整和慢启动，即：根据当前连接最少的后端服务器而非权重进行优先调度(新客户端连接)，比较适合长连接的场景使用，比如：MySQL等场景。

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance leastconn
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27

2.3 random

在1.9版本开始增加 random的负载平衡算法，其基于随机数作为一致性hash的key，随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用，支持weight的动态调整，weight较大的主机有更大概率获取新请求

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance random
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.27
[root@client ~]#curl 10.0.0.7
10.0.0.17

3 其他算法

其它算法既可作为静态算法，又可以通过选项成为动态算法

扫描二维码关注公众号，回复： 14396807 查看本文章

3.1 source

源地址hash，基于用户源地址hash并将请求转发到后端服务器，后续同一个源地址请求将被转发至同一个后端web服务器。此方式当后端服务器数据量发生变化时，会导致很多用户的请求转发至新的后端服务器，默认为静态方式，但是可以通过hash-type选项进行更改

这个算法一般是在不插入Cookie的TCP模式下使用，也可给不支持会话cookie的客户提供最好的会话粘性，适用于session会话保持但不支持cookie和缓存的场景

源地址有两种转发客户端请求到后端服务器的服务器选取计算方式，分别是取模法和一致性hash

3.1.1 map-base 取模法

map-based：取模法，对source地址进行hash计算，再基于服务器总权重的取模，最终结果决定将此请求转发至对应的后端服务器。此方法是静态的，即不支持在线调整权重，不支持慢启动，可实现对后端服务器均衡调度。缺点是当服务器的总权重发生变化时，即有服务器上线或下线，都会因总权重发生变化而导致调度结果整体改变，hash-type 指定的默认值为此算法

所谓取模运算，就是计算两个数相除之后的余数，10%7=3, 7%4=3
map-based算法：基于权重取模，hash(source_ip)%所有后端服务器相加的总权重

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance source
    hash-type map-based
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17

3.1.2 一致性 hash

一致性哈希，当服务器的总权重发生变化时，对调度结果影响是局部的，不会引起大的变动，hash（o）mod n ，该hash算法是动态的，支持使用 socat等工具进行在线权重调整，支持慢启动

算法：

1、key1=hash(source_ip)%(2^32) [0---4294967295]
2、keyA=hash(后端服务器虚拟ip)%(2^32)
3、将key1和keyA都放在hash环上，将用户请求调度到离key1最近的keyA对应的后端服务器

hash环偏斜问题：

增加虚拟服务器IP数量，比如：一个后端服务器根据权重为1生成1000个虚拟IP，再hash。而后端服务器权
重为2则生成2000的虚拟IP，再进行hash运算，最终在hash环上生成3000个节点，从而解决hash环偏斜问题

一致性hash示意图：后端服务器在线与离线的调度方式

在这里插入图片描述

#代码实现
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance source
    hash-type consistent
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17
[root@client ~]#curl 10.0.0.7
10.0.0.17

3.2 uri

基于对用户请求的URI的左半部分或整个uri做hash，再将hash结果对总权重进行取模后，根据最终结果将请求转发到后端指定服务器，这确保了只要没有服务器启动或关闭，相同的URI将始终定向到同一台服务器。适用于后端是缓存服务器场景，以最大限度地提高缓存命中率。默认是静态算法，也可以通过hash-type指定map-based和consistent，来定义使用取模法还是一致性hash。

注意：此算法基于应用层，所以只支持 mode http ，不支持 mode tcp

<scheme>://<user>:<password>@<host>:<port>/<path>;<params>?<query>#<frag>
左半部分：/<path>;<params>
整个uri：/<path>;<params>?<query>#<frag>

#代码实现
[root@rs1 ~]#cd /var/www/html/
[root@rs1 html]#ls
index.html
[root@rs1 html]#for i in {1..10};do echo test$i on 10.0.0.17 > test$i.html;done
[root@rs1 html]#ls
index.html   test1.html  test3.html  test5.html  test7.html  test9.html
test10.html  test2.html  test4.html  test6.html  test8.html

[root@rs2 ~]#cd /var/www/html/
[root@rs2 html]#ls
index.html
[root@rs2 html]#for i in {1..10};do echo test$i on 10.0.0.27 > test$i.html;done
[root@rs2 html]#ls
index.html   test1.html  test3.html  test5.html  test7.html  test9.html
test10.html  test2.html  test4.html  test6.html  test8.html

#uri 一致性hash
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance uri
    hash-type consistent
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试，访问不同的uri，确认可以将用户同样的请求转发至相同的服务器
[root@client ~]#curl 10.0.0.7/test1.html
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test1.html
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test1.html
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test1.html
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test2.html
test2 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test3.html
test3 on 10.0.0.27
[root@client ~]#curl 10.0.0.7/test3.html
test3 on 10.0.0.27
[root@client ~]#curl 10.0.0.7/test3.html
test3 on 10.0.0.27

3.3 url_param

url_param对用户请求的url中的 params 部分中的一个参数key对应的value值作hash计算，并由服务器总权重相除以后派发至某挑出的服务器；通常用于追踪用户，以确保来自同一个用户的请求始终发往同一个real server，如果无没key，将按roundrobin算法

#假设：
url = http://www.baidu.com/foo/bar/index.php?key=value

#则：
host = "www.baidu.com"
url_param = "key=value"

#代码实现
#url_param一致性hash
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance url_param userid
    hash-type consistent
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7/test4.html?userid=chen
test4 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test4.html?userid=chen
test4 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test4.html?userid=chen
test4 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test1.html?userid=chen
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/index.html?userid=chen
10.0.0.17
[root@client ~]#curl 10.0.0.7/index.html?userid=zhang
10.0.0.27
[root@client ~]#curl 10.0.0.7/index.html?userid=zhang
10.0.0.27
[root@client ~]#curl 10.0.0.7/index.html?userid=zhang
10.0.0.27

3.4 hdr

针对用户每个http头部(header)请求中的指定信息做hash，此处由 name 指定的http首部将会被取出并做hash计算，然后由服务器总权重取模以后派发至某挑出的服务器，如果无有效值，则会使用默认的轮询调度。

#代码实现
#hdr 一致性hash
[root@haproxy ~]#cat /etc/haproxy/conf.d/test.cfg
listen ha1_web_80
    bind 10.0.0.7:80
    balance hdr(User-Agent)
    hash-type consistent
    server rs1 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server rs2 10.0.0.27:80 weight 1 check inter 3000 fall 2 rise 5
    server local 127.0.0.1:80 backup

[root@haproxy ~]#systemctl reload haproxy.service

#测试
[root@client ~]#curl 10.0.0.7/index.html
10.0.0.17
[root@client ~]#curl 10.0.0.7/test1.html
test1 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test2.html
test2 on 10.0.0.17
[root@client ~]#curl 10.0.0.7/test3.html
test3 on 10.0.0.17
[root@client ~]#curl -A "IE" 10.0.0.7/test4.html
test4 on 10.0.0.27
[root@client ~]#curl -A "Chrome18" 10.0.0.7/test4.html
test4 on 10.0.0.17
[root@client ~]#curl -A "Chrome28" 10.0.0.7/test4.html
test4 on 10.0.0.27
[root@client ~]#curl -A "firefox" 10.0.0.7/test4.html
test4 on 10.0.0.17

3.5 rdp-cookie

rdp-cookie对windows远程桌面的负载，使用cookie保持会话，默认是静态，也可以通过hash-type
指定map-based和consistent，来定义使用取模法还是一致性hash。

注意：要实现此算法，需要Windows系统支持远程桌面功能。由于系统不支持远程桌面，所以不再演示。

在这里插入图片描述

4 算法总结

#静态
static-rr--------->tcp/http
first------------->tcp/http

#动态
roundrobin-------->tcp/http
leastconn--------->tcp/http
random------------>tcp/http

#以下静态和动态取决于hash_type是否consistent
source------------>tcp/http
Uri--------------->http
url_param--------->http
hdr--------------->http
rdp-cookie-------->tcp

5 各种算法使用场景

first #使用较少

static-rr #做了session共享的 web 集群
roundrobin 
random

leastconn #数据库
source #基于客户端公网 IP 的会话保持

Uri--------------->http #缓存服务器，CDN服务商，蓝汛、百度、阿里云、腾讯
url_param--------->http #可以实现session保持

hdr #基于客户端请求报文头部做下一步处理

rdp-cookie #基于Windows主机，很少使用

猜你喜欢

转载自blog.csdn.net/weixin_51867896/article/details/124259676
今日推荐
周排行
成为C++高手之宏与枚举
在CAD二次开发中使用进度条
Js插件ECharts，HighCharts学习网址整理
Celery提交任务出错(on windows.)
cephfs内核客户端性能追踪
thinkphp中PHPExcel用法
EntityFramework动态组合多排序字段
汇编语言（八）实验9 根据材料编程
安装ubuntu后必须做的事情（对我而言）
JS函数式编程
每日归档
更多
2024-10-22(0)
2024-10-21(0)
2024-10-20(0)
2024-10-19(0)
2024-10-18(0)
2024-10-17(0)
2024-10-16(0)
2024-10-15(0)
2024-10-14(0)
2024-10-13(0)

代码天地 © 2018 codetd.com

境外服务器   最新电视剧2022