负载均衡
负载均衡(反向代理)概念
什么是集群?
- 完成相同任务或者工作的一组服务器(web01 web02 web03 --- web集群)
Nginx代理服务基本概述
1.代理一词往往并不陌生, 该服务我们常常用到如(代理理财、代理租房、代理收货等等),如下图所示
2.在没有代理模式的情况下,客户端和 Nginx 服务端,都是客户端直接请求服务端,服务端直接响应客户端。
3.那么在互联网请求里面, 客户端往往无法直接向服务端发起请求, 那么就需要用到代理服务, 来实现客户端和服务通信,如下图所示
什么是代理?
- 反向代理:外网 → (外网网卡)代理服务器(内网网卡) → 公司网站服务器web(内网)
- 正向代理:内网(局域网主机) → (内网网卡)代理服务器(外网网卡) → 互联网 → web服务器(国外)
Nginx代理服务支持的协议
1.Nginx 作为代理服务,可支持的代理协议非常的多,具体如下图
2.如果将 Nginx 作为反向代理服务,常常会用到如下几种代理协议,如下图所示
3.反向代理模式与 Nginx 代理模块总结如表格
反向代里模式 | Nginx配置模块 |
---|---|
http、websocket、https | ngx_http_proxy_module |
fastcgi | ngx_http_fastcgi_module |
uwsgi | ngx_http_uwsgi_module |
grpc | ngx_http_v2_module |
Nginx负载均衡概述
什么是负载均衡?
- 实现用户访问请求进行调度分配
- 实现用户访问压力分担
为什么需要负载均衡
我们的 Web 服务器直接面向用户,往往要承载大量并发请求,单台服务器难以负荷,我使用多台 WEB 服务器组成集群,前端使用 Nginx 负载均衡,将请求分散的打到我们的后端服务器集群中,实现负载的分发。那么会大大提升系统的吞吐率、请求性能、高容灾
往往我们接触的最多的是 SLB(Server Load Balance)负载均衡,实现最多的也是 SLB、那么 SLB 它的调度节点和服务节点通常是在一个地域里面。那么它在这个小的逻辑地域里面决定了他对部分服务的实时性、响应性是非常好的。
所以说当海量用户请求过来以后,它同样是请求调度节点,调度节点将用户的请求转发给后端对应的服务节点,服务节点处理完请求后在转发给调度节点,调度节点最后响应给用户节点。这样也能实现一个均衡的作用,那么Nginx 则是一个典型的 SLB
Nginx负载均衡配置场景
1.四层负载均衡
所谓四层负载均衡指的是 OSI 七层模型中的传输层,那么传输层 Nginx 已经能支持 TCP/IP 的控制,所以只需要对客户端的请求进行 TCP/IP 协议的包转发就可以实现负载均衡,那么它的好处是性能非常快、只需要底层进行应用处理,而不需要进行一些复杂的逻辑
2.七层负载均衡
七层负载均衡它是在应用层,那么它可以完成很多应用方面的协议请求,比如我们说的 http 应用的负载均衡,它可以实现 http 信息的改写、头信息的改写、安全应用规则控制、 URL 匹配规则控制、以及转发、 rewrite 等等的规则,所以在应用层的服务里面,我们可以做的内容就更多,那么 Nginx 则是一个典型的七层负载均衡 SLB
3.四层负载均衡与七层负载均衡区别
四层负载均衡数据包在底层就进行了分发,而七层负载均衡数据包则是在最顶层进行分发、由此可以看出,七层负载均衡效率没有四负载均衡高。
但七层负载均衡更贴近于服务,如:http 协议就是七层协议,我们可以用 Nginx 可以作会话保持, URL 路径规则匹配、 head 头改写等等,这些是四层负载均衡无法实现的
Nginx负载均衡调度算法
调度算法 | 概述 |
---|---|
轮询 | 按时间顺序逐一分配到不同的后端服务器(默认) |
weight | 加权轮询,weight值越大,分配到的访问几率越高 |
ip_hash | 每个请求按访问IP的hash结果分配,这样来自同一IP的固定访问一个后端服务器 |
url_hash | 按照访问URL的hash结果来分配请求,是每个URL定向到同一个后端服务器 |
least_conn | 最少连接数,那个机器连接数少就分发 |
Nginx负载均衡配置参数
状态 | 概述 |
---|---|
down | 当前的server暂时不参与负载均衡 |
backup | 预留的备用服务器 |
max_fails | 允许请求失败的次数 |
fail_timeout | 经过max_fails失败后,服务暂停时间 |
max_conns | 限制最大的接收连接数 |
Nginx反向代理负载均衡关系图
负载均衡环境准备
负载均衡服务器部署
第一个历程:安装nginx
[root@lb01 ~]# yum -y install nginx
第二个历程:编写nginx负载均衡服务配置文件
nginx模块:ngx_http_upstream_module --- upstream 负载均衡
nginx模块:ngx_http_proxy_module --- proxy_pass 反向代理
[root@lb01 nginx]# vim nginx.conf user www; worker_processes 1; error_log /var/log/nginx/error.log warn; pid /var/run/nginx.pid; events { worker_connections 1024; } http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; access_log /var/log/nginx/access.log main; sendfile on; keepalive_timeout 65; include /etc/nginx/conf.d/*.conf; } [root@lb01 conf.d]# vim lb.conf upstream test { server 10.0.1.7:80; server 10.0.1.8:80; server 10.0.1.9:80; } server { listen 80; server_name blog.test.com; location / { proxy_pass http://test; } }
测试
负载均衡访问网站异常排错思路
第一步:负载均衡 测试后端web节点服务器是否能够正常访问 第二步:负载均衡 利用curl命令访问负载均衡服务器 第三步:打开一个Xshell连接 ping域名或IP地址 第四步:配置文件编写不正确
负载均衡配置模块详细说明
负载均衡:ngx_http_upstream_module
实现不同调度功能
- 轮询分配请求(平均)
- 权重分配请求(能力越强责任越重)
[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf upstream test { server 10.0.1.7:80 weight=3; server 10.0.1.8:80 weight=2; server 10.0.1.9:80 weight=1; }
- 实现热备功能
[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf upstream test { server 10.0.1.7:80 ; server 10.0.1.8:80 ; server 10.0.1.9:80 backup; }
- 定义最大失败次数(健康检查参数)
[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf upstream test { server 10.0.1.7:80 max_fails=5; server 10.0.1.8:80 ; server 10.0.1.9:80 ; }
- 定义失败之后重发得到间隔时间(健康检查参数)
[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf upstream test { server 10.0.1.7:80 fail_timeout=10s; -- 会给失败的服务器一次机会 server 10.0.1.8:80 ; server 10.0.1.9:80 ; }
实现不同的调度算法
- rr 轮询调度算法
- weight 权重调度算法
- ip_hash 算法(当访问登录网站出现反复登录的时候需要配置)
- least_conn 根据服务器连接数分配资源
反向代理:ngx_http_proxy_module
Nginx反向代理配置语法
1.Nginx代理配置语法
Syntax: proxy_pass URL; Default: — Context: location, if in location, limit_except http://localhost:8000/uri/ http://192.168.56.11:8000/uri/ http://unix:/tmp/backend.socket:/uri/
2.添加传递给后端服务器的请求头信息
Syntax: proxy_set_header field value; Default: proxy_set_header Host $proxy_host; proxy_set_header Connection close; Context: http, server, location # 用户请求的时候 HOST 的值是 www.oldboy.com, 那么代理服务会像后端传递请求的还是 www.oldboy.com proxy_set_header Host $http_host; # 将$remote_addr 的值放进变量 X-Real-IP 中, $remote_addr 的值为客户端的 ip proxy_set_header X-Real-IP $remote_addr; # 客户端通过代理服务访问后端服务, 后端服务通过该变量会记录真实客户端地址 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
3.代理到后端的TCP连接数,响应,返回等超时时间
//nginx 代理与后端服务器连接超时时间(代理连接超时) Syntax: proxy_connect_timeout time; Default: proxy_connect_timeout 60s; Context: http, server, location //nginx 代理等待后端服务器的响应时间 Syntax: proxy_read_timeout time; Default: proxy_read_timeout 60s; Context: http, server, location //后端服务器数据回传给 nginx 代理超时时间 Syntax: proxy_send_timeout time; Default: proxy_send_timeout 60s; Context: http, server, location
4.代理缓冲区
//nignx 会把后端返回的内容先放到缓冲区当中,然后再返回给客户端,边收边传, 不是全部接收完再传给客户端 Syntax: proxy_buffering on | off; Default: proxy_buffering on; Context: http, server, location //设置 nginx 代理保存用户头信息的缓冲区大小 Syntax: proxy_buffer_size size; Default: proxy_buffer_size 4k|8k; Context: http, server, location //proxy_buffers 缓冲区 Syntax: proxy_buffers number size; Default: proxy_buffers 8 4k|8k; Context: http, server, location
- 访问不同的网站地址,不能显示不同的网站页面
#如想实现访问不同的网站地址,显示不同的网站页面则需要配置以下参数 location / { proxy_pass http://test; proxy_set_header Host $host; }
- 对访问网站用户真实地址信息无法进行统计
#如想实现对访问网站用户真实地址信息进行统计则配置以下参数 proxy_set_header X-Forwarded-For $remote_addr; location / { proxy_pass http://test; proxy_set_header X-Forwarded-For $remote_addr; }
- 访问负载均衡会出现错误页面,影响用户体验
#如想实现访问负载均衡不会出现错误页面 location / { proxy_next_upstream http_404 http_403; }
负载均衡应用
根据用户访问的uri信息进行负载均衡
根据用户访问的uri信息进行负载均衡
服务器 | IP地址 |
---|---|
web01 | 10.0.1.7 |
web02 | 10.0.1.8 |
web03 | 10.0.1.9 |
lb01 | 10.0.1.5 |
第一个历程:架构环境规划
- /upload 集群-10.0.1.8:80 html/www/upload upload服务器集群 - /static 集群-10.0.1.7:80 html/www/statice static服务器集群 - / 集群-10.0.1.9:80 html/www default服务器集群
web01上进行环境部署
[root@web01 ~]# mkdir /html/www/static [root@web01 ~]# echo "static-web_10.0.1.7" >/html/www/static/index.html
web02上进行环境部署
[root@web02 ~]# mkdir /html/www/upload [root@web02 ~]# echo "upload-web_10.0.1.8" >/html/www/upload/index.html
web03上进行环境部署
[root@web03 ~]# echo "default-web_10.0.1.9" >/html/www/index.html
第二个历程:编写负载均衡配置文件
[root@lb01 ~]# vim /etc/nginx/conf.d/lb.conf upstream static { server 10.0.1.7:80; } upstream upload { server 10.0.1.8:80; } upstream default { server 10.0.1.9:80; } server { listen 80; server_name www.test.com; location / { proxy_pass http://default; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_next_upstream error timeout http_404 http_403 http_502; } location /static/ { proxy_pass http://static; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_next_upstream error timeout http_404 http_403 http_502; } location /upload/ { proxy_pass http://upload; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_next_upstream error timeout http_404 http_403 http_502; } }
第三个历程:进行访问测试
[root@lb01 ~]# curl -H host:www.test.com 10.0.1.5 default-web_10.0.1.9 [root@lb01 ~]# curl -H host:www.test.com 10.0.1.5/static/ static-web_10.0.1.7 [root@lb01 ~]# curl -H host:www.test.com 10.0.1.5/upload/ upload-web_10.0.1.8 [root@lb01 ~]#
网站集群动静分离总结
提高网站服务安全性
管理操作工作简化
可以划分不同人员管理不同集群服务器
根据用户访问的终端信息显示不同页面
第一个历程:准备环境
iphone www.test.com --- iphone_access 10.0.1.7:80 移动端集群 谷歌 www.test.com --- google_access 10.0.1.8:80 web端集群 IE 360 www.test.com --- default_access 10.0.1.9:80 deault端集群
web01
[root@web01 ~]# echo "iphone_access 10.0.1.7" > /html/www/index.html
web02
[root@web02 ~]# echo "google_access 10.0.1.8" >/html/www/index.html
web03
[root@web03 ~]# echo "default_access 10.0.1.9" >/html/www/index.html
第二个历程:配置负载均衡文件
[root@lb01 ~]# vim /etc/nginx/conf.d/lb.conf upstream iphone { server 10.0.1.7:80; } upstream google { server 10.0.1.8:80; } upstream default { server 10.0.1.9:80; } server { listen 80; server_name www.test.com; location / { if ($http_user_agent ~* iphone) { proxy_pass http://iphone; } if ($http_user_agent ~* Chrome) { proxy_pass http://google; } proxy_pass http://default; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_next_upstream error timeout http_404 http_403 http_502; } }
第三个历程:进行访问测试
[root@lb01 ~]# curl -A iphone -H host:www.test.com 10.0.1.5 iphone_access 10.0.1.7 [root@lb01 ~]# curl -A Chrome -H host:www.test.com 10.0.1.5 google_access 10.0.1.8 [root@lb01 ~]# curl -A xx -H host:www.test.com 10.0.1.5 default_access 10.0.1.9