性能怪兽-Nginx安装、配置、代理、跨域、性能优化等最全解析

作者:gaoqiang 时间:23-03-12 阅读数:173人阅读

一、性能怪兽-Nginx概念深入浅出

Nginx是目前负载均衡技术中的主流方案,几乎绝大部分项目都会使用它,Nginx是一个轻量级的高性能HTTP反向代理服务器,同时它也是一个通用类型的代理服务器,支持绝大部分协议,如TCP、UDP、SMTP、HTTPS等。

_20230226213156.png

Nginx与Redis相同,都是基于多路复用模型构建出的产物,因此它与Redis同样具备 「「资源占用少、并发支持高」」 的特点,在理论上单节点的Nginx同时支持5W并发连接,而实际生产环境中,硬件基础到位再结合简单调优后确实能达到该数值。

先来看看Nginx引入前后,客户端请求处理流程的对比:

_20230226213258.png原本客户端是直接请求目标服务器,由目标服务器直接完成请求处理工作,但加入Nginx后,所有的请求会先经过Nginx,再由其进行分发到具体的服务器处理,处理完成后再返回Nginx,最后由Nginx将最终的响应结果返回给客户端。

二、Nginx环境搭建

1. 环境搭建

此次搭建以centos(AlmaLinux 8.6)版本搭建 默认为root用户。如你不是root用户,则每条命令前 新增 sudo

# 创建Nginx的目录并进入:
cd /usr/local
mkdir nginx && cd nginx
# 下载nginx 下载Nginx的安装包,可以通过FTP工具上传离线环境包,也可通过wget命令在线获取安装包
wget https://nginx.org/download/nginx-1.22.0.tar.gz
# 没有wget命令的可通过yum或dnf命令安装:
yum -y install wget
# 安装依赖Nginx所需依赖
dnf install gcc pcre pcre-devel zlib zlib-devel openssl openssl-devel make vim firewalld
# 解压Nginx的压缩包
tar -zxvf nginx-1.22.0.tar.gz
# 进入解压目录
cd nginx-1.22.0
# 编译配置
./configure --prefix=/usr/local/nginx --with-http_ssl_module --with-http_realip_module
# 编译并安装Nginx --默认位于/usr/local/nginx/目录下
make && make install
# 验证nginx安装
cd /usr/local/nginx/sbin
./nginx -v
# 测试nginx
./nginx -t

如下图所示:则nginx安装成功

20230226221226.png2. 配置用户

# 查看当前系统是否已经存在用户nginx
cat /etc/passwd | grep nginx
# 查看当前系统是否存在用户组nginx
cat /etc/group | grep nginx
# 如果nginx已经存在,则新一个
useradd --system --home /usr/local/nginx --shell /sbin/nologin --comment "nginx user" --user-group nginx
# 授权文件夹拥有者为nginx用户
chown -R nginx /usr/local/nginx
# 授权文件夹用户组为nginx
chgrp -R nginx /usr/local/nginx

3. 系统配置

vim /usr/lib/systemd/system/nginx.service
# 将如下内容配置到 nginx.service
[Unit]
Description=nginx web server
Documentation=http://nginx.org/en/docs/
After=network.target

[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStartPre=/usr/local/nginx/sbin/nginx -t -c /usr/local/nginx/conf/nginx.conf
ExecStart=/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
ExecReload=/usr/local/nginx/sbin/nginx -s reload
ExecStop=/usr/local/nginx/sbin/nginx -s stop
[Install]
WantedBy=default.target
# 添加完成后如果权限有问题需要进行权限设置
chmod 755 /usr/lib/systemd/system/nginx.service
systemctl daemon-reload   # 重新加载服务
systemctl start nginx   		#启动redis服务
systemctl stop nginx		#停止redis服务
systemctl restart nginx		#重新启动服务
systemctl status nginx		#查看服务当前状态
systemctl enable nginx		#设置开机自启动
systemctl disable nginx	#停止开机自启动

4. 端口配置

# 开放防火墙 80 端口
firewall-cmd --zone=public --add-port=80/tcp --permanent
# 重写加载防火墙
firewall-cmd --reload
# 或者重启防火墙
systemctl restart firewalld
# 查看开放的端口列表
firewall-cmd --zone=public --list-ports

三、Nginx conf 配置案例解析

1. Nginx 资源压缩配置案例

nginx.conf的配置如下:

http{
    # 开启压缩机制
    gzip on;
    # 指定会被压缩的文件类型(也可自己配置其他类型)
    gzip_types text/plain application/javascript text/css application/xml text/javascript image/jpeg image/gif image/png;
    # 设置压缩级别,越高资源消耗越大,但压缩效果越好
    gzip_comp_level 5;
    # 在头部中添加Vary: Accept-Encoding(建议开启)
    gzip_vary on;
    # 处理压缩请求的缓冲区数量和大小
    gzip_buffers 16 8k;
    # 对于不支持压缩功能的客户端请求不开启压缩机制
    gzip_disable "MSIE [1-6]\."; # 低版本的IE浏览器不支持压缩
    # 设置压缩响应所支持的HTTP最低版本
    gzip_http_version 1.1;
    # 设置触发压缩的最小阈值
    gzip_min_length 2k;
    # 关闭对后端服务器的响应结果进行压缩
    gzip_proxied off;
}

在上述的压缩配置中,最后一个gzip_proxied选项,可以根据系统的实际情况决定,总共存在多种选项:

off:关闭Nginx对后台服务器的响应结果进行压缩。

expired:如果响应头中包含Expires信息,则开启压缩。

no-cache:如果响应头中包含Cache-Control:no-cache信息,则开启压缩。

no-store:如果响应头中包含Cache-Control:no-store信息,则开启压缩。

private:如果响应头中包含Cache-Control:private信息,则开启压缩。

no_last_modified:如果响应头中不包含Last-Modified信息,则开启压缩。

no_etag:如果响应头中不包含ETag信息,则开启压缩。

auth:如果响应头中包含Authorization信息,则开启压缩。

any:无条件对后端的响应结果开启压缩机制。

 


2. Nginx反向代理-负载均衡

nginx.conf的配置如下:

upstream nginx_boot{  
   # 30s内检查心跳发送两次包,未回复就代表该机器宕机,请求分发权重比为1:2  
   server 192.168.1.10:8080 weight=100 max_fails=2 fail_timeout=30s;   
   server 192.168.0.10:8090 weight=200 max_fails=2 fail_timeout=30s;  
   # 这里的IP请配置成你WEB服务所在的机器IP  
}  
  
server {  
    location / {  
        root   html;  
        # 配置一下index的地址,最后加上index.ftl。  
        index  index.html index.htm index.jsp index.ftl;  
        proxy_set_header Host $host;  
        proxy_set_header X-Real-IP $remote_addr;  
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;  
        # 请求交给名为nginx_boot的upstream上  
        proxy_pass http://nginx_boot;  
    }  
}  

3. Nginx动静分离

location ~ .*\.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){  
    root   /usr/local/nginx/static_resources;   # 静态文件存放目录
    expires 7d;  
}  

配置解读:

~代表匹配时区分大小写

.*代表任意字符都可以出现零次或多次,即资源名不限制

\.代表匹配后缀分隔符.

(html|...|css)代表匹配括号里所有静态资源类型

综上所述,简单一句话概述:该配置表示匹配以.html~.css为后缀的所有资源请求。

当然也可以将静态资源上传到文件服务器中,然后location中配置一个新的upstream指向。

4. Nginx缓冲区
使用缓冲可以减少即时传输带来的带宽消耗。

关于缓冲区的配置项:

proxy_buffering:是否启用缓冲机制,默认为on关闭状态。

client_body_buffer_size:设置缓冲客户端请求数据的内存大小。

proxy_buffers:为每个请求/连接设置缓冲区的数量和大小,默认4 4k/8k。

proxy_buffer_size:设置用于存储响应头的缓冲区大小。

proxy_busy_buffers_size:在后端数据没有完全接收完成时,Nginx可以将busy状态的缓冲返回给客户端,该参数用来设置busy状态的buffer具体有多大,默认为proxy_buffer_size*2。

proxy_temp_path:当内存缓冲区存满时,可以将数据临时存放到磁盘,该参数是设置存储缓冲数据的目录。

path是临时目录的路径。

语法:proxy_temp_path path;  path是临时目录的路径

proxy_temp_file_write_size:设置每次写数据到临时文件的大小限制。

proxy_max_temp_file_size:设置临时的缓冲目录中允许存储的最大容量。

非缓冲参数项:

proxy_connect_timeout:设置与后端服务器建立连接时的超时时间。

proxy_read_timeout:设置从后端服务器读取响应数据的超时时间。

proxy_send_timeout:设置向后端服务器传输请求数据的超时时间。

具体的nginx.conf配置如下:

http{  
    proxy_connect_timeout 10;  
    proxy_read_timeout 120;  
    proxy_send_timeout 10;  
    proxy_buffering on;  
    client_body_buffer_size 512k;  
    proxy_buffers 4 64k;  
    proxy_buffer_size 16k;  
    proxy_busy_buffers_size 128k;  
    proxy_temp_file_write_size 128k;  
    proxy_temp_path /soft/nginx/temp_buffer;  
}  

上述的缓冲区参数,是基于每个请求分配的空间,而并不是所有请求的共享空间。当然,具体的参数值还需要根据业务去决定,要综合考虑机器的内存以及每个请求的平均数据大小

5. Nginx缓存机制
对于性能优化而言,缓存是一种能够大幅度提升性能的方案,因此几乎可以在各处都能看见缓存,如客户端缓存、代理缓存、服务器缓存等等,Nginx的缓存则属于代理缓存的一种。对于整个系统而言,加入缓存带来的优势额外明显:

减少了再次向后端或文件服务器请求资源的带宽消耗。

降低了下游服务器的访问压力,提升系统整体吞吐。

缩短了响应时间,提升了加载速度,打开页面的速度更快。

那么在Nginx中,又该如何配置代理缓存呢?先来看看缓存相关的配置项:

「proxy_cache_path」:代理缓存的路径。

# 语法
proxy_cache_path path [levels=levels] [use_temp_path=on|off] keys_zone=name:size [inactive=time] [max_size=size] [manager_files=number] [manager_sleep=time] [manager_threshold=time] [loader_files=number] [loader_sleep=time] [loader_threshold=time] [purger=on|off] [purger_files=number] [purger_sleep=time] [purger_threshold=time];

解释一下每个参数项的含义:

path:缓存的路径地址。

levels:缓存存储的层次结构,最多允许三层目录。

use_temp_path:是否使用临时目录。

keys_zone:指定一个共享内存空间来存储热点Key(1M可存储8000个Key)。

inactive:设置缓存多长时间未被访问后删除(默认是十分钟)。

max_size:允许缓存的最大存储空间,超出后会基于LRU算法移除缓存,Nginx会创建一个Cache manager的进程移除数据,也可以通过purge方式。

manager_files:manager进程每次移除缓存文件数量的上限。

manager_sleep:manager进程每次移除缓存文件的时间上限。

manager_threshold:manager进程每次移除缓存后的间隔时间。

loader_files:重启Nginx载入缓存时,每次加载的个数,默认100。

loader_sleep:每次载入时,允许的最大时间上限,默认200ms。

loader_threshold:一次载入后,停顿的时间间隔,默认50ms。

purger:是否开启purge方式移除数据。

purger_files:每次移除缓存文件时的数量。

purger_sleep:每次移除时,允许消耗的最大时间。

purger_threshold:每次移除完成后,停顿的间隔时间。

「proxy_cache」:开启或关闭代理缓存,开启时需要指定一个共享内存区域。

# 语法
proxy_cache zone | off;

zone为内存区域的名称,即上面中keys_zone设置的名称。

「proxy_cache_key」:定义如何生成缓存的键。

语法:

# 语法
proxy_cache_key string;

string为生成Key的规则,如$scheme$proxy_host$request_uri。

「proxy_cache_valid」:缓存生效的状态码与过期时间。

proxy_cache_valid [code ...] time;

code为状态码,time为有效时间,可以根据状态码设置不同的缓存时间。

例如:proxy_cache_valid 200 302 30m;

「proxy_cache_min_uses」:设置资源被请求多少次后被缓存。

# 语法
proxy_cache_min_uses number;

number为次数,默认为1。

「proxy_cache_use_stale」:当后端出现异常时,是否允许Nginx返回缓存作为响应。

# 语法
proxy_cache_use_stale error;

error为错误类型,可配置timeout|invalid_header|updating|http_500...。

「proxy_cache_lock」:对于相同的请求,是否开启锁机制,只允许一个请求发往后端。

# 语法
proxy_cache_lock on | off;

「proxy_cache_lock_timeout」:配置锁超时机制,超出规定时间后会释放请求。

# 语法
proxy_cache_lock_timeout time;

「proxy_cache_methods」:设置对于那些HTTP方法开启缓存。

# 语法
proxy_cache_methods method;

method为请求方法类型,如GET、HEAD等。

「proxy_no_cache」:定义不存储缓存的条件,符合时不会保存。

# 语法
proxy_no_cache string...;

string为条件,例如$cookie_nocache $arg_nocache $arg_comment;

「proxy_cache_bypass」:定义不读取缓存的条件,符合时不会从缓存中读取。

# 语法
proxy_cache_bypass string...;

和上面proxy_no_cache的配置方法类似。

「add_header」:往响应头中添加字段信息。

# 语法
add_header fieldName fieldValue;

「$upstream_cache_status」:记录了缓存是否命中的信息,存在多种情况:

MISS:请求未命中缓存。

HIT:请求命中缓存。

EXPIRED:请求命中缓存但缓存已过期。

STALE:请求命中了陈旧缓存。

REVALIDDATED:Nginx验证陈旧缓存依然有效。

UPDATING:命中的缓存内容陈旧,但正在更新缓存。

BYPASS:响应结果是从原始服务器获取的。

6. Nginx代理缓存配置

http{  
    # 设置缓存的目录,并且内存中缓存区名为hot_cache,大小为128m,  
    # 三天未被访问过的缓存自动清楚,磁盘中缓存的最大容量为2GB。  
    proxy_cache_path /soft/nginx/cache levels=1:2 keys_zone=hot_cache:128m inactive=3d max_size=2g;  
      
    server{  
        location / {  
            # 使用名为nginx_cache的缓存空间  
            proxy_cache hot_cache;  
            # 对于200、206、304、301、302状态码的数据缓存1天  
            proxy_cache_valid 200 206 304 301 302 1d;  
            # 对于其他状态的数据缓存30分钟  
            proxy_cache_valid any 30m;  
            # 定义生成缓存键的规则(请求的url+参数作为key)  
            proxy_cache_key $host$uri$is_args$args;  
            # 资源至少被重复访问三次后再加入缓存  
            proxy_cache_min_uses 3;  
            # 出现重复请求时,只让一个去后端读数据,其他的从缓存中读取  
            proxy_cache_lock on;  
            # 上面的锁超时时间为3s,超过3s未获取数据,其他请求直接去后端  
            proxy_cache_lock_timeout 3s;  
            # 对于请求参数或cookie中声明了不缓存的数据,不再加入缓存  
            proxy_no_cache $cookie_nocache $arg_nocache $arg_comment;  
            # 在响应头中添加一个缓存是否命中的状态(便于调试)  
            add_header Cache-status $upstream_cache_status;  
        }  
    }  
}  

7. 缓存清理
当缓存过多时,如果不及时清理会导致磁盘空间被“吃光”,因此我们需要一套完善的缓存清理机制去删除缓存,在之前的proxy_cache_path参数中有purger相关的选项,开启后可以帮我们自动清理缓存,但遗憾的是:**purger系列参数只有商业版的NginxPlus才能使用,因此需要付费才可使用。**

不过天无绝人之路,我们可以通过强大的第三方模块ngx_cache_purge来替代,先来安装一下该插件:①首先去到Nginx的安装目录下,创建一个cache_purge目录:

# 以下命令依次执行
cp -r /usr/local/nginx/sbin/nginx /usr/local/nginx/sbin/nginx.bak
mkdir cache_purge && cd cache_purge
wget https://github.com/FRiCKLE/ngx_cache_purge/archive/2.3.tar.gz
tar -xvzf 2.3.tar.gz
cd /usr/local/nginx/nginx-1.22.0
./configure --prefix=/soft/nginx/ --add-module=/soft/nginx/cache_purge/ngx_cache_purge-2.3/
make
cp objs/nginx /usr/local/nginx/sbin/nginx

至此,第三方缓存清除模块ngx_cache_purge就安装完成了,接下来稍微修改一下nginx.conf配置,再添加一条location规则:

location ~ /purge(/.*) {  
  # 配置可以执行清除操作的IP(线上可以配置成内网机器)  
  # allow 127.0.0.1; # 代表本机  
  allow all; # 代表允许任意IP清除缓存  
  proxy_cache_purge $host$1$is_args$args;  
}

然后再重启Nginx,接下来即可通过http://xxx/purge/xx的方式清除缓存。

8. Nginx跨域配置

在nginx.conf文件加上如下配置后,跨域请求即可生效了。

location / {  
    # 允许跨域的请求,可以自定义变量$http_origin,*表示所有  
    add_header 'Access-Control-Allow-Origin' *;  
    # 允许携带cookie请求  
    add_header 'Access-Control-Allow-Credentials' 'true';  
    # 允许跨域请求的方法:GET,POST,OPTIONS,PUT  
    add_header 'Access-Control-Allow-Methods' 'GET,POST,OPTIONS,PUT';  
    # 允许请求时携带的头部信息,*表示所有  
    add_header 'Access-Control-Allow-Headers' *;  
    # 允许发送按段获取资源的请求  
    add_header 'Access-Control-Expose-Headers' 'Content-Length,Content-Range';  
    # 一定要有!!!否则Post请求无法进行跨域!  
    # 在发送Post跨域请求前,会以Options方式发送预检请求,服务器接受时才会正式请求  
    if ($request_method = 'OPTIONS') {  
        add_header 'Access-Control-Max-Age' 1728000;  
        add_header 'Content-Type' 'text/plain; charset=utf-8';  
        add_header 'Content-Length' 0;  
        # 对于Options方式的请求返回204,表示接受跨域请求  
        return 204;  
    }  
}  

9. Nginx防盗链设计

Nginx中存在一个配置项为valid_referers,正好可以满足防盗链的需求,语法如下:

valid_referers none | blocked | server_names | string ...;
  • none:表示接受没有Referer字段的HTTP请求访问。
  • blocked:表示允许http://或https//以外的请求访问。
  • server_names:资源的白名单,这里可以指定允许访问的域名。
  • string:可自定义字符串,支配通配符、正则表达式写法
# 在动静分离的location中开启防盗链机制  
location ~ .*\.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){  
    # 最后面的值在上线前可配置为允许的域名地址  
    valid_referers blocked 192.168.1.10;  
    if ($invalid_referer) {  
        # 可以配置成返回一张禁止盗取的图片  
        # rewrite   ^/ http://xx.xx.com/NO.jpg;  
        # 也可直接返回403  
        return   403;  
    }  
      
    root   /usr/local/nginx/static_resources;  
    expires 7d;  
}  

根据上述中的内容配置后,就已经通过Nginx实现了最基本的防盗链机制,最后只需要额外重启一下就好啦!当然,对于防盗链机制实现这块,也有专门的第三方模块ngx_http_accesskey_module实现了更为完善的设计,感兴趣的小伙伴可以自行去看看。

特别说明:防盗链机制也无法解决爬虫伪造referers信息的这种方式抓取数据

10. Nginx大文件传输配置

20230226234439.png 
在传输大文件时,client_max_body_size、client_header_timeout、proxy_read_timeout、proxy_send_timeout这四个参数值都可以根据自己项目的实际情况来配置。

11. Nginx配置SLL证书
先去CA机构或从云控制台中申请对应的SSL证书,审核通过后下载Nginx版本的证书。

下载数字证书后,完整的文件总共有三个:.crt、.key、.pem:

.crt:数字证书文件,.crt是.pem的拓展文件,因此有些人下载后可能没有。

.key:服务器的私钥文件,及非对称加密的私钥,用于解密公钥传输的数据。

.pem:Base64-encoded编码格式的源证书文本文件,可自行根需求修改拓展名。

在Nginx目录下新建certificate目录,并将下载好的证书/私钥等文件上传至该目录。

# ----------HTTPS配置-----------  
server {  
    # 监听HTTPS默认的443端口  
    listen 443;  
    # 配置自己项目的域名  
    server_name www.xxx.com;  
    # 打开SSL加密传输  
    ssl on;  
    # 输入域名后,首页文件所在的目录  
    root html;  
    # 配置首页的文件名  
    index index.html index.htm index.jsp index.ftl;  
    # 配置自己下载的数字证书  
    ssl_certificate  certificate/xxx.pem;  
    # 配置自己下载的服务器私钥  
    ssl_certificate_key certificate/xxx.key;  
    # 停止通信时,加密会话的有效期,在该时间段内不需要重新交换密钥  
    ssl_session_timeout 5m;  
    # TLS握手时,服务器采用的密码套件  
    ssl_ciphers ECDHE-RSA-AES128-GCM-SHA256:ECDHE:ECDH:AES:HIGH:!NULL:!aNULL:!MD5:!ADH:!RC4;  
    # 服务器支持的TLS版本  
    ssl_protocols TLSv1 TLSv1.1 TLSv1.2;  
    # 开启由服务器决定采用的密码套件  
    ssl_prefer_server_ciphers on;  
  
    location / {  
        ....  
    }  
}  
  
# ---------HTTP请求转HTTPS-------------  
server {  
    # 监听HTTP默认的80端口  
    listen 80;  
    # 如果80端口出现访问该域名的请求  
    server_name www.xxx.com;  
    # 将请求改写为HTTPS(这里写你配置了HTTPS的域名)  
    rewrite ^(.*)$ https://www.xxx.com;  
}  

12. Nginx性能优化

优化一:打开长连接配置

通常Nginx作为代理服务,负责分发客户端的请求,那么建议开启HTTP长连接,用户减少握手的次数,降低服务器损耗,具体如下:

upstream xxx {  
    # 长连接数  
    keepalive 32;  
    # 每个长连接提供的最大请求数  
    keepalived_requests 100;  
    # 每个长连接没有新的请求时,保持的最长时间  
    keepalive_timeout 60s;  
}  
优化二、开启零拷贝技术
sendfile on; # 开启零拷贝机制  
优化三、开启无延迟或多包共发机制
tcp_nodelay on;  
tcp_nopush on;  

注意:①tcp_nodelay一般要建立在开启了长连接模式的情况下使用。②tcp_nopush参数是必须要开启sendfile参数才可使用的。

优化四、调整Worker工作进程
# 自动根据CPU核心数调整Worker进程数量  
worker_processes auto;  

同时也可以稍微调整一下每个工作进程能够打开的文件句柄数:

# 每个Worker能打开的文件描述符,最少调整至1W以上,负荷较高建议2-3W  
worker_rlimit_nofile 20000;  
优化五、开启CPU亲和机制
worker_cpu_affinity auto;
优化六、开启epoll模型及调整并发连接数
events {  
    # 使用epoll网络模型  
    use epoll;  
    # 调整每个Worker能够处理的连接数上限  
    worker_connections  10240;  
}  
 

本文链接:https://www.518wz.top/post/29.html 转载需授权!

分享到:

发表评论