nginx_uWSGI_django_virtualenv_supervisor发布web服务器

导论

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
WSGI是Web服务器网关接口。它是一个规范,描述了Web服务器如何与Web应用程序通信,以及Web应用程序如何链接在一起以处理一个请求,(接收请求,处理请求,响应请求)
基于wsgi运行的框架有bottle,DJango,Flask,用于解析动态HTTP请求
支持WSGI的服务器
wsgiref
python自带的web服务器
Gunicorn
用于linux的 python wsgi Http服务器,常用于各种django,flask结合部署服务器。
mode_wsgi
实现了Apache与wsgi应用程序的结合
uWSGI
C语言开发,快速,自我修复,开发人员友好的WSGI服务器,用于Python Web应用程序的专业部署和开发。

在部署python程序web应用程序时,可以根据性能的需求,选择合适的wsgi server,不同的wsgi server区别在于并发支持上,有单线程,多进程,多线程,协程的区别,其功能还是近似,无非是请求路由,执行对应的函数,返回处理结果。




Django部署

Django的主要部署平台是 WSGI,这是用于Web服务器和应用程序的Python标准。

Django的 startproject管理命令设置一个简单的默认WSGI配置,可以根据需要为您的项目进行调整,并指示任何符合WSGI的应用程序服务器使用。

application
使用WSGI部署的关键概念是应用程序服务器用于与代码通信的 application 可调用。它通常在服务器可访问的Python模块中作为名为 application 的对象提供。

startproject 命令创建包含这样的 application 可调用的文件 <project_name>/wsgi.py. ,它被Django的开发服务器和生产WSGI部署使用。
WSGI服务器从其配置中获取 application 可调用的路径。 Django的内置服务器,即 runserver 命令,从 WSGI_APPLICATION 设置读取它。

为什么用nginx和uwsgi

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
1、首先nginx 是对外的服务接口,外部浏览器通过url访问nginx,

2、nginx 接收到浏览器发送过来的http请求,将包进行解析,分析url,如果是静态文件请求就直接访问用户给nginx配置的静态文件目录,直接返回用户请求的静态文件,

如果不是静态文件,而是一个动态的请求,那么nginx就将请求转发给uwsgi,uwsgi 接收到请求之后将包进行处理,处理成wsgi可以接受的格式,并发给wsgi,wsgi 根
据请求调用应用程序的某个文件,某个文件的某个函数,最后处理完将返回值再次交给wsgi,wsgi将返回值进行打包,打包成uwsgi能够接收的格式,uwsgi接收wsgi 发
送的请求,并转发给nginx,nginx最终将返回值返回给浏览器。

1、要知道第一级的nginx并不是必须的,uwsgi完全可以完成整个的和浏览器交互的流程,但是要考虑到某些情况
安全问题,程序不能直接被浏览器访问到,而是通过nginx,nginx只开放某个接口,uwsgi本身是内网接口,这样运维人员在nginx上加上安全性的限制,可以达到保护程序的作用。

2、负载均衡问题,一个uwsgi很可能不够用,即使开了多个work也是不行,毕竟一台机器的cpu和内存都是有限的,有了nginx做代理,一个nginx可以代理多台uwsgi完成uwsgi的负载均衡。

3、静态文件问题,用django或是uwsgi这种东西来负责静态文件的处理是很浪费的行为,而且他们本身对文件的处理也不如nginx好,所以整个静态文件的处理都直接由nginx完成,静态文件
的访问完全不去经过uwsgi以及其后面的东西。

为什么要用nginx,uwsgi

nginx有关

nginx官网

http://nginx.org/en/

nginx有关uwsgi模块介绍

http://nginx.org/en/docs/http/ngx_http_uwsgi_module.html

nginx、WSGI、uwsgi、uWSGI、django这几个关系

wsgi 全称web server gateway interface,wsgi不是服务器,也不是python模块,只是一种协议,
描述web server如何和web application通信的规则。运行在wsgi上的web框架有bottle,flask,django
uwsgi 和wsgi一样是通信协议,是uWSGI服务器的单独协议,用于定义传输信息的类型
uWSGI 是一个web服务器,实现了WSGI协议,uwsgi协议。a
nginx web服务器,更加安全,更好的处理处理静态资源,缓存功能,负载均衡,因此nginx的强劲性能,配合uWSGI服务器会更加安全,性能有保障。
django 高级的python web框架,用于快速开发,解决web开发的大部分麻烦,程序员可以更专注业务逻辑,无须重新造轮子

Django Nginx+uwsgi安装配置

以前我们使用 python manage.py runserver 来运行服务器。
这只适用测试环境中使用。正式发布的服务,需要一个可以稳定而持续的服务器。

基础开发环境配置

yum groupinstall "Development tools"
yum install zlib-devel bzip2-devel pcre-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel

提前安装好

python3环境

virtualenv

django1.11.11

安装django1.11

pip3 install django==1.11

创建django项目mysite

django-admin startproject mysite

创建app01

python3 manage.py startapp app01
mysite/settings.py

settings.py设置

ALLOWED_HOSTS = ['*']
install app01
mysite/urls.py

from app01 import views
urlpatterns = [
    url(r'^admin/', admin.site.urls),
    url(r'^hello_django/', views.hello),
]

app01/views.py

from django.shortcuts import render,HttpResponse

# Create your views here.
def hello(request):
    print('request is :',request)
    return HttpResponse('django is ok ')

安装uWSGI

进入虚拟环境venv,安装uwsgi
(venv) [root@slave 192.168.11.64 /opt]$pip3 install uwsgi
检查uwsgi版本
(venv) [root@slave 192.168.11.64 /opt]$uwsgi --version
2.0.17.1

检查uwsgi python版本

uwsgi --python-version

运行简单的uWSGI

启动一个python

uwsgi --http :8000 --wsgi-file test.py
http :8000: 使用http协议,端口8000
wsgi-file test.py: 加载指定的文件,test.py
#test.py
def application(env, start_response):
    start_response('200 OK', [('Content-Type','text/html')])
    return [b"Hello World"] # python3

uWsgi热加载python程序

1
2
3
4
5
6
在启动命令后面加上参数
uwsgi --http :8088 --module mysite.wsgi --py-autoreload=1
#发布命令
command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi
#此时修改django代码,uWSGI会自动加载django程序,页面生效
复制代码

运行django程序

#mysite/wsgi.py  确保找到这个文件
uwsgi --http :8000 --module mysite.wsgi
module mysite.wsgi: 加载指定的wsgi模块

uwsgi配置文件

uwsgi支持ini、xml等多种配置方式,本文以 ini 为例, 在/etc/目录下新建uwsgi_nginx.ini,添加如下配置:

# mysite_uwsgi.ini file
[uwsgi]

# Django-related settings
# the base directory (full path)
chdir           = /opt/mysite
# Django's wsgi file
module          = mysite.wsgi
# the virtualenv (full path)
home            = /opt/venv
# process-related settings
# master
master          = true
# maximum number of worker processes
processes       = 1
# the socket (use the full path to be safe
socket          = 0.0.0.0:8000
# ... with appropriate permissions - may be needed
# chmod-socket    = 664
# clear environment on exit
vacuum          = true

指定配置文件启动命令

uwsgi --ini  /etc/uwsgi_nginx.ini

配置nginx结合uWSGI

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
worker_processes  1;
error_log logs/error.log;
pid logs/nginx.pid;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
access_log logs/access.log main;
sendfile on;
keepalive_timeout 65;
  #nginx反向代理uwsgi
server {
listen 80;
server_name 192.168.11.64;
location / {
     #nginx自带ngx_http_uwsgi_module模块,起到nginx和uwsgi交互作用
#通过uwsgi_pass设置服务器地址和协议,讲动态请求转发给uwsgi处理
include /opt/nginx1-12/conf/uwsgi_params;
uwsgi_pass 0.0.0.0:8000;
root html;
index index.html index.htm;
}
     #nginx处理静态页面资源
     location /static{
        alias /opt/nginx1-12/static;   
}
     #nginx处理媒体资源
     location /media{
        alias /opt/nginx1-12/media;  
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                    '$status $body_bytes_sent "$http_referer" '
                    '"$http_user_agent" "$http_x_forwarded_for"';
    access_log  logs/access.log  main;
    sendfile        on;
    keepalive_timeout  65;
    upstream crm_django {
        server 192.168.12.77:8000;
    }

    # 虚拟主机一
    server {
        listen       80;
        server_name  www.xx.com;
        location / {
            uwsgi_pass  crm_django;
            include /opt/nginx1-12/conf/uwsgi_params;
        }
        location /static {
            alias /opt/static/;
        }
    }

以上配置完启动nginx

supervisor

supervisor 是基于 python 的任务管理工具,用来自动运行各种后台任务,当然你也能直接利用 nohup 命令使任务自动后台运行,
但如果要重启任务,每次都自己手动 kill 掉任务进程,这样很繁琐,而且一旦程序错误导致进程退出的话,系统也无法自动重载任务。

这里要配置基于virtualenv的supervisor

由于supervisor在python3下无法使用,因此只能用python2去下载!!!!!!

#注意此时已经退出虚拟环境了!!!!!
yum install python-setuptools
easy_install supervisor
通过命令生成supervisor的配支文件

echo_supervisord_conf > /etc/supervisord.conf
然后再/etc/supervisord.conf末尾添加上如下代码!!!!!!
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

supervisord.conf配置文件参数解释
[program:xx]是被管理的进程配置参数,xx是进程的名称
[program:xx]
command=/opt/apache-tomcat-8.0.35/bin/catalina.sh run ; 程序启动命令
autostart=true ; 在supervisord启动的时候也自动启动
startsecs=10 ; 启动10秒后没有异常退出,就表示进程正常启动了,默认为1秒
autorestart=true ; 程序退出后自动重启,可选值:[unexpected,true,false],默认为unexpected,表示进程意外杀死后才重启
startretries=3 ; 启动失败自动重试次数,默认是3
user=tomcat ; 用哪个用户启动进程,默认是root
priority=999 ; 进程启动优先级,默认999,值小的优先启动
redirect_stderr=true ; 把stderr重定向到stdout,默认false
stdout_logfile_maxbytes=20MB ; stdout 日志文件大小,默认50MB
stdout_logfile_backups = 20 ; stdout 日志文件备份数,默认是10
; stdout 日志文件,需要注意当指定目录不存在时无法正常启动,所以需要手动创建目录(supervisord 会自动创建日志文件)
stdout_logfile=/opt/apache-tomcat-8.0.35/logs/catalina.out
stopasgroup=false ;默认为false,进程被杀死时,是否向这个进程组发送stop信号,包括子进程
killasgroup=false ;默认为false,向进程组发送kill信号,包括子进程
1
2
3
4
[program:my]
#command=/opt/venv/bin/uwsgi --ini /etc/uwsgi_nginx.ini #这里是结合virtualenv的命令 和supervisor的精髓!!!!
command= /home/venv/bin/uwsgi --uwsgi 0.0.0.0:8000 --chdir /opt/mysite --home=/home/venv --module mysite.wsgi
#--home指的是虚拟环境目录 --module找到 mysite/wsgi.py

最后启动supervisor,完成uWSGI启动django,nginx反向代理

supervisord -c /etc/supervisord.conf #启动supervisor
supervisorctl -c /etxc/supervisord.conf restart my #重启my项目
supervisorctl -c /etc/supervisord.conf [start|stop|restart] [program-name|all]

重新加载supervisor

一、添加好配置文件后

二、更新新的配置到supervisord    

supervisorctl update
三、重新启动配置中的所有程序

supervisorctl reload
四、启动某个进程(program_name=你配置中写的程序名称)

supervisorctl start program_name
五、查看正在守候的进程

supervisorctl
六、停止某一进程 (program_name=你配置中写的程序名称)

pervisorctl stop program_name
七、重启某一进程 (program_name=你配置中写的程序名称)

supervisorctl restart program_name
八、停止全部进程

supervisorctl stop all
注意:显示用stop停止掉的进程,用reload或者update都不会自动重启。

django的静态文件与nginx配置 重点

django的静态文件与nginx配置
mysite/settings.py

STATIC_ROOT='/opt/nginx1-12/static'
STATIC_URL = '/static/'
STATICFILES_DIRS=[
    os.path.join(BASE_DIR,"static"),
]
上述的参数STATIC_ROOT用在哪?

通过python3 manage.py collectstatic 收集所有你使用的静态文件保存到STATIC_ROOT!

STATIC_ROOT 文件夹 是用来将所有STATICFILES_DIRS中所有文件夹中的文件,以及各app中static中的文件都复制过来
# 把这些文件放到一起是为了用nginx等部署的时候更方便

总结

linux基本管理命令

服务器上安装服务,python3.6(宿主机上的物理解释器)
1.虚拟解释器
virtualenv
虚拟出多个干净、隔离的python解释器环境
问题:管理上较为麻烦,需要找到venv的路径,并且source activate 才能激活虚拟环境
2.
virtualenvwrapper工具
更为方便的使用以及管理virtualenv
1.配置好环境变量之后,每次开机就加载这个软件
2.workon 激活并且切换多个虚拟环境
mkvirtualenv  创建
lsvirtualenv
cdvirtualenv
rmvirtualenv

mariadb

mariadb(mysql),与django连接,存储数据(yum install mariadb-server mariadb-client)
初始化连接数据库
    __init.py__
    import pymysql 
    pymysql.install()
本地django连接linux上的数据库注意事项:
1.防火墙问题,需配置规则,或者关闭防火墙
    使用云服务器的同学,需要注意开通3306端口(安全组功能)
2.远程连接mysql,需要授权,远程连接
grant all privileges .....

edis

import redis 

准备django项目

准备django项目 >  crm 在服务器上运行crm

1.把本地代码,传至linux
-scp(linux与linux网络传输)
-xshell(yum install lrzsz) (windows)
lrzsz 可以通过如下俩命令管理文件,也可以直接拖拽文件
rz 接收
sz 发送
lrzsz只适用于小文件,大文件,请用xftp
-xftp (更为高效的企业级文件传输协议软件)

2.django项目需要配置allow_hosts=[‘*’],允许所有主机访问
debug=True #返回给项目一个debug信息,暴露了项目配置信息,因此在线上要关闭

Nginx

1.web服务器,用户的统一入口,
我们的想法是,让用户通过nginx这个入口,就能访问到我们的应用服务器的功能
www.pythonav.cn 入口 < 80端口
端口转发,反向代理
80端口的请求 > 8000的端口应用

server{}虚拟主机

2.反向代理服务器

proxy_pass  后端应用服务器的ip:port   (转发给一个单点机器)
proxy_pass  upstream负载均衡池

3.负载均衡服务器

nginx接收到了基于wsgi协议的动态请求,然后通过uwsgi_pass转发给uwsgi服务器

uwsgi_pass  mydjango;

upstream mydjango {
    server 192.168.12.1:8000 weight=1;
    server 192.168.12.2:8000 weight=5;
    server 192.168.12.3:8000 weight=10;
}

4.处理静态文件,者是nginx的天然优势,处理静态文件的高并发性性能

www.python.com/static/xxx.js
    文件存放目录/data/static/xxx.js
www.python.com/static/xxx.css
    文件存放目录/data/static/xxx.css 
www.python.com/static/xxx.jpg
    文件存放目录/data/static/xxx.jpg


location /static  {
    alias /data/static;
}



uwsgi 
    uwsgi服务器:
    通过uwsgi这个软件启动crm项目,且是一个支持高并发,多进程的一个应用服务器
    uwsgi --module  crm 

    python3 manage.py runserver 0.0.0.0:8000  ××  不再用这种单机形式启动crm
    django-admin startproject   crm
    django-admin startapp      app01
        crm 
            -crm
                -wsgi.py   (重点级的文件,django启动,实现wsgi协议的文件)
            -manage.py

常见问题:

uwsgi  启动crm的时候,非常有可能报错一个 no application(找不到应用)
uwsgi找不到你的crm的wsgi.py
    其实uwsgi是通过这个application对象加载crm的
    application = get_wsgi_application()

进程管理工具:

启动进程后,通过命令 手动管理 
ps -ef |grep uwsgi 
#启停uwsgi 
kill -9 pid 
pkill uwsgi 
killall uwsgi 


#管理nginx 

ps -ef 
kill 

#管理mysql
ps -ef 

kill 


#进程管理工具 
supervisor 服务启动后


supervisorctl ,可以通过这个命令,非常方便的管理进程,也可以统一启动,停止所有的进程
    批量管理进程
    mysql : running/stop 
    nginx :     running/stop
    uwsgi:running/stop

项目发布配置手册:

(更换不同的服务器环境,首先就要解决环境依赖的问题)

1.pip3 frezz > requirements.py 
2. pip3 install -r requirements.py 
3.docker 

1.准备python环境,准备虚拟环境,激活了虚拟环境
mkvirtualenv nbcrm
检测是否虚拟环境正常
which pip3
which python3

2.安装django模块(此时的操作都是在nbcrm这个虚拟环境下了)
pip3 install django==1.11.11

3.安装pymysql连接mysql数据库
pip3 install pymysql

4.安装django的一个django-multiselectfield

pip3 install django-multiselectfield

5.解决项目的数据库连接问题,修改settings.py
1.启动linux的数据库,创建对应的数据库,密码设置等等
create database nb_crm;
2.更改settings.py
DATABASES = {
‘default’: {
‘ENGINE’: ‘django.db.backends.mysql’,
‘NAME’: ‘nb_crm’, #数据库名
‘HOST’: ‘127.0.0.1’, #这里服务器的ip地址
‘PORT’: 3306, #端口
‘USER’: ‘root’, #用户名
‘PASSWORD’: ‘redhat123’, #用户密码
}
}
3.更改允许主机
ALLOWED_HOSTS = [‘*’]

4.线上关闭debug(肖锋的这个nb_crm先别改debug了),默认先用True
debug=True 

使用uwsgi启动django

1.安装uwsgi

pip3 install -i https://pypi.douban.com/simple uwsgi

2.通过uwsgi命令启动python应用

uwsgi --http   0.0.0.0:8888  --wsgi-file test1.py  
    --http  指明是http协议
    --socket 启动一个socket 链接
    --wsgi-file  指明一个python应用文件

3.通过uwsgi启动django项目(问题是,uwsgi不处理static静态文件的配置)
uwsgi –http :8888 –module Nb_crm.wsgi

4.uwsgi可以热加载项目

uwsgi --http :9999  --module mycrm.wsgi --py-autoreload=1 
--py-autoreload是告诉uwsgi自动重启加载django项目

5.通过uwsgi的配置文件启动项目

1.手动创建uwsgi.ini文件
touch uwsgi.ini
2.写入如下配置
[uwsgi]
    #项目的绝对路径,定位到项目的第一层
    chdir           = /opt/NB_crm
    #指明项目的wsgi文件路径
    module          = NB_crm.wsgi
    #指明你的虚拟解释器的第一层路径
    home            = /root/Envs/nbcrm
    #指明通过uwsgi,启动多少个进程
    processes       = 5

    #非常重要
    #非常重要
    #非常重要
    #如果你已经配置了nginx(启动了nginx服务,配置了uwsgi_pass),请用这个socket连接
    #socket          = 0.0.0.0:8000

    #如果你没用nginx,想通过uwsgi直接启动web服务,指明http协议
    http = 0.0.0.0:9999

    #在退出uwsgi环境后,清空环境变量
    vacuum          = true

6.通过配置文件启动NB_crm(注意uwsgi不会处理静态文件,如果有,也是浏览器的缓存!!!!)
uwsgi –ini uwsgi.ini

7.配置django的settings.py,收集所有NB_crm项目所需的静态文件
1.#通过命令,收集整个项目所有的静态文件,放入到/opt/static/
STATIC_ROOT=’/opt/static/‘
2.执行命令
python3 manage.py collectstatic
3.此时NB_crm的所有静态文件,都跑到/opt/static/底下了
(nbcrm) [root@node1 /opt/NB_crm 11:09:33]#ls /opt/static/
admin css imgs js plugins

8.配置nginx
1.配置一个网站入口,当用户访问192.168.12.96:80 这个web应用时,自动将请求转发给uwsgi,uwsgi处理后,返回给nginx,返回给用户
当请求是192.168.12.96:80的时候,其实访问的是192.168.12.96:9999 这是动态请求,因为我是找到的uwsgi

#匹配度最低的写法,因此就是任何的请求都访问到这里

2.通过nginx去处理静态文件 


3.nginx.conf配置如下

#定义负载均衡池,里面放入uwsgi的地址
upstream nbcrm {
    server 127.0.0.1:8000;

}

server {
   listen 80;
   server_name  www.xx.com;
   #讲nginx入口的请求,直接反向代理给uwsgi
   location / {
     uwsgi_pass  nbcrm;
     include /opt/nginx1-12/conf/uwsgi_params;

}

#通过nginx处理nbcrm的静态文件
location /static {
    alias /opt/static/;
    }
}

9.更改uwsgi.ini ,指明socket连接,结合uwsgi 和nginx

#如果你已经配置了nginx,请用这个socket连接
socket          = 0.0.0.0:8000

10.启动uwsgi.ini
uwsgi –ini uwsgi.ini

启动nginx

./nginx 


并且访问nginx的域名入口,查看是否能访问到uwsgi项目,并且静态文件是否正常

www.xx.com   查看浏览器状态

11.配置supversior,管理uwsgi进程

注意,请退出虚拟环境,在宿主机环境下,安装supvervisor

1.安装easy_install ,python2的软件包管理工具 ,如果有了可以忽略
yum install python-setuptools

#安装软件
easy_install supervisor

2.使用supervisor命令,常用命令如下
生成配置文件
echo_supervisord_conf > /etc/supervisord.conf

3.修改配置文件,添加任务,按照自己的机器环境修改此命令
[program:crm_project]

#启动uwsgi的命令就是这个
command=/root/Envs/nbcrm/bin/uwsgi  --ini /opt/NB_crm/uwsgi.ini
#自动启动uwsgi,挂了之后自动加载
autorestart=true

4.启动supvervisord服务,启动uwsgi

#服务端命令,用于启动这个服务
supervisord -c  /etc/supervisord.conf

5.通过命令管理uwsgi
supervisorctl 直接回车,进入交互式管理状态

[root@node1 ~ 11:53:32]#supervisorctl 
crm_project                         RUNNING   pid 2008, uptime 0:01:56

也可以通过命令交互式的管理uwsgi

#服务端启动后,通过命令管理软件

supervisorctl  start crm_project
supervisorctl  stop  crm_project 
supervisorctl status crm_project
感谢您的支持!学如逆水行舟,不进则退!