/cedardeploy

基于ssh秘钥supervisord的发布系统

Primary LanguagePython

前言

适合基于ssh秘钥的中小公司环境, 代码逻辑简单, 需要运维兄弟会一点python, 自定义与公司业务相关的功能,自行发挥.

用户与组管理

添加项目

工单

发布页面

日志

服务失败列表

支持编译发布的项目类型,每个项目都需要填git地址,jobs,sh,static也是需要统一的git仓库管理.

nodejs 多进程 编译         supervisor  index.js --port=4000, 在添加主机同时要选择进程数量,服务端口从项目配置端口起始递增, 其他方式,可编辑配置中修改

python 多进程              supervisor  main.py --port=5000, 在添加主机同时要选择进程数量,服务端口从项目配置端口起始递增, 其他方式或无端口,可在编辑配置修改

golang        编译bin文件  supervisor  每个公司可能编译方式一样,需要自行定义

sh                         supervisor  非nohup的前台持续运行进程, 默认 启动脚本: deploy_start.sh , 里面可 exec 启动命令,避免进程无法被正常重启

java-jar      mvn编译      supervisor  由于很久不用,改动中删除了,如果需要支持,也可以自定义编译方式,supervisor模板,重启方式

java-tomcat   mvn编译  需要系统镜像放置一个标准的空tomcat,在添加主机的同时拷贝一个服务的tomcat目录,在把添加项目时生成的模板配置文件,server_xml, catalina_sh,传递到远程服务主机.有需要改动在 app/main/forms.py 中修改模板配置.

static        发布到nginx机器,nginx配置中指定项目对应目录即可

php           先同步配置文件,在发布代码,nginx配置中指定项目对应目录即可

job           发布系统只负责同步目录,同时生成定时任务配置文件。传到远程主机cron.d目录,系统自动加载  # 下个版本更新

编译: 编译环境自行安装
配置文件: 如果需要分离,可在配置信息中定义,直接填文件,或者拉取地址.编译脚本中,自行写文件或者拉取配置.
启动方式: 添加项目后,可看配置信息中生成的 supervisor 模板,如不可改动,请自行修改 app/main/forms.py 中模板
服务摘除与注册: 请在 app/main/deploy.py 中函数自行实现. 添加发现服务 def increaseService ,  剔除服务 def removeService
服务检查: 有supervisor的服务会检查supervisor状态. 没有会检查ssh状态.
自动扩容: app/main/views.py  扩容接口: /expansion . 缩容接口: /reduced . 可根据条件判断自行对接. 后续会更新其他项目基于监控条件触发,调用阿里云按量付费,自动扩容. 例:可通过发布系统获取项目对应列表,在通过监控拿到cpu使用,大于cpu60%扩容,低于30%缩容
其它项目类型: 运维人员可与程序沟通清晰,制定仓库规则规范,项目统一,就可以自行定制扩展
注意: 以上类型,并不一定业务完全匹配,代码仓库目录结构,编译方式,同步目录过程先后,等都要与程序沟通清晰明确,逐一确定统一.  

项目信息分三块:

项目基础信息:  创建项目需要名称, git地址,端口,项目类型, 环境, 编译命令,检查方式等

项目配置模板:  添加项目后,自动生成统一的模板,配置信息.比如: supervisor_conf等

主机信息:      可配置针对不同主机独立的信息,比如: 启动进程数, 环境变量

安装

一.准备环境

python 2.7

发布机器普通用户对其他主机普通用户ssh秘钥免密码

supervisord, 并且要所有主机加载统一目录,ssh用户有权限拷贝文件

远程主机supervisor配置文件加载目录

[include]

files = supervisor_conf_dir/*.conf

依赖包

pip install -r requirements.txt

二.创建mysql数据库

创建数据库,请先修改配置文件

CREATE DATABASE `cedardeploy` /*!40100 DEFAULT CHARACTER SET utf8 */;

grant all on cedardeploy.* to deploy@127.0.0.1 identified by 'Deploy123';

三.修改DB配置

vim app/configdb.py

四.初始化数据库

# 如果初始化数据库报错,检查是否有 migrations目录, 删除目录

python manager.py db init

python manager.py db migrate

python manager.py db upgrade

五.配置

目录请自行配置

vim app/config.py

六.用户

如果有ldap,请打开Ldap项为True

如果没有ldap,需要手动创创建 admin 用户

python manager.py shell

with app.app_context():

    u = User(email='admin@163.com',username='admin',password='admin')

    db.session.add(u)

    db.session.commit()

七.启动服务

1.deploy web启动

2.检查服务:  app/hostscheck/hostscheck.py

把 deploy-supervisor.conf 拷贝到 supervisord的配置目录下,修改具体程序路径,log目录,ip和port,然后加载

八.服务状态报警

如果都启动正常, 检查服务也正常启动, 可以配置定时任务报警

* * * * * python /app/deploy/app/hostscheck/service_alarm.py >> /data/log/service_alarm.log 2>&1

使用

ldap或用户登陆系统后,确保用户在配置文件的管理员列表中

登陆后,界面空白,需要先添加组,在添加项目: 

添加组: 用户管理 选择用户 添加组

添加项目: 项目管理, 选择组, 选择项目语言类型, 项目名, 选择环境, git地址,分支,端口,编译方式,检查方式等. 添加后,会自动生成supervisord等模板.看情况修改

添加主机: 项目管理, 选择组, 选择项目, 在下方添加主机名和主机ip确认. 在添加主机的同时, 会到远程创建目录,创建服务的supervisor文件,并加载

上线服务: 上线,选择组,选择项目,勾选项目,点击更新. 确保启动发布系统的用户可以免密码拉取仓库建议添加ssh秘钥. 默认会拉取git地址对应的最新的代码,编译上线.仓库不改动,用历史最近版本上线.

管理员不受上线时间限制,不受组限制.普通用户看不到组,可以提工单, 工单可以跳转到项目,管理员上线完,在关闭工单.也可以给普通用户对组授权,自行上线.