Cronsun 任务管理器部署

博客作者:联系请点击,搬运不易,希望请作者喝咖啡,可以点击联系博客作者

引言

cronsun 是一个分布式任务系统,单个节点和 *nix 机器上的 crontab 近似。支持界面管理机器上的任务,支持任务失败邮件提醒,安装简单,使用方便,是替换 crontab 一个不错的选择。
cronsun 是为了解决多台 *nix 机器上crontab 任务管理不方便的问题,同时提供任务高可用的支持(当某个节点死机的时候可以自动调度到正常的节点执行)。cronsunAzkabanChronosAirflow 这些不是同一类型的。

项目状态

cronsun已经在线上几百台规模的服务器上面稳定运行了一年多了,虽然目前版本不是正式版,但是我们认为是完全可以用于生产环境的。强烈建议你试用下,因为它非常简单易用,同时感受下他的强大,相信你会喜欢上这个工具的。

cronsun特性:

  • 方便对多台服务器上面的定时任务进行集中式管理
  • 任务调度时间粒度支持到秒级别
  • 任务失败自动重试
  • 任务可靠性保障(从N个节点里面挑一个可用节点来执行任务)
  • 简洁易用的管理后台,支持多语言
  • 任务日志查看
  • 任务失败邮件告警(也支持自定义http告警接口)
  • 用户验证与授权

部署对象说明

程序名称

Cronsun任务管理器 MongoDB非关系性数据库 Etcd3键值存储仓库

程序架构

Cronsun的重要组件:Cronsun 主要有 3 个主件,都是通过 etcd 通讯的。cronnode 负责节点的分组及节点的状态,croeweb 是管理任务的、执行结果都可以在上面看

部署位置

服务器别名
用户名
部署目录
VMware测试机
root
/usr/local/cronsun-v0.3.5/
/usr/lib/systemd/system/etcd.service
/usr/local/mongodb

项目开源地址

GitHub - shunfei/cronsun: A Distributed, Fault-Tolerant Cron-Style Job System.
GitHub

部署操作

环境准备

1
sed -i 's/ONBOOT=on/ONBOOT=yes/g' /etc/sysconfig/network-scripts/ifcfg-ens33 #配置网络
2
service network restart #重启网络
3
yum -y install vim unzip net-tools wget zip bash-completion java*
Copied!

单节点安装etcd服务

下载安装包,下载地址:https://github.com/etcd-io/etcd/releases
1
wget https://github.com/etcd-io/etcd/releases/download/v3.3.13/etcd-v3.3.13-linux-amd64.tar.gz
Copied!
解压文件
1
tar -zxvf etcd-v3.3.13-linux-amd64.tar.gz
2
cd etcd-v3.3.13-linux-amd64
Copied!
目录下有两个可执行文件etcd 和 etcdctl
1
cp etcd /usr/bin/
2
cp etcdctl /usr/bin/
Copied!
配置服务
1
vim /usr/lib/systemd/system/etcd.service (添加以下内容)
2
[Unit]
3
Description=Etcd Server
4
After=network.target
5
[Service]
6
Type=simple
7
WorkingDirectory=/var/lib/etcd/
8
EnvironmentFile=-/etc/etcd/etcd.conf
9
ExecStart=/usr/bin/etcd
10
[Install]
11
WantedBy=multi-user.target
Copied!
创建工作文件夹
1
mkdir -p /var/lib/etcd && mkdir -p /etc/etcd
2
vim /etc/etcd/etcd.conf (添加以下内容)
3
#[member]
4
ETCD_NAME=default
5
ETCD_DATA_DIR="/var/lib/etcd/default.etcd"
6
ETCD_LISTEN_CLIENT_URLS="http://0.0.0.0:2379"
7
ETCD_ADVERTISE_CLIENT_URLS=
8
http://0.0.0.0:2379
Copied!
注意:默认监听地址是127.0.0.1,允许远程连接需要改为0.0.0.0
启动etcd服务
1
systemctl daemon-reload && systemctl enable etcd.service && systemctl start etcd.service
Copied!
测试etcd服务状态:
1
etcdctl cluster-health
Copied!
1
cd /root
Copied!

单节点mongodb的安装

单节点mongodb的安装
1
wget https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-4.0.11.tgz
2
mkdir /usr/local/mongodb
3
tar -xf mongodb-linux-x86_64-4.0.11.tgz
4
cp -r mongodb-linux-x86_64-4.0.11/bin /usr/local/mongodb
5
cd /usr/local/mongodb
Copied!
1
mkdir -p etc log data/db #配置文件目录 日志目录 存放数据
Copied!
配置文件:
1
vim /usr/local/mongodb/etc/mongodb.conf
2
logpath=/usr/local/mongodb/log/mongodb.log #指定日志文件名
3
dbpath=/usr/local/mongodb/data/db #指定数据库目录
4
logappend=true #日志为 追加方式记录
5
fork=true #服务以守护进程的方式进行
6
bind_ip=0.0.0.0 #修改运行的ip,默认是127.0.0.1, 多节点需要允许其他的ip连接, 所以配置为0.0.0.0,允许其他ip连接
7
port=27017 #修改运行的端口号
8
/usr/local/mongodb/bin/mongod -f /usr/local/mongodb/etc/mongodb.conf #指向配置文件执行bin目录下的快捷方式
Copied!
1
netstat -ntuap | grep mongod #查询服务是否启动
Copied!
MongoDB 的可执行文件位于 bin 目录下,所以可以将其添加到 PATH 路径中:
1
export PATH=<mongodb-install-directory>/bin:$PATH
Copied!
<mongodb-install-directory> 为MongoDB 的安装路径,如本文档的 /usr/local/mongodb

部署 cronsun 任务管理器

Cronsun下载地址: https://github.com/shunfei/cronsun/releases
1
wget https://github.com/shunfei/cronsun/releases/download/v0.3.5/cronsun-v0.3.5-linux-amd64.zip
2
unzip cronsun-v0.3.5 && mv cronsun-v0.3.5 /usr/local/
Copied!
解压后修改 conf 目录下的配置文件:db.json 和 etcd.json,分别修改 MongoDB 和 etcd 的实际地址。
1
vim /usr/local/cronsun-v0.3.5/conf/etcd.json
2
{
3
"Endpoints":[
4
"http://10.88.216.18:2379" #这里修改的是etcd服务的地址和端口
5
],
6
"Username":"",
7
"Password":"",
8
"#DialTimeout":"单位秒",
9
"DialTimeout": 2
10
}
Copied!
1
vim /usr/local/cronsun-v0.3.5/conf/db.json
2
{
3
"Hosts": [
4
"10.88.216.18:27017" #这里修改的是MongoDB服务的地址和端口
5
],
6
"Database": "cronsun",
7
"#AuthSource": "AuthSource Specify the database name associated with the user’s credentials.",
8
"#AuthSource": "AuthSource defaults to the cronsun's Database.",
9
"#AuthSource": "If connect mongodb like './bin/mongo mytest -u test -p 123 --authenticationDatabase admin' ",
10
"#AuthSource": "the AuthSource is 'admin'. ",
11
"AuthSource": "",
12
"UserName": "",
13
"Password": "",
14
"#Timeout": "connect timeout duration/second",
15
"Timeout": 15
16
}
Copied!

添加节点

cronsun基于etcd实现了自动发现和注册的功能,所以添加节点非常简单,直接将cronnode和conf拷贝到客户端服务器启动之后,就能在前台->节点页面看到该服务器了,当然节点和Etcd以及MongoDB之间的网络必须畅通。
1
scp -r /usr/local/cronsun-v0.3.5 10.88.216.21:/usr/local/ #拷贝cronnode配置文件到节点主机
Copied!

程序启动

启动web

启动web:./cronweb -conf conf/base.json
(若要后台运行则使用 nohup)
1
nohup /usr/local/cronsun-v0.3.5/cronweb -conf /usr/local/cronsun-v0.3.5/conf/base.json &
Copied!

启动node

启动 node:./cronnode -conf conf/base.json
(若要后台运行则使用 nohup)
1
nohup /usr/local/cronsun-v0.3.5/cronnode -conf /usr/local/cronsun-v0.3.5/conf/base.json &
Copied!

访问web页面

访问之前关闭防火墙
systemctl stop firewalld.service
访问web:http://x.x.x.x:7079/ui/ 默认用户名: [email protected] 密码:admin

节点管理

添加了所需的节点服务器之后,我们可以将节点进行分组,从而方便定时任务的添加:

添加任务

节点和分组都搞定之后,就可以开始添加定时任务了。

告警配置

首先要清楚 cronsun 的告警是由 cronweb 发出的,而不是 cronnode(但是 cronnode 的 mail.json 也必须 Enable:true,否则还是无法发出告警)。
编辑 cronweb 和 cronnode 的配置文件:mail.json,如下内容
1
vim /usr/local/cronsun-v0.3.5/conf/mail.json
2
{
3
"Enable": true, # cronweb 的 mail.json 配置中必须将 Enable 填为 true 才可以看到上图的告警开关按钮,否则不显示。
4
"To": ["这里填写缺省默认的告警邮件接收地址"],
5
"#HttpAPI": "如有此字段,则按 http api 方式发送",
6
"#Keepalive": "如果此时间段内没有邮件发送,则关闭 SMTP 连接,单位/秒",
7
"Keepalive": 30,
8
"#doc": "https://godoc.org/github.com/go-gomail/gomail#Dialer",
9
"Host": "填写SMTP服务器地址,比如:stmp.qq.com",
10
"Port": 25,
11
"Username": "这里填写发送人邮箱地址(用于登陆SMTP+from地址)",
12
"Password": "登陆密码",
13
"SSL": false,
14
"LocalName": ""
15
}
Copied!
Ps:LocalName 建议留空,HttpAPI 模式未使用到,这里省略之。
重新启动 cronweb,然后在 web 上的单向任务界面开启告警,即可实现邮件告警,如下图所示: