Total Pageviews

Thursday 12 March 2020

基于go的任务调度系统-Crocodile


GitHub Workflow Status Downloads license Release

Introduction

基于Golang开发的定时任务调度系统,支持http请求、运行golang、python、shell等调度任务
Online Preview normal/normal

Features

  • 在Web节点对任务进行增加、修改、删除、克隆、运行任务等操作
  • 实时查看正在运行的任务和任务的实时日志,并且可以对正在运行的任务进行终止操作
  • 多种任务类型:
    • 执行http请求任务
    • 运行shellpythongolang代码(当然其他语言也可以支持,如需要请提出)
  • 父、子任务:
    当设置了父任务或者子任务后,先会运行父任务->主任务->子任务,任意任务出错后会立即中断整个流程,还可以设置父任务或子任务并行或者串行运行
  • 调度算法:
    支持四种调度算法随机、轮训、Worker权重、Worker最少任务数来调用Worker运行任务,
  • 自定义报警策略:
    可以设置当任务成功失败、或者运行完成后报警给多个用户
    设置任务的返回码或者返回内容来比较任务的实际返回码或者返回内容是否相同来判断任务运行成功或者,code任务默认为0,http任务默认为200
  • 主机组:
    一个任务只可以绑定到任意一个主机组,任务的运行会通过任务的路由策略来选取这个主机组中的一个任务来运行任务
  • 主机:
    一个主机组可以绑定多个主机,主机是实际运行任务的节点,注册后调度中心自动发现
  • 安全策略
    证书加密加密通讯数据
    访问令牌
  • 任务的日志管理,清理日志
  • 报警通知支持平台
    • 邮件
    • 企业微信
    • 钉钉
    • Slack Channel
    • Telegram Bot
    • WebHook URL
  • 详细的任务审计功能
    对用户的所有对数据改变的操作都会记录下来
  • 权限控制
    有三种用户类型
    • 管理员
      拥有所有操作权限,
    • 普通用户 可以创建新的任务、主机组,但是只可以自已创建的任务或主机组进行操作,但是不能查看审计记录、所有用户
    • 访客
      只有查看的权限、无任何操作修改权限,但是不能查看审计记录、所有用户

Supported platforms

  • Linux
  • Mac

Install

  • 点击下载编译好的二进制文件
  • 下载配置文件
  • 如果需要开启调度节点之间的证书认证,请生成证书, 运行生成cert证书的命令
    crocodile cert
    然后会在当前目录本地生成两个文件cert.pemkey.pem,将这两个文件保存后,将文件的路径填写值配置文件中,每个节点都需要这两个文件
  • 修改配置文件的配置

Running

调度中心和Worker之间通过对方的IP:PORT都可以正常通信
数据库支持sqlite3或者mysql
  • 作为一个调度中心来运行
    ./crocodile server -c core.toml
  • 作为一个Worker(主机)节点来运行
    ./crocodile client -c core.toml
  • 查看版本编译信息
    ./crocodile version
    
  • 配置报警

Development

  • 前端
    • 安装yarn
    • 进入web目录,先下载依赖yarn,然后单独运行前端yarn run dev
    • 打包至go,执行make frontrnd
  • 后端
    • 作为调度中心运行make runs
    • 作为Worker节点运行make runc
sql目录也是被打包在go-bindata中的,在安装时会从go-bindata生成的文件读取sql创建语句,如果修改了sql,就重新执行下make bin-data

Feedback

请在Issue提出,并且描述清楚上下文.