精华 开源分布式工作流任务调度系统Easy Scheduler Release 1.0.2发布 - 支持Clickhouse
发布于 5 个月前 作者 dailidong 1217 次浏览 来自 分享

Easy Scheduler Release 1.0.2

Easy Scheduler 1.0.2是1.x系列中的第三个版本。此版本增加了调度开放接口、worker分组(指定任务运行的机器组)、任务流程及服务监控以及对clickhouse支持,具体如下:

新特性:

  • [EasyScheduler-79] 调度通过token方式对外开放接口,可以通过api进行操作
  • [EasyScheduler-138] 可以指定任务运行的机器(组)
  • [EasyScheduler-139] 任务流程监控及Master、Worker、Zookeeper运行状态监控
  • [EasyScheduler-140] 工作流定义—增加流程超时报警
  • [EasyScheduler-134] 任务类型支持Oracle、CLICKHOUSE、SQLSERVER、IMPALA
  • [EasyScheduler-136] Sql任务节点可以**选取抄送邮件用户
  • [EasyScheduler-141] 用户**—用户可以绑定队列,用户队列级别高于租户队列级别,如果用户队列为空,则寻找租户队列

增强:

修复:

感谢:

最后但最重要的是,没有以下伙伴的贡献就没有新版本的诞生:

Baoqi , chubbyjiang , coreychen , chgxtony, cmdares , datuzi , dingchao, fanguanqun , 风清扬, gaojun416 , googlechorme, hyperknob , hujiang75277381 , huanzui , kinssun, ivivi727 ,jimmy, jiangzhx , kevin5210 , lidongdai , lshmouse , lenboo, lyf****72 , lgcareer , lzy305 , moranrr , millionfor , mazhong8808, programlief, qiaozhanwei , roy110 , swxchappy , sherlock111 , samz406 , swxchappy, qq389401879 , lzy305, vkingnew, William-GuoWei , woniulinux, yyl861, zhangxin1988, yangjiajun2014, yangqinlong, yangjiajun2014, zhzhenqin, zhangluck, zhanghaicheng1, zhuyizhizhi

以及微信群里众多的热心伙伴!在此非常感谢!


Easy Scheduler介绍

Easy Scheduler是一个分布式工作流任务调度系统,主要解决数据研发ETL错综复杂的依赖关系所带来的各种问题。 其主要目标如下:

  • 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态
  • 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等
  • 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作
  • 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
  • 支持工作流全局参数及节点自定义参数设置
  • 支持资源文件的在线上传/下载,**等,支持在线文件创建、编辑
  • 支持任务日志在线查看及滚动、在线下载日志等
  • 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化
  • 支持对Master/Worker cpu load,memory,cpu在线查看
  • 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
  • 支持补数
  • 支持多租户
  • 支持国际化
  • 还有更多等待伙伴们探索

与同类调度系统的对比

调度系统对比

系统部分截图

文档

更多文档请参考 <a href=“https://analysys.github.io/easyscheduler_docs_cn/” target="_blank">easyscheduler中文在线文档</a>

近期研发计划

EasyScheduler的工作计划:<a href=“https://github.com/analysys/EasyScheduler/projects/1” target="_blank">研发计划</a> ,其中 In Develop卡片下是1.0.2版本的功能,TODO卡片是待做事项(包括 feature ideas)

贡献代码

非常欢迎大家来参与贡献代码,提交代码流程请参考: https://github.com/analysys/EasyScheduler/blob/******/CONTRIBUTING.md

感谢

Easy Scheduler使用了很多优秀的开源项目,比如google的guava、guice、grpc,netty,ali的bonecp,quartz,以及apache的众多开源项目等等, 正是由于站在这些开源项目的肩膀上,才有Easy Scheduler的诞生的可能。对此我们对使用的所有开源软件表示非常的感谢!我们也希望自己不仅是开源的受益者,也能成为开源的 贡献者,于是我们决定把易调度贡献出来,并承诺长期**。也希望对开源有同样热情和信念的伙伴加入进来,一起为开源献出一份力!

帮助

The fastest way to get response from our developers is to submit issues, or add our wechat : 510570367

另外我们部署了一个单机版本的小demo,想体验的伙伴,请访问 http://52.82.13.76:8888 欢迎联系体验(wechat : 510570367), 涉及多人修改的问题,**员登录暂不开放!欢迎提建议!

License

回到顶部