您现在的位置是:首页 > 文章详情

Schedulerx2.0支持MapReduce模型

日期:2019-06-27点击:623

1. 前言

Schedulerx2.0提供了map模型,通过一个map方法就能将海量数据分布式到多台机器上分布式执行,随着业务方的深入使用,又提出了更多的需求,比如:

  • 监听所有子任务完成的事件
  • 处理所有子任务返回的订单号
  • 汇总结果进行工作流数据传输

2. 简介

MapReduce模型是Map模型的扩展,废弃了postProcess方法,新增reduce接口,需要实现MapReduceJobProcessor。

MapReduce模型只有一个reduce,所有子任务完成后会执行reduce方法,可以在reduce方法中返回该任务实例的执行结果,作为工作流的上下游数据传递。如果有子任务失败,reduce不会执行。

MapReduce模型,还能处理所有子任务的结果。子任务通过return ProcessResult(true, result)返回结果(

原文链接:https://yq.aliyun.com/articles/706820
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章