- 支持任务的分片处理,比如:对于数据库中有100条数据,支持按照机器平均切分,也可以按照round robin的方式来轮训分片。=
- 本框架不涉及具体的业务处理,如业务的幂等性处理。
- 对于任务的失败重试等策略,目前不支持,后续可以增加。
- 对于节点的权重,支持后续的扩展。
- 对于pom文件,需要具备以下
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>4.0.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>4.0.0</version>
</dependency>
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-aspects</artifactId>
<version>5.0.2.RELEASE</version>
</dependency>
- 需要Spring-boot支持,具体包参加官网。
- 对于每个任务,分为主调度任务,和执行任务,目前并未合并,所以实现一个任务,需要写两个类,并在properties文件中增加配置。
- application.properties
brave:
jobs:
- job: demo1
- job: demo2
register:
center: localhost:2181
switcher: on
demo1:
switcher: on
cron: 0/30 * * * * ?
demo2:
switcher: on
cron: 0/40 * * * * ?
这里的Switcher:on可以省略,本来是用来设置全局开关的。
增加主调度类
@Slf4j
@Component
public class MainWorker extends WorkerRegister {
@JobName(name = "demo1")
public String jobName;
@Override
public void run(@NotNull String ids) {
try {
TimeUnit.SECONDS.sleep(40);
} catch (InterruptedException e) {
e.printStackTrace();
}
//处理列表,取得最大和最小的id,处理的时候,后台需要最好幂等的控制,否则不能用这种分片算法
List<Integer> idl = processItem(ids);
int minId = idl.stream().min(Integer::compareTo).orElse(0);
int maxId = idl.stream().max(Integer::compareTo).orElse(0);
log.info("{} the min:{},and the max is:{}",jobName,minId,maxId);
}
/**
* 把worker现成注册上去。
*/
@PostConstruct
public void init() {
super.init_1(jobName);
}
}
这里的run方法,参数是ids是分片后每个节点的分片范围,所以,你需要处理的任务和逻辑就在这个方法里写即可。
需要在该方法里增加init方法,直接copy即可。
增加处理线程类
@Slf4j
@Component
public class MainDispatcher extends Dispatcher {
@Value("${demo1.switcher}")
public String switcher;
@JobName(name = "demo1")
public String jobName;
@Scheduled(cron = "${demo1.cron}")
public void process() {
if(switcher == null || "off".equals(switcher)){
log.info("分布式任务调度关闭。");
return;
}
run(jobName);
}
/**
* 代扣任务获取和分片
*/
@Override
public void dispatchWork() {
//获取id列表
List<Integer> ids = Arrays.asList(1,2,3,4,5,6);
writeWorkerData(jobName,ids);
}
}
这里需要注意的是
* switcher是任务的开关,在配置文件中配置。
* jobName用自定义注解的方式,和配置文件中任务名称一致。
* 本类主要有两个方法:第一个是定义启动方法,第二个是分配的方法,
写完以上两个类,基本就可以运行了,当然,需要有Zookeeper集群。所有的信息还是注册在Zookeeper集群上的。