数据处理框架:Magician-DataProcessing 发布
Magician-DataProcessing 一个用Java开发的数据处理框架,支持并发处理以及生产者与消费者模型,此次发布的版本为1.0.0,属于初始版本。 集合处理 如果我们拿到了一个集合,需要根据里面的每一条数据去做相应的业务逻辑,那么我们一般有两种做法: 迭代一条一条地处理 迭代开启多线程处理 如果数据量很少的情况下,这两者都是一个不错的办法,但如果数据量高达成千上万的时候,这两者就都不是一个好办法了,前者会消耗太多的时间,而后者会开启太多的线程. 所以在处理的时候我们虽然还是会采用多线程,但是需要花时间精力去设计,让速度既能比一条一条处理要高,又不能开启太多的线程,有时候我们还不能异步处理,需要等所有线程结束了才能往下走。 我们可以看一下Magician-DataProcessing是如何处理的 假如有一个List需要并发处理里面的元素 List<String> dataList = new ArrayList<>(); 我们可以将它分成若干组来处理,这些组会排队执行,但是每一组在执行的时候都是并发的,里面的每一个元素都会由单独的线程去处理。需要...










