亲缘性线程池,这是什么鬼?

岁酱吖の 提交于 2020-08-12 05:09:02

一、前言

JDK中的线程池主要解决两个问题:

  • 一方面当执行大量异步任务时候线程池能够提供较好的性能,在不使用线程池的时,每当需要执行异步任务时候是直接 new一线程运行,而线程的创建和销毁是需要开销的。而使用线程池时候,线程池里面的线程是可复用的,不会每次执行异步任务时候都重新创建和销毁线程。
  • 另一方面线程池提供了一种资源限制和管理的手段,比如可以限制线程的个数,动态新增线程等,每个 ThreadPoolExecutor 也保留了一些基本的统计数据,比如当前线程池完成的任务数目等。

JDK中的线程池固然好,但是其不具有亲缘性,也就是当我们顺序向其中投递多个任务后,不能保证具有相同属性的任务顺序执行,本文我们就来看一个可以实现亲缘性的线程池。

二、测试案例

首先我们在做个测试,看看JDK中线程池是否具有亲缘性,我们创建一个Person类,其中id作为唯一标识,data为需要处理的数据,如下代码,我们创建一些Person对象,放到list,然后把任务顺序投递到JDK线程池:

//0.普通线程池
    static ExecutorService executorService = Executors.newFixedThreadPool(8);
    public static void executeByOldPool(List<Person&gt; personList) {
        personList.stream().forEach(p -&gt; executorService.execute(() -&gt; {
            System.out.println(JSON.toJSONString(p));
        }));
    }
 public static void main(String[] args) {

        //1.创建列表
        List<Person&gt; personList = new ArrayList<&gt;();
        personList.add(Person.builder().id(1).data("1s").build());
        personList.add(Person.builder().id(2).data("2s").build());
        personList.add(Person.builder().id(1).data("11s").build());
        personList.add(Person.builder().id(3).data("3s").build());
        personList.add(Person.builder().id(1).data("111s").build());
        personList.add(Person.builder().id(2).data("22s").build());
        personList.add(Person.builder().id(3).data("33s").build());
        personList.add(Person.builder().id(1).data("1111s").build());

        //2.使用普通线程池执行
        executeByOldPool(personList);
}

执行上面代码,如果线程池是亲缘的,则比如对应id=1的Person的输出应该是和投递到线程池时一致,也就是下面顺序:

{"data":"1s","id":1}
{"data":"11s","id":1}
{"data":"111s","id":1}
{"data":"1111s","id":1}

但是当我们执行上面代码,一个可能的输出为:

{"data":"3s","id":3}
{"data":"2s","id":2}
{"data":"33s","id":3}
{"data":"22s","id":2}
{"data":"1111s","id":1}
{"data":"1s","id":1}
{"data":"11s","id":1}
{"data":"111s","id":1}

可知其并没实现亲缘性,比如id=1的person的data并没有按照投递线程池顺序输出。

究其原因是因为JDK中线程池是不保证先投递到线程池的任务先执行完毕。

三、亲缘性线程池实现

如果想实现亲缘线程池,则这里有大佬w.vela的一个开源实现 https://github.com/PhantomThief/simple-pool

首先我们需要引入其依赖:

<dependency&gt;
            <groupId&gt;com.github.phantomthief</groupId&gt;
            <artifactId&gt;simple-pool</artifactId&gt;
            <version&gt;0.1.17</version&gt;
        </dependency&gt;

然后上面executeByOldPool方法修改为下面:

static KeyAffinityExecutor executor = KeyAffinityExecutor.newSerializingExecutor(8,200, "MY-POOL");
    public static void executeByAffinitydPool(List<Person&gt; personList) {
        personList.stream().forEach(p -&gt; executor.executeEx(p.getId(), () -&gt; {
            System.out.println(JSON.toJSONString(p));
        }));
    }

如上代码投递任务到线程池时,我们使用person的id作为key,这可以保证相同的id顺序投递到线程池的任务可以顺序执行,修改后,运行,一个可能的输出为:

{"data":"3s","id":3}
{"data":"1s","id":1}
{"data":"2s","id":2}
{"data":"33s","id":3}
{"data":"11s","id":1}
{"data":"22s","id":2}
{"data":"111s","id":1}
{"data":"1111s","id":1}

如上输出可知对应相同id的Person,其输出与投递到线程池顺序一致。

那么亲缘性线程池如何实现保证顺序内,大家可以看下其代码,其实很简单,就是把相同key的任务按照投递线程池的顺序,放到同一个内存队列(这里我们设置为200大小),每个内存队列有一个线程来消费。那么消费线程有几个那?其实是按照创建线程池时newSerializingExecutor的第一个参数来决定。

四、总结

亲缘性线程池在需要保证顺序消费,并且需要高吞吐量的情况下很用用,必须普通情况下顺序消费的保证是靠单线程来做的(比如rocketmq的顺序消息,消费端消费时)。

更多技术分享,请扫描关注微信公众号:

file0人点赞博文

原创文章,转载请注明: 转载自并发编程网 – ifeve.com本文链接地址: 亲缘性线程池,这是什么鬼?

FavoriteLoading添加本文到我的收藏
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!