办公常用软件技术学习网

办公常用软件技术学习网、Excel技术学习、PPT技术学习、Word技术学习、AI技术学习、PS技术学习,开发技术,数据库开发,SEO教程

联系客服联系客服

您现在的位置是:首页>技术开发>阻塞队列—LinkedBlockingQueue源码分析

阻塞队列—LinkedBlockingQueue源码分析

2020-11-20 06:22 栏目:技术开发

前言

LinkedBlockingQueue 由链接节点支持的可选有界队列,是一个基于链表的无界队列(理论上有界),队列按照先进先出的顺序进行排序。LinkedBlockingQueue不同于ArrayBlockingQueue,它如果不指定容量,默认为 Integer.MAX_VALUE,也就是无界队列。所以为了避免队列过大造成机器负载或者内存爆满的情况出现,我们在使用的时候建议手动传一个队列的大小。

队列创建

  1. BlockingQueue blockingQueue = new LinkedBlockingQueue<>(); 

上面这段代码中,blockingQueue 的容量将设置为 Integer.MAX_VALUE 。

应用场景

多用于任务队列,单线程发布任务,任务满了就停止等待阻塞,当任务被完成消费少了又开始负责发布任务。

我们来看一个例子:

  1. package com.niuh.queue.linked; 
  2.  
  3. import org.apache.commons.lang.RandomStringUtils; 
  4.  
  5. import java.util.concurrent.CountDownLatch; 
  6. import java.util.concurrent.ExecutorService; 
  7. import java.util.concurrent.Executors; 
  8. import java.util.concurrent.LinkedBlockingQueue; 
  9. import java.util.concurrent.TimeUnit; 
  10. import java.util.concurrent.atomic.AtomicLong; 
  11.  
  12. public class TestLinkedBlockingQueue { 
  13.  
  14.     private static LinkedBlockingQueue<String> queue = new LinkedBlockingQueue<String>(); 
  15.     // 线程控制开关 
  16.     private final CountDownLatch latch = new CountDownLatch(1); 
  17.     // 线程池 
  18.     private final ExecutorService pool; 
  19.     // AtomicLong 计数 生产数量 
  20.     private final AtomicLong output = new AtomicLong(0); 
  21.     // AtomicLong 计数  销售数量 
  22.     private final AtomicLong sales = new AtomicLong(0); 
  23.     // 是否停止线程 
  24.     private final boolean clear; 
  25.  
  26.     public TestLinkedBlockingQueue(boolean clear) { 
  27.         this.pool = Executors.newCachedThreadPool(); 
  28.         this.clear = clear; 
  29.     } 
  30.  
  31.     public void service() throws InterruptedException { 
  32.         Consumer a = new Consumer(queue, sales, latch, clear); 
  33.         pool.submit(a); 
  34.  
  35.         Producer w = new Producer(queue, output, latch); 
  36.         pool.submit(w); 
  37.         latch.countDown(); 
  38.     } 
  39.  
  40.     public static void main(String[] args) { 
  41.         TestLinkedBlockingQueue t = new TestLinkedBlockingQueue(false); 
  42.         try { 
  43.             t.service(); 
  44.         } catch (InterruptedException e) { 
  45.             e.printStackTrace(); 
  46.         } 
  47.     } 
  48.  
  49. /** 
  50.  * 消费者(销售产品) 
  51.  */ 
  52. class Consumer implements Runnable { 
  53.     private final LinkedBlockingQueue<String> queue; 
  54.     private final AtomicLong sales; 
  55.     private final CountDownLatch latch; 
  56.     private final boolean clear; 
  57.  
  58.     public Consumer(LinkedBlockingQueue<String> queue, AtomicLong sales, CountDownLatch latch, boolean clear) { 
  59.         this.queue = queue; 
  60.         this.sales = sales; 
  61.         this.latch = latch; 
  62.         this.clear = clear; 
  63.     } 
  64.  
  65.     public void run() { 
  66.         try { 
  67.             latch.await(); // 放闸之前老实的等待着 
  68.             for (; ; ) { 
  69.                 sale(); 
  70.                 Thread.sleep(500); 
  71.             } 
  72.         } catch (InterruptedException e) { 
  73.             if (clear) { // 响应中断请求后,如果有要求则销售完队列的产品后再终止线程 
  74.                 cleanWarehouse(); 
  75.             } else { 
  76.                 System.out.println("Seller Thread will be interrupted..."); 
  77.             } 
  78.         } 
  79.     } 
  80.  
  81.     public void sale() { 
  82.         System.out.println("==取take="); 
  83.         try { 
  84.             String item = queue.poll(50, TimeUnit.MILLISECONDS); 
  85.             System.out.println(item); 
  86.             if (item != null) { 
  87.                 sales.incrementAndGet(); // 可以声明long型的参数获得返回值,作为日志的参数 
  88.             } 
  89.         } catch (InterruptedException e) { 
  90.             e.printStackTrace(); 
  91.         } 
  92.     } 
  93.  
  94.     /** 
  95.      * 销售完队列剩余的产品 
  96.      */ 
  97.     private void cleanWarehouse() { 
  98.         try { 
  99.             while (queue.size() > 0) { 
  100.                 sale(); 
  101.             } 
  102.         } catch (Exception ex) { 
  103.             System.out.println("Seller Thread will be interrupted..."); 
  104.         } 
  105.     } 
  106.  
  107. /** 
  108.  * 生产者(生产产品) 
  109.  * 
  110.  */ 
  111. class Producer implements Runnable { 
  112.     private LinkedBlockingQueue<String> queue; 
  113.     private CountDownLatch latch; 
  114.     private AtomicLong output
  115.  
  116.     public Producer() { 
  117.  
  118.     } 
  119.  
  120.     public Producer(LinkedBlockingQueue<String> queue, AtomicLong output, CountDownLatch latch) { 
  121.         this.queue = queue; 
  122.         this.latch = latch; 
  123.         this.output = output
  124.     } 
  125.  
  126.     public void run() { 
  127.         try { 
  128.             latch.await(); // 线程等待 
  129.             for (; ; ) { 
  130.                 work(); 
  131.                 Thread.sleep(100); 
  132.             } 
  133.         } catch (InterruptedException e) { 
  134.             System.out.println("Producer thread will be interrupted..."); 
  135.         } 
  136.     } 
  137.  
  138.     /** 
  139.      * 工作 
  140.      */ 
  141.     public void work() { 
  142.         try { 
  143.             String product = RandomStringUtils.randomAscii(3); 
  144.             boolean success = queue.offer(product, 100, TimeUnit.MILLISECONDS); 
  145.             if (success) { 
  146.                 output.incrementAndGet();// 可以声明long型的参数获得返回值,作为日志的参数 
  147.             } 
  148.         } catch (InterruptedException e) { 
  149.             e.printStackTrace(); 
  150.         } 
  151.     } 
  152.  

工作原理

LinkedBlockingQueue内部由单链表实现,只能从head取元素,从tail添加元素。添加元素和获取元素都有独立的锁,也就是说LinkedBlockingQueue是读写分离的,读写操作可以并行执行。LinkedBlockingQueue采用可重入锁(ReentrantLock)来保证在并发情况下的线程安全。

向无限队列添加元素的所有操作都将永远不会阻塞,[注意这里不是说不会加锁保证线程安全],因此它可以增长到非常大的容量。

使用无限 BlockingQueue 设计生产者 - 消费者模型时最重要的是 消费者应该能够像生产者向队列添加消息一样快地消费消息。否则,内存可能会填满,然后就会得到一个 OutOfMemory 异常。

源码分析

定义

LinkedBlockingQueue的类继承关系如下:

 

其包含的方法定义如下:

 

成员属性

  1. /** 
  2. * 节点类,用于存储数据 
  3. */ 
  4. static class Node<E> { 
  5.     E item; 
  6.  
  7.     Node<E> next
  8.  
  9.     Node(E x) { item = x; } 
  10.  
  11. /** 阻塞队列的大小, 默认为Integer.MAX_VALUE */ 
  12. private final int capacity; 
  13.  
  14. /** 当前阻塞队列中的元素个数 */ 
  15. private final AtomicInteger count = new AtomicInteger(); 
  16.  
  17. /** 
  18.  * 阻塞队列的头节点 
  19.  */ 
  20. transient Node<E> head; 
  21.  
  22. /** 
  23.  * 阻塞队列的尾节点 
  24.  */ 
  25. private transient Node<E> last
  26.  
  27. /** 获取并移除元素时使用的锁,如take,poll,etc */ 
  28. private final ReentrantLock takeLock = new ReentrantLock(); 
  29.  
  30. /** notEmpty 条件对象,当队列没有数据时用于挂起执行删除的线程 */ 
  31. private final Condition notEmpty = takeLock.newCondition(); 
  32.  
  33. /** 添加元素时使用的锁,如 put,offer,etc */ 
  34. private final ReentrantLock putLock = new ReentrantLock(); 
  35.  
  36. /** notFull 条件对象,每当队列数据已满时用于挂起执行添加的线程 */ 
  37. private final Condition notFull = putLock.newCondition(); 

从上面的属性我们知道,每个添加到LinkedBlockingQueue队列中的数据都将被封装成Node节点,添加的链表队列中,其中head和last分别指向队列的头结点和尾结点。与ArrayBlockingQueue不同的是,LinkedBlockingQueue内部分别使用了takeLock 和 putLock 对并发进行控制,也就是说,添加和删除操作并不是互斥操作,可以同时进行,这样也就可以大大提高吞吐量。

这里如果不指定队列的容量大小,也就是使用默认的Integer.MAX_VALUE,如果存在添加速度大于删除速度时候,有可能会内存溢出,这点在使用前希望慎重考虑。

另外,LinkedBlockingQueue对每一个lock锁都提供了一个Condition用来挂起和唤醒其他线程。

构造函数

默认的构造函数和最后一个构造函数创建的队列大小都为 Integer.MAX_VALUE,只有第二个构造函数用户可以指定队列的大小。第二个构造函数最后初始化了last和head节点,让它们都指向了一个元素为null的节点。

最后一个构造函数使用了putLock来进行加锁,但是这里并不是为了多线程的竞争而加锁,只是为了放入的元素能立即对其他线程可见。

  1. public LinkedBlockingQueue() { 
  2.     // 默认大小为Integer.MAX_VALUE 
  3.     this(Integer.MAX_VALUE); 
  4.  
  5.  
  6. public LinkedBlockingQueue(int capacity) { 
  7.     if (capacity <= 0) throw new IllegalArgumentException(); 
  8.     this.capacity = capacity; 
  9.     last = head = new Node<E>(null); 
  10.  
  11.  
  12. public LinkedBlockingQueue(Collection<? extends E> c) { 
  13.     this(Integer.MAX_VALUE); 
  14.     final ReentrantLock putLock = this.putLock; 
  15.     putLock.lock(); // Never contended, but necessary for visibility 
  16.     try { 
  17.         int n = 0; 
  18.         for (E e : c) { 
  19.             if (e == null
  20.                 throw new NullPointerException(); 
  21.             if (n == capacity) 
  22.                 throw new IllegalStateException("Queue full"); 
  23.             enqueue(new Node<E>(e)); 
  24.             ++n; 
  25.         } 
  26.         count.set(n); 
  27.     } finally { 
  28.         putLock.unlock(); 
  29.     } 

入队方法

LinkedBlockingQueue提供了多种入队操作的实现来满足不同情况下的需求,入队操作有如下几种:

  • void put(E e);
  • boolean offer(E e);
  • boolean offer(E e, long timeout, TimeUnit unit)。

其中:

  • offer方法有两个重载版本,只有一个参数的版本,如果队列满了就返回false,否则加入到队列中,返回true,add方法就是调用此版本的offer方法;另一个带时间参数的版本,如果队列满了则等待,可指定等待的时间,如果这期间中断了则抛出异常,如果等待超时了则返回false,否则加入到队列中返回true;
  • put方法跟带时间参数的offer方法逻辑一样,不过没有等待的时间限制,会一直等待直到队列有空余位置了,再插入到队列中,返回true。

put(E e)

  1. public void put(E e) throws InterruptedException { 
  2.     if (e == null) throw new NullPointerException(); 
  3.     int c = -1; 
  4.     Node<E> node = new Node<E>(e); 
  5.     final ReentrantLock putLock = this.putLock; 
  6.     final AtomicInteger count = this.count
  7.     // 获取锁中断 
  8.     putLock.lockInterruptibly(); 
  9.     try { 
  10.         //判断队列是否已满,如果已满阻塞等待 
  11.         while (count.get() == capacity) { 
  12.             notFull.await(); 
  13.         } 
  14.         // 把node放入队列中 
  15.         enqueue(node); 
  16.         c = count.getAndIncrement(); 
  17.         // 再次判断队列是否有可用空间,如果有唤醒下一个线程进行添加操作 
  18.         if (c + 1 < capacity) 
  19.             notFull.signal(); 
  20.     } finally { 
  21.         putLock.unlock(); 
  22.     } 
  23.     // 如果队列中有一条数据,唤醒消费线程进行消费 
  24.     if (c == 0) 
  25.         signalNotEmpty(); 

小结put方法来看,它总共做了以下情况的考虑:

  • 队列已满,阻塞等待。
  • 队列未满,创建一个node节点放入队列中,如果放完以后队列还有剩余空间,继续唤醒下一个添加线程进行添加。如果放之前队列中没有元素,放完以后要唤醒消费线程进行消费。

我们再看看put方法中用到的几个其他方法,先来看看 enqueue(Node node) 方法:

  1. private void enqueue(Node<E> node) { 
  2.     last = last.next = node; 

用一张图来看看往队列里依次放入元素A和元素B,如下:

接下来我们看看signalNotEmpty,顺带着看signalNotFull方法。

  1. private void signalNotEmpty() { 
  2.     final ReentrantLock takeLock = this.takeLock; 
  3.     takeLock.lock(); 
  4.     try { 
  5.         notEmpty.signal(); 
  6.     } finally { 
  7.         takeLock.unlock(); 
  8.     } 
  9.  
  10. private void signalNotFull() { 
  11.     final ReentrantLock putLock = this.putLock; 
  12.     putLock.lock(); 
  13.     try { 
  14.         notFull.signal(); 
  15.     } finally { 
  16.         putLock.unlock(); 
  17.     } 

为什么要这么写?因为signal的时候要获取到该signal对应的Condition对象的锁才行。

offer(E e)

  1. public boolean offer(E e) { 
  2.     if (e == null) throw new NullPointerException(); 
  3.     final AtomicInteger count = this.count
  4.     if (count.get() == capacity) 
  5.         return false
  6.     int c = -1; 
  7.     Node<E> node = new Node<E>(e); 
  8.     final ReentrantLock putLock = this.putLock; 
  9.     putLock.lock(); 
  10.     try { 
  11.         // 队列有可用空间,放入node节点,判断放入元素后是否还有可用空间, 
  12.         // 如果有,唤醒下一个添加线程进行添加操作。 
  13.         if (count.get() < capacity) { 
  14.             enqueue(node); 
  15.             c = count.getAndIncrement(); 
  16.             if (c + 1 < capacity) 
  17.                 notFull.signal(); 
  18.         } 
  19.     } finally { 
  20.         putLock.unlock(); 
  21.     } 
  22.     if (c == 0) 
  23.         signalNotEmpty(); 
  24.     return c >= 0; 

可以看到offer仅仅对put方法改动了一点点,当队列没有可用元素的时候,不同于put方法的阻塞等待,offer方法直接方法false。

offer(E e, long timeout, TimeUnit unit)

  1. public boolean offer(E e, long timeout, TimeUnit unit) 
  2.         throws InterruptedException { 
  3.  
  4.     if (e == null) throw new NullPointerException(); 
  5.     long nanos = unit.toNanos(timeout); 
  6.     int c = -1; 
  7.     final ReentrantLock putLock = this.putLock; 
  8.     final AtomicInteger count = this.count
  9.     putLock.lockInterruptibly(); 
  10.     try { 
  11.         // 等待超时时间nanos,超时时间到了返回false 
  12.         while (count.get() == capacity) { 
  13.             if (nanos <= 0) 
  14.                 return false
  15.             nanos = notFull.awaitNanos(nanos); 
  16.         } 
  17.         enqueue(new Node<E>(e)); 
  18.         c = count.getAndIncrement(); 
  19.         if (c + 1 < capacity) 
  20.             notFull.signal(); 
  21.     } finally { 
  22.         putLock.unlock(); 
  23.     } 
  24.     if (c == 0) 
  25.         signalNotEmpty(); 
  26.     return true

该方法只是对offer方法进行了阻塞超时处理,使用了Condition的awaitNanos来进行超时等待,这里为什么要用while循环?因为awaitNanos方法是可中断的,为了防止在等待过程中线程被中断,这里使用while循环进行等待过程中中断的处理,继续等待剩下需等待的时间。

出队方法

入队列的方法说完后,我们来说说出队列的方法。LinkedBlockingQueue提供了多种出队操作的实现来满足不同情况下的需求,如下:

  • E take();
  • E poll();
  • E poll(long timeout, TimeUnit unit);

take()

  1. public E take() throws InterruptedException { 
  2.     E x; 
  3.     int c = -1; 
  4.     final AtomicInteger count = this.count
  5.     final ReentrantLock takeLock = this.takeLock; 
  6.     takeLock.lockInterruptibly(); 
  7.     try { 
  8.         // 队列为空,阻塞等待 
  9.         while (count.get() == 0) { 
  10.             notEmpty.await(); 
  11.         } 
  12.         x = dequeue(); 
  13.         c = count.getAndDecrement(); 
  14.         // 队列中还有元素,唤醒下一个消费线程进行消费 
  15.         if (c > 1) 
  16.             notEmpty.signal(); 
  17.     } finally { 
  18.         takeLock.unlock(); 
  19.     } 
  20.     // 移除元素之前队列是满的,唤醒生产线程进行添加元素 
  21.     if (c == capacity) 
  22.         signalNotFull(); 
  23.     return x; 

take方法看起来就是put方法的逆向操作,它总共做了以下情况的考虑:

  • 队列为空,阻塞等待
  • 队列不为空,从对首获取并移除一个元素,如果消费后还有元素在队列中,继续唤醒下一个消费线程进行元素移除。如果放之前队列是满元素的情况,移除完后需要唤醒生产线程进行添加元素。

我们来看看dequeue方法

  1. private E dequeue() { 
  2.     // 获取到head节点 
  3.     Node<E> h = head; 
  4.     // 获取到head节点指向的下一个节点 
  5.     Node<E> first = h.next
  6.     // head节点原来指向的节点的next指向自己,等待下次gc回收 
  7.     h.next = h; // help GC 
  8.     // head节点指向新的节点 
  9.     head = first
  10.     // 获取到新的head节点的item值 
  11.     E x = first.item; 
  12.     // 新head节点的item值设置为null 
  13.     first.item = null
  14.     return x; 

我们结合注释和图来看一下链表算法:


其实这个写法看起来很绕,我们其实也可以这么写:

  1. private E dequeue() { 
  2.     // 获取到head节点 
  3.     Node<E> h = head; 
  4.     // 获取到head节点指向的下一个节点,也就是节点A 
  5.     Node<E> first = h.next
  6.     // 获取到下下个节点,也就是节点B 
  7.     Node<E> next = first.next
  8.     // head的next指向下下个节点,也就是图中的B节点 
  9.     h.next = next
  10.     // 得到节点A的值 
  11.     E x = first.item; 
  12.     first.item = null; // help GC 
  13.     first.next = first; // help GC 
  14.     return x; 

poll()

  1. public E poll() { 
  2.     final AtomicInteger count = this.count
  3.     if (count.get() == 0) 
  4.         return null
  5.     E x = null
  6.     int c = -1; 
  7.     final ReentrantLock takeLock = this.takeLock; 
  8.     takeLock.lock(); 
  9.     try { 
  10.         if (count.get() > 0) { 
  11.             x = dequeue(); 
  12.             c = count.getAndDecrement(); 
  13.             if (c > 1) 
  14.                 notEmpty.signal(); 
  15.         } 
  16.     } finally { 
  17.         takeLock.unlock(); 
  18.     } 
  19.     if (c == capacity) 
  20.         signalNotFull(); 
  21.     return x; 

poll方法去除了take方法中元素为空后阻塞等待这一步骤,这里也就不详细说了。同理,poll(long timeout, TimeUnit unit)也和offer(E e, long timeout, TimeUnit unit)一样,利用了Condition的awaitNanos方法来进行阻塞等待直至超时。这里就不列出来说了。

获取元素方法

  1. public E peek() { 
  2.     if (count.get() == 0) 
  3.         return null
  4.     final ReentrantLock takeLock = this.takeLock; 
  5.     takeLock.lock(); 
  6.     try { 
  7.         Node<E> first = head.next
  8.         if (first == null
  9.             return null
  10.         else 
  11.             return first.item; 
  12.     } finally { 
  13.         takeLock.unlock(); 
  14.     } 

加锁后,获取到head节点的next节点,如果为空返回null,如果不为空,返回next节点的item值。

删除元素方法

  1. public boolean remove(Object o) { 
  2.     if (o == nullreturn false
  3.     // 两个lock全部上锁 
  4.     fullyLock(); 
  5.     try { 
  6.         // 从head开始遍历元素,直到最后一个元素 
  7.         for (Node<E> trail = head, p = trail.next
  8.              p != null
  9.              trail = p, p = p.next) { 
  10.             // 如果找到相等的元素,调用unlink方法删除元素 
  11.             if (o.equals(p.item)) { 
  12.                 unlink(p, trail); 
  13.                 return true
  14.             } 
  15.         } 
  16.         return false
  17.     } finally { 
  18.         // 两个lock全部解锁 
  19.         fullyUnlock(); 
  20.     } 
  21.  
  22. void fullyLock() { 
  23.     putLock.lock(); 
  24.     takeLock.lock(); 
  25.  
  26. void fullyUnlock() { 
  27.     takeLock.unlock(); 
  28.     putLock.unlock(); 

因为remove方法使用两个锁全部上锁,所以其他操作都需要等待它完成,而该方法需要从head节点遍历到尾节点,所以时间复杂度为O(n)。我们来看看unlink方法。

  1. void unlink(Node<E> p, Node<E> trail) { 
  2.     // p的元素置为null 
  3.     p.item = null
  4.     // p的前一个节点的next指向p的next,也就是把p从链表中去除了 
  5.     trail.next = p.next
  6.     // 如果last指向p,删除p后让last指向trail 
  7.     if (last == p) 
  8.         last = trail; 
  9.     // 如果删除之前元素是满的,删除之后就有空间了,唤醒生产线程放入元素 
  10.     if (count.getAndDecrement() == capacity) 
  11.         notFull.signal(); 

总结

LinkedBlockingQueue是一个阻塞队列,内部由两个ReentrantLock来实现出入队列的线程安全,由各自的Condition对象的await和signal来实现等待和唤醒功能。它和ArrayBlockingQueue的不同点在于:

  • 队列大小有所不同,ArrayBlockingQueue是有界的初始化必须指定大小,而LinkedBlockingQueue可以是有界的也可以是无界的(Integer.MAX_VALUE),对于后者而言,当添加速度大于移除速度时,在无界的情况下,可能会造成内存溢出等问题。
  • 数据存储容器不同,ArrayBlockingQueue采用的是数组作为数据存储容器,而LinkedBlockingQueue采用的则是以Node节点作为连接对象的链表。
  • 由于ArrayBlockingQueue采用的是数组的存储容器,因此在插入或删除元素时不会产生或销毁任何额外的对象实例,而LinkedBlockingQueue则会生成一个额外的Node对象。这可能在长时间内需要高效并发地处理大批量数据的时,对于GC可能存在较大影响。
  • 两者的实现队列添加或移除的锁不一样,ArrayBlockingQueue实现的队列中的锁是没有分离的,即添加操作和移除操作采用的同一个ReenterLock锁,而LinkedBlockingQueue实现的队列中的锁是分离的,其添加采用的是putLock,移除采用的则是takeLock,这样能大大提高队列的吞吐量,也意味着在高并发的情况下生产者和消费者可以并行地操作队列中的数据,以此来提高整个队列的并发性能。

PS:以上代码提交在 Github :

https://github.com/Niuh-Study/niuh-juc-final.git

文章持续更新,可以公众号搜一搜「 一角钱技术 」第一时间阅读, 本文 GitHub org_hejianhui/JavaStudy 已经收录,欢迎 Star。

【编辑推荐】

  1. 微软技术专家认为短信验证方式并不安全
  2. 云计算十年:大国博弈和互联网巨头生死战
  3. 程序员考研该不该继续选择计算机专业
  4. JavaScript 代码加不加分号有什么区别
  5. 明天中午一点! Google 开发者大会预约全攻略

上一篇:五步学会任何编程语言

下一篇:用Python内置模块处理ini配置文件