对于单任务或者单线程的应用而言,其主要资源消耗都花在任务本身。但对于多线程应用,除了处理功能需求,还要额外维护多线程环境的特有信息,如数据本身的元数据、线程的调度、线程上下文的切换。事实上,单核CPU上采样并行算法的效率会低于串行算法。并行之所以能提高系统的性能,并不是因为它少干活了,而是因为利用了多个CPU的资源,合理地进行任务调度。这里介绍了有助于提高锁性能的几点建议:
1.减少锁持有时间
只在必要时进行同步,这样就能明显减少线程持有锁的时间,提高系统的吞吐量。减少锁的持有时间有助于降低锁冲突的可能性,进而提升系统的并发能力。
2.减少锁粒度
减小锁粒度,就是指缩小锁定对象的范围,从而减少锁冲突的可能性,进而提高系统的并发能力。
典型例子是ConcurrentHashMap类的实现。对于HashMap来说,最重要的两个方法就是put和get,对于整个HashMap加锁,必然可以得到一个线程安全的对象,但是我们认为加锁粒度太大。对于ConcurrentHashMap,它内部进一步细分了若干个(默认是16)小的HashMap,称之为段(Segment)。
如果需要在ConcurrentHashMap中增加一个新的表项,并不是将整个HashMap加锁,而是首先根据hascode得到该表项应该被存放到哪个段中,然后对该段加锁,并完成put操作。只要被加入的表项不存放在同一个段中,线程间便可以做到真正的并行。
但是,减小锁粒度会引入一个新问题,当系统需要取得全局锁时,其消耗的资源会比较多,例如size操作,需要取得所有段的锁。事实上,size方法会先使用无锁的方式求和,如果失败才会尝试这种加锁的方式。
因此,只有在类似于size获取全局信息的方法调用并不频繁时,这种减小锁粒度的方法才能真正意义上提高吞吐量。
3.读写分离锁替换独占锁
在读多写少的场合,使用读写锁ReadWriteLock可以提高系统的性能。读操作本身不影响数据的完整性和一致性。
4.锁分离
将读写锁的思想延伸,就是锁分离。根据应用程序的功能特点,使用类似的分离思想,也可以对独占锁进行分离。
典型案例是concurrent并发包下的LinkedBlockingQueue的实现,take函数和put函数分别实现了从队列中取得数据和往队列中添加数据,虽然都是对当前队列的修改操作,但由于LinkedBlockingQueue基于链表,两个操作分别作用于队列的前端和尾端,两者并不冲突,因此设计时,用两把不同锁,实现取数据和写数据的分离。
5.锁粗化
注意:锁粗化的思想和减少锁持有时间是相反的,但在不同的场合,它们的效果并不相同,所以大家要根据实际情况,进行权衡。
6.Java虚拟机锁优化
6.1锁偏向
锁偏向是一种针对加锁操作的优化手段。核心思想是:如果一个线程获得了锁,那么锁就进入偏向模式,当此线程再次请求锁时,无须再做任何同步操作,这样就节省了大量有关申请的操作,从而提高程序性能。对于几乎没有锁竞争的场合,偏向锁有比较好的优化效果,但是对于锁竞争比较激烈的场合,经常需要解除偏向锁,还不如不用。
6.1轻量级锁
轻量级锁的操作是,将对象头部作为指针,指向持有锁的线程堆栈内部,来判断一个线程是否持有对象锁,如果线程获得轻量级锁成功,则可以顺利进入临界区;否则,当前线程锁请求膨胀为重量级锁。
6.3自旋锁
锁膨胀后,虚拟机为了避免线程在操作系统层面挂起,还会做最后的努力--自旋锁,虚拟机让当前线程做几个空循环(这也是自旋的含义),在经过若干次的循环后,如果可以得到锁,那么就顺利进入临界区;否则,才会真实地将线程在操作系统层面挂起。
6.4锁消除
锁消除是一种更彻底的锁优化。Java虚拟机在JIT编译时,通过对运行上下文的扫描,去除不可能存在共享资源竞争的锁。通过锁消除,可以节省毫无意义的请求锁时间。
细心的人可能会问,如果不存在竞争,那么程序员为什么还要加锁呢?因为在开发过程中必然会使用一些JDK的内置API,比如StringBuffer,Vector等,也许不会注意它们的内部实现,而实际上它们内部使用了synchronized请求锁。
public String [] createStrings(){
Vector<String> v = new Vector<String>();
for(int i=0;i<100;i++)
v.add(Integer.toString(i);
return v.toArray(new String[]{});
}
局部变量是在栈上分配的,属于线程私有的数据,因此不可能被其他线程访问,在这种情况下,Vector内部所有加锁同步都是没有必要的,如果虚拟机检测到这种情况,机会将这些无用的锁操作去除。
锁消除涉及的一项关键技术为逃逸分析,就是观察某一个变量是否会逃出某一个作用域。在上例中v没有逃出该函数,因此虚拟机才可以大胆地将v内部的加锁操作去除。