锁优化

高效并发是从JDK1.5JDK1.6的一个重要改进,HotSpot虚拟机为了在线程之间更高效地共享数据,以及解决竞争问题,从而提高程序的执行效率在该版本上花费了大量精力去实现各种锁优化技术,如适应性自旋锁消除锁粗化轻量级锁偏向锁等。

自旋锁与自适应自旋

互斥同步性能最大的影响阻塞的实现挂起线程恢复线程的操作都需要转入内核态中完成,这会给操作系统的并发性能带来很大的压力。在许多应用上,共享数据的锁定状态只会持续很短一段时间,为了这段时间去挂起恢复线程并不值得

两个或以上的线程同时并行执行,可以让后面请求锁的那个线程不放弃处理器执行时间,而是执行一个忙循环,也就是所谓的自旋,看看持有锁的线程是否会很快就释放锁,这项技术就是所谓的自旋锁

自旋锁JDK1.4.2中引入但默认关闭,使用-XX:UseSpinning参数开启,JDK1.6默认开启自旋锁。自旋等待不能代替阻塞,自旋等待本身虽然避免了线程切换的开销,但还是要占用处理器时间,若锁被占用的时间很短自旋等待的效果会非常好,若锁被占用的时间很长,自旋等待的线程只会白白消耗处理器资源,反而带来性能上的浪费

自旋等待的时间是有一定的限度,若自旋超过了限定的次数仍然没有成功获得锁,就使用传统的方式挂起线程自旋次数默认为10,可使用参数-XX:PreBlockSpin来更改。

JDK1.6引入了自适应的自旋锁,自适应意味着自旋时间不再固定,而是由前一次同一个锁上自旋时间锁的拥有者的状态来决定。若在同一个锁对象上,上一次是通过自旋等待获得的锁,且持有锁的线程正在运行中,则虚拟机将认为这次自旋锁也很有可能再次成功,进而它将运行自旋等待持续相对更长的时间。且若对于某个锁,通过自旋的方式很少成功获得过锁,则在以后要获取该锁时将可能省略自旋过程,以避免浪费处理器资源

锁消除

锁的消除是指虚拟机即时编译器在运行时,对一些代码上要求同步,但被检测到不可能存在共享数据竞争的锁进行消除。锁消除主要判定依据来源于逃逸分析的数据支持,若判断在一段代码中,上所有数据都不会逃逸出去从而被其他线程访问到,即可以将其当做栈上数据对待,认为其是私有的,即可进行锁消除。

1
2
3
4
5
6
private void method1() {
Object object1 = new Object();
synchronized (object1) {
System.out.println();
}
}

Java中有许多同步措施并不是程序员自己加入的,且同步代码在Java中是普遍存在的。例如最简单的String字符串的相加,由于String是不可变的类,在JDK1.5后将转化为StringBuilder对象的连续append操作,而每个append方法中都有一个同步块。

逃逸分析

若一个对象被发现只能从一个线程被访问到,则该对象的操作可以不考虑同步,将堆分配转化为栈分配。若一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配。分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,则对象的部分或全部可以不存储在内存,而是存储在CPU寄存器中。

锁粗化

原则上总是推荐将同步块作用范围限制得尽可能小,即只在共享数据的实际作用域中才进行同步,是为了使得需要同步得操作数量尽可能小,当存在竞争时,等待锁的线程也能尽可能快的拿到锁

但若一系列连续操作都对同一个对象反复加锁和解锁,甚至加锁操作是出现在循环体中,即使没有线程竞争,频繁地进行互斥同步操作也会导致不必要的性能损耗。

如连续的StringBuilderappend方法,若虚拟机检查到有这样一串零碎的操作都对同一个对象加锁,将会把加锁同步得范围粗化到整个操作序列的外部。连续的StringBuilderappend操作会扩展到第一个append操作之前直到最后一个append操作之后,这样加一次锁即可。

轻量级锁

传统的锁机制成为重量级锁轻量级是相对于使用操作系统互斥量来实现的传统锁而言的,是JDK1.6加入的新型锁机制。轻量级锁并不是用来代替重量级锁的,其本意是在没有多线程竞争的前提下,减少重量级锁使操作系统互斥量产生的性能消耗。

对象头中用于存储对象自身的运行时数据信息是实现轻量级锁偏向锁的关键,官方称为Mark Word。对象头信息是与对象自身定义的数据无关的额外存储成本,考虑到虚拟机的空间效率,Mark Word被设计成一个非固定的数据结构以便在极小的空间内存存储尽量多的信息,它会根据对象的状态复用自己的存储空间。

32HotSpot虚拟机中, 对象未被锁定的状态下,Mark Word32比特空间里的25比特将用于存储对象哈希码4比特用于存储对象分代年龄2比特用于存储锁标志位1比特固定为0表示未进入偏向模式。 对象除了未被锁定的正常状态外, 还有轻量级锁定重量级锁定GC标记可偏向等几种不同状态 。

HotSpot虚拟机对象头Mark Word

代码即将进入同步块时, 若锁标志位01状态即同步对象没有被锁定 , 虚拟机首先将在当前线程栈帧中建立一个名为Lock Record锁记录 的空间, 用于存储锁对象目前的Mark Word的拷贝,官方将该拷贝称为Displaced Mark Word

轻量级锁CAS操作之前堆栈与对象的状态

虚拟机将使用CAS操作尝试把对象的Mark Word更新为指向Lock Record的指针。 若更新成功, 即代表该线程拥有了该对象的锁, 且对象Mark Word锁标志位将转变为00, 表示此对象处于轻量级锁定状态。此时线程堆栈对象头的状态如下:

轻量级锁CAS操作之后堆栈与对象的状态

若更新失败, 意味着至少存在一条线程与当前线程竞争获取该对象的。 虚拟机首先会检查对象的Mark Word是否指向当前线程的栈帧若是则说明当前线程已经拥有该对象的锁, 则直接进入同步块, 否则说明该锁对象已经被其他线程抢占。 若出现两条以上的线程争用同一个锁, 则轻量级锁不再有效必须要膨胀为重量级锁锁标志的状态值变为10, 此时Mark Word中存储的就是指向重量级锁(互斥量) 的指针, 等待锁的线程也必须进入阻塞状态。

轻量级锁解锁过程也同样是通过CAS操作来进行, 若对象的Mark Word仍然指向线程的锁记录, 则用CAS操作把对象当前的Mark Word线程中复制的Displaced Mark Word替换回来。 若能成功替换, 则整个同步过程顺利完成; 若替换失败, 则说明有其他线程尝试过获取该锁, 就要在释放锁的同时, 唤醒被挂起的线程

轻量级锁提升程序同步性能依据:对于绝大部分的锁, 在整个同步周期内都不存在竞争,这一经验法则。若没有竞争, 轻量级锁便通过CAS操作成功避免了使用互斥量的开销; 但如果确实存在锁竞争, 除了互斥量的本身开销外, 还额外发生了CAS操作的开销。 因此在有竞争的情况下,轻量级锁反而会比传统的重量级锁更慢

偏向锁

偏向锁JDK1.6引入的一项锁优化措施, 其目的消除数据在无竞争情况下的同步原语,进一步提高程序的运行性能。 若说轻量级锁是在无竞争的情况下使用CAS操作消除同步使用的互斥量偏向锁就是在无竞争的情况下把整个同步都消除掉

偏向锁的意思是锁会偏向于第一个获得它的线程, 若在接下来的执行过程中, 该锁一直没有被其他的线程获取, 则持有偏向锁的线程将永远不需要再进行同步

若虚拟机启用了偏向锁, 则当锁对象第一次被线程获取时, 虚拟机将把对象头中的标志位设置为01、 把偏向模式设置为1, 表示进入偏向模式。 同时使用CAS操作把获取到该锁的线程的ID记录在对象的Mark Word中。 若CAS操作成功, 持有偏向锁的线程以后每次进入该锁相关的同步块时, 虚拟机都可以不再进行任何同步操作 。偏向锁启用参数-XX:+UseBiasedLocking

一旦出现另外一个线程去尝试获取该锁偏向模式立即结束。 根据锁对象目前是否处于被锁定的状态决定是否撤销偏向 , 撤销后标志位恢复到未锁定轻量级锁定的状态, 后续的同步操作按照轻量级锁执行。

偏向锁、 轻量级锁的状态转化及对象Mark Word的关系

当对象进入偏向状态时, Mark Word大部分的空间(23个比特) 都用于存储持有锁的线程ID了, 这部分空间占用了原有存储对象哈希码的位置 。

Java中对象如果计算过哈希码, 就应该一直保持该值不变 ,否则很多依赖对象哈希码的API都可能存在出错风险。 而作为绝大多数对象哈希码来源的Object::hashCode()方法, 返回的是对象的一致性哈希码, 该值是能强制保证不变的, 它通过在对象头中存储计算结果来保证第一次计算之后, 再次调用该方法取到的哈希码值永远不会再发生改变。 因此当一个对象已经计算过一致性哈希码后, 则再也无法进入偏向锁状态了; 而当一个对象当前正处于偏向锁状态, 又收到需要计算一致性哈希码请求时, 其偏向状态会被立即撤销, 且锁会膨胀为重量级锁。 在重量级锁的实现中, 对象头指向了重量级锁的位置, 代表重量级锁的ObjectMonitor类里有字段可以记录非加锁状态下Mark Word, 其中自然可以存储原来的哈希码

偏向锁可以提高带有同步但无竞争的程序性能, 但同样是一个带有效益权衡性质的优化,也就是说它并非总是对程序运行有利。 若程序中大多数锁都总是被多个不同的线程访问, 偏向模式则是多余的。

锁的膨胀升级过程

偏向锁的启动是在启动几秒之后才激活,因为jvm启动的过程中会有大量的同步块,且这些同步块都有竞争,若一启动就启动偏向锁,会出现很多没有必要的锁撤销。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
public static void main(String[] args) throws InterruptedException {
Object a = new Object();
Thread thread1 = new Thread(() -> {
synchronized (a) {
System.out.println("thread1 locking");
System.out.println(ClassLayout.parseInstance(a).toPrintable());
try {
//让线程晚点儿死亡,造成锁的竞争
Thread.sleep(2000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
});
Thread thread2 = new Thread(() -> {
synchronized (a) {
System.out.println("thread2 locking");
System.out.println(ClassLayout.parseInstance(a).toPrintable());
try {
Thread.sleep(2000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
});
thread1.start();
thread2.start();
}

从结果很明显看到对象的锁升级成了重量级锁:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 3a 02 43 25 (00111010 00000010 01000011 00100101) (625148474)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total

thread2 locking
java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 3a 02 43 25 (00111010 00000010 01000011 00100101) (625148474)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total

JVM锁的膨胀升级

synchronized锁实现与升级过程