1. 首页
  2. jvm实践

剖析G1(Garbage First)

欢迎关注笔者的公众号:【阿飞的博客】,首发都在这里!!!

Java从JDK7U9开始支持G1(正式发布),所以,如果要使用G1的话,你的Java版本应该是JDK7U9或者更新的版本。不过,强烈建议JDK8才使用G1,而且最好是JDK8的最新版本,因为在JDK7~JDK8最新版本迭代过程中,Java针对G1垃圾回收期做了大量的优化工作。

G1垃圾回收器是为多处理器大内存的服务器而设计的,它根据运行JVM过程中构建的停顿预测模型(Pause Prediction Model)计算出来的历史数据来预测本次收集需要选择的Region数量,然后尽可能(不是绝对)满足GC的停顿时间,G1期望能让JVM的GC成为一件简单的事情。G1旨在延迟性和吞吐量之间取得最佳的平衡,它尝试解决有如下问题的Java应用:

  1. 堆大小能达到几十G甚至更大,超过50%的堆空间都是存活的对象;
  2. 对象分配和晋升的速度随着时间的推移有很大的影响;
  3. 堆上严重的碎片化问题;
  4. 可预测的停顿时间,避免长时间的停顿。

  • 开启G1

介绍G1之前先简单的说一下如何开启G1,在JDK9之前,JDK7和JDK8默认都是ParallelGC垃圾回收。到了JDK9,G1才是默认的垃圾回收器。所以如果JDK7或者JDK8需要使用G1的话,需要通过参数(-XX:+UseG1GC)显示执行垃圾回收器。而JDK9以后的版本,不需要任何JVM参数,默认就是G1垃圾回收模式,显示指定G1运行一个Demo程序如下:

  java -Xmx1g -Xms1g -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -jar demo.jar

  • G1堆

G1的堆结构,是Java发展这么多年,第一次发生这么大的变化。以前,无论是使用SerialGC,ParallelGC,还是CMS,堆的年轻代和老年代都是连续的,且堆结构图都是如下所示:

pouxig1garbagefirst_1.png

以前GC的堆

而G1的堆是基于Region设计的,事实上,这些Region本质上就是Eden、Survivor和Old,而且同类型的Region可以不连续。如下图所示:

pouxig1garbagefirst_2.png

G1 Heap Allocation

图片中不同的颜色表示不同的Region,Region被设计为在停止所有其他应用程序线程的情况下并行收集,即是STW的。

另外,除了图中3种常见的Region类型,还有第四种特殊的Region,即:Humongous,它是特殊的老年代Region。这种Region被设计用来保存超过Region的50%空间的对象,它们存储在一系列连续的Region中。通常来说,超大对象只会在最终标记结束后的清理阶段(cleanup)才会被回收,或者发生FullGC时。但是在JDK8U40的时候,JDK更新了一些收集超大对象的特性,以至于在YGC的时候,G1也能回收那些没有任何引用指向的超大对象,可以通过参数-XX:+G1ReclaimDeadHumongousObjectsAtYoungGC控制,这个参数后来被更名为-XX:+G1EagerReclaimHumongousObjects,并且可以通过参数-XX:+G1TraceEagerReclaimHumongousObjects跟踪并输出超大对象回收相关信息。

超大对象的分配可能导致过早的发生垃圾回收,每一个超大对象分配时,G1会检查初始堆占用阈值-XX:InitiatingHeapOccupancyPercent,如果占用比例超过了阈值,那么就会触发全局并发标记。如果超大对象的分配导致连续发生全局并发标记,那么请考虑适当增加参数 -XX:G1HeapRegionSize 的值,这样一来,之前的超大对象就不再是超大对象,而是采用常规的分配方式的普通对象。另外,超大对象的分配还会导致老年代碎片化,需要注意。

超大对象从来不会被移动(但是可以被清理),即使发生的是FullGC。这可能会导致过早的FullGC或者一些意料之外的OOM,而事实上还有很多可用堆空间。

JVM启动的时候就会自动设置Region大小,当然,你也可以自己指定Region的大小(例如-XX:G1HeapRegionSize=4m)。Region数量最多不会超过2048个,每个Region的大小在1~32M之间,且必须是2的N次方。这就意味着,如果堆内存少于2048M(2G),那么Region数量就会少于2048个。

以前GC的垃圾收集主要分为年轻代的垃圾收集和老年代的垃圾收集,G1这点类似,主要分为年轻代的垃圾收集,即YGC;以及混合收集,即Mixed GC。接下来,我们深入了解一下G1的这两种垃圾收集。

事实上,G1和CMS还有一个相同点,在并发模式GC搞不定的时候,也会发生FullGC,即整个过程完全STW。

Young GC

G1的YGC回收前是这样的,当Eden满了后,就会触发YGC,这一点和以前的ParallelGC以及CMS+ParNew是一样的:

pouxig1garbagefirst_3.png

G1年轻代

G1的YGC要做的事情如下图所示,年轻代存活的对象会被从多个Region(Eden)中拷贝并移动到1个或多个Region(S区),这个过程就叫做Evacuation。如果某些对象的年龄值达到了阈值,就会晋升到Old区,这一点和以前的GC类似:

pouxig1garbagefirst_4.png

YGC Of G1

G1的YGC也是一个完全STW,且多线程并行执行的阶段,对应的日志如下所示:

  [GC pause (G1 Evacuation Pause) (young) 898M->450M(1024M), 0.0005367 secs]

并且为了下一次YGC,Eden和Survivor的大小会被重新计算,计算过程中用户设置的停顿时间目标也会被考虑进去,如果需要的话,它们的大小可能调大,也可能调小。

存活的对象被拷贝并移动到Survivor或者晋升到Old区(如果有满足条件的对象的话):

pouxig1garbagefirst_5.png

End YGC Of G1

最后对G1的YGC做一个简单的总结:

  • 堆是一个被划分为多个Region的单独的内存空间;
  • 年轻代的内存由多个不连续的Region组成,这样的设计在需要对年轻代大小扩容的时候,变得更容易;
  • G1的YGC是完全STW的,所有的应用线程都需要停止工作;
  • YGC是多线程并行的;
  • 存活的对象会被拷贝到新的Survivor或者Old类型的Region中;

并发标记周期

全局并发标记周期,即concurrent marking cycle,G1的全局并发标记周期和CMS的并发收集过程非常相似。不过,G1模式下满足触发全局并发标记的条件由参数(-XX:InitiatingHeapOccupancyPercent=45)控制,这个比例是整个Java堆占用百分比阈值,即Java堆占用这么多空间后,就会进入初始化标记->并发标记->最终标记->清理的生命周期。而CMS是由参数(-XX:CMSInitiatingOccupancyFraction)控制,这个比例是老年代占用比阈值

G1的GC日志样例参考如下:

  [GC pause (G1 Evacuation Pause) (young) (initial-mark) 857M->617M(1024M), 0.0112237 secs]
    [GC concurrent-root-region-scan-start]
    [GC concurrent-root-region-scan-end, 0.0000525 secs]
    [GC concurrent-mark-start]
    [GC concurrent-mark-end, 0.0083864 secs]
    [GC remark, 0.0038066 secs]
    [GC cleanup 680M->680M(1024M), 0.0006165 secs]
    [GC pause (G1 Evacuation Pause) (young) 869M->665M(1024M), 0.0084004 secs]
    [GC pause (G1 Evacuation Pause) (mixed) 677M->667M(1024M), 0.0136266 secs]
    [GC pause (G1 Evacuation Pause) (mixed) 711M->675M(1024M), 0.0101436 secs]
    [GC pause (G1 Evacuation Pause) (mixed) 715M->682M(1024M), 0.0114279 secs]
    ... ...

由日志可知,G1的并发标记周期主要包括如下几个过程:

  • 初始化标记

STW阶段,在G1中,初始化标记是伴随一次普通的YGC发生的,这么做的好处是没有额外的、单独的暂停阶段,这个阶段主要是找出所有的根Region集合。
GC日志中有(young) (initial-mark)字样:

pouxig1garbagefirst_6.png

Initial Mark

  • 根分区扫描

并发阶段,扫描那些根分区(Region)集合–Oracle官方介绍的根分区集合是那些对老年代有引用的Survivor分区,标记所有从根集合可直接到达的对象并将它们的字段压入扫描栈(marking stack)中等到后续扫描。G1使用外部的bitmap来记录mark信息,而不使用对象头的mark word里的mark bit(JDK12的Shenandoah GC是使用对象头)。这个过程是和应用线程一起运行的,另外需要注意的是,这个阶段必须在下一次YGC发生之前完成,如果扫描过程中,Eden区耗尽,那么一定要等待根分区扫描完成还能进行YGC。

  • 并发标记

并发阶段,继续扫描,不断从上一个阶段的扫描栈中取出引用递归扫描整个堆所有存活的对象图。每扫描到一个对象就会对其标记,并将其字段压入扫描栈。重复扫描过程,直到扫描栈清空。另外,需要注意的是,这个阶段可以被YGC中断。

pouxig1garbagefirst_7.png

Concurrent Mark

  • 最终标记

STW阶段,彻底完成堆中存活对象的标记工作,使用的是SATB(snapshot-at-the-beginning)算法,它比CMS使用的算法更快。因为,G1这个remark与CMS的remark有一个本质上的区别,那就是这个暂停只需要扫描SATB buffer,而CMS的remark需要重新扫描mod-union table里的dirty card外加整个根集合(这时候年轻代也是根集合的一部分),而此时整个年轻代(不管对象死活)都会被当作根集合的一部分,因而CMS remark有可能会非常慢(所以,很多CMS优化建议配置参数:-XX:+CMSScavengeBeforeRemark,即在最终标记之前执行一次YGC,减轻最终标记的压力)。

pouxig1garbagefirst_8.png

Rmark

  • 清理阶段

STW阶段。这个过程主要是从bitmap里统计每个Region被标记为存活的对象,计算存活对象的统计信息,然后将它们按照存活状况(liveness)进行排列。并且会找出完全空闲的Region,然后回收掉这些完全空闲的Region,并将空间返回到可分配Region集合中。需要说明的是,这个阶段不会有拷贝动作,因为不需要,清理阶段只回收完全空闲的Region而已,还有存活对象的Region,需要接下来的Mixed GC才能回收。

上面提到的这几个过程就是并发标记周期的全过程:初始化标记(initial mark)、根分区扫描(Root region scanning)、并发标记(concurrent marking)、最终标记(remark)、清理阶段(cleanup)。

  • Evacuation

STW阶段,这个阶段会把存活的对象拷贝到全新的还未使用的Region中,G1的这个过程有两种选定CSet的模式。既可能由YGC来完成,只回收年轻代(GC日志样例:[GC pause (young)])。也可能是Mixed GC来完成的,即回收年轻代又回收(部分)老年代(GC日志样例:[GC Pause (mixed)])。

Mixed GC

如下图所示,就是Mixed GC示意图,回收所有Young区和部分Old区:

pouxig1garbagefirst_9.png

Before Mixed GC

被选中的Region(所有年轻代Region和部分老年代Region)已经被回收,存活的对象被压缩到深蓝色Region(最近被拷贝的老年代Region)和深绿色Region(最近被拷贝的年轻代Region)中:

pouxig1garbagefirst_10.png

After Mixed GC

Mixed GC日志如下所示:

  [GC pause (G1 Evacuation Pause) (mixed) 715M->682M(1024M), 0.0114279 secs]

Mixed GC是完全STW的,它是G1一种非常重要的回收方式,它根据用户设置的停顿时间目标,可以选择回收所有年轻代,以及部分老年代Region集合(Collection Set,收集集合,简称CSet,)。在一次完整的全局并发标记周期后,如果满足触发Mixed GC的条件,那么就会执行Mixed GC,并且Mixed GC可能会执行多次(由上面的GC日志可知,并且最大次数由参数-XX:G1MixedGCCountTarget=8控制),直到CSet都被回收,并且尽可能达到用户期望的停顿时间目标。

在选定CSet后,G1在执行Evacuation阶段时,其实就跟ParallelScavenge的YGC的算法类似,采用并行复制(或者叫scavenging)算法把CSet里每个Region中的存活对象拷贝到新的Region里,然后回收掉这些Region,整个过程完全STW。

G1总结

前面提到了G1模式下Evacuation阶段有两种选定CSet的子模式,分别对应Young GC与Mixed GC:

  • Young GC:选定所有年轻代里的Region。G1是通过调整年轻代Region数量来控制YGC的开销
  • Mixed GC:选定所有年轻代里的Region,外加根据global concurrent marking统计得出收集收益高的部分老年代Region,在用户指定的停顿时间目标范围内尽可能选择收益高的老年代Region回收,G1就是通过控制回收老年代Region数量来控制Mixed GC的开销的。

我们可以看到年轻代Region总是在CSet内。因此G1不需要维护从年轻代Region出发的引用涉及的RSet更新。 G1的正常工作流程就是在YGC与Mixed GC之间视情况切换,大部分是YGC,Mixed GC次数少很多,背后定期做全局并发标记(满足参数-XX:InitiatingHeapOccupancyPercent条件时)。当并发标记周期正在工作时,G1不会选择做Mixed GC,反之,如果有Mixed GC正在进行,G1也不会启动并发标记周期(从initial marking开始)。

  • G1模式下的FullGC

在G1的正常工作流程中没有Full GC的概念,老年代的收集全靠Mixed GC来完成。

但是,毕竟Mixed GC有搞不定的时候,如果Mixed GC实在无法跟上程序分配内存的速度,导致老年代填满无法继续进行Mixed GC,就会切换到G1之外的Serial Old GC来收集整个堆(包括Young、Old、Metaspace),这才是真正的Full GC(Full GC不在G1的控制范围内),进入这种状态的G1就跟-XX:+UseSerialGC的Full GC一样(背后的核心代码是两者共用的)。

这就是为什么不建议G1模式下参数-XX:MaxGCPauseMillis=200 的值设置太小,如果设置太小,可能导致每次Mixed GC只能回收很小一部分Region,最终可能无法跟上程序分配内存的速度,从而触发Full GC。

顺带一提,G1模式下的System.gc()默认还是Full GC,也就是Serial Old GC。只有加上参数 -XX:+ExplicitGCInvokesConcurrent 时G1才会用自身的并发GC来执行System.gc();

说明:JDK10已经将G1的Full GC优化为Parallel模式。可以参考JEP 307: Parallel Full GC for G1:https://openjdk.java.net/jeps/307

比较其他GC

接下来总结一下G1和另外两个使用最多的GC的不同点:

  • Parallel GC

为吞吐量而生的垃圾回收器,Parallel GC 只能把老年代的空间当作一个整体来压缩和回收,且整个过程完全STW。而G1把这些工作分为几个耗时更短的收集过程,且部分阶段是并发的,而且可以只回收老年代的部分Region,这样能缩短停顿时间,但是可能会牺牲吞吐量。

  • CMS

G1出来之前,低延迟场景下最好的也是最难控制垃圾回收器。G1和CMS类似,G1并发执行部分老年代的回收工作,但是CMS不能解决Old区的碎片化问题,导致一定会出现长时间停顿的FullGC。G1也有碎片化问题,但是比起CMS好很多,另外G1也会有FullGC,但是频率远没有CMS那么高。

一些建议

接下来要介绍的是使用G1的最佳实践,如果没有充分的压测数据,不建议违背这些建议:

  1. 年轻代大小:也就是说,如果配置了-XX:+UseG1GC,那么尽量避免配置-Xmn(或 -XX:NewRatio 等其他相关选项显式设置年轻代大小)。如果设置该参数,G1将不能在需要的时候调整年轻代的大小,也不能根据设置的暂停时间调整收集策略。换句话说,如果配置了-Xmn,也就关闭了参数-XX:MaxGCPauseMillis=200设定的停顿目标,具体YGC的停顿时间,那就完全由-Xmn直接决定了。
  2. 响应时间:不要使用平均响应时间作为设置参数-XX:MaxGCPauseMillis=200的衡量标准,而应该根据90%(或者更高比例)响应时间来设置这个参数。需要强调的是,这个参数设定的只是一个目标,而不是一定达到的保证。
  3. CMS or G1,什么时候选择CMS,什么时候选择G1?这是一个伪命题。其实CMS在较小的堆、合适的workload的条件下暂停时间可以很轻松的短于G1。以JDK8高版本为例(JDK7到JDK8,G1的实现经过了很多的优化),大概在6GB~8GB也可以跟CMS有一比,我之前见过有在-Xmx4g的环境里G1比CMS的暂停时间更短的个案。总之,G1更适合大堆,比如20G,30G,50G,不要犹豫选择G1吧。而对于4G,8G这种中小堆,如果谨慎的话,建议压测后再决定。否则CMS也是一个保(不)守(错)的选择。

需要说明的是,这里只是建议,而不是绝对。毕竟每个应用的特性,以及运行的环境千差万别。Java官方是不建议显示设置年轻代大小的,但是笔者一些朋友遇到这样的问题:默认目标停顿时间200ms,且堆非常大的情况下,Eden区非常小,Young区也非常小。下面就是一段这样的GC日志,我们可以看到整个堆是(约等于)7G,但是Eden区只有300多M。为什么G1把这个Eden区大小调的这么小呢?我们再看一下停顿时间,这一次YGC耗时190ms,非常接近目标停顿时间。如果G1再调大Eden区大小,那么YGC时停顿时间就非常可能超过200ms:

  [Eden: 350.0M(350.0M)->0.0B(306.0M) Survivors: 0.0B->44.0M Heap: 410.1M(7000.0M)->135.2M(7000.0M)]
     [Times: user=0.60 sys=0.15, real=0.19 secs]

附:G1的JVM参数

接下来列举G1模式下一些重要的参数和它们的默认值,以及这些参数的含义。

参数及默认值 描述信息
-XX:MaxGCPauseMillis=200 期望的最大停顿时间。千万不要对这个参数有误解,认为设置它为10,就能控制每次停顿时间都不会10ms。这种极端的设置只会适得其反,导致每次MixedGC只能回收很少一部分区域,从而让情况不断恶化,发生FullGC的概率大大提高
-XX:G1HeapRegionSize=ergo 堆的Region的大小,整个堆最多划分为2048个Region,Region的大小一定是在1~32M之间,并且是2的N次方。所以,如果堆的尺寸小于2G,那么Region数量就会少于2048
-XX:GCPauseTimeInterval=ergo 最大停顿时间间隔的目标,G1默认没有设置这个目标,允许G1在一些极端的情况下连续执行垃圾回收
-XX:ParallelGCThreads=ergo 并行阶段最大的线程数,JVM根据CPU核心数N进行计算,如果N<8,那么ParallelGCThreads=N;如果N>=8,那么ParallelGCThreads=N*5/8
-XX:ConcGCThreads=ergo 并发阶段最大的线程数,默认值是-XX:ParallelGCThreads的值除以4
-XX:+G1UseAdaptiveIHOP G1是否使用自适应初始化堆占用百分比
-XX:InitiatingHeapOccupancyPercent=45 设置触发全局并发标记周期的整个Java堆占用百分比阈值,即Java堆占用这么多空间后,就会进入初始化标记->并发标记->重新标记->清理的生命周期
-XX:G1NewSizePercent=5 表示年轻代占用堆大小的最小百分比,还有另一个参数-XX:G1MaxNewSizePercent=60,表示年轻代占用堆大小的最大百分比,JVM会在这两个百分比之间变化
-XX:G1HeapWastePercent=5 设置你允许浪费的堆的百分比,如果可回收百分比低于这个百分比,那么G1就不会触发MixedGC。
-XX:G1MixedGCLiveThresholdPercent=85 如果老年代Region中存活对象超过这个比例,不会被选入CSet,MixedGC也就不会回收这个Region。因为存活对象太多,回收价值不大
-XX:G1MixedGCCountTarget=8 全局并发标记周期后,对存活对象上限为G1MixedGCLiveThresholdPercent的老年代Region执行MixedGC的次数上限,默认值是8次,即最多不能超过8次MixedGC
-XX:G1ReservePercent=10 设置作为空闲空间的预留内存百分比,以减少晋升失败、降低堆空间溢出的风险。默认值是10%。增加或减少百分比时,请确保对总的Java堆调整相同的量。
-XX:G1OldCSetRegionThresholdPercent=10 设置MixedGC期间要回收的老年代Region数量上限,即一次MixedGC中最多可以被选入CSet中的老年代Region数量。默认值是Java堆的10%。

备注:值为ergo意味着其具体值与环境有关。


  • 参考链接

[参考链接1]:https://hllvm-group.iteye.com/group/topic/44381
[参考链接2]:https://tech.meituan.com/2016/09/23/g1.html
[参考链接3]:https://www.oracle.com/technetwork/tutorials/tutorials-1876574.html

pouxig1garbagefirst_11.png

我的微信公众号

作者:阿飞的博客

来源:https://www.jianshu.com/p/7dd309cc3442


看完两件小事

如果你觉得这篇文章对你挺有启发,我想请你帮我两个小忙:

  1. 关注我们的 GitHub 博客,让我们成为长期关系
  2. 把这篇文章分享给你的朋友 / 交流群,让更多的人看到,一起进步,一起成长!
  3. 关注公众号 「方志朋」,公众号后台回复「666」 免费领取我精心整理的进阶资源教程
  4. JS中文网,Javascriptc中文网是中国领先的新一代开发者社区和专业的技术媒体,一个帮助开发者成长的社区,是给开发者用的 Hacker News,技术文章由为你筛选出最优质的干货,其中包括:Android、iOS、前端、后端等方面的内容。目前已经覆盖和服务了超过 300 万开发者,你每天都可以在这里找到技术世界的头条内容。

    本文著作权归作者所有,如若转载,请注明出处

    转载请注明:文章转载自「 Java极客技术学习 」https://www.javajike.com

    标题:剖析G1(Garbage First)

    链接:https://www.javajike.com/article/1773.html

« 全面对比5大GC的内存伸缩能力
从CMS到G1:LinkedIn个人主页调优实战»

相关推荐

QR code