记一次内存溢出排查(OutOfMemoryError)和jvm调优

项目场景:

上传Excel文件到阿里云的oss,定时任务进行异步下载进行文件解析。异步下载文件返回的是InputStream,项目里用了Apache.POI XSSFWorkbook进行转化,并对Excel中的sheet进行数据解析,然后异步写入es,大概就是这么一个场景。

问题描述:

资源泄漏:使用Apache.POI XSSFWorkbook时,工作簿永远不会被关闭(Resource leak: workbook is never closed warning when using Apache.POI XSSFWorkbook),需要自己手动的进行关闭,否则会打满内存。

原因分析与解决方案:

1.首先出现问题的当天下午,邮件一直在报警:如图所示:

在这里插入图片描述

第一反应就是该服务的健康检查不通过,说明服务可能挂了。
2.打开线上服务的error日志,发现日志里有如下错误:

在这里插入图片描述

我们可以发现,其中最关键的一行错误日志:java.lang.OutOfMemoryError: Java heap space,没错,就是比较常见但是大家又不想见到的堆内存溢出。
3.内存溢出肯定是项目里某个代码不合理造成的内存没有及时释放导致的,第一想法就是如何能搞到dump文件,一般线上服务器我们是没有权限的,我们需要找运维帮忙把dump文件弄出来,正一筹莫展的时候,我发现日志目录里有如下文件:

在这里插入图片描述

有一个gc.log和java_pid13327.hprof的文件,正如文件名称的理解,gc.log应该是gc的日志记录,.hprof结尾的文件是java进程13327的dump文件,所以第一想法就是把这个java_pid13327.hprof文件导出来,但是线上我没有权限,所以我马上联系运维人员帮忙把这个文件导出来
4.文件导出来后,用mat分析工具进行内存分析,感兴趣的同学可以在网上下载mat分析工具,然后打开相应的hprof文件即可,如图:

在这里插入图片描述

我们可以发现,总共938.4M的内存,有绝大部分是以下使用的:

在这里插入图片描述


我们可以看到schedule-thread这个线程名称,这应该是项目里用到了@Scheduled注解,默认的线程名称,由此马上想到应该是定时任务那块出了问题,接下来我们可以看看具体的内存占用情况,看是否符合我们的猜想,如图:

在这里插入图片描述


打开outgoing references的选项,然后可以看到:

在这里插入图片描述


org.apache.poi.xssf.usermodel.XSSFSheet这一块占用了大量的内存,于是我们马上查看代码,发现代码里Workbook wb = new XSSFWorkbook(inputStream)这样的语句没有进行wb.close()操作,经过查阅资料,我们可以发现:

在这里插入图片描述


XSSFWorkbook这个是需要手动关闭的,不然就会占用内存直到内存溢出。
4.问题排查到了,马上修复代码,平常我们可能会在finally里做处理,如下:

Workbook wb = null;
try{
 wb = new XSSFWorkbook(inputStream)
} catch() {
	//TODO
}
finally {
      try {
           if (Objects.nonNull(workbook)) {
               workbook.close();
           }
       } catch (IOException e) {
           log.error("关闭流失败:{}", e.getMessage());
       }
 }

但是现在这种处理方式不建议使用,使用的更多的可能是try-with-resources语句,我们经过查阅资料可以发现如下描述:

在这里插入图片描述


所以,我这边,马上改成了这种方式:

try (Workbook wb = new XSSFWorkbook(inputStream)) {
    //TODO
} catch(Exception e) {
    log.error("error:{}", e.getMessage)
}

上面这种操作,使用try-with-resources语句更优雅的关闭资源,发现网上也是推荐这种:

在这里插入图片描述


最终改完上线,还是出乎意料之外,还是报java.lang.OutOfMemoryError: Java heap space。所以我马上看了下服务的jvm内存配置,发现-Xms1G -Xmx1G ,发现-Xms:JVM初始分配的内存为1G, -Xmx:JVM最大分配的内存为1G,而我们这边的应用场景是可能随时会上传最大1G的50个文件,所以此时觉得jvm内存肯定不够用,在极端情况,所以马上改成4G,也就是 -Xms4G -Xmx4G,然后重启项目最终得以解决。

总结:

1.关于内存溢出
凡是项目中可能会造成内存溢出的一定要着重CodeReview,处理流相关的一定得关闭。
2.关于dump文件
大家有权限的话,可以先用ps -ef|grep java 检查java进程是否存在,如果存在的话拿到其进程号,然后进行如下操作:
jmap -dump:format=b,file=test.hprof 91969 (导出dump文件,test.hprof是导出的文件名称,91969是java pid)
只要能拿到dump文件,就可以很方便的排查问题
3.关于jvm调优
其实有时候jvm的内存配置是否合理显得尤为重要,既要对自己项目有一个较深的了解,可以评估极端情况下最大的内存占用,从而设置合理的内存配置,我在网上看了下,如下:

在这里插入图片描述


具体配置得结合应用场景来设置。所以jvm合理的配置显得尤为重要。

以上是作者的亲身经历,也是经验所得,希望以上内容能够对你有所帮助!喜欢的点个赞吧!

原文地址:https://blog.csdn.net/qq_37892675/article/details/110906477

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


jinfo 命令可以用来查看 Java 进程运行的 JVM 参数,命令如下:[root@admin ~]# jinfo --helpUsage: jinfo [option] <pid> (to connect to running process) jinfo [option] <executable <core> (to connect to a core file) jinfo [option] [serve
原文链接:https://www.cnblogs.com/niejunlei/p/5987611.htmlJava Virtual Machine Stacks,线程私有,生命周期与线程相同,描述的是Java方法执行的内存模型:每一个方法执行的同时都会创建一个栈帧(Stack Frame),由于存储局部变量表、操作数栈、动态链接、方法出口等信息。每一个方法的执行就对应着栈帧在虚拟机栈中的入栈,出栈...
java 语言, 开发者不能直接控制程序运行内存, 对象的创建都是由类加载器一步步解析, 执行与生成与内存区域中的; 并且jvm有自己的垃圾回收器对内存区域管理, 回收; 但是我们已经可以通过一些工具来在程序运行时查看对应的jvm内存使用情况, 帮助更好的分析与优化我们的代码;jps查看系统中有哪些java进程jps 命令类似与 linux 的 ps 命令,但是它只列出系统中所有的 Java 应用程序。 通过 jps 命令可以方便地查看 Java 进程的启动类、传入参数和 Java 虚拟机参数等信息
1.jvm的简单抽象模型:  2.类加载机制     双亲委派模型是为了防止jdk核心类库被篡改,如果需要打破可以重写Classloader.loadClass方法。r 双亲委派模型:一个类加载器收到一个类的加载请求,他会先判断自身是否已存在该类,如果不存在上抛给上一级类加载器ClassLoad
堆外内存JVM启动时分配的内存,称为堆内存,与之相对的,在代码中还可以使用堆外内存,比如Netty,广泛使用了堆外内存,但是这部分的内存并不归JVM管理,GC算法并不会对它们进行回收,所以在使用堆外内存时,要格外小心,防止内存一直得不到释放,造成线上故障。堆外内存的申请和释放JDK的ByteBuffe
1.springboot和tomcat2.springcloud的请求如何通过网关鉴权?3.springmvc启动时组件的加载顺序?4.mybatis如何同时更新三条记录5.hibernate实现级联更新6.一个web程序应用程序启动时的加载流程7.如何向www.baidu.com地址发出请求时,并获取相应?8.???9.谈谈你对tcp/iptelnetudp协
堆设置-Xms256M:初始堆大小256M,默认为物理内存的1/64-Xmx1024M:最大堆大小1024M,默认为物理内存的1/4,等于与-XX:MaxHeapSize=64M-Xmn64M:年轻代大小为64M(JDK1.4后支持),相当于同时设置NewSize和MaxNewSize为64M-XX:NewSize=64M:初始年轻代大小-XX:MaxNewSize=256M:最大年轻代大小(默认
一.概述收集算法(JVM之垃圾回收-垃圾收集算法)是内存回收的抽象策略,垃圾收集器就是内存回收的具体实现。JVM规范对于垃圾收集器的应该如何实现没有任何规定,因此不同的厂商、不同版本的虚拟机所提供的垃圾收集器差别较大,这里只看HotSpot虚拟机。就像没有最好的算法一样,垃圾收集器
Java中的堆是JVM所管理的最大的一块内存空间,主要用于存放各种类的实例对象,如下图所示: 在Java中,堆被划分成两个不同的区域:新生代(Young)、老年代(Old)。新生代(Young)又被划分为三个区域:Eden、S0、S1。 这样划分的目的是为了使JVM能够更好的管理堆内存中的对象,包
JVM深入理解JVM(4)——如何优化JavaGC「译」 PostedbyCrowonAugust21,2017本文翻译自SangminLee发表在Cubrid上的”BecomeaJavaGCExpert”系列文章的第三篇《HowtoTuneJavaGarbageCollection》,本文的作者是韩国人,写在JDK1.8发布之前,虽然有些地
 JVM深入理解JVM(2)——GC算法与内存分配策略 PostedbyCrowonAugust10,2017说起垃圾收集(GarbageCollection,GC),想必大家都不陌生,它是JVM实现里非常重要的一环,JVM成熟的内存动态分配与回收技术使Java(当然还有其他运行在JVM上的语言,如Scala等)程序员在提升开
运行时数据区  线程独有本地方法栈、虚拟机栈、程序计数器这些与线程对应的数据区会随着线程开始和结束创建和销毁  整体公有元数据区(又称方法区)、堆区会随着虚拟机启动而创建,随着虚拟机退出而销毁 
java整个堆大小设置:Xmx和Xms设置为老年代存活对象的3-4倍,即FullGC之后的老年代内存占用的3-4倍。永久代PermSize和MaxPermSize设置为老年代存活对象的1.2-1.5倍年轻代Xmx的设置为老年代存活对象的1-1.5倍老年代的内存大小设置为老年代存活对象的2-3倍BTW: Sun官方建议年轻代
栈顶缓存(Top-of-StackCashing)技术基于栈式架构得虚拟机所使用的零地址指令更加紧凑,但完成一项操作的时候必然使用更多的入栈和出栈指令,这同时也就意味着将需要更多的指令分派次数和内存读写次数 由于操作数是存储在内存重的,因此频繁地执行内存读/写操作必然影响速度。 综上
自用。同样的代码在不同的平台生成的机器码是不一样的,为什么java代码生成的字节码文件,能在不同的平台运行?因为不同版本的jdk里面的虚拟机会屏蔽不同操作系统在底层硬件与指令上的区别。栈:线程栈,局部变量存放栈内存区域。线程(分配一个栈)运行分配栈将局部变量放入内存。怎么放:栈
jconsole监控:1.java启动命令加上参数java-Djava.rmi.server.hostname=172.16.17.247-Dcom.sun.management.jmxremote-Dcom.sun.management.jmxremote.port=2099-Dcom.sun.management.jmxremote.authenticate=false-Dcom.sun.management.jmxremote.ssl=false -XX:+Unlock
类加载器分类publicclassStackStruTest{publicstaticvoidmain(String[]args){//对用户自定义个类来说:默认使用系统类加载器进行加载-----AppClassLoaderClassLoaderclassLoader=StackStruTest.class.getClassLoader();System.out.p
堆体系结构一个JVM实例只存在一个堆内存,堆内存的大小是可调节的。类加载器读取类文件后,需要把类、方法、常量、变量放在堆内存中,保存所有引用类型的真实信息,以方便执行器指向,堆内存分为三个部分:年轻代、老年代、永久代。Java7之前,堆内存在逻辑上分为:年轻代、老年代、永久代。物
JVM深入理解JVM(5)——虚拟机类加载机制 PostedbyCrowonAugust21,2017在Class文件中描述的各种信息,最终都需要加载到虚拟机中之后才能运行和使用。而虚拟机中,而虚拟机如何加载这些Class文件?Class文件中的信息进入到虚拟机中会发生什么变化?本文将逐步解答这
保存(持久化)对象及其状态到内存或者磁盘Java平台允许我们在内存中创建可复用的Java对象,但一般情况下,只有当JVM处于运行时,这些对象才可能存在,即,这些对象的生命周期不会比JVM的生命周期更长。但在现实应用中,就可能要求在JVM停止运行之后能够保存(持久化)指定的对象,并在