Jvm内存优化与Tomcat7调优

Tomcat跑在JVM之上的,它的启动其实也只是一个java命令行,因此我们需要对这个JAVA的启动命令行进行调优。

Jvm内存分析

我们首先了解一下JVM内存管理的机制,然后再解释每个参数代表的含义。

堆(Heap)和非堆(Non-heap)内存

按照官方的说法:“Java 虚拟机具有一个堆,堆是运行时数据区域,所有类实例和数组的内存均从此处分配。堆是在 Java 虚拟机启动时创建的。” “在JVM中堆之外的内存称为非堆内存(Non-heap memory)”。
可以看出JVM主要管理两种类型的内存:堆和非堆。简单来说堆就是Java代码可及的内存,是留给开发人员使用的;非堆就是JVM留给自己用的,所以方法区、JVM内部处理或优化所需的内存(如JIT编译后的代码缓存)、每个类结构(如运行时常数池、字段和方法数据)以及方法和构造方法的代码都在非堆内存中。

堆内存分配

JVM初始分配的堆内存由-Xms指定,默认是物理内存的1/64;JVM最大分配的堆内存由-Xmx指定,默认是物理内存的1/4。默认空余堆内存小于40%时,JVM就会增大堆直到-Xmx的最大限制;
空余堆内存大于70%时,JVM会减少堆直到-Xms的最小限制。因此服务器一般设置-Xms、-Xmx 相等以避免在每次GC后调整堆的大小。
参数列表:
— Xms 为jvm启动时分配的内存,比如-Xms200m,表示分配200M
— Xmx 为jvm运行过程中分配的最大内存,比如-Xms500m,表示jvm进程最多只能够占用500M内存
— Xss 为jvm启动的每个线程分配的内存大小

一般jvm出现Cannt’ allocate memory的错误就是机器的内存不够,导致系统无法为jvm分配给定的内存,这个在启动时犹未突出,所以会在启动参数中设置-Xms来指定;
而OutOfMemoryError错误则一般会在系统运行一段情况后出现,绝大部分也是机器内存不够或是JVM本身的内存空间已被用尽,这时就要根据情况进行调整了,如果是JVM本身的内存空间用尽,则需要调整-Xmx参数来分类jvm的可用内存,如果是机器内存不够则要增加内存或是调优程序了。

非堆内存分配

JVM使用-XX:PermSize设置非堆内存初始值,默认是物理内存的1/64;由XX:MaxPermSize设置最大非堆内存的大小,默认是物理内存的1/4。(还有一说:MaxPermSize缺省值和-server -client选项相关。-server选项下默认MaxPermSize为64m,-client选项下默认MaxPermSize为32m。这个我没有实验。)
错误信息中的PermGen space的全称是Permanent Generation space,是指内存的永久保存区域。XX:MaxPermSize设置过小会导致java.lang.OutOfMemoryError: PermGen space 就是内存益出。

说说为什么会内存益出:
1.这一部分内存用于存放Class和Meta的信息,Class在被 Load的时候被放入PermGen space区域,它和存放Instance的Heap区域不同。
2.GC(Garbage Collection)不会在主程序运行期对PermGen space进行清理,所以如果你的APP会LOAD很多CLASS的话,就很可能出现PermGen space错误。

JVM内存限制(最大值)

1.首先JVM内存限制于实际的最大物理内存,假设物理内存无限大的话,JVM内存的最大值跟操作系统有很大的关系。简单的说就32位处理器虽然可控内存空间有4GB,但是具体的操作系统会给一个限制,这个限制一般是2GB-3GB(一般来说Windows系统下为1.5G-2G,Linux系统下为2G-3G),而64bit以上的处理器就不会有限制了。

  1. 为什么有的机器将-Xmx和-XX:MaxPermSize都设置为512M之后无法启动?
    通过上面对JVM内存管理的介绍我们已经了解到JVM内存包含两种:堆内存和非堆内存,另外JVM最大内存首先取决于实际的物理内存和操作系统。所以说设置VM参数导致程序无法启动主要有以下几种原因:
  • 参数中-Xms的值大于-Xmx,或者-XX:PermSize的值大于-XX:MaxPermSize;
    — Xmx的值和-XX:MaxPermSize的总和超过了JVM内存的最大限制,比如当前操作系统最大内存限制,或者实际的物理内存等等。
    说到实际物理内存这里需要说明一点的是,如果你的内存是1024MB,但实际系统中用到的并不可能是1024MB,因为有一部分被硬件占用了。

元空间(Metaspace)

JDK8中完全移除永久代(Permanent Generation (PermGen)),替代者是元空间(Metaspace)。
JVM参数PermSizeMaxPermSize会被忽略,如果还有这些配置项,在启动时会有警告信息。

元空间的容量

默认情况下,类元数据分配受到可用的本机内存容量的限制(容量依然取决于你使用32位JVM还是64位操作系统的虚拟内存的可用性)。
一个新的参数 (MaxMetaspaceSize)可以使用。允许你来限制用于类元数据的本地内存。如果没有特别指定,元空间将会根据应用程序在运行时的需求动态设置大小。

元空间的垃圾回收

如果类元数据的空间占用达到参数“MaxMetaspaceSize”设置的值,将会触发对死亡对象和类加载器的垃圾回收。
为了限制垃圾回收的频率和延迟,适当的监控和调优元空间是非常有必要的。元空间过多的进行垃圾收集可能表示类,类加载器内存泄漏或对你的应用程序来说空间太小了。

针对Tomcat进行调优

1.在bin/catalina.sh文件中加入下面参数,对JVM进行优化:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
set JAVA_OPTS=
-server
-Xms1000M
-Xmx1000M #-Xms与-Xmx设成一样的值,避免JVM因为频繁的GC导致性能大起大落
-Xss512k
-XX:+AggressiveOpts
-XX:+UseBiasedLocking
-XX:PermSize=64M
-XX:MaxPermSize=300M #Jdk8配置-XX:MaxMetaspaceSize=300m
-XX:+DisableExplicitGC
-XX:MaxTenuringThreshold=31
-XX:+UseConcMarkSweepGC
-XX:+UseParNewGC
-XX:+CMSParallelRemarkEnabled
-XX:+UseCMSCompactAtFullCollection
-XX:LargePageSizeInBytes=128m
-XX:+UseFastAccessorMethods
-XX:+UseCMSInitiatingOccupancyOnl
-Djava.awt.headless=true

当然配置的具体值根据具体环境而定。
上述这样的配置,基本上可以达到:

  • 系统响应时间增快
  • JVM回收速度增快同时又不影响系统的响应率
  • JVM内存最大化利用
  • 线程阻塞情况最小化

2.Tomcat连接参数的优化,主要是针对吞吐量做优化:
修改conf/server.xml文件,把原来

1
<Connector port="8080" protocol="HTTP/1.1" />

修改为:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
<Connector port="8080" protocol="HTTP/1.1"
URIEncoding="UTF-8"
#Tomcat初始化时创建的socket线程数
minSpareThreads="25"
#Tomcat连接器的最大空闲 socket 线程数
maxSpareThreads="75"
#是否反查域名
enableLookups="false"
#上传时是否使用超时机制
disableUploadTimeout="true"
connectionTimeout="20000"
#指定当所有可以使用的处理请求的线程数都被使用时,可传入连接请求的最大队列长度,超过这个数的请求将不予处理,默认100个
acceptCount="300"
#可创建的最大的线程数
maxThreads="300"
#最大连接线程数,即:并发处理的最大请求数,默认值为 75
maxProcessors="1000"
#最小空闲连接线程数,用于提高系统处理性能,默认值为 10
minProcessors="5"
useURIValidationHack="false"
#是否对响应的数据进行 GZIP 压缩
compression="on"
#压缩响应的最小值
compressionMinSize="2048"
#压缩类型
compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
redirectPort="8443"/>