首頁 > Java > java教程 > 主體

Tomcat--效能優化

巴扎黑
發布: 2017-06-23 16:39:05
原創
1898 人瀏覽過

一、JVM最佳化

1、記憶體最佳化。

2、垃圾回收策略優化。

二、server.xml的connector最佳化(connector是與HTTP請求處理相關的容器,三個容器的初始化順序為:Server->Service->Connector)

     ( 1)指定使用NIO模型來接受HTTP請求 

##     (2)http connector的最佳化,並指定處理執行緒數目 

     (3)執行緒池

    固定(4)其他常規 (4)其他常規 (4)其他常規 設定

三、設定session過期時間

四、apr外掛提升tomcat效能

五、叢集

六、問題定位

一、JVM優化

linux修改TOMCAT_HOME/bin/catalina.sh,在前面加入

JAVA_OPTS="-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m -Duser.timezone=Asia/Shanghai"
登入後複製
windows修改TOMCAT_HOME/bin/catalina.bat,在前面加入

set JAVA_OPTS=-XX:PermSize=64M -XX:MaxPermSize=128m -Xms512m -Xmx1024m
登入後複製

 1.記憶體調優 
記憶體方式的設定是在catalina.sh中,調整JAVA_OPTS變數即可,因為後面的啟動參數會把JAVA_OPTS當作JVM的啟動參數來處理。

具體設定如下: 
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4" 
##>其各項參數如下:#其各項參數##-Xmx3550m:設定JVM最大可用記憶體為3550M。 Heap Size 最大不要超過可用實體記憶體的80%
-Xms3550m:設定JVM促使記憶體為3550m。此值可以設定與-Xmx相同,以避免每次垃圾回收完成後JVM重新分配記憶體。 
-Xmn2g:設定年輕代大小為2G。整個堆大小=年輕代大小 + 年老代大小 + 持久代大小。持久代一般固定大小為64m,所以增大年輕代後,將會減少年老代大小。此值對系統效能影響較大,Sun官方建議配置為整個堆的3/8。 
-Xss128k:設定每個執行緒的堆疊大小。 JDK5.0以後每個執行緒堆疊大小為1M,以前每個執行緒堆疊大小為256K。更具應用的線程所需記憶體大小進行調整。在相同物理記憶體下,減少這個值能產生更多的線程。但是作業系統對一個行程內的執行緒數還是有限制的,不能無限生成,經驗值在3000~5000左右。 
-XX:NewRatio=4:設定年輕代(包括Eden和兩個Survivor區)與老年世代的比值(除去持久代)。設定為4,則年輕代與年老代所佔比值為1:4,年輕代佔整個堆疊的1/5 
-XX:SurvivorRatio=4:設定年輕代中Eden區與Survivor區的大小比值。設定為4,則兩個Survivor區與一個Eden區的比值為2:4,一個Survivor區佔整個年輕代的1/6 
-XX:MaxPermSize=16m:設定持久代大小為16m。 
-XX:MaxTenuringThreshold=0:設定垃圾最大年齡。如果設定為0的話,則年輕代物件不經過Survivor區,直接進入年老代。對於年老代比較多的應用,可以提高效率。如果將此值設為一個較大值,則年輕代物件會在Survivor區進行多次複製,這樣可以增加物件再年輕代的存活時間,增加在年輕代即被回收的概論。 


2.垃圾回收策略調優
 垃圾回收的設定也是在catalina.sh中,調整JAVA_OPTS變數。 具體設定如下: 
JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC  -XX:MaxGCPauseMillis=100"














##'B不同的垃圾費回收策略的各項。

序列收集器(JDK1.5以前主要的回收方式)
-XX:+UseSerialGC:設定串列收集器 
並行收集器(吞吐量優先)
java - Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC  -XX:MaxGCPauseMillis=100 

-XX:+UseParallelGC:選擇垃圾收集器為並行收集器。此配置僅對年輕代有效。即上述配置下,年輕代使用並發收集,而年老代仍舊使用串列收集。 
-XX:ParallelGCThreads=20:配置並行收集器的執行緒數,即:同時多少個執行緒一起進行垃圾回收。此值最好配置與處理器數目相等。 -XX:+UseParallelOldGC:配置年老代垃圾收集方式為平行收集。 JDK6.0支援對年老代並行收集 -XX:MaxGCPauseMillis=100:設定每次年輕代垃圾回收的最長時間,如果無法滿足此時間,JVM會自動調整年輕代大小,以滿足此值。
-XX:+UseAdaptiveSizePolicy:設定此選項後,並行收集器會自動選擇年輕代區大小和相應的Survivor區比例,以達到目標系統規定的最低相應時間或收集頻率等,此值建議使用並行收集器時,一直打開。 

並發收集器(回應時間優先) ###範例:java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC ###-XX:+UseConcMarkSweepGC:設定年老代為並發收集。測試中配置這個以後,-XX:NewRatio=4的配置失效了,原因不明。所以,此時年輕代大小最好用-Xmn設定。 ###-XX:+UseParNewGC: 設定年輕代為並行收集。可與CMS收集同時使用。 JDK5.0以上,JVM會根據系統配置自行設置,所以無需再設定此值。 ###-XX:CMSFullGCsBeforeCompaction:由於並發收集器不會對記憶體空間進行壓縮、整理,所以運行一段時間以後會產生“碎片”,使得運行效率降低。此值設定運行多少次GC以後對記憶體空間進行壓縮、整理。 ###-XX:+UseCMSCompactAtFullCollection:開啟對年老代的壓縮。可能會影響效能,但是可以消除碎片 #########3.小結### ###在記憶體設定中需要做一下權衡 ###1)記憶體越大,一般情況下處理的效率也越高,但同時在做垃圾回收的時候所需要的時間也就越長,在這段時間內的處理效率是必然要受影響的。 ###2)在大多数的网络文章中都推荐 Xmx和Xms设置为一致,说是避免频繁的回收,这个在测试的时候没有看到明显的效果,内存的占用情况基本都是锯齿状的效果,所以这个还要根据实际情况来定。

 

二、Server.xml的Connection优化

提高Tomcat的并发能力一些方法

1、Apache + Tomcat 结合起来用Apache 负责静态页面,Tomcat负责动态页面,同时减少connectionTimeout的时间,以应对并发量大线程回收来不及的情况。
2、压力过大的问题,可以做负载均衡,一个TOMCAT无论如何也不可能担当如此多的线程负载,而且JVM过大,其内存管理成本将显著加大。2G的内存,做3-4个TOMCAT实例(512RAM*4),更为科学合理。
3、数据库连接池,不少人,都推荐使用C3P0,能提高访问数据库的并发性能好几倍。(有博文称使用tomcat自带的jdbc-pool更好,还没试过)
4、采用Tomcat集群可以最大程度的发挥服务器的性能,可以在配置较高的服务器上部署多个Tomcat,也可以在多台服务器上分别部署 Tomcat,Apache和Tomcat整合的方式还是JK方式。经过验证,系统对大用户量使用的响应方面,Apache+3Tomccat集群> Apache+2Tomcat集群> Apache集成Tomcat >单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时,如果一个Tomcat出现宕机,系统可以继续使用,所以在硬件系统性能足够优越的情况下,需要尽量发挥软件的性能,可以采用增加Tomcat集群的方式。
5. 打开KeepAlive支持
KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000
根据实际经验,通过Apache和Tomcat集群的方式提高系统性能的效果十分明显,这种方式可以最大化的利用硬件资源,通过多个Tomcat的处理来分担单Tomcat时的压力。
web server允许的最大连接数还受制于操作系统的内核参数设置,通常Windows是2000个左右,Linux是1000个左右。

1.指定使用NIO模型来接受HTTP请求 
protocol="org.apache.coyote.http11.Http11NioProtocol" 指定使用NIO模型来接受HTTP请求。默认是BlockingIO,配置为protocol="HTTP/1.1" 
acceptorThreadCount="2" 使用NIO模型时接收线程的数目 

2、指定处理线程数目 

<Connector port="80" protocol="HTTP/1.1" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"
connectionTimeout="20000" redirectPort="8443" />
登入後複製

maxThreads="600"       ///最大线程数
minSpareThreads="100"///初始化时创建的线程数
maxSpareThreads="500"///一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程。
acceptCount="700"//指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理

这里是http connector的优化,如果使用apache和tomcat做集群的负载均衡,并且使用ajp协议做apache和tomcat的协议转发,那么还需要优化ajp connector。

<Connector port="8009" protocol="AJP/1.3" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"
connectionTimeout="20000" redirectPort="8443" />
登入後複製

 3、线程池

由于tomcat有多个connector,所以tomcat线程的配置,又支持多个connector共享一个线程池。

首先。打开/conf/server.xml,增加

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="500" minSpareThreads="20" maxIdleTime="60000" />
登入後複製

最大线程500(一般服务器足以),最小空闲线程数20,线程最大空闲时间60秒。

然后,修改节点,增加executor属性,executor设置为线程池的名字:

<Connector executor="tomcatThreadPool" port="80" protocol="HTTP/1.1"  connectionTimeout="60000" keepAliveTimeout="15000" maxKeepAliveRequests="1"  redirectPort="443" />
登入後複製

可以多个connector公用1个线程池,所以ajp connector也同样可以设置使用tomcatThreadPool线程池。

 4.其它常用设置 
maxHttpHeaderSize="8192" http请求头信息的最大程度,超过此长度的部分不予处理。一般8K。 
URIEncoding="UTF-8" 指定Tomcat容器的URL编码格式。不要遗漏URIEncoding=”GBK”,能使页面url传递中文参数时保证正确。
disableUploadTimeout="true" 上传时是否使用超时机制 
enableLookups="false"--是否反查域名,默认值为true。为了提高处理能力,应设置为false 
compression="on"   打开压缩功能 。压缩会增加Tomcat负担,最好采用Nginx + Tomcat 或者 Apache + Tomcat 方式,压缩交由Nginx/Apache 去做。
compressionMinSize="10240" 启用压缩的输出内容大小,默认为2KB 
noCompressionUserAgents="gozilla, traviata"   对于以下的浏览器,不启用压缩 
compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" 哪些资源类型需要压缩 
5.小结 
关于Tomcat的Nio和ThreadPool,本身的引入就提高了处理的复杂性,所以对于效率的提高有多少,需要实际验证一下。 

三、设置session过期时间

conf\web.xml中通过参数指定:

    <session-config>   
        <session-timeout>180</session-timeout>     
    </session-config> 
单位为分钟。
登入後複製

 

四、Apr插件提高Tomcat性能

  Tomcat可以使用APR来提供超强的可伸缩性和性能,更好地集成本地服务器技术.

  APR(Apache Portable Runtime)是一个高可移植库,它是Apache HTTP Server 2.x的核心。APR有很多用途,包括访问高级IO功能(例如sendfile,epoll和OpenSSL),OS级别功能(随机数生成,系统状态等等),本地进程管理(共享内存,NT管道和UNIX sockets)。这些功能可以使Tomcat作为一个通常的前台WEB服务器,能更好地和其它本地web技术集成,总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器。

  在产品环境中,特别是直接使用Tomcat做WEB服务器的时候,应该使用Tomcat Native来提高其性能  

  要测APR给tomcat带来的好处最好的方法是在慢速网络上(模拟Internet),将Tomcat线程数开到300以上的水平,然后模拟一大堆并发请求。
  如果不配APR,基本上300个线程狠快就会用满,以后的请求就只好等待。但是配上APR之后,并发的线程数量明显下降,从原来的300可能会马上下降到只有几十,新的请求会毫无阻塞的进来。
  在局域网环境测,就算是400个并发,也是一瞬间就处理/传输完毕,但是在真实的Internet环境下,页面处理时间只占0.1%都不到,绝大部分时间都用来页面传输。如果不用APR,一个线程同一时间只能处理一个用户,势必会造成阻塞。所以生产环境下用apr是非常必要的。

(1)安装APR tomcat-nativeapr-1.3.8.tar.gz   安装在/usr/local/apr
    #tar zxvf apr-1.3.8.tar.gz
    #cd apr-1.3.8#./configure;make;make install
    
    apr-util-1.3.9.tar.gz  安装在/usr/local/apr/lib
    #tar zxvf apr-util-1.3.9.tar.gz
    #cd apr-util-1.3.9  
    #./configure --with-apr=/usr/local/apr ----with-java-home=JDK;make;make install
    
    #cd apache-tomcat-6.0.20/bin  
    #tar zxvf tomcat-native.tar.gz  
    #cd tomcat-native/jni/native  
    #./configure --with-apr=/usr/local/apr;make;make install
    
  (2)设置 Tomcat 整合 APR
    修改 tomcat 的启动 shell (startup.sh),在该文件中加入启动参数:
      CATALINA_OPTS="$CATALINA_OPTS -Djava.library.path=/usr/local/apr/lib" 。
 
  (3)判断安装成功:
    如果看到下面的启动日志,表示成功。      2007-4-26 15:34:32 org.apache.coyote.http11.Http11AprProtocol init
登入後複製

五、叢集方案

單一Tomcat的處理效能是有限的,當並發量較大的時候,就需要有部署多套來進行負載平衡了。

叢集的關鍵點有以下幾點: 
1.引入負載端 
軟體負載可以使用nginx或apache來進行,主要是使用一個分發的功能 
參考: 
(nginx負載) 
(apache負載) 

2.共享session處理 
目前的處理方式有下列幾種: 
1).使用Tomcat本身的Session複製功能 
參考(Session複製的配置) 
方案的有點是配置簡單,缺點是當集群數量較多時,Session複製的時間會比較長,影響響應的效率
2).使用第三方來存放共享Session 
目前用的較多的是使用memcached來管理共享Session,借助於memcached-sesson-manager來進行Tomcat的Session管理 
參考(使用MSM管理Tomcat群集session) 
3).使用黏性session的策略 
對於會話要求不太強(不涉及計費,失敗了允許重新請求下等)的場合,同一個用戶的session可以由nginx或apache交給同一個Tomcat來處理,這就是所謂的session sticky策略,目前應用也比較多 
參考:(tomcat session sticky) 
nginx預設不包含session sticky模組,需要重新編譯才行(windows下我也不知道怎麼重新編譯) 
優點是處理效率高多了,缺點是強會話要求的場合不合適 

3、每個網站一個實例。啟動多個tomcat.

不要使用Tomcat的虛擬主機,每個網站一個實例。即,啟動多個tomcat.

這也是PHP運維在這裡常犯的錯誤,PHP的做法是一個Web下面放置多個虛擬主機,而不是每個主機啟動一個web伺服器。 Tomcat 是多執行緒,共享內存,任何一個虛擬主機中的應用出現崩潰,會影響到所有應用程式。採用多個實例方式雖然開銷比較大,但保證了應用程式隔離與安全。

4.小結 
以上是實現群集的要點,其中1和2可以組合使用,具體場景具體分析吧~

六、問題定位

 對於Tomcat的處理耗時較長的問題主要有當時的同時數量、session數、記憶體及記憶體的回收等幾個面向所造成的。出現問題之後就要進行分析了。

1.關於Tomcat的session數目 
這個可以直接從Tomcat的web管理介面去查看即可 
或者藉助第三方工具Lambda Probe來查看,它相對於Tomcat自帶的管理稍微多了點功能,但也不多 

2.監視Tomcat的記憶體使用情況 
使用JDK自帶的jconsole可以比較明了的看到記憶體的使用情況,執行緒的狀態,目前載入的類別的總量等 
JDK自帶的jvisualvm可以下載外掛程式(如GC等),可以查看更豐富的資訊。如果是分析本地的Tomcat的話,還可以進行記憶體抽樣等,檢查每個類別的使用情況 

3.列印類別的載入情況及物件的回收情況 
這個可以透過設定JVM的啟動參數,列印這些資訊(到螢幕(預設也會到catalina.log中)或檔案),具體參數如下: 
-XX:+PrintGC:輸出形式:[GC 118250K-> 113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs] ##130112K), 0.0650971 secs] 
-XX:+1148648600098( K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][T741012641000 , 0.0433488 secs] 121376K-> 10414K(130112K), 0.0436268 secs] 
-XX:+PrintGCTimeStamps -XX:+PrintGC:PrintGCTimeStamps可與上面兩個混合使用,輸出形式:11.851: [GC 98328K->933620093328K-
-XX:+PrintGCApplicationConcurrentTime:列印每次垃圾回收前,程式未中斷的執行時間。可與上面混合使用。輸出形式:Application time: 0.5291524 seconds 
-XX:+PrintGCApplicationStoppedTime:列印垃圾回收期間程式暫停的時間。可與上面混合使用。輸出形式:Total time for which application threads were stopped: 0.0468229 seconds 
-XX:PrintHeapAtGC: 列印GC前後的詳細堆疊資訊 
-Xloggc:filename:與上面幾個記錄堆疊使用,把相關日誌資訊搭配到檔案以便分析 

-verbose:class 監視載入的類別的情況 
-verbose:gc 在虛擬機器發生記憶體回收時在輸出裝置顯示訊息 
-verbose:jni 輸出native方法呼叫的相關情況,一般用於診斷jni調用錯誤訊息 

4.新增JMS遠端監控 
對於部署在區域網路內其它機器上的Tomcat,可以開啟JMX監控端口,區域網路其它機器就可以透過這個連接埠查看一些常用的參數(但有些比較複雜的功能不支援),同樣是在JVM啟動參數中配置即可,設定如下: 
-Dcom.sun.management.jmxremote.ssl =false  -Dcom.sun.management.jmxremote.authenticate=false 
-Djava.rmi.server.hostname=192.168.71.38 設定JVM的JMS監控監聽的IP位址,主要是為了防止錯誤的監聽成127.0.0.這個內網路位址 
-Dcom.sun.management.jmxremote.port=1090 設定JVM的JMS監控的連接埠 
-Dcom.sun.management.jmxremote.ssl=false 設定JVM的JMS監控#不實用SSL 監控
-Dcom.sun.management.jmxremote.authenticate=false 設定JVM的JMS監控不需要認證 

5.專業點的分析工具有 
IBM ISA,JProfiler等,具體監控及分析方式上網搜尋即可。 

以上是Tomcat--效能優化的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板