應(yīng)用性能管理（APM）是一種即時監(jiān)控以實現(xiàn)對應(yīng)用程序性能管理和故障管理的系統(tǒng)化解決方案。目前主要指對企業(yè)的關(guān)鍵業(yè)務(wù)應(yīng)用進行監(jiān)測、優(yōu)化，最終達到提高企業(yè)應(yīng)用的可靠性和質(zhì)量，保證用戶得到良好的服務(wù)，降低IT成本的目標。
雖然很多人都曾預言Java將一蹶不振，但是不可否認的是，很多重要項目中，尤其是銀行和政府一些大型項目，Java仍在其中扮演著極其重要的角色。國內(nèi)APM領(lǐng)軍企業(yè)OneAPM的Java工程師陶炳哲，多次參與銀行、運營商等大型企業(yè)的性能優(yōu)化工作,總結(jié)了企業(yè)級Java應(yīng)用最應(yīng)重視的4個性能指標，主要包括：商業(yè)事務(wù)，外部服務(wù)，垃圾回收以及應(yīng)用布局。下文將逐一展開闡述：
1.商業(yè)事務(wù)
商業(yè)事務(wù)是真實用戶體驗的直觀反映：它們抓取了用戶與應(yīng)用交互時，用戶體驗到的實時性能數(shù)據(jù)。測量商業(yè)事務(wù)的性能，需要抓取一件商業(yè)事務(wù)整體的響應(yīng)時間及其各個組件的響應(yīng)時間。這些響應(yīng)時間再與滿足業(yè)務(wù)需求的基準進行比較，從而決定應(yīng)用是否正常。
如果你只打算測量應(yīng)用的一個方面，本文會推薦你測量商業(yè)事務(wù)的表現(xiàn)。盡管容量指標(container metrics)能幫助你決定何時調(diào)節(jié)集群規(guī)模，但是商業(yè)事務(wù)才決定了應(yīng)用本身的性能。你無需詢問應(yīng)用服務(wù)器線程池(thread pool)的使用情況，而是關(guān)心用戶能否迅速完成他們的商業(yè)事務(wù)，以及這些事務(wù)的表現(xiàn)是否正常。
介紹一點背景知識：商業(yè)事務(wù)通過其入口進行辨別，即用戶與你的業(yè)務(wù)進行互動的入口。這類互動包括：一個網(wǎng)頁請求，一個網(wǎng)頁服務(wù)調(diào)用，或消息隊列中的一條消息。當然，你也可以基于一個URL參數(shù)為同樣的網(wǎng)頁請求定義多個入口，或基于一個服務(wù)調(diào)用的內(nèi)容定義多個入口點。關(guān)鍵在于：商業(yè)交易必須與對你的業(yè)務(wù)流程相關(guān)聯(lián)，比如說中國移動的空中繳費業(yè)務(wù)對應(yīng)到系統(tǒng)中是多個原子服務(wù)，我們就應(yīng)該將這幾個原子服務(wù)通過相應(yīng)的關(guān)聯(lián)聚合成一個空中繳費業(yè)務(wù)來進行監(jiān)控。
辨別某個商業(yè)交易后，它的性能就會在整個應(yīng)用生態(tài)系統(tǒng)中進行測量。每個商業(yè)交易的性能會與其基準進行比較，判定其是否正常。譬如，如果某個商業(yè)事務(wù)的響應(yīng)時間大于您設(shè)定的閾值，我們便判定其運行異常。
總而言之，商業(yè)事務(wù)最能反映用戶體驗，因此它們也是最重要的抓取維度。
2.外部服務(wù)
外部服務(wù)的形式多種多樣：從屬的網(wǎng)頁服務(wù)、遺留系統(tǒng)或數(shù)據(jù)庫等。外部服務(wù)是與應(yīng)用交互的系統(tǒng)。運行在外部服務(wù)系統(tǒng)中的代碼常常無法控制，但是我們可以控制這些系統(tǒng)的配置，因此了解他們是否運行正常以及何時出錯也很重要。并且，我們必須有能力區(qū)分問題是出自自身應(yīng)用，還是源于這些外部服務(wù)系統(tǒng)。
從商業(yè)事務(wù)的角度來說，我們可以辨別并測量這些處于自身應(yīng)用的外部服務(wù)。有時，我們需要配置監(jiān)控方法從而辨別那些包裹了外部服務(wù)調(diào)用的方法。但是對于常見的協(xié)議，諸如HTTP和JDBC，外部服務(wù)可以自動檢測。
商業(yè)事務(wù)讓你對應(yīng)用的性能有了全局的掌控，幫助你對性能問題進行分類。但是外部服務(wù)總能以意想不到的方式極大地影響應(yīng)用的運行，所以你必須監(jiān)控它們。
3.垃圾回收
從Java發(fā)布最早版本開始，一直都保留的核心特性就是垃圾回收，它真是讓人又愛又恨。垃圾回收使我們不再需要手動管理內(nèi)存：當使用完一個對象后，我們只需刪除它的引用，然后垃圾回收就會自動釋放它。如果你使用過需要手動管理內(nèi)存的語言，諸如C或C++，你會滿懷感激。垃圾回收為程序員們減少了分配、釋放內(nèi)存空間的繁瑣步驟。
此外，因為垃圾回收器會自動釋放沒有引用的內(nèi)存空間，它減少了傳統(tǒng)的內(nèi)容泄露情況，即內(nèi)存被分配后，該內(nèi)存的引用在內(nèi)存釋放前就被刪除了。聽起來就像靈丹妙藥，不是么？
盡管垃圾回收達成了無需手動管理內(nèi)存的目標，也防止了傳統(tǒng)的內(nèi)存泄露，但是作為代價，垃圾回收過程有時相當笨拙。根據(jù)不同的JVM,垃圾回收策略也會不同。深入探討這些策略超出了本文的主旨。但是，讀者應(yīng)該明白，了解垃圾回收期的工作原理，以及最佳的配置方案至關(guān)重要。
垃圾回收最大的敵人就是傳說中的主要(major)或(full)垃圾回收。除了Azul JVM，所有的JVM都有這個問題。通常，垃圾回收大致分為兩類：
次級主要
為了釋放存活時間較短的對象，次級垃圾回收發(fā)生得相對頻繁。他們在運行時不會封鎖線程，產(chǎn)生的影響較小。
然而，主要垃圾回收，有時也稱為“暫停世界(Stop The World, STW)”垃圾回收，因為他們在運行時會封鎖JVM中的所有線程。
當垃圾回收運行時，它會運行一項可達性測試(reachability test)，如圖四所示。它會創(chuàng)建一個由對象組成的根集合(root set)，該集合包含每個運行線程中的直接可見對象。接著，它會探尋根集合中的對象涉及的其他對象，然后探尋這些對象涉及的對象，直到所有對象都被涉及。在這個過程中，它會記錄(mark)下現(xiàn)時活動對象的內(nèi)存地址，然后把不被使用的所有地址都掃除(sweep)。說得更恰當些，它會把沒有根集合對象引用的內(nèi)存都釋放。最終，它會壓縮、整理這些內(nèi)存，這樣新的對象才能獲得內(nèi)存分配。
根據(jù)不同的JVM，次級、主要回收的方式都會不同。圖五圖六展示了在Sun JVM內(nèi)次級、主要回收的操作方式。
在次級回收中，內(nèi)存主要分配到Eden空間直到將其填滿。接著，拷貝收集器(copy collector)會將Eden中的活動對象拷貝到兩個幸存者空間(survivor spaces, to space和from space)。遺留在Eden中的對象就會被移除。如果幸存者空間被填滿，但還有多余的活動對象，這些對象會被移到tenured空間。只有主要回收才能釋放tenured空間的內(nèi)存。
最終，tenured空間會被填滿，主要回收將會執(zhí)行。它不會將幸存者空間放不下的活動對象拷貝到tenured空間中。此時，JVM會封鎖所有線程，運行可達性測試，清除年輕的數(shù)據(jù)(Eden和兩個幸存者空間)，并壓縮tenured空間。我們將之稱為主要回收。
你或許會想，堆越大，主要回收運行得越不頻繁。但是當它執(zhí)行時，所需時間就會比小堆要長。因此，調(diào)整好堆的大小和垃圾回收策略對于應(yīng)用的性能也很重要。
4.應(yīng)用布局
最后要探討的性能指標是應(yīng)用布局。因為云的出現(xiàn)，現(xiàn)在的應(yīng)用變得更加靈活：應(yīng)用環(huán)境可以根據(jù)用戶需求調(diào)節(jié)大小。因此，對應(yīng)用的布局進行檢測從而決定實例的多少是否合適是非常重要的。如果你的實例太多，你的云主機成本就會增加。但如果你沒有足夠的實例，商業(yè)事務(wù)就會受到影響。
在評測過程中，下面兩個指標尤其重要：
商業(yè)事務(wù)的吞吐量
容器性能
商業(yè)事務(wù)應(yīng)該基準化，你應(yīng)該知道在給定的時間里為了滿足基準所需的實例數(shù)量。如果你的商業(yè)事務(wù)的吞吐量增長突然，你就要增加實例以滿足用戶。
另一個需要監(jiān)測的是容器性能。具體來說，你想確定是否有應(yīng)用中的實例負載過大，如果有，你或許想在那個應(yīng)用中添加實例。從應(yīng)用的角度查看實例狀態(tài)很重要，因為單個實例可能由于垃圾回收之類的因素負載過大，但如果應(yīng)用中大多數(shù)實例都負載過大，則該應(yīng)用可能已經(jīng)無法支持它接受的訪問量。
因為應(yīng)用中的實例可以單個地調(diào)節(jié)規(guī)模，所以分析各個實例的性能進而調(diào)整應(yīng)用布局就至關(guān)重要。
本文系OneAPM工程師編譯整理。OneAPM是中國基礎(chǔ)軟件領(lǐng)域的新興領(lǐng)軍企業(yè)，能幫助企業(yè)用戶和開發(fā)者輕松實現(xiàn)：緩慢的程序代碼和SQL語句的實時抓取。想閱讀更多技術(shù)文章，請訪問OneAPM官方技術(shù)博客。
