QPS、RT、PV、UV之間的關(guān)系

天下小糧倉 2019-04-10

展開全文

1、QPS:單個進(jìn)程每秒請求服務(wù)器的 `成功次數(shù)`

每秒查詢率(Query Per Second) ,每秒的響應(yīng)請求數(shù)，也即是最大吞吐能力。
QPS = req/sec = 請求數(shù)/秒
QPS統(tǒng)計方式 [一般使用 http_load 進(jìn)行統(tǒng)計]
QPS = 總請求數(shù) / ( 進(jìn)程總數(shù) * 請求時間 )
QPS: 單個進(jìn)程每秒請求服務(wù)器的成功次數(shù)
峰值QPS:

原理：每天80%的訪問集中在20%的時間里，這20%時間叫做峰值時間
公式：( 總PV數(shù) * 80% ) / ( 每天秒數(shù) * 20% ) = 峰值時間每秒請求數(shù)(QPS)

2、PV（Page View）:訪問量

訪問量即Page View, 即頁面瀏覽量或點擊量，用戶每次刷新即被計算一次
單臺服務(wù)器每天PV計算
公式1：每天總PV = QPS * 3600 * 6
公式2：每天總PV = QPS * 3600 * 8

3、UV（Unique Visitor）:獨立訪客

獨立訪客即Unique Visitor,訪問您網(wǎng)站的一臺電腦客戶端為一個訪客。00:00-24:00內(nèi)相同的客戶端只被計算一次

服務(wù)器數(shù)量：
機器：峰值時間每秒QPS / 單臺機器的QPS = 需要的機器
機器：ceil( 每天總PV / 單臺服務(wù)器每天總PV )
并發(fā)數(shù)：

并發(fā)用戶數(shù)是指系統(tǒng)可以同時承載的正常使用系統(tǒng)功能的用戶的數(shù)量
吐吞量：

吞吐量是指系統(tǒng)在單位時間內(nèi)處理請求的數(shù)量

4、響應(yīng)時間（RT):

響應(yīng)時間是指系統(tǒng)對請求作出響應(yīng)的時間
例子：

每天300w PV 的在單臺機器上，這臺機器需要多少Q(mào)PS？
答：( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)
如果一臺機器的QPS是58，需要幾臺機器來支持？

答：139 / 58 = 3

最佳線程數(shù):

性能壓測的情況下，起初隨著用戶數(shù)的增加，QPS會上升，當(dāng)?shù)搅艘欢ǖ拈y值之后，用戶數(shù)量增加QPS并不會增加，或者增加不明顯，同時請求的響應(yīng)時間卻大幅增加。這個閥值我們認(rèn)為是最佳線程數(shù)。

為什么要找最佳線程數(shù)

過多的線程只會造成，更多的內(nèi)存開銷，更多的CPU開銷，但是對提升QPS確毫無幫助
找到最佳線程數(shù)后通過簡單的設(shè)置，可以讓web系統(tǒng)更加穩(wěn)定，得到最高，最穩(wěn)定的QPS輸出

最佳線程數(shù)的獲取：

通過用戶慢慢遞增來進(jìn)行性能壓測，觀察QPS，響應(yīng)時間
根據(jù)公式計算:服務(wù)器端最佳線程數(shù)量=((線程等待時間+線程cpu時間)/線程cpu時間) * cpu數(shù)量
單用戶壓測，查看CPU的消耗，然后直接乘以百分比，再進(jìn)行壓測，一般這個值的附近應(yīng)該就是最佳線程數(shù)量。

影響最佳線程數(shù)的主要因素：

IO開銷較多的應(yīng)用其CPU線程等待時間會比較長，所以線程數(shù)量可以開的多一些，相反則線程數(shù)量要少一些，其實有兩種極端，純IO的應(yīng)用，比如proxy，則線程數(shù)量可以開到非常大（實在太大了則需要考慮線程切換的開銷），這種應(yīng)用基本上后端（比如這個proxy是代理搜索的）的QPS能有多少，proxy就有多少。

對于耗CPU的計算，這種情況一般來講只能開到CPU個數(shù)的線程數(shù)量。但是并不是說這種應(yīng)用的QPS就不高，往往這種應(yīng)用的QPS可以很高，因為耗CPU計算的應(yīng)用，往往處理單次請求的時間會很短。

QPS和線程數(shù)的關(guān)系