本發(fā)明涉及一種客戶端數(shù)量控制方法及裝置。

背景技術(shù)：

目前基于C/S、B/S的應(yīng)用和解決方案非常的多，客戶端連接到服務(wù)器后，服務(wù)器為客戶端提供服務(wù)。這時(shí)我們經(jīng)常會(huì)遇到一個(gè)問(wèn)題，就是當(dāng)客戶端數(shù)量越來(lái)越多，服務(wù)器的實(shí)際性能已經(jīng)不能支撐這么多客戶端時(shí)，客戶端就會(huì)出現(xiàn)各種響應(yīng)超時(shí)、操作卡頓、用戶體驗(yàn)差等等問(wèn)題。在眾多用戶體驗(yàn)要求至上的應(yīng)用場(chǎng)合(如實(shí)時(shí)點(diǎn)播)，這是不能接受的。

因此若能在服務(wù)器數(shù)量和性能有限的情況下，動(dòng)態(tài)控制和調(diào)整客戶端數(shù)量，要求在最大限度利用系統(tǒng)性能的情況下，仍然可以始終保證已接入的所有客戶端都有最佳的用戶體驗(yàn)，是目前業(yè)內(nèi)的追求目標(biāo)。

2011-07-27公開(kāi)的，公開(kāi)號(hào)為102137091A的中國(guó)發(fā)明公開(kāi)了一種過(guò)負(fù)荷控制方法,本發(fā)明實(shí)施例還提供相應(yīng)的裝置、系統(tǒng)及客戶端。本發(fā)明技術(shù)方案通過(guò)接收客戶端發(fā)送的資源請(qǐng)求消息,判斷與該資源類型對(duì)應(yīng)的當(dāng)前最大允許請(qǐng)求數(shù)與當(dāng)前的累計(jì)分配資源數(shù)量的差值是否為0，若為0，則向客戶端發(fā)送分配失敗消息；若不為0,再判斷該差值是否大于等于每次最大申請(qǐng)數(shù),若是,則向客戶端發(fā)送攜帶資源類型和資源數(shù)量的資源分配消息,其中資源數(shù)量等于每次最大申請(qǐng)數(shù)；若否,則向客戶端發(fā)送攜帶資源類型和資源數(shù)量的資源分配消息,其中資源數(shù)量等于差值。該發(fā)明與其它現(xiàn)有技術(shù)一樣，都是規(guī)定接入客戶端的定值，無(wú)法根據(jù)服務(wù)器性能的實(shí)際使用情況進(jìn)行調(diào)整。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明要解決的技術(shù)問(wèn)題，在于提供一種服務(wù)器自動(dòng)控制可負(fù)載客戶端數(shù)量的方法及裝置，在服務(wù)器數(shù)量和性能有限的情況下，可以動(dòng)態(tài)控制和調(diào)整客戶端數(shù)量，在始終保證所有客戶端最佳用戶體驗(yàn)的前提下，仍然能將服務(wù)器的性能資源用到極限。

本發(fā)明方法是這樣實(shí)現(xiàn)的：一種服務(wù)器自動(dòng)控制可負(fù)載客戶端數(shù)量的方法，包括如下步驟：

S1、系統(tǒng)預(yù)設(shè)若干個(gè)性能監(jiān)測(cè)點(diǎn)，并對(duì)這些監(jiān)測(cè)點(diǎn)進(jìn)行實(shí)時(shí)監(jiān)控；

S2、客戶端需要使用服務(wù)器提供的服務(wù)時(shí)，向服務(wù)器端發(fā)送接入請(qǐng)求；

S3、服務(wù)器根據(jù)客戶端請(qǐng)求的業(yè)務(wù)類型，粗略計(jì)算新請(qǐng)求需要的性能占用情況；

S4、服務(wù)器根據(jù)性能監(jiān)測(cè)數(shù)據(jù)進(jìn)行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請(qǐng)求的接入；否則接納該新客戶端；如果未人為限定接入客戶端數(shù)量最大值，則系統(tǒng)的性能將用到極限。

進(jìn)一步地，本發(fā)明方法還包括：

S5、在確認(rèn)了允許新客戶端接入后，服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時(shí)監(jiān)控列表中；

S6、客戶端根據(jù)獲得的授權(quán)令牌，使用服務(wù)器提供的在線服務(wù)，服務(wù)器必須判斷每次的請(qǐng)求是否合法。

S7、當(dāng)客戶端不再需要服務(wù)器提供服務(wù)時(shí)，主動(dòng)向服務(wù)器發(fā)送退出請(qǐng)求；服務(wù)器從在線客戶端列表中移除該客戶端，并回收對(duì)應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

進(jìn)一步地，所述S4中，如果判斷結(jié)果為當(dāng)前系統(tǒng)剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時(shí)，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達(dá)到管理員預(yù)設(shè)最大值，如果沒(méi)有達(dá)到則接納該新客戶端，進(jìn)行下一步，如果已經(jīng)達(dá)到，仍拒絕，并返回錯(cuò)誤原因，其中，預(yù)設(shè)最大值需小于滿負(fù)載客戶端數(shù)量；且步驟S6之后還包括：

進(jìn)一步地，本發(fā)明方法中，服務(wù)器定時(shí)向監(jiān)控列表中的所有客戶端發(fā)送存活檢測(cè)包，以檢測(cè)客戶端的實(shí)際在線情況，沒(méi)有響應(yīng)的客戶端將視為異常，服務(wù)器自動(dòng)回收對(duì)應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；

進(jìn)一步地，所述步驟S1中的性能監(jiān)測(cè)點(diǎn)主要包括磁盤(pán)IO監(jiān)測(cè)點(diǎn)、網(wǎng)絡(luò)帶寬監(jiān)測(cè)點(diǎn)、內(nèi)存檢測(cè)點(diǎn)和CPU監(jiān)測(cè)點(diǎn)。

進(jìn)一步地，所述S3中新請(qǐng)求需要的性能占用情況的計(jì)算是主要根據(jù)客戶端請(qǐng)求服務(wù)的類型，大致計(jì)算該請(qǐng)求需要占用的系統(tǒng)性能情況(包括磁盤(pán)IO占用、網(wǎng)卡帶寬占用，內(nèi)存占用，CPU占用等)，以及大致需要的服務(wù)時(shí)長(zhǎng)。

本發(fā)明裝置是這樣實(shí)現(xiàn)的：一種服務(wù)器自動(dòng)控制可負(fù)載客戶端數(shù)量的裝置，包括：

實(shí)時(shí)監(jiān)測(cè)模塊，用于對(duì)服務(wù)器預(yù)設(shè)的若干個(gè)性能監(jiān)測(cè)點(diǎn)進(jìn)行實(shí)時(shí)監(jiān)控；

計(jì)算模塊，當(dāng)客戶端需要使用服務(wù)器提供的服務(wù)而向服務(wù)器端發(fā)送接入請(qǐng)求時(shí)，用于服務(wù)器根據(jù)客戶端請(qǐng)求的業(yè)務(wù)類型，計(jì)算新請(qǐng)求需要的性能占用情況；

判斷模塊，用于服務(wù)器根據(jù)性能監(jiān)測(cè)數(shù)據(jù)進(jìn)行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請(qǐng)求的接入；否則接納該新客戶端。

進(jìn)一步的，本發(fā)明裝置還包括：

分配授權(quán)令牌模塊，在確認(rèn)了允許新客戶端接入后，用于服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時(shí)監(jiān)控列表中；

校驗(yàn)授權(quán)令牌模塊，用于客戶端根據(jù)獲得的授權(quán)令牌，向服務(wù)器發(fā)送授權(quán)令牌進(jìn)行校驗(yàn)，服務(wù)器判斷授權(quán)令牌是否合法，若合法，則響應(yīng)該客戶端請(qǐng)求，反之，則拒絕客戶端請(qǐng)求。

進(jìn)一步的，本發(fā)明裝置還包括

移除客戶端模塊，當(dāng)客戶端不再需要服務(wù)器提供服務(wù)并主動(dòng)向服務(wù)器發(fā)送退出請(qǐng)求時(shí)，用于服務(wù)器從在線客戶端列表中移除該客戶端，并回收對(duì)應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

進(jìn)一步的，本發(fā)明裝置還包括：

存活檢測(cè)模塊，用于服務(wù)器定時(shí)向監(jiān)控列表中的所有客戶端發(fā)送存活檢測(cè)包，以檢測(cè)客戶端的實(shí)際在線情況，沒(méi)有響應(yīng)的客戶端將視為異常，服務(wù)器自動(dòng)回收對(duì)應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；

進(jìn)一步的，本發(fā)明裝置中，所述判斷模塊在判斷結(jié)果為當(dāng)前服務(wù)器剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時(shí)，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達(dá)到預(yù)設(shè)最大值，如果沒(méi)有達(dá)到則接納該新客戶端，如果已經(jīng)達(dá)到，仍拒絕，并返回錯(cuò)誤原因，其中，預(yù)設(shè)最大值需小于滿負(fù)載客戶端數(shù)量。

進(jìn)一步的，本發(fā)明裝置中，所述性能監(jiān)測(cè)點(diǎn)包括以下的一種或兩種以上：磁盤(pán)IO監(jiān)測(cè)點(diǎn)、網(wǎng)卡吞吐量監(jiān)測(cè)點(diǎn)、內(nèi)存檢測(cè)點(diǎn)或CPU監(jiān)測(cè)點(diǎn)。

進(jìn)一步的，本發(fā)明裝置中，所述新請(qǐng)求需要的性能占用情況的計(jì)算是主要根據(jù)客戶端請(qǐng)求服務(wù)的類型，計(jì)算該請(qǐng)求需要占用的系統(tǒng)性能情況以及大致需要的服務(wù)時(shí)長(zhǎng)。

本發(fā)明具有如下優(yōu)點(diǎn)：

1、本發(fā)明方法或裝置可實(shí)現(xiàn)對(duì)系統(tǒng)性能占用情況的實(shí)時(shí)監(jiān)控，以確定當(dāng)前服務(wù)器的剩余性能，對(duì)新請(qǐng)求需要的性能占用情況，確定當(dāng)前的剩余性能是否可以滿足新請(qǐng)求的要求，然后再確定是否接入新客戶端，從而實(shí)現(xiàn)智能且精確控制客戶端的接入數(shù)量，以在保證所有客戶端的正常用戶體驗(yàn)的前提下，將服務(wù)器系統(tǒng)性能用到極致；

2、結(jié)合手動(dòng)控制客戶端接入數(shù)量的方式，滿足不同業(yè)務(wù)需求；

3、對(duì)所有客戶端可進(jìn)行統(tǒng)一管理，并實(shí)時(shí)監(jiān)控所有客戶端的在線狀態(tài)。

具體實(shí)施方式

本發(fā)明的出發(fā)點(diǎn)就是在始終保證所有客戶端最佳用戶體驗(yàn)的前提下，仍然能將服務(wù)器的性能資源用到極限。為此，可先在系統(tǒng)上預(yù)設(shè)了若干個(gè)性能監(jiān)測(cè)點(diǎn)，并對(duì)這些性能監(jiān)測(cè)點(diǎn)進(jìn)行實(shí)時(shí)的監(jiān)控。當(dāng)有新客戶端請(qǐng)求接入服務(wù)器時(shí)，服務(wù)器自動(dòng)根據(jù)請(qǐng)求的服務(wù)類型，結(jié)合當(dāng)前系統(tǒng)的實(shí)際性能剩余情況，通用估算，判斷當(dāng)前系統(tǒng)剩余性能是否足以保證新接入客戶端和所有在線客戶端的正常使用，如果不能，則必須對(duì)新接入請(qǐng)求給與拒絕。對(duì)于已被允許接入的新客戶端，服務(wù)器將為其分配授權(quán)令牌。服務(wù)器只為具有合法令牌的客戶端提供服務(wù)，同時(shí)服務(wù)器將對(duì)已經(jīng)授權(quán)的所有在線客戶端進(jìn)行實(shí)時(shí)狀態(tài)的監(jiān)控和統(tǒng)一管理。

本發(fā)明的服務(wù)器自動(dòng)控制可負(fù)載客戶端數(shù)量的方法的一較佳實(shí)施例，具體包括如下步驟：

S1、服務(wù)器預(yù)設(shè)若干個(gè)性能監(jiān)測(cè)點(diǎn)，并對(duì)這些監(jiān)測(cè)點(diǎn)進(jìn)行實(shí)時(shí)監(jiān)控；所述性能監(jiān)測(cè)點(diǎn)是指磁盤(pán)IO監(jiān)測(cè)點(diǎn)、網(wǎng)絡(luò)帶寬監(jiān)測(cè)點(diǎn)、內(nèi)存檢測(cè)點(diǎn)和CPU監(jiān)測(cè)點(diǎn)，通過(guò)監(jiān)測(cè)這四個(gè)監(jiān)測(cè)點(diǎn)，就可以對(duì)當(dāng)前服務(wù)器的性能剩余情況有一個(gè)直觀的了解。在不同的應(yīng)用場(chǎng)合，需要關(guān)注的性能監(jiān)測(cè)點(diǎn)可能不同，這個(gè)需要根據(jù)實(shí)際的應(yīng)用情況進(jìn)行分析，并非每種場(chǎng)合這四個(gè)監(jiān)測(cè)點(diǎn)都要監(jiān)測(cè)。

通過(guò)上述的實(shí)時(shí)監(jiān)控操作，獲得服務(wù)器當(dāng)前剩余性能情況，為判定是否接入新客戶端做好準(zhǔn)備。

S2、客戶端需要使用服務(wù)器提供的服務(wù)時(shí)，向服務(wù)器端發(fā)送接入請(qǐng)求；

S3、服務(wù)器根據(jù)客戶端請(qǐng)求的業(yè)務(wù)類型，粗略計(jì)算新請(qǐng)求需要的性能占用情況；計(jì)算是主要根據(jù)客戶端請(qǐng)求服務(wù)的類型、服務(wù)文件以及服務(wù)時(shí)長(zhǎng)。例如，若服務(wù)器是點(diǎn)播服務(wù)器，主要關(guān)注磁盤(pán)IO剩余和網(wǎng)絡(luò)帶寬剩余這兩個(gè)性能監(jiān)測(cè)點(diǎn)，看是否可以滿足客戶端新請(qǐng)求的性能占用。

例如：當(dāng)服務(wù)器是一個(gè)點(diǎn)播服務(wù)器，那么我們就可以根據(jù)點(diǎn)播某個(gè)節(jié)目文件的請(qǐng)求，通過(guò)節(jié)目文件的文件大小和播放時(shí)長(zhǎng)等數(shù)據(jù)，從而精確算出本次點(diǎn)播所需要的網(wǎng)絡(luò)帶寬要求，磁盤(pán)IO占用等。

S4、服務(wù)器根據(jù)性能監(jiān)測(cè)數(shù)據(jù)進(jìn)行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請(qǐng)求的接入。在這種情況下，未人為限定接入客戶端數(shù)量最大值，服務(wù)器的性能將用到極限。

在另一些實(shí)施例中，在步驟S4的基礎(chǔ)上，即使當(dāng)前系統(tǒng)剩余性能足以保證在接納該新客戶端后所有客戶端正常使用，仍需繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達(dá)到預(yù)設(shè)最大值，如果沒(méi)有達(dá)到則接納該新客戶端，進(jìn)行下一步，如果已經(jīng)達(dá)到，仍拒絕，并返回錯(cuò)誤原因，其中，預(yù)設(shè)最大值需小于滿負(fù)載客戶端數(shù)量。

所以，在實(shí)際應(yīng)用中，可以只根據(jù)服務(wù)器的剩余性能及客戶端新請(qǐng)求需要的性能占用情況進(jìn)行判定是否接入新的客戶端，還可以進(jìn)一步結(jié)合接入客戶端的預(yù)設(shè)最大值，進(jìn)行綜合判定是否接入新的客戶端。

另外，允許管理員預(yù)設(shè)最大客戶端接入數(shù)量，是因?yàn)樵谟行┣闆r下，用戶購(gòu)買(mǎi)的服務(wù)器負(fù)載的客戶端數(shù)量有限；為了有效控制服務(wù)器的使用權(quán)限，需對(duì)服務(wù)器負(fù)載的最大客戶端數(shù)量進(jìn)行限制，即使服務(wù)器的還有性能空間。因此可以通過(guò)手動(dòng)控制方式，達(dá)到控制客戶端數(shù)量的目的。

S5、在確認(rèn)了允許新客戶端接入后，服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時(shí)監(jiān)控列表中；

S6、客戶端根據(jù)獲得的授權(quán)令牌，使用服務(wù)器提供的在線服務(wù)，服務(wù)器必須判斷每次的請(qǐng)求是否合法；

通過(guò)該S5和S6兩個(gè)步驟，即可對(duì)客戶端合法性進(jìn)行驗(yàn)證，從而對(duì)非法客戶端起到限制作用。

S7、當(dāng)客戶端不再需要服務(wù)器提供服務(wù)時(shí)，主動(dòng)向服務(wù)器發(fā)送退出請(qǐng)求；服務(wù)器從在線客戶端列表中移除該客戶端，并回收對(duì)應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

上述過(guò)程中，服務(wù)器會(huì)定時(shí)向監(jiān)控列表中的所有客戶端發(fā)送存活檢測(cè)包，以檢測(cè)客戶端的實(shí)際在線情況，沒(méi)有響應(yīng)的客戶端將視為異常，服務(wù)器自動(dòng)回收對(duì)應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；通過(guò)這種存活異常檢測(cè)機(jī)制或步驟S7的主動(dòng)登出處理，可使服務(wù)器負(fù)載的客戶端數(shù)量準(zhǔn)確，與實(shí)際情況相符，避免影響新客戶端的接入。

本發(fā)明還提供一種服務(wù)器自動(dòng)控制可負(fù)載客戶端數(shù)量的裝置，其包括：

實(shí)時(shí)監(jiān)測(cè)模塊，用于對(duì)服務(wù)器預(yù)設(shè)的若干個(gè)性能監(jiān)測(cè)點(diǎn)進(jìn)行實(shí)時(shí)監(jiān)控；所述性能監(jiān)測(cè)點(diǎn)包括以下的一種或兩種以上：磁盤(pán)IO監(jiān)測(cè)點(diǎn)、網(wǎng)卡吞吐量監(jiān)測(cè)點(diǎn)、內(nèi)存檢測(cè)點(diǎn)或CPU監(jiān)測(cè)點(diǎn)。

計(jì)算模塊，當(dāng)客戶端需要使用服務(wù)器提供的服務(wù)而向服務(wù)器端發(fā)送接入請(qǐng)求時(shí)，用于服務(wù)器根據(jù)客戶端請(qǐng)求的業(yè)務(wù)類型，計(jì)算新請(qǐng)求需要的性能占用情況；該計(jì)算是主要根據(jù)客戶端請(qǐng)求服務(wù)的類型，計(jì)算該請(qǐng)求需要占用的系統(tǒng)性能情況以及大致需要的服務(wù)時(shí)長(zhǎng)。

判斷模塊，用于服務(wù)器根據(jù)性能監(jiān)測(cè)數(shù)據(jù)進(jìn)行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請(qǐng)求的接入；否則接納該新客戶端。所述判斷模塊在判斷結(jié)果為當(dāng)前服務(wù)器剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時(shí)，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達(dá)到預(yù)設(shè)最大值，如果沒(méi)有達(dá)到則接納該新客戶端，如果已經(jīng)達(dá)到，仍拒絕，并返回錯(cuò)誤原因，其中，預(yù)設(shè)最大值需小于滿負(fù)載客戶端數(shù)量。

分配授權(quán)令牌模塊，在確認(rèn)了允許新客戶端接入后，用于服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時(shí)監(jiān)控列表中；

校驗(yàn)授權(quán)令牌模塊，用于客戶端根據(jù)獲得的授權(quán)令牌，向服務(wù)器發(fā)送授權(quán)令牌進(jìn)行校驗(yàn)，服務(wù)器判斷授權(quán)令牌是否合法，若合法，則響應(yīng)該客戶端請(qǐng)求，反之，則拒絕客戶端請(qǐng)求。

移除客戶端模塊，當(dāng)客戶端不再需要服務(wù)器提供服務(wù)并主動(dòng)向服務(wù)器發(fā)送退出請(qǐng)求時(shí)，用于服務(wù)器從在線客戶端列表中移除該客戶端，并回收對(duì)應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

存活檢測(cè)模塊，用于服務(wù)器定時(shí)向監(jiān)控列表中的所有客戶端發(fā)送存活檢測(cè)包，以檢測(cè)客戶端的實(shí)際在線情況，沒(méi)有響應(yīng)的客戶端將視為異常，服務(wù)器自動(dòng)回收對(duì)應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量。

雖然以上描述了本發(fā)明的具體實(shí)施方式，但是熟悉本技術(shù)領(lǐng)域的技術(shù)人員應(yīng)當(dāng)理解，我們所描述的具體的實(shí)施例只是說(shuō)明性的，而不是用于對(duì)本發(fā)明的范圍的限定，熟悉本領(lǐng)域的技術(shù)人員在依照本發(fā)明的精神所作的等效的修飾以及變化，都應(yīng)當(dāng)涵蓋在本發(fā)明的權(quán)利要求所保護(hù)的范圍內(nèi)。