一種流量管理裝置、服務(wù)器和方法
【專(zhuān)利摘要】本發(fā)明提供一種流量管理裝置、服務(wù)器和方法，通過(guò)從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求為服務(wù)節(jié)點(diǎn)進(jìn)行對(duì)應(yīng)的、實(shí)時(shí)的流量配額調(diào)配。即根據(jù)服務(wù)節(jié)點(diǎn)的需要?jiǎng)討B(tài)調(diào)配流量配額，使流量配額的分配更合理，流量控制更精準(zhǔn)，保證了系統(tǒng)的穩(wěn)定性。
【專(zhuān)利說(shuō)明】
一種流量管理裝置、服務(wù)器和方法
技術(shù)領(lǐng)域
[0001]本發(fā)明涉及通信領(lǐng)域，尤其涉及一種流量管理裝置、服務(wù)器和方法。
【背景技術(shù)】
[0002]隨著企業(yè)IT系統(tǒng)的服務(wù)化，IT系統(tǒng)需要更多的IT資源，尤其是當(dāng)IT系統(tǒng)處于業(yè)務(wù)高峰時(shí)，IT資源不足會(huì)給該IT系統(tǒng)的穩(wěn)定運(yùn)行帶來(lái)瓶頸，為了保障IT系統(tǒng)能夠高質(zhì)、高效的穩(wěn)定運(yùn)行，服務(wù)端需要對(duì)消費(fèi)者做限流處理，IT系統(tǒng)需要啟動(dòng)流量管理保護(hù)機(jī)制。傳統(tǒng)的流量管理機(jī)制一般是在初始就將總流量平均分配給各個(gè)服務(wù)節(jié)點(diǎn)，但是由于IT系統(tǒng)中集群的服務(wù)節(jié)點(diǎn)數(shù)是會(huì)動(dòng)態(tài)變化的，采用上述現(xiàn)有方式中的分配方案，當(dāng)集群中的服務(wù)節(jié)點(diǎn)宕機(jī)或者有新服務(wù)節(jié)點(diǎn)加入時(shí)，不能及時(shí)調(diào)整服務(wù)節(jié)點(diǎn)可以用于通信的流量配額，導(dǎo)致流量管理不準(zhǔn);進(jìn)一步的，由于集群中的各服務(wù)節(jié)點(diǎn)的負(fù)載會(huì)發(fā)生變化，采用上述方式可能會(huì)導(dǎo)致性能差的服務(wù)節(jié)點(diǎn)負(fù)載高，而節(jié)點(diǎn)性能好的服務(wù)節(jié)點(diǎn)卻配額空余，使得整個(gè)系統(tǒng)不穩(wěn)定。隨著企業(yè)IT系統(tǒng)的服務(wù)化，為了保障IT系統(tǒng)能夠高質(zhì)、高效的穩(wěn)定運(yùn)行，我們需要一種流量管理更準(zhǔn)確、更合理，流量配額資源利用率更高的流量分配策略。

【發(fā)明內(nèi)容】

[0003]本發(fā)明要解決的技術(shù)問(wèn)題在于現(xiàn)有技術(shù)中的流量配額分配不合理，造成流量配額資源浪費(fèi)，及流量管理不精準(zhǔn)和系統(tǒng)穩(wěn)定性差;針對(duì)該技術(shù)問(wèn)題，提供一種流量管理裝置、服務(wù)器和方法。
[0004]為實(shí)現(xiàn)上述目的，本發(fā)明實(shí)施例提供一種流量管理裝置，包括:
[0005]配額模塊，用于從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；
[0006]調(diào)控模塊，用于接收服務(wù)節(jié)點(diǎn)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額;所述配額調(diào)配請(qǐng)求為當(dāng)前流量配額與配額需求不匹配時(shí)產(chǎn)生的請(qǐng)求。
[0007]其中，配額調(diào)配請(qǐng)求包括以下至少一種:
[0008]服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求；
[0009]服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。
[0010]其中，調(diào)控模塊還用于:當(dāng)調(diào)配請(qǐng)求包括增加配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額策略S=M/N*T/Q給服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。
[0011 ] 其中，調(diào)控模塊還用于:當(dāng)調(diào)配請(qǐng)求包括歸還配額調(diào)配請(qǐng)求時(shí)，
[0012]將空余流量配額一次收回；
[0013]或根據(jù)預(yù)設(shè)規(guī)則逐次收回空余流量配額。
[0014]進(jìn)一步的，本發(fā)明實(shí)施例提供一種流量管理服務(wù)器，包括上述流量管理裝置。
[0015]進(jìn)一步的，本發(fā)明實(shí)施例提供一種流量管理方法，包括:
[0016]從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；
[0017]接收服務(wù)節(jié)點(diǎn)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額;所述配額調(diào)配請(qǐng)求為當(dāng)前流量配額與配額需求不匹配時(shí)產(chǎn)生的請(qǐng)求。
[0018]其中，配額調(diào)配請(qǐng)求包括以下至少一種:
[0019]服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求；
[0020]服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。
[0021]其中，當(dāng)調(diào)配請(qǐng)求包括增加配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:根據(jù)配額策略S=M/N*T/Q給服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。
[0022]其中，當(dāng)調(diào)配請(qǐng)求包括歸還配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:
[0023]將空余流量配額一次收回；
[0024]或根據(jù)預(yù)設(shè)規(guī)則逐次收回空余流量配額。
[0025]其中，還包括:
[0026]當(dāng)集群中有新增服務(wù)節(jié)點(diǎn)時(shí)，從配額資源池中給新增服務(wù)節(jié)點(diǎn)分配流量配額；
[0027]和/或，
[0028]當(dāng)集群中有服務(wù)節(jié)點(diǎn)退出時(shí)，將分配給服務(wù)節(jié)點(diǎn)的流量配額收回到配額資源池。
[0029]本發(fā)明的有益效果是:
[0030]本發(fā)明提供一種流量管理裝置、服務(wù)器和方法，通過(guò)從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求為該服務(wù)節(jié)點(diǎn)的流量配額進(jìn)行相應(yīng)的調(diào)配。即通過(guò)流量配額的初始分配，實(shí)現(xiàn)流量配額的靜態(tài)分配，后續(xù)根據(jù)服務(wù)節(jié)點(diǎn)的需要再實(shí)時(shí)地動(dòng)態(tài)調(diào)配流量配額，采用靜態(tài)分配和動(dòng)態(tài)分配結(jié)合的方式，使得流量配額的分配更合理，流量管理更精準(zhǔn)，保證了系統(tǒng)的穩(wěn)定性。
【附圖說(shuō)明】
[0031 ]圖1為實(shí)現(xiàn)本發(fā)明各個(gè)實(shí)施例一個(gè)可選的服務(wù)器的結(jié)構(gòu)示意圖；
[0032]圖2為本發(fā)明第一實(shí)施例提供的流量管理裝置示意圖；
[0033]圖3為本發(fā)明第一實(shí)施例提供的流量管理服務(wù)器示意圖；
[0034]圖4為本發(fā)明第二實(shí)施例提供的流量管理方法流程圖；
[0035]圖5為本發(fā)明第三實(shí)施例提供的流量管理方法流程圖。
【具體實(shí)施方式】
[0036]應(yīng)當(dāng)理解，此處所描述的具體實(shí)施例僅僅用以解釋本發(fā)明，并不用于限定本發(fā)明。
[0037]現(xiàn)在將參考附圖描述實(shí)現(xiàn)本發(fā)明各個(gè)實(shí)施例的終端、通信方法。在后續(xù)的描述中，使用用于表示元件的諸如“模塊”的后綴僅為了有利于本發(fā)明的說(shuō)明，其本身并沒(méi)有特定的意義。
[0038]如圖1所示，為實(shí)現(xiàn)本發(fā)明各個(gè)實(shí)施例一個(gè)可選的服務(wù)器的結(jié)構(gòu)示意圖，該服務(wù)器至少包括:輸入輸出(10)總線(xiàn)11、處理器12、存儲(chǔ)器13、內(nèi)存14和通信裝置15。其中，
[0039]輸入輸出(1)總線(xiàn)11分別與自身所屬的服務(wù)器的其它部件(處理器12、存儲(chǔ)器13、內(nèi)存14和通信裝置15)連接，并且為其它部件提供傳送線(xiàn)路。
[0040]處理器12通常管理自身所屬的服務(wù)器的總體操作。例如，處理器12執(zhí)行計(jì)算和確認(rèn)等操作。其中，處理器12可以是中央處理器(CPU)。
[0041 ] 存儲(chǔ)器13存儲(chǔ)處理器可讀、處理器可執(zhí)行的軟件代碼，其包含用于管理處理器12執(zhí)行本文描述的功能的指令(即軟件執(zhí)行功能)。
[0042]內(nèi)存14，一般采用半導(dǎo)體存儲(chǔ)單元，包括隨機(jī)存儲(chǔ)器(RAM)，只讀存儲(chǔ)器(R0M)，以及高速緩存(CACHE)，RAM是其中最重要的存儲(chǔ)器。內(nèi)存14是計(jì)算機(jī)中重要的部件之一，它是與CPU12進(jìn)行溝通的橋梁，計(jì)算機(jī)中所有程序的運(yùn)行都是在內(nèi)存中進(jìn)行的，其作用是用于暫時(shí)存放CPU中的運(yùn)算數(shù)據(jù)，以及與硬盤(pán)等外部存儲(chǔ)器交換的數(shù)據(jù)，只要計(jì)算機(jī)在運(yùn)行中，CPU就會(huì)把需要運(yùn)算的數(shù)據(jù)調(diào)到內(nèi)存中進(jìn)行運(yùn)算，當(dāng)運(yùn)算完成后(PU再將結(jié)果傳送出來(lái)，內(nèi)存的運(yùn)行也決定了計(jì)算機(jī)的穩(wěn)定運(yùn)行。
[0043]通信裝置15，通常包括一個(gè)或多個(gè)組件，其允許自身所屬的服務(wù)器與無(wú)線(xiàn)通信系統(tǒng)或網(wǎng)絡(luò)之間的無(wú)線(xiàn)電通信。
[0044]可以利用上述結(jié)構(gòu)的服務(wù)器作為集群中的任意一個(gè)服務(wù)節(jié)點(diǎn)，該服務(wù)節(jié)點(diǎn)通過(guò)處理器12檢測(cè)其當(dāng)前流量配額與配額需求是否匹配，當(dāng)不匹配時(shí)，向流量管理服務(wù)器發(fā)送配額調(diào)配請(qǐng)求。也可以利用上述結(jié)構(gòu)的服務(wù)器作為流量管理服務(wù)器，實(shí)現(xiàn)對(duì)集群中各節(jié)點(diǎn)服務(wù)器的流量管理，具體的，該流量管理服務(wù)器通過(guò)處理器12從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中，該配額資源池可以設(shè)置在存儲(chǔ)器13中；接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)所述配額調(diào)配請(qǐng)求給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額。
[0045]基于上述內(nèi)容，為了使本技術(shù)領(lǐng)域的人員更好地理解本發(fā)明方案，下面將結(jié)合附圖，對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚、完整地描述，顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分的實(shí)施例，而不是全部的實(shí)施例；需要說(shuō)明的是，在不沖突的情況下，本申請(qǐng)中的實(shí)施例及實(shí)施例中的特征可以相互組合?；诒景l(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒(méi)有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例，都應(yīng)當(dāng)屬于本發(fā)明保護(hù)的范圍。
[0046]第一實(shí)施例
[0047]本實(shí)施例提供一種流量管理裝置，請(qǐng)參見(jiàn)圖2，具體包括:配額模塊21，用于從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；調(diào)控模塊22，用于接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額。本實(shí)施例中的配額模塊21和調(diào)控模塊22可以構(gòu)造在處理器12內(nèi)，由處理器12來(lái)實(shí)現(xiàn)其功能，也可以獨(dú)立于該服務(wù)器構(gòu)造在其他位置。該配額資源池具體可以設(shè)置在存儲(chǔ)器13中，用于存儲(chǔ)流量配額。
[0048]具體的，在系統(tǒng)部署的時(shí)候，服務(wù)人員根據(jù)服務(wù)集群的需要配置整個(gè)集群的總流量配額，為了集群中的服務(wù)節(jié)點(diǎn)在終端接入時(shí)，能夠進(jìn)行接入服務(wù)，保證系統(tǒng)的穩(wěn)定性，由配額模塊21先從該總的流量配額中取出一部分為當(dāng)前集群中的服務(wù)節(jié)點(diǎn)分配初始流量配額，即服務(wù)人員從總流量配額中按一定比例拿出一部分給集群中的服務(wù)節(jié)點(diǎn)按照需要分別分配一定的靜態(tài)流量配額，服務(wù)節(jié)點(diǎn)根據(jù)該初始分配的流量配額進(jìn)行最初的流量控制處理。該初始分配的具體比例可以根據(jù)集群的性質(zhì)、集群中服務(wù)節(jié)點(diǎn)的總數(shù)及機(jī)器的性能來(lái)進(jìn)行分配，本實(shí)施例對(duì)此不做限定。當(dāng)從總流量配額中分離出一部分進(jìn)行初始預(yù)分配后，將該總流量配額中剩余的部分放入配額資源池中，當(dāng)有服務(wù)節(jié)點(diǎn)需要更多的流量配額時(shí)，根據(jù)服務(wù)節(jié)點(diǎn)的需要再進(jìn)行分配。
[0049]調(diào)控模塊22接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額，具體包括:為了保證當(dāng)有接入請(qǐng)求時(shí)，能夠進(jìn)行接入處理，保證系統(tǒng)的穩(wěn)定性，服務(wù)節(jié)點(diǎn)定時(shí)或?qū)崟r(shí)檢測(cè)其當(dāng)前流量配額是否滿(mǎn)足配額需求，當(dāng)滿(mǎn)足時(shí)，繼續(xù)進(jìn)行接入操作，當(dāng)不滿(mǎn)足時(shí)，向流量管理裝置發(fā)送配額調(diào)配請(qǐng)求，請(qǐng)求調(diào)配其流量配額。該調(diào)控模塊22根據(jù)收到的配額調(diào)配請(qǐng)求對(duì)該服務(wù)節(jié)點(diǎn)的流量配額進(jìn)行調(diào)控。
[0050]進(jìn)一步的，配額調(diào)配請(qǐng)求包括以下至少一種:服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求;服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。
[0051]具體的，若初始分配的流量配額過(guò)少，或服務(wù)節(jié)點(diǎn)的業(yè)務(wù)增多、負(fù)載較大，使得流量配額不足，即服務(wù)節(jié)點(diǎn)當(dāng)前剩余的流量配額小于配額需求閾值時(shí)，為避免后續(xù)無(wú)法進(jìn)行接入操作，服務(wù)節(jié)點(diǎn)向該流量管理裝置發(fā)送增加配額調(diào)配請(qǐng)求，請(qǐng)求該流量管理裝置為其分配流量配額。若服務(wù)節(jié)點(diǎn)的業(yè)務(wù)減少，或初始分配給該服務(wù)節(jié)點(diǎn)的多于當(dāng)前需要的配額，即服務(wù)節(jié)點(diǎn)當(dāng)前的配額大于配額需求時(shí)，為避免配額資源的浪費(fèi)，可以向流量管理裝置發(fā)送歸還配額調(diào)配請(qǐng)求，請(qǐng)求該流量管理裝置收回多余的空余配額。假設(shè)服務(wù)節(jié)點(diǎn)分配的流量配額為A，當(dāng)前使用的流量配額為B，該配額需求為C，若A-B大于等于C，則說(shuō)明當(dāng)前流量配額滿(mǎn)足配額需求，不需要獲取流量配額；若A-B小于C，則說(shuō)明當(dāng)前流量配額不滿(mǎn)足配額需求，需要獲取流量配額。另外，為了保證配額資源池中的流量配額能夠優(yōu)先被用完流量配額的服務(wù)節(jié)點(diǎn)獲取，也可以在流量配額用完時(shí)，再去獲取，其具體的可以是當(dāng)用完流量配額的服務(wù)節(jié)點(diǎn)又接收到新的接入請(qǐng)求，該服務(wù)節(jié)點(diǎn)再去獲取流量配額。服務(wù)節(jié)點(diǎn)獲取的流量配額的多少具體可以是根據(jù)自身的負(fù)載情況去獲取。
[0052]進(jìn)一步的，當(dāng)服務(wù)節(jié)點(diǎn)申請(qǐng)不到流量配額時(shí)，則說(shuō)明配額資源池中的配額被用完了，則該服務(wù)節(jié)點(diǎn)進(jìn)入流量控制狀態(tài)，拒絕接收新的接入請(qǐng)求進(jìn)行接入操作。其中，可以每隔一定的時(shí)間再發(fā)生增加配額調(diào)配請(qǐng)求去配額資源池中獲取流量配額，當(dāng)配額資源池又有流量配額時(shí)，若收到進(jìn)入流量控制狀態(tài)的服務(wù)節(jié)點(diǎn)發(fā)來(lái)的增加配額調(diào)配請(qǐng)求時(shí)，可以根據(jù)該服務(wù)節(jié)點(diǎn)需求或配額資源池配額情況向該服務(wù)節(jié)點(diǎn)分配流量配額。
[0053]進(jìn)一步的，若服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求，具體包括:假設(shè)服務(wù)節(jié)點(diǎn)分配的流量配額為A，當(dāng)前使用的流量配額為B，則當(dāng)前剩余流量配額為A-B，若配額需求為C，則當(dāng)前空余的流量配額D為A-B-C，若此時(shí)D大于零，則說(shuō)明有空余流量配額，為避免流量配額資源的浪費(fèi)，服務(wù)節(jié)點(diǎn)發(fā)送歸還配額調(diào)配請(qǐng)求。
[0054]進(jìn)一步的，當(dāng)配額調(diào)配請(qǐng)求是增加配額調(diào)配請(qǐng)求時(shí)，調(diào)配模塊22根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:根據(jù)配額策略S = M/N*T/Q給服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。通過(guò)上述公式給每個(gè)服務(wù)節(jié)點(diǎn)按需分配流量配額，既可以避免服務(wù)節(jié)點(diǎn)無(wú)法進(jìn)行接入操作，同時(shí)合理的進(jìn)行流量配額分配，可以避免流量配額的浪費(fèi)。
[0055]進(jìn)一步的，當(dāng)配額調(diào)配請(qǐng)求是歸還配額調(diào)配請(qǐng)求時(shí)，調(diào)配模塊22根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:將空余流量配額一次收回；或根據(jù)預(yù)設(shè)規(guī)則逐次收回空余流量配額。
[0056]具體的，當(dāng)流量配額有空余時(shí)，為避免流量配額資源的浪費(fèi)，可以將超出配額需求的空余流量配額一次性回收回來(lái)，放入配額資源池中；也可以按照一定比例逐次收回該空余流量配額，以免服務(wù)節(jié)點(diǎn)后續(xù)業(yè)務(wù)突然增多時(shí)，無(wú)法進(jìn)行接入操作，需要重新發(fā)送增加配額調(diào)配請(qǐng)求去獲取流量配額。
[0057]進(jìn)一步的，當(dāng)集群中有新增服務(wù)節(jié)點(diǎn)時(shí)，從配額資源池中給新增服務(wù)節(jié)點(diǎn)分配流量配額;和或，當(dāng)集群中有服務(wù)節(jié)點(diǎn)退出時(shí)，將分配給服務(wù)節(jié)點(diǎn)的流量配額收回到配額資源池。
[0058]具體的，周期性或?qū)崟r(shí)的檢測(cè)集群中服務(wù)節(jié)點(diǎn)的狀態(tài)，當(dāng)檢測(cè)到有新的服務(wù)節(jié)點(diǎn)加入集群時(shí)，則從配額資源池中獲取流量配額分配給該新服務(wù)節(jié)點(diǎn)，其具體獲取多少流量配額具體可以根據(jù)該服務(wù)節(jié)點(diǎn)的負(fù)載和需求進(jìn)行分配，或根據(jù)當(dāng)前集群中流量配額的利用率和剩余量來(lái)進(jìn)行分配，也可以直接根據(jù)配額策略進(jìn)行分配。當(dāng)檢測(cè)到有服務(wù)節(jié)點(diǎn)退出集群時(shí)，為了使資源能夠合理分配，可以收回該服務(wù)節(jié)點(diǎn)分配的流量配額，放入資源池，以提供給其他需要更多流量配額的服務(wù)節(jié)點(diǎn)。另外，當(dāng)某一服務(wù)節(jié)點(diǎn)宕機(jī)后，也可以將該服務(wù)節(jié)點(diǎn)的流量配額收回，等其恢復(fù)正常時(shí)，發(fā)送獲取請(qǐng)求，再分配流量配額。
[0059]進(jìn)一步的，當(dāng)配額資源池中的流量配額分配完后，如果又有服務(wù)節(jié)點(diǎn)去獲取流量配額，則該節(jié)點(diǎn)申請(qǐng)不到流量配額，就進(jìn)入流量管理狀態(tài)，該服務(wù)節(jié)點(diǎn)拒絕接收新的接入請(qǐng)求。其中，當(dāng)配額資源池又有流量配額時(shí)，若收到該處于流量管理狀態(tài)的服務(wù)節(jié)點(diǎn)發(fā)來(lái)的配額調(diào)配請(qǐng)求時(shí)，可以根據(jù)服務(wù)節(jié)點(diǎn)需求和配額資源池配額情況向該服務(wù)節(jié)點(diǎn)分配流量配額。
[0060]本實(shí)施例提供的流量管理裝置，通過(guò)配額模塊從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；調(diào)控模塊接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額。即通過(guò)流量配額的初始分配，實(shí)現(xiàn)流量配額的靜態(tài)分配，后續(xù)根據(jù)服務(wù)節(jié)點(diǎn)的需要再實(shí)時(shí)地動(dòng)態(tài)調(diào)配流量配額，采用靜態(tài)分配和動(dòng)態(tài)分配結(jié)合的方式，使得流量配額的分配更合理，流量管理更精準(zhǔn)，保證了系統(tǒng)的穩(wěn)定性。
[0061 ]本實(shí)施例還提供一種流量管理服務(wù)器，請(qǐng)參見(jiàn)圖3，包括上述流量管理裝置，本實(shí)施例的流量管理服務(wù)器可以是圖1所示的服務(wù)器，本實(shí)施例提供的流量管理服務(wù)器通過(guò)通信裝置15和集群中的各服務(wù)節(jié)點(diǎn)進(jìn)行通信，然后通過(guò)處理器12在初始時(shí)，給集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，然后將剩余流量配額存儲(chǔ)在配額資源池中，該配額資源池設(shè)置在存儲(chǔ)器13中；在接收到服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求后，處理器12根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額;使得流量配額能合理分配，提高了系統(tǒng)的流量管理準(zhǔn)確性，保證了系統(tǒng)的穩(wěn)定性。
[0062]需要理解的是，本實(shí)施例中提供的服務(wù)器，可以是集群中具有流量控制功能的服務(wù)器，也可以是根據(jù)需要選擇的任一服務(wù)器，即可以選擇集群中的任一服務(wù)器進(jìn)行流量配額的調(diào)配，其他剩余服務(wù)器則作為服務(wù)節(jié)點(diǎn)。
[0063]第二實(shí)施例:
[0064I本實(shí)施例提供一種流量管理方法，請(qǐng)參見(jiàn)圖4，具體包括:
[0065]步驟SlOl，從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中。
[0066]具體的，在系統(tǒng)部署的時(shí)候，服務(wù)人員根據(jù)服務(wù)集群的需要配置整個(gè)集群的總流量配額，為了集群中的服務(wù)節(jié)點(diǎn)在終端接入時(shí)，能夠進(jìn)行接入服務(wù)，保證系統(tǒng)的穩(wěn)定性，從該總的流量配額中取出一部分為當(dāng)前集群中的服務(wù)節(jié)點(diǎn)分配初始流量配額，即服務(wù)人員從總流量配額中按一定比例拿出一部分進(jìn)行靜態(tài)預(yù)分配，即給集群中的服務(wù)節(jié)點(diǎn)按照需要分別分配一定的靜態(tài)資源流量配額，服務(wù)節(jié)點(diǎn)根據(jù)該初始分配的流量配額進(jìn)行最初的流量控制處理;其具體比例可以根據(jù)集群的性質(zhì)、集群中服務(wù)節(jié)點(diǎn)的總數(shù)及機(jī)器的性能來(lái)進(jìn)行分配，本實(shí)施例對(duì)此不做限定。當(dāng)從總流量配額中分離出一部分進(jìn)行預(yù)分配后，將該總流量配額中剩余的部分放入配額資源池中，當(dāng)有服務(wù)節(jié)點(diǎn)需要更多的流量配額時(shí)，根據(jù)需要進(jìn)行分配。
[0067]步驟S102，接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額。
[0068]具體的，為了保證當(dāng)有接入請(qǐng)求時(shí)，能夠進(jìn)行接入處理，保證系統(tǒng)的穩(wěn)定性，服務(wù)節(jié)點(diǎn)定時(shí)或?qū)崟r(shí)檢測(cè)其當(dāng)前流量配額是否滿(mǎn)足配額需求，當(dāng)滿(mǎn)足時(shí)，繼續(xù)進(jìn)行接入操作，當(dāng)不滿(mǎn)足時(shí)，向流量管理裝置發(fā)送配額調(diào)配請(qǐng)求，請(qǐng)求調(diào)配其流量配額。然后根據(jù)收到的配額調(diào)配請(qǐng)求對(duì)該服務(wù)節(jié)點(diǎn)的配額進(jìn)行調(diào)控。
[0069]進(jìn)一步的，配額調(diào)配請(qǐng)求包括以下至少一種:服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求;服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。
[0070]具體的，若初始分配的流量配額過(guò)少，或服務(wù)節(jié)點(diǎn)的業(yè)務(wù)增多、負(fù)載較大，使得流量配額不足，即服務(wù)節(jié)點(diǎn)當(dāng)前剩余的流量配額小于配額需求閾值時(shí)，為避免后續(xù)無(wú)法進(jìn)行接入操作，服務(wù)節(jié)點(diǎn)向該流量管理裝置發(fā)送增加配額調(diào)配請(qǐng)求，請(qǐng)求該流量管理裝置為其分配流量配額。若服務(wù)節(jié)點(diǎn)的業(yè)務(wù)減少，或初始分配給該服務(wù)節(jié)點(diǎn)的多于當(dāng)前需要的配額，即服務(wù)節(jié)點(diǎn)當(dāng)前的配額大于配額需求時(shí)，為避免配額資源的浪費(fèi)，可以向流量管理裝置發(fā)送歸還配額調(diào)配請(qǐng)求，請(qǐng)求該流量管理裝置收回多余的空余配額。假設(shè)服務(wù)節(jié)點(diǎn)分配的流量配額為A，當(dāng)前使用的流量配額為B，該配額需求為C，若A-B大于等于C，則說(shuō)明當(dāng)前流量配額滿(mǎn)足配額需求，不需要獲取流量配額；若A-B小于C，則說(shuō)明當(dāng)前流量配額不滿(mǎn)足配額需求，需要獲取流量配額。該配額需求可以設(shè)置為零，即為了保證配額資源池中的流量配額能夠優(yōu)先被用完流量配額的服務(wù)節(jié)點(diǎn)獲取，也可以在流量配額用完時(shí)，再去獲取，其具體的可以是當(dāng)用完流量配額的服務(wù)節(jié)點(diǎn)又接收到新的接入請(qǐng)求，該服務(wù)節(jié)點(diǎn)再去獲取流量配額。服務(wù)節(jié)點(diǎn)獲取的流量配額的多少具體可以是根據(jù)自身的負(fù)載情況去獲取。
[0071 ]進(jìn)一步的，當(dāng)服務(wù)節(jié)點(diǎn)申請(qǐng)不到流量配額時(shí)，則說(shuō)明配額資源池中的配額被用完了，則該服務(wù)節(jié)點(diǎn)進(jìn)入流量控制狀態(tài)，拒絕接收新的接入請(qǐng)求進(jìn)行接入操作。其中，可以每隔一定的時(shí)間再發(fā)生增加配額調(diào)配請(qǐng)求去配額資源池中獲取流量配額，當(dāng)配額資源池又有流量配額時(shí)，若收到進(jìn)入流量控制狀態(tài)的服務(wù)節(jié)點(diǎn)發(fā)來(lái)的增加配額調(diào)配請(qǐng)求時(shí)，可以根據(jù)該服務(wù)節(jié)點(diǎn)需求或配額資源池配額情況向該服務(wù)節(jié)點(diǎn)分配流量配額。
[0072]進(jìn)一步的，若服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求，具體包括:假設(shè)服務(wù)節(jié)點(diǎn)分配的流量配額為A，當(dāng)前使用的流量配額為B，則當(dāng)前剩余流量配額為A-B，若配額需求為C，則當(dāng)前空余的流量配額D為A-B-C，若此時(shí)D大于零，則說(shuō)明有空余流量配額，為避免流量配額資源的浪費(fèi)，服務(wù)節(jié)點(diǎn)發(fā)送歸還配額調(diào)配請(qǐng)求。
[0073]進(jìn)一步的，當(dāng)配額調(diào)配請(qǐng)求是增加配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:根據(jù)配額策略S = M/N*T/Q給服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。通過(guò)上述公式給每個(gè)服務(wù)節(jié)點(diǎn)按需分配流量配額，既可以避免服務(wù)節(jié)點(diǎn)無(wú)法進(jìn)行接入操作，同時(shí)合理的進(jìn)行流量配額分配，可以避免流量配額的浪費(fèi)。
[0074]進(jìn)一步的，當(dāng)配額調(diào)配請(qǐng)求是歸還配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:將空余流量配額一次收回；或根據(jù)預(yù)設(shè)規(guī)則逐次收回空余流量配額。
[0075]具體的，當(dāng)流量配額有空余時(shí)，為避免流量配額資源的浪費(fèi)，可以將超出配額需求的空余流量配額一次性回收回來(lái)，放入配額資源池中；也可以按照一定比例逐次收回該空余流量配額，以免服務(wù)節(jié)點(diǎn)后續(xù)業(yè)務(wù)突然增多時(shí)，無(wú)法進(jìn)行接入操作，需要重新發(fā)送增加配額調(diào)配請(qǐng)求去獲取流量配額。
[0076]進(jìn)一步的，當(dāng)集群中有新增服務(wù)節(jié)點(diǎn)時(shí)，從配額資源池中給新增服務(wù)節(jié)點(diǎn)分配流量配額;和/或，當(dāng)集群中有服務(wù)節(jié)點(diǎn)退出時(shí)，將分配給服務(wù)節(jié)點(diǎn)的流量配額收回到配額資源池。
[0077]具體的，周期性或?qū)崟r(shí)的檢測(cè)集群中服務(wù)節(jié)點(diǎn)的狀態(tài)，當(dāng)檢測(cè)到有新的服務(wù)節(jié)點(diǎn)加入集群時(shí)，則從配額資源池中獲取流量配額分配給該新服務(wù)節(jié)點(diǎn)，其具體獲取多少流量配額具體可以根據(jù)該服務(wù)節(jié)點(diǎn)的負(fù)載和需求進(jìn)行分配，或根據(jù)當(dāng)前集群中流量配額的利用率和剩余量來(lái)進(jìn)行分配，也可以直接根據(jù)配額策略進(jìn)行分配。當(dāng)檢測(cè)到有服務(wù)節(jié)點(diǎn)退出集群時(shí)，為了使資源能夠合理分配，可以收回該服務(wù)節(jié)點(diǎn)分配的流量配額，放入資源池，以提供給其他需要更多流量配額的服務(wù)節(jié)點(diǎn)。另外，當(dāng)某一服務(wù)節(jié)點(diǎn)宕機(jī)后，也可以將該服務(wù)節(jié)點(diǎn)的流量配額收回，等其恢復(fù)正常時(shí)，發(fā)送獲取請(qǐng)求，再分配流量配額。
[0078]進(jìn)一步的，當(dāng)配額資源池中的流量配額分配完后，如果又有服務(wù)節(jié)點(diǎn)去獲取流量配額，則該節(jié)點(diǎn)申請(qǐng)不到流量配額，就進(jìn)入流量管理狀態(tài)，該服務(wù)節(jié)點(diǎn)拒絕接收新的接入請(qǐng)求。其中，當(dāng)配額資源池又有流量配額時(shí)，若收到該處于流量管理狀態(tài)的服務(wù)節(jié)點(diǎn)發(fā)來(lái)的配額調(diào)配請(qǐng)求時(shí)，可以根據(jù)服務(wù)節(jié)點(diǎn)需求和配額資源池配額情況向該服務(wù)節(jié)點(diǎn)分配流量配額。
[0079]本實(shí)施例提供的流量管理方法，通過(guò)從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中；接收服務(wù)節(jié)點(diǎn)在當(dāng)前流量配額與配額需求不匹配時(shí)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)配額調(diào)配請(qǐng)求給服務(wù)節(jié)點(diǎn)調(diào)配流量配額。即通過(guò)流量配額的初始分配，實(shí)現(xiàn)流量配額的靜態(tài)分配，后續(xù)根據(jù)服務(wù)節(jié)點(diǎn)的需要再實(shí)時(shí)地動(dòng)態(tài)調(diào)配流量配額，采用靜態(tài)分配和動(dòng)態(tài)分配結(jié)合的方式，使得流量配額的分配更合理，流量管理更精準(zhǔn)，保證了系統(tǒng)的穩(wěn)定性。
[0080]第三實(shí)施例[0081 ]本實(shí)施例提供一種流量管理方法，本實(shí)施例中的流量管理方法，采用靜態(tài)分配與動(dòng)態(tài)申請(qǐng)結(jié)合的方式，即在系統(tǒng)部署的時(shí)候，根據(jù)服務(wù)節(jié)點(diǎn)數(shù)和靜態(tài)流控QPS閥值，拿出一部分做初始分配，剩余的放在流量配額資源池中，哪個(gè)服務(wù)節(jié)點(diǎn)使用完了初始分配的流量配額，就按自身的負(fù)載統(tǒng)計(jì)數(shù)據(jù)情況主動(dòng)向配額資源池申請(qǐng)相應(yīng)的流量配額，若申請(qǐng)不到，則拒絕新接入請(qǐng)求;另外，當(dāng)有新的集群服務(wù)節(jié)點(diǎn)加入時(shí)，該節(jié)點(diǎn)從資源池中申請(qǐng)資源流量配額，當(dāng)有服務(wù)節(jié)點(diǎn)退出時(shí)，則回收流量配額資源。具體的請(qǐng)參見(jiàn)圖5，包括:
[0082]步驟S401，設(shè)定整個(gè)集群的總流量配額，跳轉(zhuǎn)到步驟S402。
[0083]具體的，當(dāng)系統(tǒng)部署的時(shí)候，服務(wù)人員根據(jù)服務(wù)集群的需要配置整個(gè)集群的總流量配額，以便進(jìn)行后續(xù)的流量配額分配。
[0084]步驟S402，拿出一定比例進(jìn)行初始預(yù)分配，跳轉(zhuǎn)到步驟S403。
[0085]具體的，服務(wù)人員從總流量配額中按一定比例拿出一部分進(jìn)行靜態(tài)預(yù)分配，即給集群中的服務(wù)節(jié)點(diǎn)按照需要分別分配一定的流量配額，服務(wù)節(jié)點(diǎn)根據(jù)該初始分配的流量配額進(jìn)行最初的流量管理處理;其具體比例可以根據(jù)集群的性質(zhì)、服務(wù)節(jié)點(diǎn)的總數(shù)及機(jī)器的性能來(lái)進(jìn)行分配。
[0086]步驟S403，將其余的放入配額資源池中，跳轉(zhuǎn)到步驟S404。
[0087]具體的，當(dāng)從總流量配額中分離出一部分進(jìn)行預(yù)分配后，將該總流量配額中剩余的部分放入配額資源池中，當(dāng)服務(wù)節(jié)點(diǎn)用完自身預(yù)分配的初始流量配額時(shí)，可以根據(jù)需要從配額資源池中獲取流量配額，以進(jìn)行后續(xù)的流量控制管理處理。另外的，由于集群中的服務(wù)節(jié)點(diǎn)數(shù)是會(huì)變動(dòng)的，即集群中會(huì)有新服務(wù)節(jié)點(diǎn)加入，當(dāng)新服務(wù)節(jié)點(diǎn)加入時(shí)，該新服務(wù)節(jié)點(diǎn)會(huì)先從配額資源池中獲取一定流量配額，當(dāng)該新服務(wù)節(jié)點(diǎn)用完自身的初始分配的流量配額時(shí)，可以根據(jù)需要從配額資源池中再次獲取流量配額，以進(jìn)行后續(xù)的流量控制處理。
[0088]步驟S404，判斷是否有服務(wù)節(jié)點(diǎn)加入或退出，若有服務(wù)節(jié)點(diǎn)加入，跳轉(zhuǎn)到步驟S405;若有服務(wù)節(jié)點(diǎn)退出，跳轉(zhuǎn)到步驟S412。
[0089]具體的，由于集群中的服務(wù)節(jié)點(diǎn)數(shù)是會(huì)變動(dòng)的，即集群中會(huì)存在服務(wù)節(jié)點(diǎn)加入和服務(wù)節(jié)點(diǎn)退出的情況，所以當(dāng)集群處于工作狀態(tài)時(shí)，系統(tǒng)會(huì)檢測(cè)集群中節(jié)點(diǎn)的變化，判斷是否有服務(wù)節(jié)點(diǎn)加入或退出集群。當(dāng)有新服務(wù)節(jié)點(diǎn)加入時(shí)，則從配額資源池中去獲取流量配額;當(dāng)有服務(wù)節(jié)點(diǎn)退出集群時(shí)，將該節(jié)點(diǎn)分配的流量配額歸還到配額資源池中。
[0090]步驟S405，向配額資源池申請(qǐng)配額，跳轉(zhuǎn)到步驟S406。
[0091 ]具體的，當(dāng)集群中有新節(jié)點(diǎn)加入時(shí)，該新服務(wù)節(jié)點(diǎn)就按自身的負(fù)載統(tǒng)計(jì)數(shù)據(jù)情況主動(dòng)向配額資源池申請(qǐng)流量配額閾值，獲取一定流量配額作為自身的靜態(tài)資源流量配額，以進(jìn)行該服務(wù)節(jié)點(diǎn)下的流量控制處理。
[0092]步驟S406，判斷流量是否達(dá)到配額需求，若是，跳轉(zhuǎn)到步驟S407;若否，繼續(xù)進(jìn)行步驟S406。
[0093]具體的，當(dāng)新加入的服務(wù)節(jié)點(diǎn)從配額資源池中獲取一定的流量配額后，還需要判斷其獲取到的配額閾值是否達(dá)到自身所需要的配額需求的閾值，若沒(méi)有達(dá)到，則說(shuō)明配額資源池中的流量配額有可能不足，則隔一定的時(shí)間檢測(cè)該服務(wù)節(jié)點(diǎn)獲取的流量配額是否達(dá)到配額需求的閾值，當(dāng)其達(dá)到閾值時(shí)，該服務(wù)節(jié)點(diǎn)開(kāi)始進(jìn)行后續(xù)處理。
[0094]步驟S407，向配額資源池申請(qǐng)閾值，跳轉(zhuǎn)到步驟S408。
[0095]具體的，當(dāng)服務(wù)節(jié)點(diǎn)用完自身初始分配的流量配額時(shí)，可以根據(jù)需要主動(dòng)地從配額資源池中再次獲取流量配額，以進(jìn)行后續(xù)的處理。進(jìn)一步的，申請(qǐng)流量配額的策略為，若流量控制周期為T(mén)，資源池總量為M，總服務(wù)節(jié)點(diǎn)為N，加權(quán)系數(shù)為Q，則每次申請(qǐng)的流量配額為:M/N*T/Q，其中Q是由申請(qǐng)流量配額的節(jié)點(diǎn)根據(jù)自身的一個(gè)響應(yīng)延遲平均值做具體調(diào)整，響應(yīng)慢，則Q值就大，響應(yīng)快則Q值就小。
[0096]步驟S408，判斷是否申請(qǐng)到，若是，跳轉(zhuǎn)到步驟S406 ；若否，跳轉(zhuǎn)到409。
[0097]具體的，當(dāng)服務(wù)節(jié)點(diǎn)主動(dòng)向配額資源池獲取流量配額時(shí)，判斷其能否申請(qǐng)到流量配額，若申請(qǐng)到，后續(xù)監(jiān)控其申請(qǐng)到的流量是否達(dá)到需要閾值;若申請(qǐng)不到，則說(shuō)明動(dòng)態(tài)資源池的流量配額如被申請(qǐng)完了，申請(qǐng)流量配額的節(jié)點(diǎn)申請(qǐng)不到流量配額，則進(jìn)入流量控制狀態(tài)。
[0098]步驟S409，進(jìn)入流量控制，跳轉(zhuǎn)到步驟S410。
[0099]具體的，當(dāng)動(dòng)態(tài)資源池中的流量配額被申請(qǐng)完時(shí)，申請(qǐng)流量配額的服務(wù)節(jié)點(diǎn)申請(qǐng)不到流量配額，則進(jìn)入流量控制狀態(tài);拒絕新接入的請(qǐng)求。
[0100]步驟S410，判斷服務(wù)節(jié)點(diǎn)負(fù)荷是否超出預(yù)設(shè)值，若是，跳轉(zhuǎn)到步驟S411;若否，則結(jié)束；
[0101]具體的，服務(wù)節(jié)點(diǎn)根據(jù)機(jī)器不同，其需要的資源也不同，系統(tǒng)對(duì)服務(wù)節(jié)點(diǎn)的負(fù)載進(jìn)行檢測(cè)，判斷服務(wù)節(jié)點(diǎn)負(fù)荷是不是超出該服務(wù)節(jié)點(diǎn)所需要的預(yù)設(shè)值，也可以判斷某個(gè)服務(wù)節(jié)點(diǎn)周期內(nèi)的平均響應(yīng)時(shí)間是否超過(guò)設(shè)置的閥值；當(dāng)超出時(shí)，將該服務(wù)節(jié)點(diǎn)下的流量配額歸還到配額資源池；當(dāng)未超出時(shí)，結(jié)束流量配額配置處理。
[0102]步驟S411，歸還部分配額，跳轉(zhuǎn)到步驟S410。
[0103]具體的，當(dāng)某一服務(wù)節(jié)點(diǎn)的負(fù)載超出預(yù)設(shè)值時(shí)，則說(shuō)明該服務(wù)節(jié)點(diǎn)的流量配額有剩余，為避免流量配額浪費(fèi)，及其他服務(wù)節(jié)點(diǎn)獲取不到流量配額，將該節(jié)服務(wù)點(diǎn)下的流量配額歸還到配額資源池。進(jìn)一步的，該歸還處理可以通過(guò)多次少量的方式歸還到配額資源池。
[0104]步驟S412，歸還已獲取的閾值，跳轉(zhuǎn)到步驟S403。
[0105]具體的，當(dāng)某一節(jié)點(diǎn)退出配額資源池時(shí)，將分配給該節(jié)點(diǎn)的流量配額歸還到配額資源池，提供給其他需要流量配額的節(jié)點(diǎn)；另外，當(dāng)某一服務(wù)節(jié)點(diǎn)分配的流量配額超過(guò)自身所需要的流量配額時(shí)，將多出來(lái)的部分選擇性的歸還到配額資源池。
[0106]本實(shí)施例提供的流量管理方法，可以用在服務(wù)端分布式系統(tǒng)中用于控制各個(gè)服務(wù)集群之間的一個(gè)流量控制的整體改良，比如推送服務(wù)的流量控制處理中，具體的，某個(gè)實(shí)際使用場(chǎng)景如下:推送服務(wù)整個(gè)集群規(guī)劃的是可承受100萬(wàn)的長(zhǎng)連接接入，我們線(xiàn)上部署了 10臺(tái)節(jié)點(diǎn)組成的接入服務(wù)集群，每個(gè)節(jié)點(diǎn)最大更承受15萬(wàn)個(gè)長(zhǎng)連接，在某個(gè)業(yè)務(wù)高峰的時(shí)候，涌進(jìn)來(lái)的連接大概有150萬(wàn)個(gè)，我們整個(gè)流量管理裝置保證了總體接入控制在100萬(wàn)，每個(gè)節(jié)點(diǎn)最大接入量不超過(guò)15萬(wàn)，每個(gè)節(jié)點(diǎn)接入的量都是很均勻，整個(gè)系統(tǒng)非常穩(wěn)定。
[0107]本實(shí)施采用的流量管理方法，通過(guò)初始預(yù)分配與動(dòng)態(tài)申請(qǐng)結(jié)合的方式，使得系統(tǒng)能根據(jù)服務(wù)節(jié)點(diǎn)的具體需要?jiǎng)討B(tài)的分配流量配額，使得流量控制過(guò)程更精準(zhǔn)，且這種方式支持集群中服務(wù)節(jié)點(diǎn)的數(shù)量變化引起的節(jié)點(diǎn)流量配額獲取，使得集群具有彈性伸縮特性。另外，能動(dòng)態(tài)的調(diào)整服務(wù)節(jié)點(diǎn)的流量配額，做到流量配額的不浪費(fèi)，提高了系統(tǒng)的整體性會(huì)K。
[0108]需要說(shuō)明的是，在本文中，術(shù)語(yǔ)“包括”、“包含”或者其任何其他變體意在涵蓋非排他性的包含，從而使得包括一系列要素的過(guò)程、方法、物品或者裝置不僅包括那些要素，而且還包括沒(méi)有明確列出的其他要素，或者是還包括為這種過(guò)程、方法、物品或者裝置所固有的要素。在沒(méi)有更多限制的情況下，由語(yǔ)句“包括一個(gè)……”限定的要素，并不排除在包括該要素的過(guò)程、方法、物品或者裝置中還存在另外的相同要素。
[0109]上述本發(fā)明實(shí)施例序號(hào)僅僅為了描述，不代表實(shí)施例的優(yōu)劣。
[0110]通過(guò)以上的實(shí)施方式的描述，本領(lǐng)域的技術(shù)人員可以清楚地了解到上述實(shí)施例方法可借助軟件加必需的通用硬件平臺(tái)的方式來(lái)實(shí)現(xiàn)，當(dāng)然也可以通過(guò)硬件，但很多情況下前者是更佳的實(shí)施方式?；谶@樣的理解，本發(fā)明的技術(shù)方案本質(zhì)上或者說(shuō)對(duì)現(xiàn)有技術(shù)做出貢獻(xiàn)的部分可以以軟件產(chǎn)品的形式體現(xiàn)出來(lái)，該計(jì)算機(jī)軟件產(chǎn)品存儲(chǔ)在一個(gè)存儲(chǔ)介質(zhì)(如R0M/RAM、磁碟、光盤(pán))中，包括若干指令用以使得一臺(tái)終端設(shè)備(可以是手機(jī)，計(jì)算機(jī)，月艮務(wù)器，空調(diào)器，或者網(wǎng)絡(luò)設(shè)備等)執(zhí)行本發(fā)明各個(gè)實(shí)施例的方法。
[0111]以上僅為本發(fā)明的優(yōu)選實(shí)施例，并非因此限制本發(fā)明的專(zhuān)利范圍，凡是利用本發(fā)明說(shuō)明書(shū)及附圖內(nèi)容所作的等效結(jié)構(gòu)或等效流程變換，或直接或間接運(yùn)用在其他相關(guān)的技術(shù)領(lǐng)域，均同理包括在本發(fā)明的專(zhuān)利保護(hù)范圍內(nèi)。
【主權(quán)項(xiàng)】
1.一種流量管理裝置，其特征在于，包括: 配額模塊，用于從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中； 調(diào)控模塊，用于接收服務(wù)節(jié)點(diǎn)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)所述配額調(diào)配請(qǐng)求給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額;所述配額調(diào)配請(qǐng)求為當(dāng)前流量配額與配額需求不匹配時(shí)產(chǎn)生的請(qǐng)求。2.如權(quán)利要求1所述的流量管理裝置，其特征在于，所述配額調(diào)配請(qǐng)求包括以下至少一種: 服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求； 服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。3.如權(quán)利要求2所述的流量管理裝置，其特征在于，所述調(diào)控模塊還用于:當(dāng)所述調(diào)配請(qǐng)求包括增加配額調(diào)配請(qǐng)求時(shí)，根據(jù)配額策略S = M/N*T/Q給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給所述服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為所述服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)所述服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。4.如權(quán)利要求2所述的流量管理裝置，其特征在于，所述調(diào)控模塊還用于:當(dāng)所述調(diào)配請(qǐng)求包括歸還配額調(diào)配請(qǐng)求時(shí)， 將空余流量配額一次收回； 或根據(jù)預(yù)設(shè)規(guī)則逐次收回所述空余流量配額。5.—種流量管理服務(wù)器，其特征在于，包括如權(quán)利要求1-4任一項(xiàng)所述的流量管理裝置。6.一種流量管理方法，其特征在于，包括: 從流量配額中為當(dāng)前集群中的各服務(wù)節(jié)點(diǎn)分配初始流量配額，將剩余流量配額存儲(chǔ)在配額資源池中； 接收服務(wù)節(jié)點(diǎn)發(fā)送的配額調(diào)配請(qǐng)求，根據(jù)所述配額調(diào)配請(qǐng)求給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額;所述配額調(diào)配請(qǐng)求為當(dāng)前流量配額與配額需求不匹配時(shí)產(chǎn)生的請(qǐng)求。7.如權(quán)利要求6所述的流量管理方法，其特征在于，所述配額調(diào)配請(qǐng)求包括以下至少一種: 服務(wù)節(jié)點(diǎn)當(dāng)前流量配額不滿(mǎn)足配額需求時(shí)發(fā)送的增加配額調(diào)配請(qǐng)求； 服務(wù)節(jié)點(diǎn)當(dāng)前流量配額相對(duì)配額需求過(guò)剩時(shí)發(fā)送的歸還配額調(diào)配請(qǐng)求。8.如權(quán)利要求7所述的流量管理方法，其特征在于，當(dāng)所述調(diào)配請(qǐng)求包括增加配額調(diào)配請(qǐng)求時(shí)，根據(jù)所述配額調(diào)配請(qǐng)求給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括:根據(jù)配額策略S = M/N*T/Q給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額，其中S為需要分配給所述服務(wù)節(jié)點(diǎn)的流量配額，M為配額資源池總流量配額資源量，N為集群中總服務(wù)節(jié)點(diǎn)數(shù)，T為所述服務(wù)節(jié)點(diǎn)獲取流量配額的周期，Q為根據(jù)所述服務(wù)節(jié)點(diǎn)的負(fù)載設(shè)置的加權(quán)系數(shù)。9.如權(quán)利要求7所述的流量管理方法，其特征在于，當(dāng)所述調(diào)配請(qǐng)求包括歸還配額調(diào)配請(qǐng)求時(shí)，根據(jù)所述配額調(diào)配請(qǐng)求給所述服務(wù)節(jié)點(diǎn)調(diào)配流量配額包括: 將空余流量配額一次收回； 或根據(jù)預(yù)設(shè)規(guī)則逐次收回所述空余流量配額。10.如權(quán)利要求6-9任一項(xiàng)所述的流量管理方法，其特征在于，還包括: 當(dāng)集群中有新增服務(wù)節(jié)點(diǎn)時(shí)，從所述配額資源池中給所述新增服務(wù)節(jié)點(diǎn)分配流量配額； 和/或， 當(dāng)集群中有服務(wù)節(jié)點(diǎn)退出時(shí)，將該退出的服務(wù)節(jié)點(diǎn)的流量配額收回到所述配額資源池。
【文檔編號(hào)】H04L29/08GK105897484SQ201610388273
【公開(kāi)日】2016年8月24日
【申請(qǐng)日】2016年6月1日
【發(fā)明人】林錦
【申請(qǐng)人】努比亞技術(shù)有限公司