專利名稱：一種具備大規(guī)模負載能力的服務架構設計方法
技術領域：
負載均衡服務架構支持網絡服務器在大量并發(fā)訪問時的數(shù)據(jù)流分配擴展工作。本 發(fā)明主要使用在計算機領域。
背景技術：
隨著計算機產業(yè)的快速發(fā)展，網絡服務器成為各大網絡公司的運作核心，網絡服 務器在并發(fā)訪問量或數(shù)據(jù)流量過大的情況下會出現(xiàn)無法承載信息流的狀況，從而導致網絡 服務器系統(tǒng)崩潰、數(shù)據(jù)流失等危險，對網絡公司造成巨大的經濟損失，怎樣解決網絡服務器 超負重運載時的服務器安全運作成為各大公司關注焦點。近年，越來越多的路由器、交換機、服務器等網絡設備采用了負載均衡技術。目前 負載均衡技術按照不同的需求可分類為軟/硬件負載均衡、本地/全局負載均衡、更高網 絡層負載均衡，以及鏈路聚合技術。軟/硬件負載均衡是指在一臺或多臺服務器相應的操作系統(tǒng)上安裝軟件或專門 的設備來實現(xiàn)負載均衡，軟件負載均衡的優(yōu)點是基于特定環(huán)境、配置簡單、使用靈活、成本 低廉，可以滿足一般的負載均衡需求，硬件負載設備由于專門的設備完成專門的任務，獨立 于操作系統(tǒng)，整體性能得到大量提高，加上多樣化的負載均衡策略，智能化的流量管理，可 達到最佳的負載均衡需求，不過成本昂貴。本地/全局負載均衡技術在其應用的地理結構上，分為本地負載均衡和全局負載 均衡。本地負載均衡是指對本地的服務器群做負載均衡，全局負載均衡是指在不同地理位 置、有不同網絡結構的服務器群間做負載均衡。本地負載均衡能有效地解決數(shù)據(jù)流量過大、 網絡負荷過重的問題，并且不需花費昂貴開支購置性能卓越的服務器，可充分利用現(xiàn)有設 備，避免服務器單點故障造成數(shù)據(jù)流量的損失。有靈活多樣的均衡策略，可把數(shù)據(jù)流量合理 地分配給服務器群內的服務器，來共同負擔。即使是再給現(xiàn)有服務器擴充升級，也只是簡單 地增加一個新的服務器到服務群中，而不需改變現(xiàn)有網絡結構、停止現(xiàn)有的服務。全局負載 均衡，主要用于在一個多區(qū)域擁有自己服務器的站點，為了使全球用戶只以一個IP地址或 域名就能訪問到離自己最近的服務器，從而獲得最快的訪問速度，也可用于子公司分散站 點分布廣的大公司通過htranet (企業(yè)內部互聯(lián)網)來達到資源統(tǒng)一合理分配的目的。更高網絡層負載均衡，通常操作于網絡的第四層或第七層。第四層負載均衡將一 個hternet上合法注冊的IP地址，映射為多個內部服務器的IP地址，對每次TCP連接請 求動態(tài)使用其中一個內部IP地址，達到負載均衡的目的。第七層負載均衡控制應用層服務 的內容，提供了一種對訪問流量的高層控制方式，適合對HTTP服務器群的應用。第七層負 載均衡技術通過檢查流經的HTTP報頭，根據(jù)報頭內的信息來執(zhí)行負載均衡任務。以上負載均衡技術從很大程度上解決了服務器負載均衡的問題，但是，技術上仍 舊存在一些瓶頸，大多數(shù)網絡設備廠商所采用的方案是多個內網用戶同時訪問外網資源 時，網絡設備可對多條出去的線路流量均衡分配，使多用戶同時通暢的訪問外網。然而，對 于另一種與此相對的情形，即多個外網用戶通過互聯(lián)網同時訪問一個內網服務器或網關時，由于接入用戶過多的并行訪問，很可能會導致此服務器或網關與互聯(lián)網之間的帶寬矛 盾，出現(xiàn)多用戶延遲、無法訪問服務器甚至服務器或網關系統(tǒng)崩潰的現(xiàn)象。鑒于以上問題，本發(fā)明提出一套在網絡服務器或網關大規(guī)模部署過程中多臺服務 器同時提供服務的設備。該方案實現(xiàn)外部用戶訪問服務器或網關時，在主服務器發(fā)生故障 或脫機的情況下，將網絡通行重新指定給其他工作服務器，多臺服務器可以同時提供服務， 任何一臺服務器故障不影響整個系統(tǒng)的運行，客戶端自動選擇負載小的服務器進行整個平 臺系統(tǒng)的運行工作，選擇過程系統(tǒng)的自動完成提高了接入系統(tǒng)網關的靈活性和可伸縮性， 保證整個系統(tǒng)能夠不間斷，無阻礙的運行。專利

發(fā)明內容
本發(fā)明具備大規(guī)模負載能力的服務器架構設計以已有的網絡結構為基礎，采用IP 負載均衡技術和數(shù)據(jù)請求分配技術，來擴展網絡接入設備和服務器的數(shù)據(jù)吞吐量，在主服 務器發(fā)生故障或脫機的情況下，將網絡通行重新指定給其他工作服務器，多臺服務器可以 同時提供服務，選擇過程系統(tǒng)自動完成提高了接入系統(tǒng)網關的靈活性和可伸縮性。本發(fā)明 所提到的負載均衡具有有兩方面的含義首先，大量的并發(fā)訪問或數(shù)據(jù)流量分擔到多臺節(jié) 點設備上分別處理，減少用戶等待響應的時間；其次，單個重負載的運算分擔到多臺節(jié)點設 備上做并行處理，每個節(jié)點設備處理結束后，將結果匯總，返回給用戶，系統(tǒng)處理能力得到 大幅度提高。負載服務構架原理圖見附圖1。本發(fā)明一種具備大規(guī)模負載能力的服務架構設計方法的核心技術是網絡負載平 衡技術。該技術允許傳入的請求傳播到最多達32臺的服務器，即可以使用最多32臺服務 器共同分擔對外的網絡請求服務。網絡負載平衡技術保證即使是在負載很重的情況下它 們也能作出快速響應。網絡負載平衡對外只須提供一個IP地址(或域名)，如果網絡負載 平衡中的一臺或幾臺服務器不可用時，服務不會中斷。網絡負載平衡自動檢測到服務器不 可用時，能夠迅速在剩余的服務器中重新指派客戶機通訊。此保護措施能夠幫助系統(tǒng)為關 鍵的業(yè)務程序提供不中斷的服務?？梢愿鶕?jù)網絡訪問量的增多來增加網絡負載平衡服務器 的數(shù)量。網絡負載平衡可在普通的計算機上實現(xiàn)。同時，網絡負載平衡有助于改善服務器 性能和可伸縮性，以滿足不斷增長的基于hternet客戶端的需求，保證整個系統(tǒng)能夠不間 斷，無阻礙的運行。網絡負載平衡可以讓客戶端用一個邏輯hternet名稱和虛擬IP地址 (又稱群集IP地址)訪問群集，同時保留每臺計算機各自的名稱。本發(fā)明的詳細設計內容如下，負載均衡系統(tǒng)工作流程圖見附圖2 (一)服務器數(shù)據(jù)同步1、服務器數(shù)據(jù)劃分1)各服務器獨立的參數(shù)(唯一標識、網卡地址)，各個服務器私有；2)各服務器共用的服務參數(shù)，主服務器上設定，各個服務器同步；3)各服務器不同的服務參數(shù)，包括地址設定，地址池，端口等，主服務器上設定，各 個服務器同步；4)客戶端基本信息數(shù)據(jù)，包括客戶信息，各個服務器的同步時間。主服務器修改， 各個服務器同步；5)客戶端實時信息數(shù)據(jù)，包括在線情況，地址，操作時間，從服務器通知主服務器 修改，無須同步；
6)服務器操作日志，各個服務器私有，如果有審計服務器則發(fā)送到審計服務器 上；7)客戶端審計日志，各個服務器私有，如果有審計服務器則發(fā)送到審計服務器上。2、服務器數(shù)據(jù)同步從服務器保持和主服務器之間的網絡常連接，從服務器主動創(chuàng)建到主服務器的連 接，連接成功之后，主服務器將內容直接發(fā)送到從服務器，循環(huán)進行如下操作1)掃描客戶端基本信息，發(fā)現(xiàn)有更新則發(fā)送給從服務器，發(fā)送成功后，記錄更新時 間，避免多次發(fā)送；2)掃描前述客戶端內容，發(fā)現(xiàn)有修改則發(fā)送到從服務器；3)查詢從服務器的情況，包括負載情況，并推送其他服務器負載情況(替代心跳 包)；4)發(fā)送管理員的其他實時命令；5)從服務器需要修改客戶端實時信息的時候，將需要修改的信息，通過UDP包發(fā) 送給主服務器，主服務器收到后修改狀態(tài)到實時數(shù)據(jù)庫中。( 二)客戶端連接機制及負載原理1、認證部分 客戶端第一次認證連接前，設定連接服務器的地址和認證端口，地址和端口是任 意一個服務器對外服務地址和端口即可?？蛻舳撕罄^認證前，優(yōu)先選擇上次成功連接的服務器地址和端口進行認證，不成 功則隨機選擇一個服務器和認證端口進行認證?？蛻舳苏J證成功后，獲取到各個服務器對外服務地址和端口號碼，供下次連接使 用。并且此時獲取到各個服務器的負載情況(客戶端數(shù)量)。2、創(chuàng)建通道部分客戶端根據(jù)認證包得到的負載情況，對服務器地址和通道端口進行排序，然后依 次進行通道創(chuàng)建。通道由于異常情況斷開后，將重試3次，如果還不成功，換下一個通道進 行嘗試?？傆媷L試次數(shù)不超過10次，如果超過則斷開連接，需要重新認證。3、服務器異常處理服務器將如下情況，視為異常，并通過可選手段通知管理員處理或者自行處理。1)負載服務器發(fā)現(xiàn)主服務器無法連接，嘗試一定次數(shù)后(可設定)；2)主服務器發(fā)現(xiàn)注冊的某臺負載服務器沒有連接，嘗試一定次數(shù)后(可設定)；3)服務器自身守護程序發(fā)現(xiàn)異常情況，如磁盤空間不足，內存不足，CPU長時間占 用過高。發(fā)現(xiàn)這些異常情況后，可選手段包括守護程序自行重啟服務程序；守護程序自 動重啟計算機；守護程序向目標計算機發(fā)送特殊網絡包，使其硬件重啟；通過聲音報警；通 過控制臺報警。本發(fā)明一種具備大規(guī)模能力的服務架構設計方法的負載維護工作如下。1、服務器數(shù)據(jù)備份連接任意一個服務器，可以選擇備份所有數(shù)據(jù)到一組文件，供恢復使用。備份出來 的數(shù)據(jù)包括所有服務器設定和客戶端信息數(shù)據(jù)，不包括各種日志數(shù)據(jù)。若客戶端數(shù)量較多，文件將會比較大。2、從服務器數(shù)據(jù)災備當某個從服務器遇到問題需要恢復數(shù)據(jù)或者更換，遵循如下流程1)重新制作服務器，恢復出廠狀態(tài)；2)根據(jù)前述流程，設定服務器唯一標識(和需要替換的服務器一致)和各網卡地 址；3)設置服務器為從服務器，并指定正確的主服務器地址；4)放置到網絡中，將自動從主服務器同步數(shù)據(jù)后，開始工作。3、主服務器數(shù)據(jù)災備當主服務器遇到問題需要恢復數(shù)據(jù)或者更換，遵循如下流程1)重新制作服務器，恢復出廠狀態(tài)；2)根據(jù)前述流程，設定服務器唯一標識(和需要替換的服務器一致)和各網卡地 址；3)設置服務器為主服務器；4)從任意一個正常工作的從服務器中備份數(shù)據(jù)；5)從上一步備份的數(shù)據(jù)中，恢復數(shù)據(jù)；6)放置到網絡中，開始正常工作。


圖1大規(guī)模負載能力服務架構原理圖；圖2負載均衡系統(tǒng)工作流程圖。
具體實施例方式1、服務器出廠設定和唯一標識服務器出廠默認均是獨立工作服務器，每個服務器默認有一個唯一標識號碼(與 硬件相關，每個服務器都不一樣)和默認的內網地址。服務器一般具有四個網卡，分別作用如下ethO 內網網卡，連接內部網絡(必選)ethl 外網網卡，連接外部網絡(必選)eth2 審計網卡，連接審計服務器(可選)eth3 心跳網卡，連接主從服務器(可選)在使用前，需要設定服務器的唯一標識供實施參考，并且作為服務器在實施項目 中的唯一標識，供后繼備份、恢復、管理數(shù)據(jù)使用。2、主服務器設定使用管理工具連接服務器的默認內網地址，設置如下參數(shù)1)服務器類型主服務器；2)各個網口是否啟用以及相關的ip地址3、從服務器設定使用管理工具連接服務器的默認內網地址，設置如下參數(shù)
1)服務器類型從服務器2)主服務器地址填寫主服務器的ip地址(四個地址中任意一個，但是應保證能 訪問，如果有條件，選擇順序為心跳網卡、審計網卡、內網網卡、外網網卡)3)各個網口是否啟用以及相關的ip地址4、客戶端系統(tǒng)服務設定連接主服務器控制臺，設定服務的關鍵參數(shù)，包括1)各個服務器的地址池(每個服務器需要不同的地址池，應該為B類網段)2)各個服務器的內部服務端口，默認都是50021，在此基礎上，TCP認證端口是 50021，UDP 認證端口是 50021+1，UDP 通道端口是 50021。3)各個服務器的外部服務地址和端口，需要和對外防火墻設定是一致的。4)各個服務器的連接權重(默認為相同的權重，如果有特殊需求，可以設定)
權利要求
1.一種具備大規(guī)模負載能力的服務架構設計方法，其特征在于多臺服務器同時提供 服務，從服務器在主服務器大量并發(fā)訪問或數(shù)據(jù)流量過大的情況下分擔承載信息流，從服 務器主動創(chuàng)建和主服務器的同步連接。在已有的網絡結構基礎上，采用IP負載均衡技術和數(shù)據(jù)請求分配技術，該技術擴展網 絡接入設備并控制服務器的數(shù)據(jù)吞吐量，當主服務器發(fā)生故障或脫機的情況下，將網絡通 行重新指定給其他工作服務器。多臺服務器具有同時提供服務的特性，系統(tǒng)自動完成選擇 服務器工作的過程，該特征提高了接入系統(tǒng)設備的靈活性和可伸縮性。有自動檢測服務器數(shù)據(jù)流，判斷服務器的實時數(shù)據(jù)流的承載量，主從服務器自動完成 同步數(shù)據(jù)。負載服務器同時具有異常處理的特性。
2.如權利要求1所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在于 該服務架構設計方法的核心技術是網絡負載平衡技術。自動檢測到主服務器不可用時，迅 速在剩余的服務器中重新指派有效替補通訊的從服務器。
3.如權利要求1所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在于 建立客戶端連接服務器機制，設定連接服務器的地址和認證端口，根據(jù)認證包進行通道建 設。
4.如權利要求1和2所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在 于服務器同步數(shù)據(jù)，主服務器上設定參數(shù)。設定的參數(shù)包括各服務器獨立的參數(shù)(唯一 標識、網卡地址)；各服務器共用的服務參數(shù)；各服務器不同的服務參數(shù)；客戶端基本信息 數(shù)據(jù)；客戶端實時信息數(shù)據(jù)；服務器操作日志；客戶端審計日志。
5.如權利要求1和2所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在 于從服務器主動創(chuàng)建與主服務器的連接，負載工作啟動時，主服務器將數(shù)據(jù)包直接發(fā)送到 從服務器。
6.如權利要求5所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在于 客戶端第一次認證連接前，設定服務器的連接地址和認證端口 ；后繼認證前，優(yōu)先選擇上次 成功連接的服務器地址和端口進行認證；認證成功后，獲取到各個服務器對外服務地址和 端口號碼，供下次連接使用。獲取到各個服務器的負載情況(客戶端數(shù)量)。
7.如權利要求6所述的一種具備大規(guī)模負載能力的服務架構設計方法，其特征在于 根據(jù)客戶端認證包得到的負載情況，主從服務器創(chuàng)建通道依據(jù)服務器地址和通道端口的排 序結果。
全文摘要
本發(fā)明采用多臺服務器同時運行，在大量并發(fā)訪問或數(shù)據(jù)流量過大的情況下，解決無法承載信息流的狀況，防止系統(tǒng)崩潰、數(shù)據(jù)流失等危險。本發(fā)明具備大規(guī)模負載能力的服務器架構設計以已有的網絡結構為基礎，采用IP負載均衡技術和數(shù)據(jù)請求分配技術，來擴展網絡接入設備和服務器的數(shù)據(jù)吞吐量，在主服務器發(fā)生故障或脫機的情況下，將網絡通行重新指定給其他工作服務器，多臺服務器可以同時提供服務，系統(tǒng)自動完成選擇服務器的過程，提供自動檢測服務器數(shù)據(jù)流，判斷服務器承載量以便迅速指派有效的替補服務器，提高了接入系統(tǒng)網關的靈活性和可伸縮性。
文檔編號H04L12/56GK102075556SQ201010122299
公開日2011年5月25日 申請日期2010年3月11日 優(yōu)先權日2009年11月19日
發(fā)明者喻波, 李志濤, 王志海, 顧飛 申請人:北京明朝萬達科技有限公司