亚洲狠狠干,亚洲国产福利精品一区二区,国产八区,激情文学亚洲色图

一種大數(shù)據(jù)分布式實時查詢方法及系統(tǒng)與流程

文檔序號:12305438閱讀:1202來源:國知局
一種大數(shù)據(jù)分布式實時查詢方法及系統(tǒng)與流程

本發(fā)明涉及大數(shù)據(jù)處理技術(shù)領(lǐng)域,尤其是指一種大數(shù)據(jù)分布式實時查詢方法及系統(tǒng)。



背景技術(shù):

隨著計算機和信息技術(shù)的迅猛發(fā)展和普及應(yīng)用,行業(yè)應(yīng)用系統(tǒng)的規(guī)模迅速擴大,行業(yè)應(yīng)用所產(chǎn)生的數(shù)據(jù)呈爆炸性增長。動輒達到數(shù)百tb甚至數(shù)十至數(shù)百pb規(guī)模的行業(yè)/企業(yè)大數(shù)據(jù)已遠遠超出了現(xiàn)有傳統(tǒng)的計算技術(shù)和信息系統(tǒng)的處理能力,因此,尋求有效的大數(shù)據(jù)處理技術(shù)、方法和手段已經(jīng)成為現(xiàn)實世界的迫切需求。如果能利用飛速發(fā)展的大數(shù)據(jù)技術(shù)對各個大數(shù)據(jù)業(yè)務(wù)領(lǐng)域數(shù)據(jù)進行挖掘和統(tǒng)計分析,可為各行各業(yè)的決策者制定方針提供參考依據(jù),實現(xiàn)創(chuàng)新性的大數(shù)據(jù)服務(wù),從而進一步推進各行各業(yè)的工程建設(shè)。

大數(shù)據(jù)的挖掘與分析從采集源數(shù)據(jù)到最終獲得分析結(jié)果一般要經(jīng)過幾個主要步驟,包括數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)存儲與管理、實時查詢處理、聯(lián)機分析處理(olap)、數(shù)據(jù)挖掘、數(shù)據(jù)可視化等。其中,實時查詢處理負責(zé)對查詢語句及查詢腳步文件進行解析和分析、生成查詢計劃樹、執(zhí)行查詢階段和整合結(jié)果集,最后返回到數(shù)據(jù)可視化模塊進行結(jié)果可視化,或者成為聯(lián)機分析處理的分析結(jié)果。數(shù)據(jù)實時查詢是數(shù)據(jù)分析流程中對處理性能要求最高,響應(yīng)時間要求最高,同時也是數(shù)據(jù)倉庫中非常重要的一環(huán),該部分的工作直接關(guān)系到數(shù)據(jù)倉庫的查詢速度,從而影響到聯(lián)機分析處理的性能。尤其在面對海量數(shù)據(jù)的處理需求時,高效迅速低響應(yīng)時間的實時查詢系統(tǒng)的設(shè)計更是突顯出它在數(shù)據(jù)倉庫中的重要性。系統(tǒng)的結(jié)構(gòu)設(shè)計主要包含查詢語句解析和分析、生成查詢計劃樹、執(zhí)行查詢階段以及查詢結(jié)果集的整合。

現(xiàn)有業(yè)務(wù)系統(tǒng)的實時查詢系統(tǒng)是基于傳統(tǒng)的關(guān)系型數(shù)據(jù)庫或nosql數(shù)據(jù)庫進行實時查詢。在對大數(shù)據(jù)進行實時查詢中,若全部數(shù)據(jù)存儲在單一服務(wù)器上會占據(jù)巨大的空間,并且如果出現(xiàn)服務(wù)器故障將導(dǎo)致大量的數(shù)據(jù)丟失。而將數(shù)據(jù)分布式的存儲在多個服務(wù)器上能有效的降低單服務(wù)器在空間上的負擔(dān)同時降低服務(wù)器故障導(dǎo)致的數(shù)據(jù)丟失風(fēng)險。但使用現(xiàn)有業(yè)務(wù)系統(tǒng)對分布式集群進行查詢需要在每臺服務(wù)器上安裝數(shù)據(jù)庫,并且還需對查詢結(jié)果進行整合,這使得傳統(tǒng)的關(guān)系型數(shù)據(jù)庫或nosql數(shù)據(jù)庫不足以進行大數(shù)據(jù)處理,因此如何有效擴展實時查詢服務(wù)器的性能顯得十分必要。因此需要設(shè)計一個穩(wěn)定高效完成分布式數(shù)據(jù)倉庫實時查詢的分布式實時查詢系統(tǒng)。

現(xiàn)有實時查詢系統(tǒng)僅支持在單臺服務(wù)器上進行數(shù)據(jù)的實時查詢,因此只需直接執(zhí)行查詢語句就能得到最終結(jié)果。但對于分布式數(shù)據(jù)倉庫,數(shù)據(jù)是分別存儲在不同服務(wù)器上,直接執(zhí)行查詢語句或查詢腳本得到的結(jié)果是分散的,并且每臺服務(wù)器都完整執(zhí)行查詢語句或查詢腳本并不能很好的提升分布式實時查詢的性能,因此如何對查詢語句及查詢腳本進行解析和分析,并分配到各個服務(wù)器上以及對查詢結(jié)果集的整合,是實現(xiàn)分布式實時查詢系統(tǒng)的重大難點。同時,對于分布式數(shù)據(jù)倉庫,數(shù)據(jù)分布在各個子節(jié)點上,要進行實時查詢就需要對各個子節(jié)點上的數(shù)據(jù)都訪問。只有子服務(wù)器主要查詢本地數(shù)據(jù)的減少網(wǎng)絡(luò)io才能減少數(shù)據(jù)訪問時間,從而減少查詢時間,提高實時查詢性能。因此,如何進行調(diào)度,盡量減少io調(diào)度,將是將會是影響分布式實時查詢系統(tǒng)查詢性能的一個重要瓶頸。

同時系統(tǒng)也需要一個健康監(jiān)控中心來是實現(xiàn)對各個節(jié)點上的查詢組件的健康狀態(tài)檢查。當(dāng)某個查詢組件由于硬件錯誤、軟件錯誤或其他原因?qū)е码x線時,就需要監(jiān)控中心通知其他節(jié)點從而避免其他節(jié)點對該離線節(jié)點發(fā)送請求,同時也需要根據(jù)各個節(jié)點的監(jiān)控狀態(tài)對查詢語句以及查詢腳本的解析分配進行更改。因此,需要健康監(jiān)控中心保證分布式實時查詢系統(tǒng)的可靠性。



技術(shù)實現(xiàn)要素:

本發(fā)明的目的在于克服現(xiàn)有技術(shù)的不足,提供了一種大數(shù)據(jù)分布式實時查詢方法及系統(tǒng),充分利用實時查詢云服務(wù)器的處理性能,提供一定的可擴展性,避免了服務(wù)器與分布式文件系統(tǒng)數(shù)據(jù)節(jié)點之間多余的數(shù)據(jù)訪問,從而提高分布式實時查詢的效率。

為實現(xiàn)上述目的,本發(fā)明所提供的技術(shù)方案,如下:

一種大數(shù)據(jù)分布式實時查詢方法,首先,將通過sqlapp和odbc/jdbc得到的查詢語句和查詢腳本文件進行解析和分析,如果是查詢腳本文件則將其分割為多個查詢語句分別進行處理,對于單個查詢語句則通過關(guān)鍵字進行劃分,隨后查詢協(xié)調(diào)器將劃分的各個部分用不同的節(jié)點表示不同的操作,然后根據(jù)節(jié)點的執(zhí)行順序生成基本的查詢計劃樹,查詢計劃樹的根節(jié)點是用于匯聚結(jié)果并返回,而查詢計劃樹的葉子節(jié)點為scan操作,用于獲取相關(guān)表數(shù)據(jù),對于復(fù)雜度低的查詢計劃樹,主服務(wù)器將為查詢計劃樹分配一個或多個線程進行處理,分配了多個線程的節(jié)點成為并行查詢計劃樹,處理并行查詢計劃樹即啟動多個線程同時工作,僅包含單線程的查詢計劃樹將是單方向進行處理,而對于復(fù)雜度高的查詢計劃樹,選擇以分布式集群的方式執(zhí)行,集群由云平臺上搭建的分布式實時查詢服務(wù)器組成,包括一臺主服務(wù)器和多臺子服務(wù)器,系統(tǒng)會對基本的查詢計劃樹進行分布式修改,groupby&localagg之下包括自身的子節(jié)點都能夠在各個子服務(wù)器上的查詢組件上分布式執(zhí)行,而之上的只能在查詢協(xié)調(diào)器上處理,因此將查詢計劃樹劃分成多個查詢階段,并且每個查詢階段將會被分配到相應(yīng)的子服務(wù)器的查詢組件上進行處理,在每個查詢組件都處理完得到相應(yīng)查詢結(jié)果集后,都會匯聚到查詢協(xié)調(diào)器進行處理,包括對相關(guān)節(jié)點數(shù)據(jù)進行aggregation以及進行orderby和limit處理,得到最終的結(jié)果并返回。

上述的大數(shù)據(jù)分布式實時查詢方法,包括以下步驟:

1)云平臺為云服務(wù)器分配所需資源,并初始化實時查詢云服務(wù)器集群;

2)云平臺獲取主服務(wù)器并作為查詢協(xié)調(diào)器進行工作,查詢協(xié)調(diào)器負責(zé)獲取查詢語句和查詢腳本文件并進行解析和分析并決定哪個查詢組件進行哪個查詢;

3)云服務(wù)器通過sqlapp和odbc/jdbc獲取查詢語句和查詢腳本文件并發(fā)送給查詢協(xié)調(diào)器處理,查詢協(xié)調(diào)器對查詢語句和查詢腳本文件進行解析和分析;

4)查詢協(xié)調(diào)器根據(jù)對查詢語句的解析分析結(jié)果生成基本的查詢計劃樹,查詢計劃樹包含多個節(jié)點,不同的操作對于不同的節(jié)點,根節(jié)點為返回最終結(jié)果,葉子節(jié)點為scan操作,分別獲取相關(guān)表數(shù)據(jù);

5)云服務(wù)器對生成的查詢計劃樹按以下步驟執(zhí)行:

5.1)云服務(wù)器獲取當(dāng)前查詢計劃樹,根據(jù)元數(shù)據(jù)獲取查詢節(jié)點名稱以及查詢計劃樹的復(fù)雜程度,判斷是否并行執(zhí)行查詢計劃樹,若不是,執(zhí)行步驟5.2),若是,執(zhí)行步驟5.3);

5.2)主服務(wù)器處理查詢計劃樹,執(zhí)行整個查詢計劃并將最終的查詢結(jié)果返回給查詢協(xié)調(diào)器,執(zhí)行步驟5.4);

5.3)查詢協(xié)調(diào)器對基本的查詢計劃樹進行分布式修改,劃分成多個查詢階段,同時查詢協(xié)調(diào)器根據(jù)分布式查詢計劃樹決定哪些子服務(wù)器執(zhí)行查詢階段,然后將各個查詢階段分配到對應(yīng)的子服務(wù)器的查詢組件并行的執(zhí)行查詢操作,最后各個查詢組件將各自的結(jié)果集返回給查詢協(xié)調(diào)器,查詢協(xié)調(diào)器整合結(jié)果集并得到最終查詢結(jié)果,執(zhí)行步驟5.4);

5.4)判斷有無后續(xù)查詢操作,若有,則執(zhí)行步驟5.1)。

一種大數(shù)據(jù)分布式實時查詢系統(tǒng),包括:

查詢解析模塊,用于對查詢語句以及查詢腳本文件進行解析和分析,所述查詢語句的解析和分析是對單獨的查詢語句根據(jù)關(guān)鍵字進行劃分,然后分析其組成部分,所述查詢腳本文件用于多個查詢語句組合成的腳本文件,先將其分割成多個獨立的查詢語句然后對單個查詢語句進行解析和分析;

查詢計劃樹模塊,用于對查詢解析模塊分析出來的各個組成部分用不同的節(jié)點表示不同的操作,然后根據(jù)節(jié)點的執(zhí)行順序生成基本的查詢計劃樹,其中計劃樹的根用于匯聚結(jié)果返回給用戶,計劃樹的葉子節(jié)點為scan操作;

查詢階段模塊,用于對上述生成的查詢計劃樹進行分布式修改,將整個查詢計劃樹劃分成多個查詢階段,并將各個查詢階段分配給不同的子服務(wù)器進行查詢操作,子服務(wù)器通過對各自的查詢階段進行查詢將得到各自的查詢結(jié)果集;

結(jié)果整合模塊,對各個子服務(wù)器得到的查詢結(jié)果集進行匯總,并整合處理為最終的結(jié)果,同時,將結(jié)果返回給大數(shù)據(jù)可視化系統(tǒng)進行查詢結(jié)果的可視化以及返回給聯(lián)機分析處理系統(tǒng)進行后續(xù)的聯(lián)機分析處理。

所述結(jié)果整合模塊包含有nosql緩存單元,該nosql緩存單元將查詢得到的結(jié)果寫入nosql緩存數(shù)據(jù)庫中,使得在有效期內(nèi)相同的查詢能夠直接從nosql緩存數(shù)據(jù)庫中直接返回查詢結(jié)果。

本發(fā)明與現(xiàn)有技術(shù)相比,具有如下優(yōu)點與有益效果:

1、采用多線程的方式執(zhí)行實時查詢作業(yè),并為實時查詢作業(yè)配置集群執(zhí)行方式,可充分發(fā)揮分布式實時查詢云服務(wù)器的處理性能,同時由于云平臺規(guī)模具有強大的可伸縮性,這為分布式實時查詢系統(tǒng)的性能提供了可擴展性;通過分布式實時查詢能有效降低單服務(wù)器的查詢壓力,將查詢處理分配到多臺子服務(wù)器上同時子服務(wù)器查詢數(shù)據(jù)量的減少能有效降低子服務(wù)器的查詢時間,提高分布式實時查詢系統(tǒng)的查詢效率。

2、借助健康監(jiān)控中心對各個子服務(wù)器中的查詢組件的健康狀態(tài)進行檢查。當(dāng)某個子服務(wù)器中的查詢組件出現(xiàn)硬件錯誤、軟件錯誤或其他原因?qū)е码x線,健康監(jiān)控中心會通知其他節(jié)點的查詢組件,避免其他節(jié)點向其發(fā)送請求,同時查詢協(xié)調(diào)器會根據(jù)健康監(jiān)控中心返回的信息對分布式查詢計劃樹進行相應(yīng)的修改。

3、借助nosql數(shù)據(jù)庫高性能、易擴展的特點,采用基于純內(nèi)存的nosql數(shù)據(jù)庫進行緩存優(yōu)化,緩存短期內(nèi)處理過的查詢語句的結(jié)果,有效降低短期內(nèi)集群對重復(fù)查詢的操作頻率,從而降低分布式實時查詢系統(tǒng)對重復(fù)查詢的耗時,提供對重復(fù)查詢的性能。

4、使用了支持datalocality的i/o調(diào)度機制,通過盡量滿足數(shù)據(jù)的局部性,將掃描數(shù)據(jù)的進程盡量靠近數(shù)據(jù)本身所在的物理機器上。這樣可以盡可能地將數(shù)據(jù)和計算分配在同一臺機器上進行,減少了網(wǎng)絡(luò)開銷。同時為了加快實時查詢速度,在查詢過程中不會有寫磁盤操作,所有的中間計算結(jié)果都會保持在內(nèi)存之中。

附圖說明

圖1為分布式實時查詢系統(tǒng)僅包含單線程數(shù)據(jù)操作節(jié)點的實時查詢流程圖。

圖2為采用實時查詢云服務(wù)器集群執(zhí)行的實時查詢流程圖。

圖3為大數(shù)據(jù)分布式實時查詢方法的流程圖。

圖4為查詢計劃樹樣例示意圖。

圖5為查詢計劃樹分布式劃分為多個查詢計劃的樣例示意圖。

圖6為大數(shù)據(jù)分布式實時查詢系統(tǒng)網(wǎng)絡(luò)圖。

圖7為用卡行為分析綜合業(yè)務(wù)平臺總體方案示意圖。

具體實施方式

下面結(jié)合具體實施例對本發(fā)明作進一步說明。

本實施例所提供的大數(shù)據(jù)分布式實時查詢方法,首先,將通過sqlapp和odbc/jdbc得到的查詢語句和查詢腳本文件進行解析和分析,如果是查詢腳本文件則將其分割為多個查詢語句分別進行處理。對于單個查詢語句則通過關(guān)鍵字進行劃分,如limit、groupby、joinon等。隨后查詢協(xié)調(diào)器將劃分的各個部分用不同的節(jié)點表示不同的操作,然后根據(jù)節(jié)點的執(zhí)行順序生成基本的查詢計劃樹,如圖4所示。查詢計劃樹的根節(jié)點是用于匯聚結(jié)果并返回,而查詢計劃樹的葉子節(jié)點一般是scan操作,用于獲取相關(guān)表數(shù)據(jù)。

對于復(fù)雜度低的查詢計劃樹,主服務(wù)器將為查詢計劃樹分配一個或多個線程進行處理,分配了多個線程的節(jié)點成為并行查詢計劃樹,處理并行查詢計劃樹即啟動多個線程同時工作。如圖1所示,僅包含單線程的查詢計劃樹將是單方向進行處理。主服務(wù)器對葉子節(jié)點進行相關(guān)表數(shù)據(jù)獲取,然后返回到上級子節(jié)點進行joinon、groupby等其他操作。最后將結(jié)果返回到查詢計劃樹的根節(jié)點,查詢協(xié)調(diào)器得到查詢計劃樹根節(jié)點的查詢結(jié)果并返回給數(shù)據(jù)可視化模塊和聯(lián)機事務(wù)處理模塊進行下一步處理。

對于復(fù)雜度比較高的查詢計劃樹,可選擇以分布式集群的方式執(zhí)行。集群由云平臺上搭建的分布式實時查詢服務(wù)器組成,包括一臺主服務(wù)器(master)和多臺子服務(wù)器(slave)。系統(tǒng)會對基本的查詢計劃樹進行分布式修改,groupby&localagg之下(包括自身)的子節(jié)點都可以在各個子服務(wù)器上的查詢組件上分布式執(zhí)行,而之上的只能在查詢協(xié)調(diào)器上處理。因此將查詢計劃樹劃分成多個查詢階段,如圖5所示,并且每個查詢階段將會被分配到相應(yīng)的子服務(wù)器的查詢組件上進行處理。在每個查詢組件都處理完得到相應(yīng)查詢結(jié)果集后,都會匯聚到查詢協(xié)調(diào)器進行處理,包括對相關(guān)節(jié)點數(shù)據(jù)進行aggregation以及進行orderby和limit處理,得到最終的結(jié)果并返回,具體的流程如圖2所示。

上述大數(shù)據(jù)分布式實時查詢方法的處理流程如圖3所示,具體步驟如下:

1)云平臺為云服務(wù)器分配所需資源,并初始化實時查詢云服務(wù)器集群;

2)云平臺獲取主服務(wù)器并作為查詢協(xié)調(diào)器進行工作,查詢協(xié)調(diào)器負責(zé)獲取查詢語句和查詢腳本文件并進行解析和分析并決定哪個查詢組件進行哪個查詢;

3)云服務(wù)器通過sqlapp和odbc/jdbc獲取查詢語句和查詢腳本文件并發(fā)送給查詢協(xié)調(diào)器處理,查詢協(xié)調(diào)器對查詢語句和查詢腳本文件進行解析和分析;

4)查詢協(xié)調(diào)器根據(jù)對查詢語句的解析分析結(jié)果生成基本的查詢計劃樹。查詢計劃樹包含多個節(jié)點,不同的操作對于不同的節(jié)點,根節(jié)點為返回最終結(jié)果,葉子節(jié)點為scan操作,分別獲取相關(guān)表數(shù)據(jù);

5)云服務(wù)器對生成的查詢計劃樹按以下步驟執(zhí)行:

5.1)云服務(wù)器獲取當(dāng)前查詢計劃樹,根據(jù)元數(shù)據(jù)獲取查詢節(jié)點名稱以及查詢計劃樹的復(fù)雜程度;判斷是否并行執(zhí)行查詢計劃樹,若不是,執(zhí)行步驟5.2),若是,執(zhí)行步驟5.3);

5.2)主服務(wù)器處理查詢計劃樹,執(zhí)行整個查詢計劃并將最終的查詢結(jié)果返回給查詢協(xié)調(diào)器,執(zhí)行步驟5.4);

5.3)查詢協(xié)調(diào)器對基本的查詢計劃樹進行分布式修改,劃分成多個查詢階段。同時查詢協(xié)調(diào)器根據(jù)分布式查詢計劃樹決定哪些子服務(wù)器執(zhí)行查詢階段,然后將各個查詢階段分配到對應(yīng)的子服務(wù)器的查詢組件并行的執(zhí)行查詢操作,最后各個查詢組件將各自的結(jié)果集返回給查詢協(xié)調(diào)器,查詢協(xié)調(diào)器整合結(jié)果集并得到最終查詢結(jié)果。執(zhí)行步驟5.4);

5.4)判斷有無后續(xù)查詢操作,若有,則執(zhí)行步驟5.1)。

基于上述的大數(shù)據(jù)分布式實時查詢方法進行結(jié)構(gòu)設(shè)計,本實施例提供的大數(shù)據(jù)分布式實時查詢系統(tǒng),包括查詢解析模塊、查詢計劃樹模塊、查詢階段模塊和結(jié)果整合模塊。

查詢解析模塊,負責(zé)對查詢語句以及查詢腳本文件的解析和分析。所述查詢語句的解析和分析是對單獨的查詢語句根據(jù)關(guān)鍵字進行劃分,然后分析其組成部分。對于查詢腳本文件先將其分割成多個獨立的查詢語句然后對單個查詢語句進行解析和分析。

查詢計劃樹模塊,用于對查詢解析模塊中分析出來的各個組成部分用不同的節(jié)點表示不同的操作,然后根據(jù)節(jié)點的執(zhí)行順序生成基本的查詢計劃樹。計劃樹的根節(jié)點用于匯聚結(jié)果返回給用戶,計劃樹的葉子節(jié)點一般是scan操作。從葉子節(jié)點到根節(jié)點需經(jīng)過多個節(jié)點的操作,包括joinon、groupby、orderby以及l(fā)imit等。

查詢階段模塊,用于對上述生成的查詢計劃樹進行分布式修改,將整個查詢計劃樹劃分成多個查詢階段,并將各個查詢階段分配給不同的子服務(wù)器進行查詢操作,子服務(wù)器通過對各自的查詢階段進行查詢將得到各自的查詢結(jié)果集,并將結(jié)果集返回給相關(guān)的查詢組件進行下一步處理。

結(jié)果整合模塊,用于對各個查詢組件得到的查詢結(jié)果集進行匯總,并整合處理為最終的結(jié)果,同時,將結(jié)果返回給大數(shù)據(jù)可視化系統(tǒng)進行查詢結(jié)果的可視化以及返回給聯(lián)機分析處理系統(tǒng)進行后續(xù)的聯(lián)機分析處理。該模塊還包含有nosql緩存單元,該單元將查詢得到的結(jié)果寫入nosql緩存數(shù)據(jù)庫中,在有效期內(nèi)對重復(fù)查詢可直接從nosql緩存數(shù)據(jù)庫中直接返回查詢結(jié)果不需要重復(fù)進行查詢。

為了測試本發(fā)明的分布式實時查詢方式和系統(tǒng)的應(yīng)用效果,我們將這一技術(shù)應(yīng)用到一個用卡行為分析綜合業(yè)務(wù)平臺上。用卡行為分析綜合業(yè)務(wù)平臺通過對用戶用卡行為進行分析,輸出統(tǒng)計報表,對關(guān)鍵信息進行分析和趨勢預(yù)測,輔助相關(guān)部門為管理和應(yīng)用優(yōu)化提供決策依據(jù)。用卡行為是指持卡人使用卡做了某項業(yè)務(wù)操作。該平臺主要包括四個子系統(tǒng):預(yù)處理系統(tǒng)、分布式實時查詢系統(tǒng)、聯(lián)機分析處理系統(tǒng)、數(shù)據(jù)可視化系統(tǒng),如圖7所示。

其中分布式實時查詢系統(tǒng)如圖7中a區(qū)域所示。分布式實時查詢系統(tǒng)的網(wǎng)絡(luò)圖如圖6所示,系統(tǒng)獲取查詢語句和查詢腳本文件后進行查詢語句的解析和分析,然后生成基本的查詢計劃樹并對其進行分布式修改劃分成多個查詢階段。之后對于每個查詢階段利用nosql高速緩存的特性,如果nosql緩沖區(qū)中以及存在查詢結(jié)果就直接返回nosql中的查詢結(jié)果。若沒有就將查詢階段分配到各個子服務(wù)器的查詢組件中進行查詢,最后將查詢結(jié)果保持到nosql緩沖區(qū)中并返回給查詢協(xié)調(diào)器整合成最終結(jié)果,并返回查詢結(jié)果給聯(lián)機分析處理系統(tǒng)和數(shù)據(jù)可視化系統(tǒng)進行下一步操作。同時nosql緩沖區(qū)還能為公共服務(wù)平臺的聯(lián)機分析處理系統(tǒng)提供數(shù)據(jù)讀緩存,進一步提升平臺分析處理性能。

以上所述實施例只為本發(fā)明之較佳實施例,并非以此限制本發(fā)明的實施范圍,故凡依本發(fā)明之形狀、原理所作的變化,均應(yīng)涵蓋在本發(fā)明的保護范圍內(nèi)。

當(dāng)前第1頁1 2 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1