用于共享專用處理資源的系統(tǒng)和方法
【專利說明】用于共享專用處理資源的系統(tǒng)和方法
[0001]相關(guān)申請交叉引用
[0002]本申請要求由Cohen等人，于2013年9月17日提交的，序列號為61/878,960，名稱為“GPU-Accelerated Image Processing Web Service”的美國臨時(shí)申請的權(quán)益，其和本申請一起共同轉(zhuǎn)讓并通過引用并入本文中。
技術(shù)領(lǐng)域
[0003]本申請總地涉及共享處理資源，并且尤其是涉及用于共享專用處理資源的系統(tǒng)和方法。
【背景技術(shù)】
[0004]如網(wǎng)上沖浪的人所知道的，萬維網(wǎng)(或簡單地，網(wǎng)絡(luò))上圖像豐富。內(nèi)容分發(fā)(或分配)網(wǎng)絡(luò)(CDN)的職責(zé)是將網(wǎng)絡(luò)內(nèi)容提供給廣大的客戶端，諸如媒體中心、桌上型或膝上型個(gè)人電腦(PC)、平板電腦或智能手機(jī)。不僅CDN需要服務(wù)的圖像的總數(shù)比率是巨大的，它們服務(wù)的內(nèi)容也經(jīng)常需要適應(yīng)客戶端要求的應(yīng)用。關(guān)于像素尺寸、縱橫比和編碼形式的變化是普遍的，也有附加的水印或標(biāo)志的變化。甚至公共網(wǎng)站有時(shí)需要提供多個(gè)版本的內(nèi)容?，F(xiàn)在，CDN和公共網(wǎng)站的圖像變化典型地進(jìn)行了先驗(yàn)并且是分批地。幸運(yùn)的是，已經(jīng)開發(fā)出大的、快速的文件系統(tǒng)來存儲和服務(wù)多個(gè)版本的實(shí)質(zhì)上相同的內(nèi)容。

【發(fā)明內(nèi)容】

[0005]—個(gè)方面提供了專用處理系統(tǒng)。在一個(gè)實(shí)施例中，該專用處理系統(tǒng)包括:(I)專用處理資源和(2)具象狀態(tài)傳輸(ReST)應(yīng)用程序編程接口，其可操作為響應(yīng)于基于標(biāo)準(zhǔn)協(xié)議的無狀態(tài)指令利用所述專用處理資源處理數(shù)據(jù)，所述標(biāo)準(zhǔn)協(xié)議從由下述組成的組中選擇:(2a)標(biāo)準(zhǔn)網(wǎng)絡(luò)協(xié)議和(2b)標(biāo)準(zhǔn)數(shù)據(jù)庫查詢協(xié)議。
[0006]另一個(gè)方面提供了實(shí)行專用處理的方法。在一個(gè)實(shí)施例中，該方法包括:(I)接收基于標(biāo)準(zhǔn)協(xié)議的無狀態(tài)指令到ReSTful API，所述無狀態(tài)指令調(diào)用要利用專用處理資源處理的數(shù)據(jù)，所述標(biāo)準(zhǔn)協(xié)議從下述組成的組中選擇:標(biāo)準(zhǔn)網(wǎng)絡(luò)協(xié)議，和標(biāo)準(zhǔn)數(shù)據(jù)庫查詢協(xié)議，
(2)利用所述專用處理資源處理所述數(shù)據(jù)以及(3)用所述處理的結(jié)果響應(yīng)所述無狀態(tài)指令。
[0007]仍然另一個(gè)方面提供了圖形處理系統(tǒng)。在一個(gè)實(shí)施例中，該圖形處理系統(tǒng)包括:
(I)圖形處理單元(GPU)，(2)網(wǎng)絡(luò)接口以及(3)中央處理單元(CPU)，其耦連至所述圖形處理單元和所述網(wǎng)絡(luò)接口，并且可操作為使能ReSTful API用于:(3a)接收基于標(biāo)準(zhǔn)網(wǎng)絡(luò)協(xié)議的無狀態(tài)指令以及(3b)根據(jù)所述無狀態(tài)指令利用所述專用處理資源處理數(shù)據(jù)。
【附圖說明】
[0008]現(xiàn)在對下面的說明連同隨附的附圖進(jìn)行了編號，其中:
[0009]圖1是專用處理資源的一個(gè)實(shí)施例的高級示意圖；
[0010]圖2是包括用于共享專用處理資源的系統(tǒng)的網(wǎng)絡(luò)第一實(shí)施例的高級示意圖；
[0011]圖3是包括用于共享專用處理資源的系統(tǒng)的網(wǎng)絡(luò)第二實(shí)施例的高級示意圖；
[0012]圖4是包括用于共享專用處理資源的系統(tǒng)的網(wǎng)絡(luò)第三實(shí)施例的高級示意圖；以及
[0013]圖5是實(shí)行專用處理的方法的一個(gè)實(shí)施例的流程圖。
【具體實(shí)施方式】
[0014]如上所述，已經(jīng)開發(fā)出大的、快速的文件系統(tǒng)來存儲和服務(wù)多個(gè)版本的實(shí)質(zhì)上相同的內(nèi)容。CDN和網(wǎng)站所有者免于承受購買和操作這樣的文件系統(tǒng)的成本。然而，本文認(rèn)識至IJ，他們將避免這樣的成本是為實(shí)時(shí)改變內(nèi)容而存在的實(shí)踐方向。本文進(jìn)一步認(rèn)識到，以實(shí)踐速度實(shí)時(shí)改變內(nèi)容數(shù)量需要專用處理資源，諸如圖形處理單元(GPU)。然而，雖然存在專用處理資源，但它們目前存在于獨(dú)立的計(jì)算機(jī)系統(tǒng)上下文中，并且利用專用API和相對地高帶寬總線可以訪問它們。
[0015]本文認(rèn)識到，這樣的專用處理資源可以通過利用基于網(wǎng)絡(luò)可使用的標(biāo)準(zhǔn)協(xié)議諸如超文本傳輸協(xié)議(HTTP)或查詢數(shù)據(jù)庫諸如結(jié)構(gòu)化查詢語言(SQL)的標(biāo)準(zhǔn)協(xié)議的ReST API體系架構(gòu)(或ReST API)而更加廣泛可用。本文進(jìn)一步認(rèn)識到，利用基于標(biāo)準(zhǔn)協(xié)議的ReST API，專用處理資源可用于計(jì)算機(jī)網(wǎng)絡(luò)中的任何節(jié)點(diǎn)或數(shù)據(jù)庫管理系統(tǒng)(DBMS)。本文仍然進(jìn)一步認(rèn)識到，ReST API向?qū)Ｓ锰幚碣Y源提供了相對高的帶寬入口，所述專用處理資源習(xí)慣上對吞吐量而不是帶寬進(jìn)行優(yōu)化。本文仍然進(jìn)一步認(rèn)識到，不僅諸如圖像和視頻的內(nèi)容的變化是可能的，而且分析不包含變化的這樣的內(nèi)容也是可能的。本文仍然進(jìn)一步認(rèn)識到，其他專用處理資源，諸如數(shù)學(xué)處理、信號處理、編碼/解碼、加密/解密或大量信息并行處理，同樣可經(jīng)由基于標(biāo)準(zhǔn)協(xié)議的ReST API用于網(wǎng)絡(luò)節(jié)點(diǎn)并使得承擔(dān)處理或分析各種數(shù)據(jù)。
[0016]因此，本文中引入了用于基于網(wǎng)絡(luò)的專用處理的系統(tǒng)和方法的多個(gè)實(shí)施例。在非常高的層面，系統(tǒng)和方法利用網(wǎng)絡(luò)可使用的例如HTTP、可擴(kuò)展標(biāo)記語言(XML)、簡單對象訪問協(xié)議(SOAP)或遠(yuǎn)程過程調(diào)用(RPC)的標(biāo)準(zhǔn)協(xié)議，或查詢數(shù)據(jù)庫諸如SQL、數(shù)據(jù)庫連接(DBC)或虛擬文件系統(tǒng)(VFS)的標(biāo)準(zhǔn)協(xié)議來創(chuàng)建到專用硬件的ReST API。在某些實(shí)施例中，ReSTAPI允許數(shù)據(jù)利用無狀態(tài)指令(stateless command)(即自包含的指令并且因而不用進(jìn)一步的輸入進(jìn)行解釋)進(jìn)行引用、發(fā)送、更新或刪除。
[0017]圖1是專用處理資源110的一個(gè)實(shí)施例的高級示意圖。資源110包括網(wǎng)絡(luò)接口112。網(wǎng)絡(luò)接口 112可操作為為資源110提供接口到網(wǎng)絡(luò)，例如因特網(wǎng)。中央處理單元(CPU) 114耦連至網(wǎng)絡(luò)接口 112XPU 114可操作為為資源110提供通用處理。在一個(gè)實(shí)施例中，CPU 114具有精簡指令集計(jì)算機(jī)(RISC)體系架構(gòu)。在另一個(gè)實(shí)施例中，CPU 114具有復(fù)雜指令集計(jì)算機(jī)(CISC)體系架構(gòu)。
[0018]至少一個(gè)專用處理器116經(jīng)由總線118耦連至CPU 114。圖1示出了多個(gè)這樣的專用處理器116-1，116-2，…，116-N。在個(gè)實(shí)施例中，每個(gè)專用處理器116-1，116-2，…，116-N都是GPU。在可替代的實(shí)施例中，每個(gè)專用處理器116-1，116-2，…，116-N是數(shù)學(xué)(例如，浮點(diǎn))協(xié)處理器或數(shù)字信號處理器(DSP)、編碼或解碼處理器、加密或解密處理器，或大量信息并行處理器(MPP)。在其他的可替代實(shí)施例中，每個(gè)專用處理器116-1，116-2，…，116-N是另一個(gè)傳統(tǒng)或后期開發(fā)類型的專用處理器。為了本公開的目的，“專用處理器”是具有最優(yōu)于對特殊類型的數(shù)據(jù)實(shí)施特殊類型的處理的設(shè)計(jì)的處理器。它們不是最優(yōu)于通用數(shù)據(jù)處理的CPU，而是典型地設(shè)計(jì)為協(xié)同但不是代替通用處理器諸如CPU操作的專用處理器。由于這個(gè)原因，專用處理器有時(shí)被稱為協(xié)處理器或加速器。
[0019]在示例性的實(shí)施例中，總線118是外圍組件快速互連(PCIe)總線。在可替代的實(shí)施例中，總線118是任意其他傳統(tǒng)的標(biāo)準(zhǔn)類型的(例如，快速通道互連，或QPI)或?qū)Ｓ玫幕蚝笃陂_發(fā)類型的總線。
[0020]存儲120耦連至專用處理資源110并且可操作為存儲要由專用處理資源在實(shí)行其處理時(shí)所用的數(shù)據(jù)(例如，圖像、音頻、視頻或其他數(shù)據(jù))。圖1表明了存儲120包括本地非易失性存儲器(例如，一個(gè)或多個(gè)硬盤驅(qū)動(dòng))，其是可能的。然而，在可替代的實(shí)施例中，存儲包括易失性存儲器(例如，動(dòng)態(tài)隨機(jī)存取存儲器，或DRAM)、“云”存儲(例如，來自華盛頓西雅圖的Amazon, com股份有限公司的商業(yè)可用S3)、分布式存儲(例如，MogileFS)或任何其他傳統(tǒng)的或后期開發(fā)的數(shù)據(jù)存儲手段、機(jī)制或基礎(chǔ)架構(gòu)。
[0021]專用處理資源110通?？刹僮鳛榻邮沼脴?biāo)準(zhǔn)網(wǎng)絡(luò)或數(shù)據(jù)庫查詢協(xié)議表達(dá)的無狀態(tài)指令，請求實(shí)行關(guān)于某些類別的數(shù)據(jù)的某些類別的專用處理，并且作為響應(yīng)，喚醒一個(gè)或多個(gè)專用處理器116-1，116-2，…，116-N來實(shí)行專用處理并利用標(biāo)準(zhǔn)網(wǎng)絡(luò)或數(shù)據(jù)庫查詢協(xié)議返回某些類別的結(jié)果。因此，箭頭130表示指令從網(wǎng)絡(luò)(未示出)進(jìn)入。在一個(gè)實(shí)施例中，指令用HTTP表達(dá)并且是用于將所存儲的圖像的大小調(diào)節(jié)為目標(biāo)像素尺寸的請求指令。該指令在所請求的文件的名稱中或者在作為指令的一部分所包括的參數(shù)中包含將要進(jìn)行的處理的指示。例如，目標(biāo)像素尺寸在請求指令中被指定，請求指令如文件位于其中的文件夾。
[0022]作為響應(yīng)，線程在CPU114中開始，指令在其中被解析，包括要處理的數(shù)據(jù)的特性。在一個(gè)實(shí)施例中，數(shù)據(jù)是具有特定像素尺寸的圖像，其可以視為原始像素尺寸。因此，請求是對于數(shù)據(jù)的存儲120，如箭頭131指示的。存儲120將數(shù)據(jù)返回到專用處理資源110，如箭頭132指示的。在示例性的實(shí)施例中，數(shù)據(jù)被上傳到至少一個(gè)專用處理器116-1，116-2，…，116-N來實(shí)行專用處理，如箭頭133指示的。在可替代的實(shí)施例中，CPU 114接收數(shù)據(jù)并且然后上傳到至少一個(gè)專用處理器116-1，116-2，…，116-N來實(shí)行專用處理。在一個(gè)實(shí)施例中，專用處理器116-N改變具有原始像素尺寸的圖像的大小以生成具有目標(biāo)像素尺寸的圖像。當(dāng)完成處理時(shí)，數(shù)據(jù)經(jīng)由總線134被傳輸?shù)紺PU 114，如箭頭134指示的。此后，作為響應(yīng)，CPU114將數(shù)據(jù)(例如，具有目標(biāo)像素尺寸的圖像)經(jīng)由網(wǎng)絡(luò)接口 112送至網(wǎng)絡(luò)(未示出)。
[0023]圖2是包括用于共享專用處理資源的系統(tǒng)的網(wǎng)絡(luò)110(其可以是因特網(wǎng))的第一實(shí)施例的高級示意圖。該系統(tǒng)在專用處理資源110的實(shí)施例中被具體化。專用處理