調(diào)度裝置的制造方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及一種調(diào)度裝置，尤其涉及一種高速硬件調(diào)度器。
【背景技術(shù)】
[0002]高速硬件調(diào)度器是當(dāng)今的應(yīng)用中需要的，尤其是對于業(yè)務(wù)服務(wù)質(zhì)量（QoS)、CPU核 心之間的任務(wù)分布以及其它應(yīng)用。調(diào)度器接收請求集合或輸入隊列狀態(tài)集合，且根據(jù)調(diào)度 方案產(chǎn)生對那些請求或輸入隊列的允許。每一允許可被解釋為對發(fā)送包或數(shù)據(jù)信息塊或者 使用共享資源的許可。
[0003]調(diào)度方案的類型從簡單的輪循到具有若干分層、權(quán)重和優(yōu)先級等級的極復(fù)雜方案 而變化。標(biāo)準(zhǔn)硬件調(diào)度器實現(xiàn)最常見的調(diào)度方案，但具有過低允許速率的主要缺陷。在這 方面中，兩個參數(shù)是最重要的。第一者是調(diào)度器可產(chǎn)生的最大允許速率。第二者是從請求 直到所述請求的允許所存在的最小時延。
[0004] 在先前的現(xiàn)有技術(shù)中，硬件調(diào)度器通?？擅績蓚€時鐘周期執(zhí)行不超過一個允許， 而時延可占用幾個到甚至一千個周期以便服務(wù)于新請求。這是由調(diào)度方案的復(fù)雜性導(dǎo)致。

【發(fā)明內(nèi)容】

[0005] 本發(fā)明的目的是提供一種快速調(diào)度器，其在低時延下以比系統(tǒng)時鐘高的速率允許 請求。
[0006] 獨立權(quán)利要求的特征可以實現(xiàn)這個目的。進(jìn)一步的實施形式通過從屬權(quán)利要求、 說明書以及圖式清楚可見。
[0007] 為了詳細(xì)描述本發(fā)明，將使用以下術(shù)語、縮寫和符號：
[0008]QoS:服務(wù)質(zhì)量（qualityofservice)，
[0009]CPU:中央處理單元（centralprocessingunit)，
[0010]RR:輪循（round-robin)，
[0011]RCS:速率控制整形器或速率限制單元（ratecontrolshaperorratelimiting unit)，
[0012] LVP:查找向量準(zhǔn)備單元（lookupvectorprepareunit)，
[0013]PFF:前綴森林單元（prefixforestunit)，
[0014]req_vec:請求集合或請求向量（setofrequestsorvectorofrequests)，
[0015]ack_vec:確認(rèn)集合或確認(rèn)向量（setofacknowledgementsorvectorof acknowledgements)，
[0016]raw_mask:選擇掩碼集合或選擇掩碼向量（setofselectionmasksorvector ofselectionmasks)，
[0017]CMP:比較模塊（comparemodule)，
[0018]NASO:與非移一位模塊（NotAndShiftOnemodule)，
[0019]TE，Bld，Sel:指定可具有不同優(yōu)先級的不同隊列群組（designatedifferent queuegroupswhichmayhavedifferentpriorities)，
[0020]PD:傳播延遲（propagationdelay)，
[0021]FA,HA:實施前綴樹的加法器（addersimplementingtheprefixtree)〇
[0022] 根據(jù)第一方面，本發(fā)明涉及一種調(diào)度裝置，用于接收請求集合（asetof requests)且提供對所述請求集合的允許集合（asetofgrants)，所述調(diào)度裝置包括：查 找向量準(zhǔn)備單元（alookupvectorprepareunit)，用于合并（merge)請求集合和選擇掩 碼（aselectionmask)以便提供查找向量準(zhǔn)備請求集合（alookupvectorpreparedset ofrequests)且提供對所述請求集合的確認(rèn)集合（asetofacknowledgements);以及親 合到所述查找向量準(zhǔn)備單元的前綴森林單元（aprefixforestunit)，其中所述前綴森林 單元用于提供作為所述新請求集合（thenewsetofrequests)的函數(shù)的所述允許集合且 提供基于所述允許集合的所述選擇掩碼。
[0023] 所述調(diào)度裝置可實施為同步硬件電路調(diào)度器（asynchronoushardwarecircuit scheduler)。所述調(diào)度裝置能夠根據(jù)調(diào)度方案選擇N個請求，例如輸入隊列，且所述調(diào)度裝 置能夠在每一時鐘周期中執(zhí)行P個選擇（selections)或分發(fā)（issues)。因此，所述調(diào)度裝 置允許在低時延下以比系統(tǒng)時鐘高的速率處理請求。
[0024] 所述調(diào)度裝置可用作CPU之間的任務(wù)的調(diào)度器，或在交換或路由單元上調(diào)度數(shù)據(jù) 包。所述調(diào)度裝置還可用作用于更復(fù)雜的調(diào)度器的構(gòu)建模塊以便產(chǎn)生更復(fù)雜的調(diào)度方案。 在此意義上所述調(diào)度裝置可以是級聯(lián)的若干任務(wù)調(diào)度器，所述調(diào)度器以不同方式配置以便 產(chǎn)生分層式調(diào)度方案。
[0025] 在根據(jù)第一方面的調(diào)度裝置的第一可能的實施形式中，所述調(diào)度裝置包括耦合到 所述查找向量準(zhǔn)備單元的速率限制單元（aratelimitingunit)，其中所述速率限制單元 用于根據(jù)調(diào)度方案（aschedulingscheme)限制所述請求集合的速率以提供速率受限請求 集合（arate-limitedsetofrequests)，相應(yīng)的，由所述查找向量準(zhǔn)備單元合并的所述請 求集合是所述速率受限請求集合。
[0026] 通過根據(jù)調(diào)度方案對請求集合進(jìn)行速率限制，所述調(diào)度裝置能夠產(chǎn)生分層式調(diào)度 方案。
[0027] 在根據(jù)第一方面的第一實施形式的調(diào)度裝置的第二可能的實施形式中，速 率限制單元用于過濾已通過（pass)確認(rèn)的可配置速率（aconfigurablerateof acknowledgments)的請求群組（requestor-groups)的請求（requests) 〇
[0028] 所述速率限制機(jī)制因此可用于實施可配置速率限制。
[0029] 當(dāng)隊列已接收到確認(rèn)時，所述隊列被告知將允許請求且所述隊列可繼續(xù)發(fā)送下一 請求。所述請求，例如所述隊列因此被告知調(diào)度裝置的內(nèi)部狀態(tài)。
[0030] 在根據(jù)第一方面的先前實施形式中的任一者的調(diào)度裝置的第三可能的實施形式 中，調(diào)度方案是基于請求集合和確認(rèn)集合所指派給的隊列群組。
[0031] 當(dāng)在調(diào)度方案中實施不同隊列群組時，調(diào)度裝置可實施優(yōu)先級調(diào)度，其中重要請 求放置于高優(yōu)先級的隊列群組中。
[0032] 在根據(jù)第一方面的第三實施形式的調(diào)度裝置的第四可能的實施形式中，速率限制 單元包括桶緩沖器的集合（asetofbucketbuffers)，每一桶緩沖器被指派給所述隊列群 組中的一者用于存儲所述確認(rèn)集合中的確認(rèn)，所述確認(rèn)集合中的確認(rèn)被指派給所述隊列群 組中的一者（eachbucketbufferassignedtooneofthequeuegroupsforstoring acknowledgementsofthesetofacknowledgementsassignedtotheoneofthequeue groups)〇
[0033] 不同桶緩沖器可實現(xiàn)不同隊列群組。桶緩沖器可表示用于根據(jù)調(diào)度方案進(jìn)行流量 整形的整形器桶，例如整形器存儲器。每一桶緩沖器可單獨地執(zhí)行隊列群組的整形直到隊 列群組可遵照流行的流量合同進(jìn)行發(fā)送。這可在指派給隊列群組的桶緩沖器為空的情況下 立即發(fā)生，在指派給隊列群組的桶緩沖器填充到某一水平的情況下在某一延遲之后發(fā)生， 或在桶緩沖器溢出的情況下從不發(fā)生。
[0034] 在根據(jù)如此的第一方面或根據(jù)第一方面的先前實施形式中的任一者的調(diào)度裝置 的第五可能的實施形式中，查找向量準(zhǔn)備單元包括：掩蔽單元，其用于基于選擇掩碼掩蔽當(dāng) 前請求集合以提供經(jīng)掩蔽請求集合；聯(lián)合單元，其用于合并所述經(jīng)掩蔽請求集合與所述速 率受限請求集合以提供當(dāng)前請求集合；以及移位單元，其用于基于所述選擇掩碼的經(jīng)移位 版本移位所述當(dāng)前請求集合以提供所述查找向量準(zhǔn)備請求集合。
[0035] 通過基于選擇掩碼掩蔽經(jīng)移位請求集合，未允許的請求由查找向量準(zhǔn)備單元以遞 歸方式處理，這是存儲器高效的且提供低延遲的快速處理。
[0036] 在根據(jù)第一方面的第五實施形式的調(diào)度裝置的第六可能的實施形式中，查找向量 準(zhǔn)備單元用于提供選擇掩碼的經(jīng)移位版本以用于輪循所述速率受限請求集合。
[0037] 通過執(zhí)行輪循，查找向量準(zhǔn)備單元可在指定時間內(nèi)處理每一請求。最長路徑的延 遲減少，從而得到低的總延遲。
[0038] 在根據(jù)如此的第一方面或根據(jù)第一方面的先前實施形式中的任一者的調(diào)度裝置 的第七可能的實施形式中，前綴森林單元包括前綴樹。
[0039] 前綴樹較適合存儲許多請求。不同于大多數(shù)其它算法，前綴樹具有獨特特征：代碼 路徑且因此需要的時間對于插入、刪除和查找操作來說是幾乎相同的。因此，對于其中代碼 是以相等量度插入、刪除和查找的情形，前綴樹可勝過對分搜索樹，以及提供CPU指令和分 支高速緩存的較好基礎(chǔ)。
[0040] 在根據(jù)第一方面的第七實施形式的調(diào)度裝置的第八可能的實施形式中，所述前綴 森林單元的輸出被確定為數(shù)字的集合z(asetZofnumbers)，且對于Z中的每一數(shù)字Zi， XfYf Z工成立。
[0041]當(dāng)森林的輸出是稱為Z的數(shù)字集合且對于Z中的每一數(shù)字21來說關(guān)系Xi+YiiZi 成立時，替代于執(zhí)行實際加法，存在的選項是讓所述機(jī)制的下一階段、即比較階段使用&和 t的原料。前綴森林單元可增加其效率且以較高速度產(chǎn)生輸出。
[0042] 在根據(jù)第一方面的第八實施形式的調(diào)度裝置的第九可能的實施形式中，前綴森林 單元用于將Z中的一對乂;和￥;與已知選項集合（aknownsetofoptions)進(jìn)行比較。
[0043] 替代于將Z中的每一數(shù)字與相關(guān)值進(jìn)行比較，前綴森林單元將一對與已知選項集 合進(jìn)行比較且通過此做法，前綴森林單元節(jié)省了由將&和Yi放置到加法