專利名稱：基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明屬于互聯(lián)網(wǎng)信息傳輸技術(shù)領(lǐng)域。
背景技術(shù)：
互聯(lián)網(wǎng)用戶的迅猛增長和多媒體業(yè)務(wù)流的激增使Internet面臨越來越大的數(shù)據(jù) 傳輸壓力，雖然密集波分復(fù)用技術(shù)使單個(gè)波長的數(shù)據(jù)傳輸率高達(dá)160Gbps，但中繼系統(tǒng)的交 換速率卻遠(yuǎn)遠(yuǎn)低于光域內(nèi)的數(shù)據(jù)傳輸率，這就使中繼系統(tǒng)因交換速率過低而成為Internet 的瓶頸。此外，長期的流量監(jiān)測表明Internet數(shù)據(jù)流具有自相似性，其典型特征是數(shù)據(jù)具 有突發(fā)性。因此，能夠適應(yīng)自相似業(yè)務(wù)流的高速交換結(jié)構(gòu)就成為下一代Internet的核心技 術(shù)之一。在包長一定的情況下，提高轉(zhuǎn)發(fā)速率勢必要縮短時(shí)槽長度，這就必須盡可能降低 調(diào)度算法的復(fù)雜度，而傳統(tǒng)的交換結(jié)構(gòu)因復(fù)雜度或加速比的原因均無法滿足未來的高速 交換需求。張正尚教授等人提出的負(fù)載均衡結(jié)構(gòu)LB-BvN(Load Balanced Birkhoff-von Neumann switch architecture)采用確定的、周期性連接的crossbar連接模式，這種具有 0(1)復(fù)雜度的crossbar連接模式可以有效縮短時(shí)槽長度從而使高速轉(zhuǎn)發(fā)成為可能。但 該結(jié)構(gòu)會(huì)導(dǎo)致數(shù)據(jù)包失序，針對(duì)這一問題，國內(nèi)外研究機(jī)構(gòu)提出了很多方案，這些方案可分 為兩類第一類通過特定機(jī)制避免數(shù)據(jù)包在轉(zhuǎn)發(fā)過程中失序，如FFF(Full Frame First) 和Mailbox;第二類允許數(shù)據(jù)包在轉(zhuǎn)發(fā)過程中失序，但在數(shù)據(jù)包離開交換機(jī)之前要通過 RB(Re-sequencing Buffer)來調(diào)整其順序，使之按正確順序離開，如FCFS(First Come First Served), EDF(Earliest Deadline First), EDF-3DQ, FOFF(Full OrderedFrames First)及 Byte-Focal (參考文獻(xiàn)Shen Y, Panwar S S, ChaoH J. Design and performance analysis of a practical load-balancedswitch[J]. IEEE. Trans. onCommunications, 2009，57 (8) :2420-2429.)等。第一類方案中，F(xiàn)FF需要在線卡之間為尋找滿幀而進(jìn)行大量的通信。Mailbox的吞 吐率只能達(dá)到75%，改進(jìn)后的方案也只能達(dá)到95%。第二類方案中，F(xiàn)CFS的策略是無論數(shù) 據(jù)包是否失序都延遲到最大時(shí)延值后轉(zhuǎn)發(fā)，時(shí)延性能較差。EDF-3DQ是EDF的改進(jìn)方案，它 根據(jù)數(shù)據(jù)包的截止時(shí)間來判斷是否轉(zhuǎn)發(fā)，每個(gè)時(shí)槽都需要復(fù)雜度為O(N)的搜索操作來查 找最緊迫的數(shù)據(jù)包。FOFF采用基于幀的轉(zhuǎn)發(fā)模式，選擇非滿幀會(huì)造成N個(gè)時(shí)槽的帶寬浪費(fèi)， 在低負(fù)載或N較大時(shí)，大部分都是非滿幀，帶寬浪費(fèi)較大。Byte-Focal結(jié)構(gòu)因易于實(shí)現(xiàn)且性能較好而被認(rèn)為是迄今為止較為理想的解決方 案。其關(guān)鍵特性在于第一級(jí)轉(zhuǎn)發(fā)所采用的DTS(Dynamic Threshold Scheme)算法確保了 同一個(gè)流的相鄰數(shù)據(jù)包通過相鄰路徑到達(dá)輸出端(本文稱之為相鄰到達(dá)特性)，這使得在 輸出端可根據(jù)數(shù)據(jù)包的路徑信息判斷先后次序，簡化了重排序過程。但DTS存在偽隊(duì)頭阻 塞、復(fù)雜度和慣性服務(wù)的缺陷，這些不足嚴(yán)重影響了 Byte-Focal的高速交換能力，增大了 數(shù)據(jù)包的時(shí)延，降低了可擴(kuò)展性，針對(duì)這些問題，我們提出基于隱式流分割器的負(fù)載均衡 結(jié)構(gòu)(以下禾爾 LB-IFS :Load Balanced switch architecture based on Implicit FlowSplitter)。為便于表達(dá)，本文約定N表示交換結(jié)構(gòu)的輸入輸出端口數(shù)。從輸入端口 i到達(dá)輸 出端口 k的數(shù)據(jù)包的集合記為數(shù)據(jù)流Fi,k，記Ci,k泛指Fi,k的任意一個(gè)數(shù)據(jù)包，Ji,k表示Fi,k 的一個(gè)轉(zhuǎn)發(fā)請(qǐng)求。兩級(jí)crossbar分別記為XB1，XB2，二者采用完全相同的連接模式，令i， j分別表示crossbar的輸入和輸出端口，XBl，XB2在t時(shí)槽的連接模式均滿足(i+j)mod N =(t+l)modN，i與j相連簡記為(i-j)。若Ciik通過XB2的輸入端口 j到達(dá)輸出端，則稱 Cu的轉(zhuǎn)發(fā)路徑為j。
Byte-Focal的基本結(jié)構(gòu)如圖1所示。Byte-Focal的主要問題如下一、偽隊(duì)頭阻塞問題DTS決定了只有VOQli, k的隊(duì)首才能發(fā)出轉(zhuǎn)發(fā)請(qǐng)求，這就可能 出現(xiàn)隊(duì)列中雖然有數(shù)據(jù)包等待轉(zhuǎn)發(fā)且能夠保證相鄰到達(dá)特性，但由于所有隊(duì)首數(shù)據(jù)包都不 滿足DTS轉(zhuǎn)發(fā)條件而被阻塞。令Qi, k (t)表示t時(shí)刻VOQli, k的隊(duì)長，令Pi, k指示Fi, k下一 個(gè)數(shù)據(jù)包的轉(zhuǎn)發(fā)路徑。假定在T-I時(shí)槽(i-3)，VOQlii0被服務(wù)，而T時(shí)槽之初有Piitl = 0， Pijl = 3,Pij2 = 0及Pi,3 = 1，如圖2(a)所示。則根據(jù)crossbar連接模式和DTS規(guī)則，T時(shí) 槽(i—0)，AO被轉(zhuǎn)發(fā)，C4到達(dá)，Pij0 — 1，如圖2 (b)所示。T+1時(shí)槽(i—1)，Al被轉(zhuǎn)發(fā)，Dl 到達(dá)，Pi,C1^ 2，如圖2(c)所示。T+2時(shí)槽(i-2)，A2到達(dá)，沒有數(shù)據(jù)包可被轉(zhuǎn)發(fā)，但事實(shí)上 根據(jù)Pi,2 = 0和Pi,3 = 1可知，本時(shí)槽內(nèi)轉(zhuǎn)發(fā)C2和Dl仍能保證相鄰到達(dá)特性，如圖2 (d)所 示。在T+3時(shí)槽(i-3)，但同樣的原因使得C3也不能被轉(zhuǎn)發(fā)。Byte-Focal中這種因隊(duì)首數(shù)據(jù)包不滿足轉(zhuǎn)發(fā)條件而造成的阻塞在成因和效果等 方面都區(qū)別于IQ(Input Queuing)中的H0L(Head of Line blocking)問題，故本文稱之為 偽隊(duì)頭阻塞PH0L(Pseudo-H0L)。PHOL導(dǎo)致DTS無法充分利用帶寬資源，雖然Byte-Focal 仍能達(dá)到100%的吞吐率，但仿真結(jié)果結(jié)果表明，PHOL明顯增大了 Byte-Focal的第一級(jí)轉(zhuǎn) 發(fā)時(shí)延。二、算法復(fù)雜度高為簡化描述，此處Sj(t)和S' j(t)均采用原文獻(xiàn)中的定義。DTS在每個(gè)時(shí)槽都 需要借助集合和S' j(t)以0(1)的復(fù)雜度選擇一個(gè)隊(duì)列來服務(wù)，從表面上看，其 算法復(fù)雜度為0(1)，但集合Sjt)和S' j(t)每個(gè)時(shí)槽都要更新，由0彡Sj (t)彡N和 O^ |S' j(t) I彡N可知最壞情況下更新Sj (t)和S' j(t)的復(fù)雜度為O(N)。O(N)的復(fù)雜 度勢必增加提高交換速率的難度，降低Byte-Focal的高速交換能力和可擴(kuò)展性。三、慣性服務(wù)模式為降低算法的復(fù)雜度，DTS在下一時(shí)槽的仲裁中總優(yōu)先選擇當(dāng)前被服務(wù)的隊(duì)列，本 文稱之為慣性服務(wù)模式ISMdnertial Serve Mode)。在某些極端環(huán)境中，慣性服務(wù)模式會(huì) 導(dǎo)致公平性的問題，致使某些流長期占據(jù)傳輸資源，而其他數(shù)據(jù)包則長期等待，假定T時(shí)槽 XBl (i—3)且在 T 時(shí)槽之初有 Pij0 = 3，Pia = 0，Pi,2 = 2 及 Pii3 = 0，如圖 3 (a)所示，則 T 時(shí)槽AO被轉(zhuǎn)發(fā)，B4到達(dá)且已,。一0，如圖3(b)所示。T+1時(shí)槽XBl(i-O)，BO被轉(zhuǎn)發(fā)，B5 到達(dá)且Pu — 1，如圖3 (c)所示。T+2時(shí)槽XBl(i-l)，Bl被轉(zhuǎn)發(fā)，B6到達(dá)且Pia —2，如圖 3(d)所示。若每個(gè)時(shí)槽都到達(dá)一個(gè)Ciil，其他數(shù)據(jù)包將長期等待，顯然DTS無法保證流的公 平性。

發(fā)明內(nèi)容
鑒于現(xiàn)有技術(shù)的以上缺點(diǎn)，本發(fā)明的目的是排除Byte-Focal結(jié)構(gòu)中DTS算法的缺陷和不足。降低了交換機(jī)的計(jì)算復(fù)雜度和系統(tǒng)的時(shí)延，提高了交換結(jié)構(gòu)的高速交換能力和 可擴(kuò)展性，增強(qiáng)了交換結(jié)構(gòu)的公平性。本發(fā)明的目的是通過如下的手段實(shí)現(xiàn)的?；陔[式流分割器的負(fù)載均衡結(jié)構(gòu)，包含兩級(jí)交換模塊和三級(jí)緩存第一級(jí)交換 模塊之前的輸入緩存、兩級(jí)交換模塊之間的中間緩存和第二級(jí)交換模塊之后的重排序緩 存；其特征在于，所述輸入緩存采用包含虛擬輸出隊(duì)列VOQl和虛擬路徑隊(duì)列VCQ的雙緩沖 模式，即到達(dá)的數(shù)據(jù)包和流分割器分配給該包的理論路徑信息組合在一起緩存于V0Q1，同 時(shí)，流分割器自動(dòng)生成一個(gè)該包所屬流的轉(zhuǎn)發(fā)請(qǐng)求J并緩存于VCQ ；依據(jù)交換模塊的連接模 式和VCQ中的轉(zhuǎn)發(fā)請(qǐng)求通過調(diào)度策略完成數(shù)據(jù)包的第一級(jí)轉(zhuǎn)發(fā)；數(shù)據(jù)包到達(dá)輸出端后依據(jù) 其自身攜帶的理論路徑信息完成重排序過程。


圖 1 是 Byte-Focal 結(jié)構(gòu)圖。圖2 是 Byte-Focal 的輸入端 口 i (a) T 時(shí)槽(b) T+1 時(shí)槽(c) T+2 時(shí)槽(b) T+3 時(shí)槽。圖3 是 Byte-Focal 的輸入端 口 i (a) T 時(shí)槽(b) T+1 時(shí)槽(c) T+2 時(shí)槽(d) T+3 時(shí)槽。圖4是本發(fā)明基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)圖。圖5是本發(fā)明雙緩沖模式示意6是本發(fā)明與現(xiàn)有技術(shù)在均勻業(yè)務(wù)流環(huán)境下的時(shí)延比較圖。圖7是本發(fā)明與現(xiàn)有技術(shù)在突發(fā)流量環(huán)境下的時(shí)延比較圖。圖8是本發(fā)明與現(xiàn)有技術(shù)在對(duì)角流量環(huán)境下的時(shí)延比較圖。圖9是本發(fā)明與現(xiàn)有技術(shù)在Hot-spot流量環(huán)境下的時(shí)延比較圖。
具體實(shí)施例方式下面結(jié)合附圖和實(shí)施例對(duì)本發(fā)明作進(jìn)一步說明。對(duì)照?qǐng)D1與4及圖5，本發(fā)明(LB-IFS)與Byte-Focal的不同點(diǎn)在于①第一級(jí)數(shù)據(jù)的緩沖模式LB-IFS對(duì)到達(dá)的數(shù)據(jù)包采用基于隱式流分割器的雙緩沖模式處理，而 Byte-Focal僅僅將到達(dá)的數(shù)據(jù)包緩存于VOQ中。②第一級(jí)轉(zhuǎn)發(fā)的調(diào)度模式LB-IFS的第一級(jí)調(diào)度采用復(fù)雜度為0(1)的兩步調(diào)度策略，而Byte-Focal采用 DTS調(diào)度算法，其最壞情況下的復(fù)雜度為O(N)，過高的復(fù)雜度降低了 Byte-Focal的高速交 換能力和可擴(kuò)展性。③重排序過程的依賴信息LB-IFS中數(shù)據(jù)包的重排序依賴的是數(shù)據(jù)包經(jīng)流分割器產(chǎn)生的理論路徑信息，該 信息作為數(shù)據(jù)包的一個(gè)附加域一起被緩存和傳輸，在輸出端完成重排序過程后被丟棄。而Byte-Focal的數(shù)據(jù)包重排序依賴的是數(shù)據(jù)包的實(shí)際轉(zhuǎn)發(fā)路徑。雙緩沖模式的工作原理
LB-IFS為每個(gè)輸入端口設(shè)置一個(gè)流分割器，不失一般性，考慮輸入端口 i，其中包 含N個(gè)指針Pi^k = O, 1，…，N-LPiik用于指示Fiik下一個(gè)數(shù)據(jù)包的轉(zhuǎn)發(fā)路徑。系統(tǒng)為每 個(gè)到達(dá)的數(shù)據(jù)包生成一個(gè)轉(zhuǎn)發(fā)請(qǐng)求J，雙緩沖模式中VOQl用于存儲(chǔ)數(shù)據(jù)包實(shí)體(包括附加 的路徑信息)，VCQ用于存儲(chǔ)該數(shù)據(jù)包的轉(zhuǎn)發(fā)請(qǐng)求J，Cu到達(dá)輸入端口 i時(shí)，需執(zhí)行以下步 驟stepl 讀取Piik的值(不妨設(shè)此時(shí)Piik的值為ν)，將ν和Ciik組合為iik。st印2 生成一個(gè)Fi,k的轉(zhuǎn)發(fā)請(qǐng)求Ji,k。st印3 =Pijk- (Pijk+l)mod N，將G jP Jiik 分別緩存于 VOQliik 和 VCQi, v。Ji,k僅僅表示Fi,k的一個(gè)轉(zhuǎn)發(fā)請(qǐng)求，與Fi,k的具體數(shù)據(jù)包無關(guān)，故Ji,k只需包含F(xiàn)i, k的目的端口 k即可。兩步調(diào)度策略若t時(shí)槽(i-j)，則調(diào)度策略如下stepl 若VCQiij空，表示等待隊(duì)列中沒有需經(jīng)路徑j(luò)轉(zhuǎn)發(fā)的數(shù)據(jù)包，轉(zhuǎn)發(fā)結(jié)束。否 則轉(zhuǎn)st印2 ；st印2:讀取并移除VCQiij隊(duì)首的請(qǐng)求指針，不妨設(shè)其值為U，轉(zhuǎn)發(fā)VOQli,u的隊(duì)首數(shù) 據(jù)包，轉(zhuǎn)發(fā)結(jié)束。轉(zhuǎn)發(fā)引擎從VCQ中獲取的僅僅是當(dāng)前應(yīng)轉(zhuǎn)發(fā)的數(shù)據(jù)包所屬的流，爾后根據(jù)該流標(biāo) 識(shí)轉(zhuǎn)發(fā)相應(yīng)VOQl的隊(duì)首數(shù)據(jù)包。雖然轉(zhuǎn)發(fā)引擎是由基于流分割器的VCQ所控制，但從數(shù)據(jù) 包的存儲(chǔ)和轉(zhuǎn)發(fā)角度來看，數(shù)據(jù)包僅僅是依據(jù)FCFS原則進(jìn)行存儲(chǔ)和轉(zhuǎn)發(fā)，并不涉及流量的 負(fù)載均衡，猶如不存在流分割器一樣，故稱之為隱式的流分割器。本發(fā)明利用雙緩沖模式和兩步調(diào)度策略，以0(1)的復(fù)雜度解決了負(fù)載均衡的第 一級(jí)調(diào)度。與Byte-Focal相比較，由于摒棄了 DTS算法，LB-IFS具有以下優(yōu)勢①排除了 Byte-Focal結(jié)構(gòu)中DTS算法的缺陷和不足。②降低了交換機(jī)的計(jì)算復(fù)雜度，提高了交換結(jié)構(gòu)的高速交換能力和可擴(kuò)展性。③降低了系統(tǒng)的時(shí)延，提高了交換機(jī)的性能。④增強(qiáng)了交換結(jié)構(gòu)的公平性。為驗(yàn)證本項(xiàng)發(fā)明的有效性，本文用32X32的仿真模型將LB-IFS和Byte-Focal — 起在均勻流量模型、突發(fā)流量模型、對(duì)角流量模型和Hot-spot模型環(huán)境中進(jìn)行仿真分析， 仿真中假定各級(jí)緩存無限大。時(shí)延數(shù)據(jù)越小越好。均勻流量模型均勻流量模型是指數(shù)據(jù)包以Bernoulli i. i. d.過程到達(dá)且以等 概率到達(dá)各輸出端口，仿真結(jié)果如圖6所示。突發(fā)業(yè)務(wù)流模型突發(fā)業(yè)務(wù)流采用0N-0FF模型產(chǎn)生，平均突發(fā)長度設(shè)為64，仿真 結(jié)果如圖7所示。對(duì)角流量模型數(shù)據(jù)包以Bernoulli i. i. d.過程到達(dá)輸入端口 i，但以2/3的概 率到達(dá)目的端口 i，以1/3的概率到達(dá)其下一個(gè)端口，S卩(i+l)mod N端口，仿真結(jié)果如圖8 所示。
Hot-spot模型數(shù)據(jù)包以Bernoulli i. i. d.過程到達(dá)輸入端口 i，但以2/3的概 率到達(dá)目的端口 i，以等概率到達(dá)其余端口，仿真結(jié)果如圖9所示。所有仿真結(jié)果都表明，在 相同的數(shù)據(jù)包到 達(dá)情況下，LB-IFS比Byte-Focal的時(shí)延更小。
權(quán)利要求
基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)，包含兩級(jí)交換模塊和三級(jí)緩存第一級(jí)交換模塊之前的輸入緩存、兩級(jí)交換模塊之間的中間緩存和第二級(jí)交換模塊之后的重排序緩存；其特征在于，所述輸入緩存采用包含虛擬輸出隊(duì)列VOQ1和虛擬路徑隊(duì)列VCQ的雙緩沖模式，即到達(dá)的數(shù)據(jù)包和流分割器分配給該包的理論路徑信息組合在一起緩存于VOQ1，同時(shí)，流分割器自動(dòng)生成一個(gè)該包所屬流的轉(zhuǎn)發(fā)請(qǐng)求J并緩存于VCQ；依據(jù)交換模塊的連接模式和VCQ中的轉(zhuǎn)發(fā)請(qǐng)求通過調(diào)度策略完成數(shù)據(jù)包的第一級(jí)轉(zhuǎn)發(fā)；數(shù)據(jù)包到達(dá)輸出端后依據(jù)其自身攜帶的理論路徑信息完成重排序過程。
2.根據(jù)權(quán)利要求1所述之基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)，其特征在于，所述雙緩 沖模式采用隱式的流分割器為到達(dá)數(shù)據(jù)包所屬的流產(chǎn)生一個(gè)轉(zhuǎn)發(fā)請(qǐng)求并緩存于輸入緩存 中的虛擬路徑隊(duì)列；數(shù)據(jù)包及隱式流分割器為其所分配的理論路徑值組合在一起緩存于輸 入緩存中的虛擬輸出隊(duì)列。
3.基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)，其特征在于，所述調(diào)度策略包含兩個(gè)步驟，即， 轉(zhuǎn)發(fā)引擎首先依據(jù)交換模塊的連接模式從特定的虛擬路徑隊(duì)列中取出等待時(shí)間最長的轉(zhuǎn) 發(fā)請(qǐng)求，獲取其所屬的流標(biāo)識(shí)；再依據(jù)該流標(biāo)識(shí)從特定虛擬輸出隊(duì)列中取出待轉(zhuǎn)發(fā)數(shù)據(jù)包 轉(zhuǎn)發(fā)。
全文摘要
本發(fā)明公開了一種基于隱式流分割器的負(fù)載均衡結(jié)構(gòu)，所述輸入緩存采用包含虛擬輸出隊(duì)列(VOQ1)和虛擬路徑隊(duì)列(VCQ)的雙緩沖模式，即到達(dá)的數(shù)據(jù)包和流分割器分配給該包的理論路徑信息組合在一起緩存于VOQ1，同時(shí)，流分割器自動(dòng)生成一個(gè)該包所屬流的轉(zhuǎn)發(fā)請(qǐng)求J并緩存于VCQ；依據(jù)交換模塊的連接模式和VCQ中的轉(zhuǎn)發(fā)請(qǐng)求通過兩步調(diào)度策略完成數(shù)據(jù)包的第一級(jí)轉(zhuǎn)發(fā)；數(shù)據(jù)包到達(dá)輸出端后依據(jù)其自身攜帶的理論路徑信息完成重排序過程。本發(fā)明排除了Byte-Focal結(jié)構(gòu)中DTS算法的缺陷和不足。降低了交換機(jī)的計(jì)算復(fù)雜度和系統(tǒng)的時(shí)延，提高了交換結(jié)構(gòu)的高速交換能力和可擴(kuò)展性，增強(qiáng)了交換結(jié)構(gòu)的公平性。
文檔編號(hào)H04L12/56GK101860489SQ20101019582
公開日2010年10月13日 申請(qǐng)日期2010年6月9日 優(yōu)先權(quán)日2010年6月9日
發(fā)明者曾華燊, 申志軍 申請(qǐng)人:西南交通大學(xué)