專利名稱:分布式負(fù)載平衡器的制作方法
分布式負(fù)載平衡器背景現(xiàn)在諸如因特網(wǎng)等全球通信網(wǎng)絡(luò)隨著依賴這樣的網(wǎng)絡(luò)來通信和數(shù)據(jù)傳送操作的 專用和公司用戶數(shù)量的與日俱增而無處不在。隨著通信安全的改進(jìn),期望更多的數(shù)據(jù)遍歷 諸如服務(wù)器主機(jī)等源和目的地之間的全球通信數(shù)據(jù)骨干,因此對處理和存儲數(shù)據(jù)的實體有 日益增長的需求。通常,這些增長的需求通過添加更多交換設(shè)備和服務(wù)器來處理負(fù)載而在 目的地解決。網(wǎng)絡(luò)負(fù)載平衡器向客戶機(jī)提供對服務(wù)器(例如,“主機(jī)”)的集合所主存的服務(wù)的 訪問。客戶機(jī)連接到(或通過)負(fù)載平衡器,從客戶機(jī)的觀點來看,負(fù)載平衡器根據(jù)一組規(guī) 則透明地將客戶機(jī)轉(zhuǎn)發(fā)到主機(jī)。一般而言,負(fù)載平衡上下文包括被表示為會話的序列的形 式的分組;其中這些會話通常應(yīng)按“平衡”方式在可用主機(jī)之間分配。此外,只要主機(jī)是活 動的(例如,根據(jù)“會話親和性”),每一會話的每個分組一般應(yīng)針對相同的主機(jī)。為了解決這些問題,數(shù)據(jù)中心系統(tǒng)采用整體式負(fù)載平衡器,該整體式負(fù)載平衡器 監(jiān)視主機(jī)的狀態(tài)(例如,活躍度/負(fù)載)并且以所有活動會話的表的形式來維持狀態(tài)。當(dāng) 新會話到達(dá)時,負(fù)載平衡器選擇可用的最小負(fù)載的主機(jī),并且將會話分配給該主機(jī)。同樣, 為了提供會話親和性,負(fù)載平衡器必需通過將條目添加到其會話表來“記住”這一分配/路 由決定。當(dāng)這個會話的后續(xù)分組到達(dá)平衡負(fù)載器時,單個表查找確定正確的主機(jī)。然而,各 個負(fù)載平衡器可以是單個故障點和瓶頸,其中它的會話表的大小(以及由此所維護(hù)的狀態(tài) 量)隨著增長的吞吐量而增加-并且現(xiàn)有會話通信量的路由決定需要狀態(tài)查找(每一分組 一個)。規(guī)避這些限制需要串聯(lián)工作(橫向擴(kuò)展)的多個整體式負(fù)載平衡器、和/或較大且 更強(qiáng)大的負(fù)載平衡器(縱向擴(kuò)展)。然而,橫向擴(kuò)展這些負(fù)載平衡設(shè)備是復(fù)雜的,最值得注 意的是由于需要在負(fù)載平衡器之間維持一致的狀態(tài)。同樣,縱向擴(kuò)展負(fù)載平衡設(shè)備是昂貴 的,因為固定硬件中的成本對吞吐量是非線性的(例如,具有兩倍吞吐量能力的負(fù)載平衡 器花費(fèi)的價格比兩倍多得多)。此外,對于整體式負(fù)載平衡器的可靠性考慮進(jìn)一步增加了所 涉及的挑戰(zhàn),因為沒有相當(dāng)?shù)某杀揪筒荒苋菀椎匮a(bǔ)償這些系統(tǒng)的故障。概述以下提出了簡化概述以便提供對在此描述的某些方面的基本理解。此小結(jié)不是所 要求保護(hù)的主題的詳盡的概述。它既不旨在標(biāo)識出所要求保護(hù)的主題的關(guān)鍵或重要的要 素,也不描繪其范圍。其唯一的目的是以簡化形式呈現(xiàn)一些概念,作為稍后呈現(xiàn)的更詳細(xì)描 述的序言。本發(fā)明提供了分布式負(fù)載平衡器系統(tǒng),該系統(tǒng)經(jīng)由多路分解器(和/或多路復(fù)用 器)以及持續(xù)地適應(yīng)于增加的需求的負(fù)載平衡器服務(wù)器的網(wǎng)絡(luò)來允許數(shù)據(jù)中心的容量的 逐步縮放和增長_(而不是添加另一整體式/集成式負(fù)載平衡器,其中它的完全容量可保持 利用不足)。多路分解器可充當(dāng)數(shù)據(jù)中心的交換系統(tǒng)與負(fù)載平衡器服務(wù)器之間的接口(例 如,多路分解器充當(dāng)具有IOG端口的L2交換機(jī)和具有IG端口的PC之間的接口)。這些負(fù) 載平衡器服務(wù)器包括商品機(jī)器(例如,個人計算機(jī)、膝上型計算機(jī)等等),它們通常被認(rèn)為 是通用類型機(jī)器而不是為特定負(fù)載平衡器目的特制的。負(fù)載平衡器服務(wù)器可還包括虛擬IP地址(VIP身份),使得應(yīng)用程序可以將它們的請求定向到與其相關(guān)聯(lián)的地址,而無需指 定要使用的特定服務(wù)器;其中負(fù)載平衡可通過將VIP映射到表示各個服務(wù)器的多個媒體訪 問控制地址(MAC旋轉(zhuǎn))來發(fā)生。此外,這些負(fù)載平衡器服務(wù)器可以按對或較大的集合來安 排,以便允許從服務(wù)器故障中快速恢復(fù)。多路分解器基于對數(shù)據(jù)流分組的檢查來將請求重 新定向到相應(yīng)的負(fù)載平衡器服務(wù)器。多路分解器的故障可以通過將它們安排在附連到相應(yīng) 的伙伴L2交換機(jī)的伙伴對中來對用戶隱藏,并且在應(yīng)用程序服務(wù)器故障的情況下,可以修 改或自動地設(shè)置配置,使得通信量不再被定向到發(fā)生故障的應(yīng)用程序服務(wù)器。由此,并且從 用戶的觀點來看,維護(hù)了可用性。此外,多路分解器可以檢查傳入數(shù)據(jù)流(例如,5元組、源地址、源端口、目的地地 址、目的地端口、協(xié)議)的IP頭部,以供經(jīng)由映射組件將其隨后傳送到相應(yīng)的負(fù)載平衡器服 務(wù)器。因此,數(shù)據(jù)分組可以基于分配給負(fù)載平衡器服務(wù)器的分組以及環(huán)境因素(例如,負(fù)載 平衡器服務(wù)器上的當(dāng)前負(fù)載)的屬性來劃分。負(fù)載平衡器服務(wù)器進(jìn)一步擁有關(guān)于服務(wù)器 (例如,請求服務(wù)服務(wù)器、POD服務(wù)器等等)的操作的知識,這些服務(wù)器對數(shù)據(jù)中心的傳入請 求進(jìn)行服務(wù)。因此,從客戶機(jī)側(cè),采用單個IP地址來提交對數(shù)據(jù)中心的請求,這提供了作為 呈現(xiàn)給客戶機(jī)的多個請求服務(wù)服務(wù)器的透明度。在一相關(guān)方面,與多路分解器相關(guān)聯(lián)的映射組件可以檢查傳入數(shù)據(jù)流,并且將與 其相關(guān)聯(lián)的所有分組分配給負(fù)載平衡器服務(wù)器(例如,無狀態(tài)映射)_其中數(shù)據(jù)分組基于分 組和環(huán)境因素的屬性來劃分,環(huán)境因素諸如服務(wù)器上的當(dāng)前負(fù)載等。隨后,請求可以從負(fù)載 平衡器服務(wù)器轉(zhuǎn)發(fā)到請求服務(wù)服務(wù)器。這一安排增加了系統(tǒng)的穩(wěn)定性,同時增加了其縮放 的靈活性。因此,可以分解負(fù)載平衡功能/設(shè)計來增加負(fù)載平衡和交換機(jī)制的回復(fù)力和靈 活性。隨著系統(tǒng)大小的增加,這一系統(tǒng)進(jìn)一步便于維護(hù)恒定且穩(wěn)態(tài)的每一主機(jī)的帶寬。此 外,本發(fā)明的負(fù)載平衡方案快速地對系統(tǒng)中負(fù)載/通信量條件的改變作出響應(yīng)。在一方面,請求可由L2交換機(jī)來接收并且由多路分解器在負(fù)載平衡器服務(wù)器上 分布(例如,物理和/或邏輯接口,其中多個MAC地址與VIP相關(guān)聯(lián))。此外,在又一方面,負(fù) 載平衡功能可以被集成為架頂式交換機(jī)的一部分,以便進(jìn)一步增強(qiáng)它們的功能-其中VIP 身份可以駐留在這些TOR交換機(jī)中,這些TOR交換機(jī)使得服務(wù)器的機(jī)架能夠擔(dān)當(dāng)具有對發(fā) 送到一個或多個VIP身份的請求可用的所有服務(wù)器的計算能力的單元。根據(jù)本發(fā)明的方法,首先請求被數(shù)據(jù)中心接收,其中這一傳入請求經(jīng)由零個或多 個交換機(jī)來路由到多路分解器。這一多路分解器進(jìn)一步用多個負(fù)載平衡器服務(wù)器來與交 換機(jī)接口,其中多路分解器基于對數(shù)據(jù)流分組的檢測來將請求重新定向到相應(yīng)的負(fù)載平衡 器。本發(fā)明的分布式安排允許計算的縮放和增長操作,其中通過改變負(fù)載平衡器服務(wù)器的 數(shù)量來調(diào)整負(fù)載平衡操作的容量;因此減少了服務(wù)的利用不足。此外,盡管在概念上所有這 些請求被提交到與數(shù)據(jù)中心相關(guān)聯(lián)的單個IP地址,但每一請求可以由不同的負(fù)載平衡器 服務(wù)器來處理。為實現(xiàn)上述及相關(guān)目的,在此結(jié)合以下描述和附圖描述了所要求保護(hù)的主題的某 些說明性方面。這些方面指示可實踐本主題的各種方式,它們均落在所要求保護(hù)的主題的 范圍之內(nèi)。當(dāng)結(jié)合附圖閱讀以下詳細(xì)描述時,本發(fā)明的其他優(yōu)點和新穎特征將變得顯而易 見。附圖簡述
圖1示出了根據(jù)本發(fā)明的一方面的分布式負(fù)載平衡器系統(tǒng)的框圖。圖2示出了采用整體式和/或集成式的服務(wù)平衡器作為數(shù)據(jù)中心操作的一部分的 現(xiàn)有技術(shù)系統(tǒng)。圖3示出了根據(jù)本發(fā)明又一方面的具有負(fù)載平衡功能的架頂式交換機(jī)的特定方圖4示出了根據(jù)本發(fā)明一方面的分布任務(wù)的方法。圖5示出了根據(jù)本發(fā)明又一方面的具有映射組件的又一負(fù)載平衡器系統(tǒng)。圖6示出了根據(jù)本發(fā)明又一方面的分布負(fù)載平衡功能來作為系統(tǒng)的一部分的特 定方法。圖7示出了定位負(fù)載平衡器服務(wù)器來作為與請求服務(wù)服務(wù)器相關(guān)聯(lián)的機(jī)架的一 部分的負(fù)載分布系統(tǒng)的特定方面。圖8示出根據(jù)本發(fā)明又一方面的便于負(fù)載平衡的人工智能組件。圖9示出了用于實現(xiàn)本發(fā)明的各方面的合適的操作環(huán)境的示意性框圖。圖10示出了用于本發(fā)明的示例計算環(huán)境的又一示意性框圖。詳細(xì)描述現(xiàn)在將參考附圖描述本發(fā)明的各方面,全部附圖中相同的標(biāo)號指的是相同或相應(yīng) 的元素。然而應(yīng)該了解,附圖及其相關(guān)詳細(xì)描述不旨在將所要求保護(hù)的主題限于所公開的 具體形式。相反,其意圖是覆蓋落在所要求保護(hù)的主題的精神和范圍內(nèi)的所有修改、等效和 替換方案。圖1示出了根據(jù)本發(fā)明一方面的分布式負(fù)載平衡器系統(tǒng)110的示意性框圖,該分 布式負(fù)載平衡器系統(tǒng)允許數(shù)據(jù)中心100的容量的逐步縮放和增長。一般而言,數(shù)據(jù)中心100 表示便于分布式處理(例如,客戶機(jī)/服務(wù)器)的中央儲存庫,其中應(yīng)用程序和/或服務(wù)可 以據(jù)此被主存(例如,數(shù)據(jù)庫、文件服務(wù)器、應(yīng)用程序服務(wù)器、中間件等等)。例如,數(shù)據(jù)中 心100可包括任何數(shù)據(jù)、代碼、或web服務(wù)、云服務(wù)、企業(yè)資源處理(ERP)、以及顧客關(guān)系管理 (CRM)的處理能力來便于其分布式處理。此外,這一數(shù)據(jù)中心100可包括服務(wù)器機(jī)架、電信 機(jī)架、功率分布單元、計算機(jī)室空調(diào)單元等等。類似地,與這一數(shù)據(jù)中心相關(guān)聯(lián)的數(shù)據(jù)庫可 包括機(jī)架布局表,該機(jī)架布局表包括機(jī)架項id、名稱、數(shù)據(jù)中心、搭配、行、機(jī)柜、開始空位號 和項占用的空位數(shù)量。分布式負(fù)載平衡器系統(tǒng)100可被實現(xiàn)為多路分解器125和專用于負(fù)載平衡的服務(wù) 器(例如,負(fù)載平衡器服務(wù)器)111、113、115(1至n,其中η為整數(shù))的安排的一部分。如本 申請中所描述的,術(shù)語多路分解器通常涉及描述請求服務(wù)服務(wù)器上的工作負(fù)載的分布。然 而,當(dāng)提供外部用戶或工作負(fù)載的源和請求服務(wù)服務(wù)器之間的連接時,則可進(jìn)一步實現(xiàn)多 路復(fù)用器和/或多路分解器。多路分解器125可獲得來自交換系統(tǒng)130的通信量,并且將 該通信量重新分布到負(fù)載平衡器服務(wù)器111、113、115,其中這些負(fù)載平衡器服務(wù)器可采用 商品機(jī)器,諸如個人計算機(jī)、膝上型計算機(jī)等等,它們通常被認(rèn)為是不為特定負(fù)載平衡目特 制的通用類型機(jī)器。多路分解器125可包括硬件和軟件組件,以供對傳入數(shù)據(jù)流(例如,5 元組、源地址、源端口、目的地地址、目的地端口、協(xié)議)的IP頭部的檢測,以供將其隨后傳 送到相應(yīng)的負(fù)載平衡器服務(wù)器,其中數(shù)據(jù)分組基于分組/環(huán)境因素(例如,負(fù)載平衡器服務(wù) 器上的當(dāng)前負(fù)載)的屬性來劃分,并且被分配給負(fù)載平衡器服務(wù)器111、113、115。這一分配可經(jīng)由與多路分解器125相關(guān)聯(lián)的映射組件(未示出)來進(jìn)一步促進(jìn)。例如,映射組件可 使用諸如循環(huán)、隨機(jī)或?qū)?/4散列(以保留對給定會話的分組的按次序傳遞)等機(jī)制來將 數(shù)據(jù)分組分布到負(fù)載平衡器服務(wù)器111、113、115。同樣,如路由函數(shù)所確定的,負(fù)載平衡器服務(wù)器111、113、115可隨后將其服務(wù)的 分組路由到多個請求服務(wù)服務(wù)器^?^丨^^丨“至!?。?,其中!?。檎麛?shù))。例如,對分組流的 路由可采用多個會話,其中在評估所有這些請求服務(wù)服務(wù)器117、119、121的活躍度和負(fù)載 之后發(fā)生請求服務(wù)服務(wù)器的分配。換言之,負(fù)載平衡器服務(wù)器111、113、115擁有關(guān)于請求 服務(wù)服務(wù)器117、119、121(例如,請求服務(wù)服務(wù)器、POD服務(wù)器等等)的操作的知識,這些服 務(wù)器對數(shù)據(jù)中心的傳入請求進(jìn)行服務(wù)。數(shù)據(jù)中心100中這一分布式負(fù)載平衡的安排基于數(shù)據(jù)中心100的要求增加了負(fù)載 平衡能力的縮放的靈活性。由此,可以分解負(fù)載平衡功能/設(shè)計來增加負(fù)載平衡和交換機(jī) 制的回復(fù)力和靈活性。隨著系統(tǒng)大小的增加,這便于維護(hù)恒定且穩(wěn)態(tài)的每一主機(jī)的帶寬。此 外,本發(fā)明的負(fù)載平衡方案快速地對系統(tǒng)中負(fù)載/通信量條件的改變作出響應(yīng)??梢岳斫?, 圖1本質(zhì)上是示例性的,并且多路分解器還可以是交換機(jī)或路由器的一部分。在一相關(guān)方面,分布工作負(fù)載_諸如在多個服務(wù)器之間分配一系列請求_可以分 成兩個階段。在第一階段,可使用第一類型的硬件、軟件和工作負(fù)載分布算法來在多個負(fù)載 平衡服務(wù)器之間劃分工作負(fù)載。在第二階段,負(fù)載平衡服務(wù)器可經(jīng)由第二類型的硬件、軟件 和工作負(fù)載分布算法來在多個請求服務(wù)服務(wù)器之間進(jìn)一步劃分第一階段所分配的工作負(fù) 載。例如,可選擇第一類型的硬件、軟件、和工作負(fù)載分布算法,通過采用主要用硬件 實現(xiàn)的基本上簡單的操作來使性能最大化、減少所需的會話狀態(tài)量、并且使處理較大工作 負(fù)載的成本最小化。由此,第一類型的硬件、軟件、和工作負(fù)載分布算法可被稱為多路分解 器125。如將在下文中詳細(xì)地描述的,第一類型的硬件、軟件、和工作負(fù)載分布算法的特定實 現(xiàn)可包括(1)將多個交換機(jī)或路由器作為硬件來使用,將鏈接狀態(tài)協(xié)議作為軟件(例如, 0SPF)來使用,將目的地IP地址作為會話ID來使用,并且將等價多徑作為工作負(fù)載分布算 法來使用;(2)將單個交換機(jī)作為硬件來使用,將交換機(jī)的鏈接結(jié)合能力作為軟件來使用 (在主要的交換機(jī)廠商的術(shù)語中還被稱為端口通道),并且將交換機(jī)的鏈接結(jié)合實現(xiàn)所提 供的各種算法中的一個作為該算法來使用(例如,IP 5元組的散列、循環(huán)等等)。根據(jù)又一方面,可選擇第二類型的硬件、軟件、和工作負(fù)載分布算法來使負(fù)載平衡 服務(wù)器的通用性最大化。通常,期望負(fù)載平衡服務(wù)器能夠?qū)崿F(xiàn)任何工作負(fù)載分布算法,該 算法采用可用的信息(例如,與其服務(wù)的當(dāng)前工作負(fù)載有關(guān)的信息;對應(yīng)被定向到適當(dāng)?shù)?請求服務(wù)服務(wù)器的請求或工作負(fù)載項的深度檢查;其他負(fù)載平衡服務(wù)器正在服務(wù)的工作負(fù) 載;實現(xiàn)多路復(fù)用器/多路分解器的組件的工作負(fù)載或狀態(tài);請求服務(wù)服務(wù)器的工作負(fù)載 或狀態(tài);對于未來時間的任何這些元素的工作負(fù)載或狀態(tài)的預(yù)測等等)作為其決策過程的 一部分。此外,期望負(fù)載平衡服務(wù)器能夠卸載來自請求服務(wù)服務(wù)器的功能,諸如加密、解密、 認(rèn)證、或登錄。第二類型的硬件的一特定方面可以是通用目的計算機(jī),其類型通常被用作數(shù) 據(jù)中心服務(wù)器、臺式/家庭計算機(jī)、或膝上型計算機(jī),這是由于這些設(shè)備的成本低以及它們 能接受和執(zhí)行實現(xiàn)任何所需功能的軟件和算法??梢岳斫猓缛Q于目標(biāo)成本、目標(biāo)性能、以及現(xiàn)有設(shè)備的配置,第一類型和第二類型的硬件、軟件、和工作負(fù)載分布算法可以按多種方式來結(jié)合。還可以理解,本發(fā)明允 許基本上簡單的高速機(jī)制(第一類型的硬件、軟件、和工作負(fù)載分布算法)以供將工作負(fù)載 分解到可使用商品服務(wù)器的級別;實現(xiàn)請求到請求服務(wù)服務(wù)器的所需分布(例如,采用可 在個人計算機(jī)上運(yùn)行的任意軟件,而無需硬件的大量投入)。此外,根據(jù)本發(fā)明的一安排是 增量式可縮放的,使得隨著工作負(fù)載的增加或減小,負(fù)載平衡服務(wù)器的數(shù)量可分別地增加 或減小來匹配該工作負(fù)載。容量被添加到或從分布式負(fù)載平衡系統(tǒng)110中減去的粒度是比 常規(guī)系統(tǒng)(例如,常規(guī)的整體式負(fù)載平衡器)的粒度精細(xì)得多的粒度。概念上,在多路分解器和負(fù)載平衡服務(wù)器之間可存在第一網(wǎng)絡(luò),并且在負(fù)載平衡 服務(wù)器和請求服務(wù)服務(wù)器之間可存在第二網(wǎng)絡(luò)。這些網(wǎng)絡(luò)的每一個可由任何數(shù)量的路由 器、交換機(jī)或鏈接(例如,包括無)來構(gòu)建。此外,對第一網(wǎng)絡(luò)或第二網(wǎng)絡(luò)的類型通常不存 在限制。例如,網(wǎng)絡(luò)可以是層2、層3、或?qū)?網(wǎng)絡(luò)或其任意組合。圖2示出了采用整體式負(fù)載平衡器230、232、234的常規(guī)負(fù)載平衡系統(tǒng)-而不是本 發(fā)明的分布式負(fù)載平衡器服務(wù)器。整體式負(fù)載平衡器230、232、234通常在數(shù)據(jù)中心的各種 請求服務(wù)服務(wù)器之間傳播服務(wù)請求。例如,整體式負(fù)載平衡器230、232、234將請求轉(zhuǎn)發(fā)給 “后端”服務(wù)器240中的一個,后端服務(wù)器通?;貜?fù)整體式負(fù)載平衡器230、232、234_而請求 數(shù)據(jù)的客戶機(jī)不知道各功能的內(nèi)部分開。當(dāng)防止客戶機(jī)與后端服務(wù)器直接聯(lián)系時,通過隱 藏內(nèi)部網(wǎng)絡(luò)的結(jié)構(gòu)并且阻止對內(nèi)核網(wǎng)絡(luò)棧的攻擊或在其他端口上運(yùn)行的不相關(guān)的服務(wù)來 獲得附加的安全。隨著數(shù)據(jù)中心200的容量的增長,另一整體式負(fù)載平衡器被添加_而與其相關(guān)聯(lián) 的能力保持未使用,直到數(shù)據(jù)中心的下一擴(kuò)展。然而,就硬件、軟件、設(shè)置和管理而言,這可 能是昂貴的任務(wù)。因此,通過使用整體式負(fù)載平衡器,不能有效地特制對系統(tǒng)的增強(qiáng)以適應(yīng) 數(shù)據(jù)的增量式增長。在一相關(guān)方面,這種整體式負(fù)載平衡器通常不知道后端服務(wù)器240的 操作,并且一般不易于在與后端服務(wù)器240相關(guān)聯(lián)的機(jī)器之間提供智能的分布選擇。圖3示出了根據(jù)本發(fā)明又一方面的分解和分布式負(fù)載平衡器系統(tǒng)300的又一方 面。系統(tǒng)300使得負(fù)載平衡功能能夠被集成為架頂式(TOR)交換機(jī)311、313、315(1至k,其 中k為整數(shù))的一部分,以便進(jìn)一步增強(qiáng)它們的功能并且形成增強(qiáng)的TOR。在系統(tǒng)300中,VIP身份可駐留在TOR交換機(jī)311、313、315中,后者可以進(jìn)一步啟 用例如層3功能。通常,TOR交換可提供各種體系結(jié)構(gòu)的優(yōu)點來幫助故障的隔離和包含,所 述體系結(jié)構(gòu)的優(yōu)點諸如機(jī)架內(nèi)的服務(wù)器的快速端到端的交換、上行鏈路的可預(yù)測的超額訂 閱以及較小的交換域(每一機(jī)架一個)等。在這一安排中,VIP 350可駐留在多個TOR中。 如圖3中云示意圖331所表示的,多路復(fù)用器/多路分解器的功能可以使用交換機(jī)和/或 路由器的等價多徑路由能力來實現(xiàn),以便創(chuàng)建分布式多路復(fù)用器/多路分解器。由此,負(fù)載 平衡器服務(wù)器的功能可駐留在增強(qiáng)的TOR中。圖4示出了根據(jù)本發(fā)明的又一方面的實現(xiàn)分布式負(fù)載平衡器系統(tǒng)的又一方法 400。雖然該示例性方法此處被示出并描述為表示各種事件和/或動作的一系列框,但本發(fā) 明并不受所示出的這些框的排序的限制。例如,根據(jù)本發(fā)明,除了在此示出的次序之外,某 些動作或事件可以按不同的次序發(fā)生和/或與其他動作或事件同時發(fā)生。此外,不是所有 示出的框、事件或動作都是實施根據(jù)本發(fā)明的方法所必需的。此外,將會認(rèn)識到根據(jù)本發(fā)明 的該示例性方法和其他方法可以與在此圖示并描述的方法相關(guān)聯(lián)地實現(xiàn),也可與未示出或描述的其他系統(tǒng)和裝置相關(guān)聯(lián)地實現(xiàn)。首先,在410,數(shù)據(jù)中心接收請求,該請求例如作為具 有與其相關(guān)聯(lián)的多個分組的數(shù)據(jù)流。接著,在420,可以檢查這些傳入數(shù)據(jù)分組來標(biāo)識用于流量的標(biāo)識的字段,其中,在 430,相同的流量中的每一分組可沿著相同的路徑來在相同的負(fù)載平衡器服務(wù)器處終止。由 此,分組可基于分組和環(huán)境因素的屬性來劃分,諸如請求服務(wù)服務(wù)器的健康、可用性、服務(wù) 時間、或負(fù)載;負(fù)載平衡服務(wù)器的健康、可用性或負(fù)載;實現(xiàn)多路分解器的組件的健康或可 用性,其中將分組重新定向到負(fù)載平衡器服務(wù)器以涉及負(fù)載平衡器服務(wù)器的網(wǎng)絡(luò)路徑知曉 且服務(wù)知曉的智能方式發(fā)生。諸如一致散列等公知技術(shù)可用于以響應(yīng)于因素的改變的方式 來將流量定向到負(fù)載平衡器,這些因素影響對負(fù)載平衡器的流量的分配。接著,在440,負(fù)載 平衡器服務(wù)器可以例如在多個服務(wù)請求服務(wù)器之間劃分所涉及的任務(wù)。圖5示出了根據(jù)本發(fā)明一方面的可以提供到負(fù)載平衡器服務(wù)器的無狀態(tài)映射的 映射組件502。如路由函數(shù)508預(yù)定義的,映射組件502可以將每一會話分組定向到指定的 負(fù)載平衡器服務(wù)器。注意,會話是兩個網(wǎng)絡(luò)實體之間一邏輯系列的請求和響應(yīng),這些網(wǎng)絡(luò)實 體可以橫跨若干協(xié)議、許多個別連接,并且可以持續(xù)不確定的時間長度。某些公共會話類型 包括TCP (傳輸控制協(xié)議)、FTP (文件傳輸協(xié)議)、SSL (安全套接字層)、IPSec (IP安全)/ L2TP (第2層隧道協(xié)議)、PPTP (點對點隧道協(xié)議)、RDP (遠(yuǎn)程桌面協(xié)議)等等。大多數(shù)協(xié) 議的會話表征是明確定義的,使得存在每一會話的清楚的開始和結(jié)束、以及區(qū)分這一會話 的相關(guān)聯(lián)的標(biāo)識符。然而,某些會話類型可以具有不同的開始而推斷的結(jié)束,諸如空閑超時 或最大會話持續(xù)時間。因此,對于每一會話分組,會話ID 512被用作到路由函數(shù)508的輸入,會話親和 性被保留;即,給定會話的每一分組可被路由到相同的負(fù)載平衡器服務(wù)器。此外,映射組件 502考慮所有負(fù)載平衡器服務(wù)器的當(dāng)前負(fù)載狀態(tài)來確定每一會話將被分配并且路由到負(fù)載 平衡器服務(wù)器中的哪一個。映射組件502檢測并且向每一會話分組詢問路由信息,路由信息包括例如,會話 ID 512和/或第一會話分組和最后一會話分組上的特殊標(biāo)簽。由此,非第一分組或最后分 組的任何分組被認(rèn)為是中間會話分組。此外,當(dāng)已經(jīng)生成并且分配了會話ID,通常該會話 ID將不再用于后續(xù)會話,使得關(guān)于給定分組屬于哪個會話將不存在模糊。一般地,可以假設(shè) 給定會話ID對于一個會話是唯一的,由此,唯一性由標(biāo)準(zhǔn)網(wǎng)絡(luò)原理或組件來提供。因此,數(shù)據(jù)分組可以基于分組和環(huán)境因素(例如,負(fù)載平衡器服務(wù)器上的當(dāng)前負(fù) 載)的屬性來劃分,并且被分配給負(fù)載平衡器服務(wù)器。負(fù)載平衡器服務(wù)器進(jìn)一步擁有關(guān)于 其他服務(wù)器(例如,請求服務(wù)服務(wù)器、POD服務(wù)器等等)的操作的知識,這些其他服務(wù)器對 數(shù)據(jù)中心的傳入請求進(jìn)行服務(wù)。由此,系統(tǒng)500采用定義負(fù)載平衡器服務(wù)器中的一個或多 個的當(dāng)前可用性的一個或多個路由函數(shù)。路由函數(shù)可進(jìn)一步考慮目的地負(fù)載,使得相同會 話的分組繼續(xù)被路由到相同的目的地主機(jī)以保持會話親和性。圖6示出了在多個TOR交換機(jī)之間分布負(fù)載平衡能力的方法。首先,在610,VIP身 份被分配給TOR交換機(jī),其中當(dāng)VIP被分配給多個TOR時,則等價多徑路由可以將平衡加載 到多個TOR。多個MAC地址可以與VIP相關(guān)聯(lián),其中這種虛擬IP地址可將服務(wù)請求定向到 服務(wù)器,而無需指定要使用的特定服務(wù)器。由此,TOR可以使用散列或循環(huán)算法將通信量重 新定向到相關(guān)聯(lián)的服務(wù)器。此外,在服務(wù)器發(fā)生故障的情況下,可以修改或自動設(shè)置配置,使得通信量不再被定向到發(fā)生故障的服務(wù)器。接著,在620,可以在各交換機(jī)之間分布負(fù)載 平衡功能,其中負(fù)載平衡服務(wù)器可以駐留為如此增強(qiáng)的TOR交換機(jī)的一部分。在630,服務(wù) 器數(shù)據(jù)中心所接收的請求可以被轉(zhuǎn)發(fā)給TOR交換機(jī),用于處理與服務(wù)請求相關(guān)聯(lián)的分組。 此外,多路復(fù)用器/多路分解器能力可以用硬件和/或軟件組件的形式被實現(xiàn)為TOR交換 機(jī)的一部分,以便如涉及負(fù)載平衡器服務(wù)器的用路徑感知且服務(wù)感知的智能方式將請求定 向到相關(guān)聯(lián)的服務(wù)服務(wù)器。圖7示出了定位負(fù)載平衡器服務(wù)器702來作為與請求服務(wù)服務(wù)器704相關(guān)聯(lián)的機(jī) 架的一部分的負(fù)載分布系統(tǒng)700的又一方面。這一安排允許附加的負(fù)載平衡作為服務(wù)請求 服務(wù)器的一部分,并且負(fù)載平衡器服務(wù)器可以進(jìn)一步從請求服務(wù)服務(wù)器上卸載責(zé)任。多路 分解器710進(jìn)一步允許將傳入數(shù)據(jù)流隧穿到負(fù)載平衡器服務(wù)器702??梢越亩嗦贩纸?器710到負(fù)載平衡器服務(wù)器702 (和/或從負(fù)載平衡服務(wù)器到請求服務(wù)服務(wù)器)的隧道,其 中會話通過這樣的隧道來協(xié)商。這樣的隧穿可以進(jìn)一步伴有取決于所涉及的請求和/或交 換機(jī)(例如,L2/L3)的類型來建立到服務(wù)請求服務(wù)器的其他隧道。多路分解器710可以進(jìn) 一步基于散列函數(shù)來指定負(fù)載平衡器服務(wù)器,其中,負(fù)載平衡器服務(wù)器可隨后與服務(wù)請求 服務(wù)器通信。例如,多路分解器710可以生成相同的路由函數(shù),該路由函數(shù)用平衡的方式將分 組負(fù)載分布到可用的負(fù)載平衡器服務(wù)器和/或服務(wù)請求服務(wù)器。指定的服務(wù)器例如根據(jù)常 規(guī)分組路由方案和技術(shù)來繼續(xù)接收會話分組。由此,可以針對路由函數(shù)來處理會話信息以 便于負(fù)載平衡。多路分解器繼續(xù)將相同會話的會話分組路由到相同的主機(jī)直到檢測到最后 一分組,以便保留會話親和性。圖8示出了采用人工智能(Al)組件810的系統(tǒng)800,可以采用該人工智能組件來 便于推斷和/或確定何時、何地、如何在負(fù)載平衡器服務(wù)器和/或服務(wù)請求服務(wù)器之間分布 傳入請求。如此處所使用的,術(shù)語“推斷”通常指的是根據(jù)經(jīng)由事件和/或數(shù)據(jù)捕獲的一組 觀察結(jié)果來推出或推斷系統(tǒng)、環(huán)境、和/或用戶的狀態(tài)的過程??梢允褂猛茢鄟碜R別特定上 下文或動作,也可以生成例如狀態(tài)上的概率分布。推斷可以是概率性的,即,基于對數(shù)據(jù)和 事件的考慮計算所關(guān)注狀態(tài)上的概率分布。推斷也可以是指用于從一組事件和/或數(shù)據(jù)構(gòu) 成較高級事件的技術(shù)。這樣的推斷導(dǎo)致從一組觀察到的事件和/或存儲的事件數(shù)據(jù)構(gòu)建新 的事件或動作,而不管事件在時間接近度上是否緊密相關(guān),以及事件和數(shù)據(jù)是來自一個還 是若干個事件和數(shù)據(jù)源。AI組件810可采用如上文中結(jié)合促進(jìn)此處所描述的本發(fā)明的各方面描述的各種 合適的基于AI的方案中的任一種。例如,可以經(jīng)由自動分類系統(tǒng)和過程來促進(jìn)用于顯式或 隱式地學(xué)習(xí)如何以智能方式來平衡任務(wù)和負(fù)載的過程。分類可采用基于概率和/或基于統(tǒng) 計的分析(例如,考慮到分析效用和成本)來預(yù)測或推斷用戶期望自動執(zhí)行的動作。例如, 可采用支持向量機(jī)(SVM)分類器??刹捎闷渌诸惙椒?,包括貝葉斯網(wǎng)絡(luò)、決策樹、以及提 供不同獨立性模式的概率分類模型。如這里所使用的分類還包括被用來開發(fā)優(yōu)先級模型的 統(tǒng)計回歸。如從本說明書中可以容易地理解的,本發(fā)明可以使用顯式訓(xùn)練(例如,經(jīng)由一般 訓(xùn)練數(shù)據(jù))以及隱式訓(xùn)練(例如,經(jīng)由觀察用戶行為、接收外來信息)的分類器,以使得使 用分類器來根據(jù)預(yù)定準(zhǔn)則自動確定向問題返回哪一個答案。例如,對于公知的SVM,SVM經(jīng)由分類器構(gòu)造器和特征選擇模塊中的學(xué)習(xí)或訓(xùn)練階段來配置。分類器是將輸入屬性矢量χ =(xl,x2,x3,x4,xn)映射到該輸入屬于一個類的置信度的函數(shù),即f(χ)=置信度(類)。如在此所使用的,術(shù)語“組件”、“系統(tǒng)”等意指計算機(jī)相關(guān)實體,或者是硬件、硬件 和軟件的組合、軟件或執(zhí)行中的軟件。例如,組件可以是但不限于在處理器上運(yùn)行的進(jìn)程、 處理器、對象、實例、可執(zhí)行代碼、執(zhí)行的線程、程序和/或計算機(jī)。作為說明,在計算機(jī)上運(yùn) 行的應(yīng)用程序和計算機(jī)都可以是組件。一個或多個組件可以駐留在進(jìn)程和/或執(zhí)行的線程 中,并且組件可以位于一個計算機(jī)內(nèi)和/或分布在兩個或更多計算機(jī)之間。在此使用詞語“示例性”意指用作示例、實例或說明。在此被描述為“示例性”的 任何方面或設(shè)計并不一定要被解釋為相比其他方面或設(shè)計更優(yōu)選或有利。類似地,在此提 供的示例只是出于清楚和理解的目的并且并不意味著以任何方式限制本發(fā)明或其部分???以理解,本可呈現(xiàn)多個其他或替換示例,但已出于簡明的目的而省略了。此外,本發(fā)明的全部或部分可以使用產(chǎn)生控制計算機(jī)以實現(xiàn)所公開的發(fā)明的軟 件、固件、硬件或其任意組合的標(biāo)準(zhǔn)編程和/或工程技術(shù)而被實現(xiàn)為方法、裝置或制品。例 如,計算機(jī)可讀介質(zhì)可以包括,但不僅限于,磁存儲設(shè)備(例如,硬盤、軟盤、磁條)、光盤(例 如,緊致盤(…⑶)、數(shù)字多功能盤(DVD)…)、智能卡,以及閃存設(shè)備(例如,卡、棒、鍵驅(qū)動 器…)。另外,應(yīng)該理解,可以使用載波來攜帶計算機(jī)可讀電子數(shù)據(jù),諸如在傳輸和接收電子 郵件或在訪問諸如因特網(wǎng)或局域網(wǎng)(LAN)之類的網(wǎng)絡(luò)時所使用的那些。當(dāng)然,本領(lǐng)域的技 術(shù)人員將會認(rèn)識到,可在不背離所要求保護(hù)的主題的范圍或精神的情況下對此配置進(jìn)行許 多修改。為了對所公開的主題的各個方面提供上下文,圖9和10以及以下討論旨在提供對 其中可實現(xiàn)所公開的主題的各方面的合適的環(huán)境的簡要、概括描述。盡管以上在運(yùn)行在一 臺和/或多臺計算機(jī)上的計算機(jī)程序的計算機(jī)可執(zhí)行指令的一般上下文中描述了本主題, 但本領(lǐng)域的技術(shù)人員將認(rèn)識到,本發(fā)明也可結(jié)合其他程序模塊實現(xiàn)。一般而言,程序模塊包 括執(zhí)行特定任務(wù)和/或?qū)崿F(xiàn)特定抽象數(shù)據(jù)類型的例程、程序、對象、組件、數(shù)據(jù)結(jié)構(gòu)等。而 且,本領(lǐng)域的技術(shù)人員可以理解,本發(fā)明的方法可用其他計算機(jī)系統(tǒng)配置實現(xiàn),包括單處理 器或多處理器計算機(jī)系統(tǒng)、小型計算設(shè)備、大型計算機(jī)、以及個人計算機(jī)、手持式計算設(shè)備 (例如,個人數(shù)字助理(PDA)、電話、手表…)、基于微處理器或可編程消費(fèi)產(chǎn)品或工業(yè)電子 設(shè)備等。所示各方面也可在任務(wù)由通過通信網(wǎng)絡(luò)鏈接的遠(yuǎn)程處理設(shè)備中執(zhí)行的分布式計算 環(huán)境中實現(xiàn)。然而,即使不是本發(fā)明的全部方面,至少也有本發(fā)明的部分方面可以在獨立計 算機(jī)上實現(xiàn)。在分布式計算環(huán)境中,程序模塊可以位于本地和遠(yuǎn)程存儲器存儲設(shè)備中。參考圖9,描述了用于實現(xiàn)本發(fā)明的各方面的示例性環(huán)境910,其包括計算機(jī)912。 計算機(jī)912包括處理單元914、系統(tǒng)存儲器916,以及系統(tǒng)總線918。系統(tǒng)總線918將系統(tǒng)組 件——包括但不僅限于系統(tǒng)存儲器916——稱合到處理單元914。處理單元914可以是各 種處理器中的任一種。還可以使用雙微處理器及其他多處理器體系結(jié)構(gòu)作為處理單元914。系統(tǒng)總線918可以是若干類型的總線結(jié)構(gòu)中的任一種,包括存儲器總線或存儲器 控制器、外圍總線或外部總線、和/或使用各種可用的總線體系結(jié)構(gòu)中的任一種的局部總 線,可用的總線體系結(jié)構(gòu)包括,但不限于,11位總線、工業(yè)標(biāo)準(zhǔn)體系結(jié)構(gòu)(ISA)、微通道體系 結(jié)構(gòu)(MCA)、擴(kuò)展ISA(EISA)、智能驅(qū)動器電子接口(IDE)、VESA局部總線(VLB)、外圍部件 互連(PCI)、通用串行總線(USB)、高級圖形接口(AGP)、個人計算機(jī)存儲卡國際協(xié)會總線(PCMCIA)以及小型計算機(jī)系統(tǒng)接口(SCSI)。系統(tǒng)存儲器916包括易失性存儲器920和非易失性存儲器922。基本輸入/輸出 系統(tǒng)(BIOS)被存儲在非易失性存儲器922中,包含例如在啟動過程中幫助在計算機(jī)912內(nèi) 的元件之間傳輸信息的基本例程。作為說明而非限制,非易失性存儲器922可以包括只讀 存儲器(ROM)、可編程ROM(PROM)、電可編程ROM(EPROM)、電可擦除ROM(EEPROM)或者閃存。 易失性存儲器920包括充當(dāng)外部高速緩沖存儲器的隨機(jī)存取存儲器(RAM)。作為示例而非 限制,RAM以多種形式可用,諸如同步RAM(SRAM)、動態(tài)RAM(DRAM)、同步DRAM(SDRAM)、雙倍 數(shù)據(jù)速率SDRAM (DDR SDRAM)、增強(qiáng)型SDRAM (ESDRAM)、同步鏈路DRAM (SLDRAM)以及直接存 儲器總線(Rambus)RAM(DRRAM)。計算機(jī)912還包括可移動的/不可移動的,易失性/非易失性的計算機(jī)存儲介質(zhì)。 圖9示出了盤存儲924,其中這一盤存儲924包括但不限于諸如磁盤驅(qū)動器、軟盤驅(qū)動器、磁 帶驅(qū)動器、Jaz驅(qū)動器、Zip驅(qū)動器、LS-60驅(qū)動器、閃存卡、或者記憶棒等設(shè)備。另外,磁盤 存儲器924可包括存儲介質(zhì)——分開地或與其他存儲介質(zhì)相結(jié)合——包括,但不限于,諸如 緊致盤ROM設(shè)備之類的光盤驅(qū)動器(CD-ROM)、⑶可記錄驅(qū)動器(⑶-R驅(qū)動器)、⑶可重寫 驅(qū)動器(⑶-RW驅(qū)動器)或數(shù)字多功能盤ROM驅(qū)動器(DVD-ROM)。為便于磁盤存儲設(shè)備924 連接到系統(tǒng)總線918,通常使用諸如接口 926之類的可移動或不可移動接口。應(yīng)該明白,圖9描述了在用戶和在合適的操作環(huán)境910中描述的基本計算機(jī)資源 之間擔(dān)當(dāng)中介的軟件。這樣的軟件包括操作系統(tǒng)928。可以存儲在磁盤存儲器924上的操 作系統(tǒng)928用于控制和分配計算機(jī)系統(tǒng)912的資源。系統(tǒng)應(yīng)用程序930利用由操作系統(tǒng) 928通過存儲在系統(tǒng)存儲器916或者存儲在磁盤存儲器924上的程序模塊932和程序數(shù)據(jù) 934對資源的管理。應(yīng)該明白,在此描述的各個組件可以用各種操作系統(tǒng)或操作系統(tǒng)的組合 來實施。用戶通過輸入設(shè)備936向計算機(jī)912輸入命令或信息。輸入設(shè)備936包括,但不 限于,諸如鼠標(biāo)、跟蹤球、指示筆、觸摸板之類的指示設(shè)備、鍵盤、麥克風(fēng)、游戲桿、游戲手柄、 圓盤式衛(wèi)星天線、掃描儀、TV調(diào)諧器卡、數(shù)碼相機(jī)、數(shù)字視頻攝像機(jī)、網(wǎng)絡(luò)攝像頭等等。這些 及其他輸入設(shè)備通過系統(tǒng)總線918經(jīng)由接口端口 938連接到處理單元914。接口端口 938 包括,例如,串行端口、并行端口、游戲端口,以及通用串行總線(USB)。輸出設(shè)備940與輸入 設(shè)備936使用一些相同類型的端口。如此,例如,可以使用USB端口來向計算機(jī)912提供輸 入,以及從計算機(jī)912向輸出設(shè)備940輸出信息。提供輸出適配器942是為了示出存在如 監(jiān)視器、揚(yáng)聲器、和打印機(jī)以及其他輸出設(shè)備940等需要特殊適配器的一些輸出設(shè)備940。 輸出適配器942包括,作為說明而不是限制,在輸出設(shè)備940和系統(tǒng)總線918之間提供連接 手段的視頻卡和聲卡。應(yīng)該注意,其他設(shè)備和/或設(shè)備的系統(tǒng)提供諸如遠(yuǎn)程計算機(jī)944之 類的輸入和輸出兩種能力。計算機(jī)912可以使用到諸如遠(yuǎn)程計算機(jī)944之類的一個或多個遠(yuǎn)程計算機(jī)的邏輯 連接來在聯(lián)網(wǎng)環(huán)境中操作。遠(yuǎn)程計算機(jī)944可以是個人計算機(jī)、服務(wù)器、路由器、網(wǎng)絡(luò)PC、 工作站、基于微處理器的電器、對等設(shè)備或其他公共網(wǎng)絡(luò)節(jié)點等等,并且通常包括就計算機(jī) 912所描述的許多或全部元件。出于簡潔起見,與遠(yuǎn)程計算機(jī)944 一起,只示出了存儲器設(shè) 備946。遠(yuǎn)程計算機(jī)944通過網(wǎng)絡(luò)接口 948在邏輯上連接到計算機(jī)912,然后,經(jīng)由通信連 接950在物理上連接。網(wǎng)絡(luò)接口 948涵蓋諸如局域網(wǎng)(LAN)和廣域網(wǎng)(WAN)這樣的通信網(wǎng)絡(luò)。LAN技術(shù)包括光纖分布式數(shù)據(jù)接口(FDDI)、銅分布式數(shù)據(jù)接口(⑶DI)、以太網(wǎng)/IEEE 802. 3、令牌環(huán)/IEEE 802. 5等。WAN技術(shù)包括,但不限于,點對點鏈路、電路交換網(wǎng),如綜合 業(yè)務(wù)數(shù)字網(wǎng)(ISDN)及其變體,分組交換網(wǎng)絡(luò),以及數(shù)字訂戶線(DSL)。通信連接950是指用來將網(wǎng)絡(luò)接口 948連接到總線918的硬件/軟件。盡管為清 楚起見通信連接950被示為在計算機(jī)912內(nèi)部,但是,它也可以位于計算機(jī)912外部。連 接到網(wǎng)絡(luò)接口 948所需的硬件/軟件包括,只作示例,內(nèi)部和外部技術(shù),諸如,調(diào)制解調(diào)器, 包括常規(guī)電話級調(diào)制解調(diào)器、電纜調(diào)制解調(diào)器和DSL調(diào)制解調(diào)器、ISDN適配器,以及以太網(wǎng) 卡。圖10是根據(jù)本發(fā)明一個方面可被用作分布式負(fù)載平衡的一部分的示例計算環(huán)境 1000的示意性框圖。系統(tǒng)1000包括一個或多個客戶機(jī)1010??蛻魴C(jī)1010可以是硬件和 /或軟件(例如,線程、進(jìn)程、計算設(shè)備)。系統(tǒng)1000還包括一個或多個服務(wù)器1030。服務(wù) 器1030也可以是硬件和/或軟件(例如,線程、進(jìn)程、計算設(shè)備)。服務(wù)器1030可以容納各 線程以通過例如利用在此描述的各組件執(zhí)行轉(zhuǎn)換。在客戶機(jī)1010和服務(wù)器1030之間的一 種可能的通信能夠以適合在兩個或更多計算機(jī)進(jìn)程之間傳輸?shù)臄?shù)據(jù)分組的形式進(jìn)行。系統(tǒng) 1000包括通信框架1050,該通信框架1050可以被用來促進(jìn)客戶機(jī)1010和服務(wù)器1030之 間的通信??蛻魴C(jī)1010可在操作上連接至一個或多個客戶機(jī)數(shù)據(jù)存儲1060,客戶機(jī)數(shù)據(jù)存 儲可用來存儲對客戶機(jī)1010本地的信息。同樣地,服務(wù)器1030可在操作上連接到可以用 來存儲對服務(wù)器1030本地的信息的一個或多個服務(wù)器數(shù)據(jù)存儲1040。以上描述的內(nèi)容包括各個示例性方面。當(dāng)然,出于描繪這些方面的目的而描述每 一個可以想到的組件或方法的組合是不可能的,但本領(lǐng)域內(nèi)的普通技術(shù)人員應(yīng)該認(rèn)識到, 許多進(jìn)一步的組合和排列都是可能的。因此,在此描述的各方面旨在包括所有這些屬于所 附權(quán)利要求書的精神和范圍內(nèi)的改變、修改和變型。此外,就在說明書或權(quán)利要求書中使用術(shù)語“包括”而言,這一術(shù)語旨在以與術(shù)語 “包含”在被用作權(quán)利要求書中的過渡詞時所解釋的相似的方式為包含性的。
權(quán)利要求
1.一種計算機(jī)實現(xiàn)的系統(tǒng),包括以下計算機(jī)可執(zhí)行組件將負(fù)載平衡器服務(wù)器(111、113、115)與數(shù)據(jù)中心(100)的交換系統(tǒng)(130)進(jìn)行接口的 多路分解器組件(125);以及所述負(fù)載平衡器服務(wù)器(111、113、115)在多個請求服務(wù)服務(wù)器(117、119、121)之間分 布所述數(shù)據(jù)中心(100)所接收的請求。
2.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,還包括架頂(TOR)交換機(jī),所 述架頂交換機(jī)包括所述多路分解器。
3.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,所述多路分解器是交換機(jī)或 路由器的一部分。
4.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,所述多路分解器還包括采用 路由函數(shù)將請求定向到所述負(fù)載平衡器服務(wù)器的映射組件。
5.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,所述多路分解器和所述負(fù)載 平衡器服務(wù)器與L2、L3、或L4網(wǎng)絡(luò)或其組合相關(guān)聯(lián)。
6.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,所述負(fù)載平衡器服務(wù)器選自 包括不是為負(fù)載平衡器功能特制的膝上型計算機(jī)、個人計算機(jī)或商品機(jī)器的組。
7.如權(quán)利要求4所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,所述路由函數(shù)用可指定到多 個媒體訪問控制(MAC)地址的IP地址來實現(xiàn)MAC旋轉(zhuǎn)。
8.如權(quán)利要求1所述的計算機(jī)實現(xiàn)的系統(tǒng),其特征在于,還包括便于負(fù)載平衡來作為 分布式系統(tǒng)的一部分的人工智能組件。
9.一種計算機(jī)實現(xiàn)的方法,包括以下計算機(jī)可執(zhí)行動作經(jīng)由多路分解器和負(fù)載平衡器服務(wù)器在數(shù)據(jù)中心內(nèi)分布(620)負(fù)載平衡功能;以及經(jīng)由所述多路分解器將接收的傳入請求定向(640)到所述負(fù)載平衡器服務(wù)器。
10.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括調(diào)整負(fù)載平衡器服務(wù) 器的數(shù)量來適應(yīng)傳入請求。
11.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括采用商品計算機(jī)作為 負(fù)載衡器服務(wù)器的一部分來執(zhí)行以軟件代碼的工作負(fù)載分布算法。
12.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括由所述負(fù)載平衡器服 務(wù)器在請求服務(wù)服務(wù)器之間分布任務(wù)。
13.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括基于環(huán)境因素將請求 分配給請求服務(wù)服務(wù)器。
14.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括實現(xiàn)負(fù)載平衡功能作 為交換機(jī)、路由器、或架頂(TOR)交換機(jī)、或其組合的一部分。
15.如權(quán)利要求14所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括將VIP身份分配給 TOR交換機(jī)。
16.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括由所述多路分解器來 檢查數(shù)據(jù)流以便標(biāo)識數(shù)據(jù)流量。
17.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,定位動作是以網(wǎng)絡(luò)路徑感知 且服務(wù)感知的智能方式來執(zhí)行的。
18.如權(quán)利要求17所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括采用從所述多路分解器到所述負(fù)載平衡器服務(wù)器的隧穿和從所述負(fù)載平衡服務(wù)器到所述請求服務(wù)服務(wù)器的 隧穿中的至少一個。
19.如權(quán)利要求9所述的計算機(jī)實現(xiàn)的方法,其特征在于,還包括所述負(fù)載平衡服務(wù)器 從所述請求服務(wù)服務(wù)器卸載功能。
20.一種計算機(jī)實現(xiàn)的系統(tǒng),包括以下計算機(jī)可執(zhí)行組件用于將數(shù)據(jù)中心(100)的交換系統(tǒng)(130)與分布式負(fù)載平衡器系統(tǒng)(110)進(jìn)行接口的 裝置;以及用于在多個請求服務(wù)服務(wù)器(117、119、121)之間分布所述數(shù)據(jù)中心(100)所接收的請 求的裝置。
全文摘要
在數(shù)據(jù)中心分布負(fù)載平衡功能的系統(tǒng)和方法。多路分解器和負(fù)載平衡器服務(wù)器的網(wǎng)絡(luò)允許計算的縮放和增長操作,其中負(fù)載平衡操作的容量可以通過改變負(fù)載平衡服務(wù)器的數(shù)量來調(diào)整。因此,可以分解負(fù)載平衡功能/設(shè)計來增加數(shù)據(jù)中心的負(fù)載平衡和交換機(jī)制的回復(fù)力和靈活性。
文檔編號H04L12/56GK102119512SQ200980131708
公開日2011年7月6日 申請日期2009年8月11日 優(yōu)先權(quán)日2008年8月11日
發(fā)明者A·G·格林伯格, D·馬爾茨, K·V·韋德, N·艾哈邁德, P·K·帕特爾, P·拉希瑞, S·森古普塔 申請人:微軟公司