一種服務(wù)器、負(fù)載均衡器以及服務(wù)器負(fù)載均衡方法和系統(tǒng)的制作方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及服務(wù)器集群應(yīng)用技術(shù)領(lǐng)域，特別是涉及一種服務(wù)器、負(fù)載均衡器以及服務(wù)器負(fù)載均衡方法和系統(tǒng)。
【背景技術(shù)】
[0002]負(fù)載均衡技術(shù)普遍應(yīng)用于服務(wù)器集群中，由獨(dú)立的負(fù)載均衡軟件或硬件，按照設(shè)定的負(fù)載均衡策略，將服務(wù)請(qǐng)求分發(fā)至集群中不同的服務(wù)器，達(dá)到整體服務(wù)器集群的處理均衡目的。
[0003]目前普遍采用的負(fù)載均衡策略均是基于被動(dòng)均攤的原則，比如輪詢策略(Round-Robin),或者帶有權(quán)重的輪詢策略(Weighted Round-Robin)。這些均衡策略技術(shù)是假設(shè)集群中的各服務(wù)器具有相似的處理能力，而實(shí)際應(yīng)用中集群內(nèi)各服務(wù)器性能參差不齊，并動(dòng)態(tài)變化。其次，現(xiàn)有的均衡策略技術(shù)缺乏依據(jù)服務(wù)器實(shí)時(shí)處理情況進(jìn)行動(dòng)態(tài)調(diào)整的能力。

【發(fā)明內(nèi)容】

[0004]鑒于以上所述現(xiàn)有技術(shù)的缺點(diǎn)，本發(fā)明的目的在于提供一種服務(wù)器、負(fù)載均衡器以及服務(wù)器負(fù)載均衡方法和系統(tǒng)，用于解決現(xiàn)有負(fù)載均衡策略技術(shù)缺乏依據(jù)服務(wù)器實(shí)時(shí)處理情況進(jìn)行動(dòng)態(tài)調(diào)整的能力的問(wèn)題。
[0005]為實(shí)現(xiàn)上述目的及其他相關(guān)目的，本發(fā)明提供一種服務(wù)器負(fù)載均衡方法，應(yīng)用于負(fù)載均衡器和連接在所述負(fù)載均衡器上的服務(wù)器集群中，所述負(fù)載均衡方法包括:
[0006]服務(wù)器向負(fù)載均衡器發(fā)送反映自身處理能力的耗時(shí)數(shù)據(jù)；
[0007]負(fù)載均衡器接收所述服務(wù)器集群中所有服務(wù)器的所述耗時(shí)數(shù)據(jù)并按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序，形成一輪優(yōu)先級(jí)隊(duì)列；以及
[0008]在負(fù)載均衡器接收到請(qǐng)求時(shí)，將所述請(qǐng)求依次分配至所述優(yōu)先級(jí)隊(duì)列中當(dāng)前最高優(yōu)先級(jí)的耗時(shí)數(shù)據(jù)所對(duì)應(yīng)的服務(wù)器進(jìn)行處理。
[0009]優(yōu)選地，所述耗時(shí)數(shù)據(jù)包括每一服務(wù)器處理每次請(qǐng)求的耗時(shí)值和在一固定周期內(nèi)處理一次請(qǐng)求的平均耗時(shí)值。
[0010]優(yōu)選地，所述負(fù)載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進(jìn)行通信，并為請(qǐng)求耗時(shí)數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負(fù)載均衡器為所述消息主題的訂閱者。
[0011]本發(fā)明還提供了一種負(fù)載均衡器，至少連接于一服務(wù)器集群，所述負(fù)載均衡器包括:
[0012]耗時(shí)數(shù)據(jù)隊(duì)列生成單元，用于接收所述服務(wù)器集群中所有服務(wù)器向負(fù)載均衡器發(fā)送的反映服務(wù)器處理能力的耗時(shí)數(shù)據(jù)，并按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序，以形成一輪優(yōu)先級(jí)隊(duì)列；
[0013]請(qǐng)求均衡分配單元，用于在負(fù)載均衡器接收到請(qǐng)求時(shí)，將所述請(qǐng)求依次分配至所述優(yōu)先級(jí)隊(duì)列中當(dāng)前最高優(yōu)先級(jí)的耗時(shí)數(shù)據(jù)所對(duì)應(yīng)的服務(wù)器進(jìn)行處理。
[0014]優(yōu)選地，所述耗時(shí)數(shù)據(jù)包括每一服務(wù)器處理每次請(qǐng)求的耗時(shí)值和在一固定周期內(nèi)處理一次請(qǐng)求的平均耗時(shí)值。
[0015]優(yōu)選地，所述負(fù)載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進(jìn)行通信，并為請(qǐng)求耗時(shí)數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負(fù)載均衡器為所述消息主題的訂閱者。
[0016]本發(fā)明還提供了一種服務(wù)器，由若干所述服務(wù)器構(gòu)成一服務(wù)器集群，并將所述服務(wù)器集群連接在一負(fù)載均衡器上，所述服務(wù)器包括:
[0017]耗時(shí)數(shù)據(jù)發(fā)送單元，用于統(tǒng)計(jì)反映服務(wù)器處理能力的耗時(shí)數(shù)據(jù)并向負(fù)載均衡器發(fā)送所述耗時(shí)數(shù)據(jù)，以供負(fù)載均衡器在接收所述服務(wù)器集群中所有服務(wù)器的所述耗時(shí)數(shù)據(jù)后按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序以形成一輪優(yōu)先級(jí)隊(duì)列；
[0018]請(qǐng)求接收單元，用于在負(fù)載均衡器接收到請(qǐng)求并將所述請(qǐng)求依次分配至所述優(yōu)先級(jí)隊(duì)列中當(dāng)前最高優(yōu)先級(jí)的耗時(shí)數(shù)據(jù)所對(duì)應(yīng)的服務(wù)器進(jìn)行處理時(shí)，對(duì)應(yīng)接收所述請(qǐng)求。
[0019]優(yōu)選地，所述耗時(shí)數(shù)據(jù)包括每一服務(wù)器處理每次請(qǐng)求的耗時(shí)值和在一固定周期內(nèi)處理一次請(qǐng)求的平均耗時(shí)值。
[0020]優(yōu)選地，所述負(fù)載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進(jìn)行通信，并為請(qǐng)求耗時(shí)數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負(fù)載均衡器為所述消息主題的訂閱者。
[0021]本發(fā)明還提供了一種服務(wù)器負(fù)載均衡系統(tǒng)，包括:
[0022]服務(wù)器集群，包括若干服務(wù)器，所述服務(wù)器用于向負(fù)載均衡器發(fā)送反映自身處理能力的耗時(shí)數(shù)據(jù)；
[0023]負(fù)載均衡器，用于接收所述服務(wù)器集群中所有服務(wù)器的所述耗時(shí)數(shù)據(jù)并按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序，形成一輪優(yōu)先級(jí)隊(duì)列；以及在接收到請(qǐng)求時(shí)，將所述請(qǐng)求依次分配至所述優(yōu)先級(jí)隊(duì)列中當(dāng)前最高優(yōu)先級(jí)的耗時(shí)數(shù)據(jù)所對(duì)應(yīng)的服務(wù)器進(jìn)行處理。
[0024]優(yōu)選地，所述耗時(shí)數(shù)據(jù)包括每一服務(wù)器處理每次請(qǐng)求的耗時(shí)值和在一固定周期內(nèi)處理一次請(qǐng)求的平均耗時(shí)值。
[0025]優(yōu)選地，所述負(fù)載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進(jìn)行通信，并為請(qǐng)求耗時(shí)數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負(fù)載均衡器為所述消息主題的訂閱者。
[0026]如上所述，本發(fā)明具有以下有益效果:本發(fā)明依據(jù)集群中的各服務(wù)器上報(bào)的實(shí)時(shí)業(yè)務(wù)處理情況，動(dòng)態(tài)調(diào)整負(fù)載均衡策略，以達(dá)到整體集群的負(fù)載均衡優(yōu)化目的，很好地解決了現(xiàn)有負(fù)載均衡策略技術(shù)缺乏依據(jù)服務(wù)器實(shí)時(shí)處理情況進(jìn)行動(dòng)態(tài)調(diào)整的能力的問(wèn)題。
【附圖說(shuō)明】
[0027]圖1顯示為本發(fā)明中服務(wù)器負(fù)載均衡方法所在的應(yīng)用環(huán)境原理圖。
[0028]圖2顯示為本發(fā)明中服務(wù)器負(fù)載均衡系統(tǒng)的原理圖示意圖。
[0029]圖3示為本發(fā)明中一種負(fù)載均衡器的實(shí)施原理圖。
[0030]圖4示為本發(fā)明中一種服務(wù)器的實(shí)施原理圖。
[0031]元件標(biāo)號(hào)說(shuō)明
[0032]101，201，301負(fù)載均衡器
[0033]102，202服務(wù)器集群
[0034]102a, 102b, 102c, 202a, 202b, 202c, 401服務(wù)器
[0035]301a耗時(shí)數(shù)據(jù)隊(duì)列生成單元
[0036]301b請(qǐng)求均衡分配單元
[0037]401a耗時(shí)數(shù)據(jù)發(fā)送單元
[0038]401b請(qǐng)求接收單元
【具體實(shí)施方式】
[0039]以下通過(guò)特定的具體實(shí)例說(shuō)明本發(fā)明的實(shí)施方式，本領(lǐng)域技術(shù)人員可由本說(shuō)明書所揭露的內(nèi)容輕易地了解本發(fā)明的其他優(yōu)點(diǎn)與功效。本發(fā)明還可以通過(guò)另外不同的【具體實(shí)施方式】加以實(shí)施或應(yīng)用，本說(shuō)明書中的各項(xiàng)細(xì)節(jié)也可以基于不同觀點(diǎn)與應(yīng)用，在沒(méi)有背離本發(fā)明的精神下進(jìn)行各種修飾或改變。需說(shuō)明的是，在不沖突的情況下，以下實(shí)施例及實(shí)施例中的特征可以相互組合。
[0040]需要說(shuō)明的是，以下實(shí)施例中所提供的圖示僅以示意方式說(shuō)明本發(fā)明的基本構(gòu)想，遂圖式中僅顯示與本發(fā)明中有關(guān)的組件而非按照實(shí)際實(shí)施時(shí)的組件數(shù)目、形狀及尺寸繪制，其實(shí)際實(shí)施時(shí)各組件的型態(tài)、數(shù)量及比例可為一種隨意的改變，且其組件布局型態(tài)也可能更為復(fù)雜。
[0041]實(shí)施例1
[0042]本實(shí)施例給出了一種服務(wù)器負(fù)載均衡方法，如圖1所示，該服務(wù)器負(fù)載均衡方法應(yīng)用于負(fù)載均衡器101和連接在所述負(fù)載均衡器101上的服務(wù)器集群102中，所述負(fù)載均衡方法包括:由服務(wù)器(102a，102b，102c)向負(fù)載均衡器101發(fā)送反映自身處理能力的耗時(shí)數(shù)據(jù)；負(fù)載均衡器101接收所述服務(wù)器集群102中所有服務(wù)器的所述耗時(shí)數(shù)據(jù)并按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序，形成一輪優(yōu)先級(jí)隊(duì)列；以及在負(fù)載均衡器101接收到請(qǐng)求時(shí)，將所述請(qǐng)求依次分配至所述優(yōu)先級(jí)隊(duì)列中當(dāng)前最高優(yōu)先級(jí)的耗時(shí)數(shù)據(jù)所對(duì)應(yīng)的服務(wù)器進(jìn)行處理。本發(fā)明通過(guò)負(fù)載均衡器101依據(jù)各服務(wù)器上報(bào)的耗時(shí)數(shù)據(jù)，進(jìn)行負(fù)載均衡優(yōu)化，將訪問(wèn)請(qǐng)求優(yōu)先轉(zhuǎn)發(fā)至處理能力較強(qiáng)的服務(wù)器，解決了現(xiàn)有負(fù)載均衡策略技術(shù)缺乏依據(jù)服務(wù)器實(shí)時(shí)處理情況進(jìn)行動(dòng)態(tài)調(diào)整的能力的問(wèn)題。
[0043]在具體實(shí)施中，負(fù)載均衡器101內(nèi)部維護(hù)一個(gè)優(yōu)先級(jí)隊(duì)列(Pr1rity Queue)，將接收到的服務(wù)器請(qǐng)求處理平均耗時(shí)數(shù)據(jù)存入其中，按數(shù)值從小到大進(jìn)行排列(即按服務(wù)器處理能力由強(qiáng)到弱的順序進(jìn)行排序)；這樣，負(fù)載均衡器101每次分發(fā)請(qǐng)求均從該優(yōu)先級(jí)隊(duì)列中依次取得平均處理時(shí)間最小的服務(wù)器地址進(jìn)行分發(fā)，直至隊(duì)列中的服務(wù)器均使用，并重復(fù)該過(guò)程，達(dá)到動(dòng)態(tài)優(yōu)化負(fù)載均衡策略的目的。
[0044]在具體實(shí)施中，所述耗時(shí)數(shù)據(jù)包括服務(wù)器處理每次請(qǐng)求的耗時(shí)值和在一固定周期內(nèi)處理一次請(qǐng)求的平均耗時(shí)值。
[0045]其中，服務(wù)器記錄每次的請(qǐng)求處理時(shí)間，即耗時(shí)值，定義如下:
[0046]耗時(shí)值=I服務(wù)器接收到請(qǐng)求的時(shí)間點(diǎn)-服務(wù)器返回請(qǐng)求結(jié)果的時(shí)間點(diǎn)I，
[0047]具體地，如果該請(qǐng)求不產(chǎn)生返回值，例如出錯(cuò)或超時(shí)等，那么均按出錯(cuò)或超時(shí)結(jié)束時(shí)間點(diǎn)作為服務(wù)器返回請(qǐng)求結(jié)果的時(shí)間點(diǎn)來(lái)進(jìn)行計(jì)算。
[0048]在具體實(shí)施中，服務(wù)器在固定周期內(nèi)統(tǒng)計(jì)所有請(qǐng)求處理耗時(shí)的平均值，已得到平均耗時(shí)值。該固定周期可根據(jù)應(yīng)用需要變化，通常為分鐘或小時(shí)級(jí)別，如10分鐘或I小時(shí)等。
[0049]在具體實(shí)施中，集群中各服務(wù)器將該耗時(shí)數(shù)據(jù)通過(guò)JMS網(wǎng)絡(luò)消息發(fā)送至負(fù)載均衡器101，在上述固定統(tǒng)計(jì)周期的間隔，服務(wù)器通過(guò)Java消息服務(wù)(英文全稱JavaMessaging Service,簡(jiǎn)稱:JMS)，以網(wǎng)絡(luò)消息的形式，將請(qǐng)求處理的耗時(shí)數(shù)據(jù)上傳至負(fù)載均衡器101，具體如下:
[0050]1.采用JMS的發(fā)布/訂閱模式(Publish/Subscribe),為請(qǐng)求處理平均耗時(shí)創(chuàng)建專用的消息主題(Messaging Topic)；
[0051]2.負(fù)載均衡器101作為該消息主題的訂閱者(Subscriber)，集群內(nèi)的各服務(wù)器均作為該消息主題的發(fā)布者(Publisher)；
[0052]3.服務(wù)器的請(qǐng)求處理平均耗時(shí)數(shù)據(jù)，以文本形式放入消息體內(nèi)進(jìn)行發(fā)送。
[0053]也即是，負(fù)載均衡器101和集群中各服務(wù)器之間采用JMS的發(fā)布/訂閱模式進(jìn)行通信，并為請(qǐng)求耗時(shí)數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負(fù)載均衡器101為所述消息主題的訂閱者。
[0054]實(shí)施例2
[0055]本實(shí)施例中提供了一種服務(wù)器負(fù)載均衡系統(tǒng)，如圖2，所述服務(wù)器負(fù)載均衡系統(tǒng)包括:服務(wù)器集群202，包括若干服務(wù)器(202a，202b，202c)，所述服務(wù)器(202a，202b，202c)用于向負(fù)載均衡器201發(fā)送反映自身處理能力的耗時(shí)數(shù)據(jù)；負(fù)載均衡器201，用于接收所述服務(wù)器集群202中所有服務(wù)器的所述耗時(shí)數(shù)據(jù)并按處理能力由強(qiáng)到弱的順序?qū)λ龊臅r(shí)數(shù)據(jù)進(jìn)行排序，形成一輪優(yōu)先級(jí)隊(duì)