列；以及在接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。
[0056]在具體實施中，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。
[0057]其中，服務(wù)器記錄每次的請求處理時間，即耗時值，定義如下:
[0058]耗時值=I服務(wù)器接收到請求的時間點-服務(wù)器返回請求結(jié)果的時間點I，
[0059]具體地，如果該請求不產(chǎn)生返回值，例如出錯或超時等，那么均按出錯或超時結(jié)束時間點作為服務(wù)器返回請求結(jié)果的時間點來進行計算。
[0060]在具體實施中，服務(wù)器在固定周期內(nèi)統(tǒng)計所有請求處理耗時的平均值，已得到平均耗時值。該固定周期可根據(jù)應(yīng)用需要變化，通常為分鐘或小時級別，如10分鐘或I小時等。
[0061]在具體實施中，集群中各服務(wù)器將該耗時數(shù)據(jù)通過JMS網(wǎng)絡(luò)消息發(fā)送至負載均衡器201，在上述固定統(tǒng)計周期的間隔，服務(wù)器通過Java消息服務(wù)(英文全稱JavaMessaging Service,簡稱:JMS)，以網(wǎng)絡(luò)消息的形式，將請求處理的耗時數(shù)據(jù)上傳至負載均衡器201，具體如下:
[0062]1.采用JMS的發(fā)布/訂閱模式(Publish/Subscribe),為請求處理平均耗時創(chuàng)建專用的消息主題(Messaging Topic)；
[0063]2.負載均衡器201作為該消息主題的訂閱者(Subscriber)，集群內(nèi)的各服務(wù)器均作為該消息主題的發(fā)布者(Publisher)；
[0064]3.服務(wù)器的請求處理平均耗時數(shù)據(jù)，以文本形式放入消息體內(nèi)進行發(fā)送。
[0065]也即是，負載均衡器201和集群中各服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器201為所述消息主題的訂閱者。
[0066]本實施例通過在負載均衡器201內(nèi)部維護一個優(yōu)先級隊列(Pr1rity Queue)，將接收到的服務(wù)器請求處理平均耗時數(shù)據(jù)存入其中，按數(shù)值從小到大進行排列(即按服務(wù)器處理能力由強到弱的順序進行排序)；這樣，負載均衡器201每次分發(fā)請求均從該優(yōu)先級隊列中依次取得平均處理時間最小的服務(wù)器地址進行分發(fā)，直至隊列中的服務(wù)器均使用，并重復該過程，達到動態(tài)優(yōu)化負載均衡策略的目的。
[0067]實施例3
[0068]本實施例中提供了一種負載均衡器，至少連接于一服務(wù)器集群，如圖3，所述負載均衡器301包括:耗時數(shù)據(jù)隊列生成單元301a，用于接收所述服務(wù)器集群中所有服務(wù)器向負載均衡器發(fā)送的反映服務(wù)器處理能力的耗時數(shù)據(jù)，并按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序，以形成一輪優(yōu)先級隊列；請求均衡分配單元301b，用于在負載均衡器接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。
[0069]在具體實施中，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。
[0070]其中，服務(wù)器記錄每次的請求處理時間，即耗時值，定義如下:
[0071]耗時值=I服務(wù)器接收到請求的時間點-服務(wù)器返回請求結(jié)果的時間點I，
[0072]具體地，如果該請求不產(chǎn)生返回值，例如出錯或超時等，那么均按出錯或超時結(jié)束時間點作為服務(wù)器返回請求結(jié)果的時間點來進行計算。
[0073]在具體實施中，服務(wù)器在固定周期內(nèi)統(tǒng)計所有請求處理耗時的平均值，已得到平均耗時值。該固定周期可根據(jù)應(yīng)用需要變化，通常為分鐘或小時級別，如10分鐘或I小時等。
[0074]在具體實施中，所述負載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器為所述消息主題的訂閱者。
[0075]實施例4
[0076]本實施例還提供了一種服務(wù)器401，如圖4并結(jié)合圖1，由若干所述服務(wù)器401構(gòu)成一服務(wù)器集群，并將所述服務(wù)器集群連接在一負載均衡器上，所述服務(wù)器包括:耗時數(shù)據(jù)發(fā)送單元401a，用于統(tǒng)計反映服務(wù)器處理能力的耗時數(shù)據(jù)并向負載均衡器發(fā)送所述耗時數(shù)據(jù)，以供負載均衡器在接收所述服務(wù)器集群中所有服務(wù)器的所述耗時數(shù)據(jù)后按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序以形成一輪優(yōu)先級隊列；請求接收單元401b，用于在負載均衡器接收到請求并將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理時，對應(yīng)接收所述請求。
[0077]在具體實施中，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。
[0078]其中，服務(wù)器記錄每次的請求處理時間，即耗時值，定義如下:
[0079]耗時值=I服務(wù)器接收到請求的時間點-服務(wù)器返回請求結(jié)果的時間點I，
[0080]具體地，如果該請求不產(chǎn)生返回值，例如出錯或超時等，那么均按出錯或超時結(jié)束時間點作為服務(wù)器返回請求結(jié)果的時間點來進行計算。
[0081]在具體實施中，服務(wù)器在固定周期內(nèi)統(tǒng)計所有請求處理耗時的平均值，已得到平均耗時值。該固定周期可根據(jù)應(yīng)用需要變化，通常為分鐘或小時級別，如10分鐘或I小時等。
[0082]在具體實施中，所述負載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器為所述消息主題的訂閱者。
[0083]綜上所述，本發(fā)明利用集群中的服務(wù)器計算固定周期內(nèi)的業(yè)務(wù)處理平均耗時等數(shù)據(jù)，并通過JMS網(wǎng)絡(luò)消息來定期向負載均衡器上報該耗時數(shù)據(jù)，負載均衡器依據(jù)接收到的各服務(wù)器耗時數(shù)據(jù)，動態(tài)調(diào)整負載均衡策略，以達到整體集群的負載均衡優(yōu)化目的。所以，本發(fā)明有效克服了現(xiàn)有技術(shù)中的種種缺點而具高度產(chǎn)業(yè)利用價值。
[0084]上述實施例僅例示性說明本發(fā)明的原理及其功效，而非用于限制本發(fā)明。任何熟悉此技術(shù)的人士皆可在不違背本發(fā)明的精神及范疇下，對上述實施例進行修飾或改變。因此，舉凡所屬技術(shù)領(lǐng)域中具有通常知識者在未脫離本發(fā)明所揭示的精神與技術(shù)思想下所完成的一切等效修飾或改變，仍應(yīng)由本發(fā)明的權(quán)利要求所涵蓋。
【主權(quán)項】
1.一種服務(wù)器負載均衡方法，應(yīng)用于負載均衡器和連接在所述負載均衡器上的服務(wù)器集群中，其特征在于，所述負載均衡方法包括: 服務(wù)器向負載均衡器發(fā)送反映自身處理能力的耗時數(shù)據(jù)； 負載均衡器接收所述服務(wù)器集群中所有服務(wù)器的所述耗時數(shù)據(jù)并按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序，形成一輪優(yōu)先級隊列；以及 在負載均衡器接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。2.根據(jù)權(quán)利要求1所述的服務(wù)器負載均衡方法，其特征在于，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。3.根據(jù)權(quán)利要求1所述的服務(wù)器負載均衡方法，其特征在于，所述負載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器為所述消息主題的訂閱者。4.一種負載均衡器，至少連接于一服務(wù)器集群，其特征在于，負載均衡器包括: 耗時數(shù)據(jù)隊列生成單元，用于接收所述服務(wù)器集群中所有服務(wù)器向負載均衡器發(fā)送的反映服務(wù)器處理能力的耗時數(shù)據(jù)，并按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序，以形成一輪優(yōu)先級隊列； 請求均衡分配單元，用于在負載均衡器接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。5.根據(jù)權(quán)利要求4所述的負載均衡器，其特征在于，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。6.根據(jù)權(quán)利要求4所述的負載均衡器，其特征在于，所述負載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器為所述消息主題的訂閱者。7.一種服務(wù)器，由若干所述服務(wù)器構(gòu)成一服務(wù)器集群，并將所述服務(wù)器集群連接在一負載均衡器上，其特征在于，所述服務(wù)器包括: 耗時數(shù)據(jù)發(fā)送單元，統(tǒng)計反映服務(wù)器處理能力的耗時數(shù)據(jù)并向負載均衡器發(fā)送所述耗時數(shù)據(jù)，以供負載均衡器在接收所述服務(wù)器集群中所有服務(wù)器的所述耗時數(shù)據(jù)后按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序以形成一輪優(yōu)先級隊列； 請求接收單元，在負載均衡器接收到請求并將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理時，對應(yīng)接收所述請求。8.根據(jù)權(quán)利要求7所述的服務(wù)器，其特征在于，所述耗時數(shù)據(jù)包括每一服務(wù)器處理每次請求的耗時值和在一固定周期內(nèi)處理一次請求的平均耗時值。9.根據(jù)權(quán)利要求7所述的服務(wù)器，其特征在于，所述負載均衡器和服務(wù)器之間采用JMS的發(fā)布/訂閱模式進行通信，并為請求耗時數(shù)據(jù)建立專用的消息主題，其中，服務(wù)器為所述消息主題的發(fā)布者，負載均衡器為所述消息主題的訂閱者。10.一種服務(wù)器負載均衡系統(tǒng)，其特征在于，包括: 服務(wù)器集群，包括若干如權(quán)利要求要求7至9任一所述的服務(wù)器，所述服務(wù)器用于向負載均衡器發(fā)送反映自身處理能力的耗時數(shù)據(jù)； 如權(quán)利要求4至6任一所述的負載均衡器，用于接收所述服務(wù)器集群中所有服務(wù)器的所述耗時數(shù)據(jù)并按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序，形成一輪優(yōu)先級隊列；以及在接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。
【專利摘要】本發(fā)明提供一種服務(wù)器、負載均衡器以及服務(wù)器負載均衡方法和系統(tǒng)，應(yīng)用于負載均衡器和連接在所述負載均衡器上的服務(wù)器集群中，通過服務(wù)器向負載均衡器發(fā)送反映自身處理能力的耗時數(shù)據(jù)；負載均衡器接收所述服務(wù)器集群中所有服務(wù)器的所述耗時數(shù)據(jù)并按處理能力由強到弱的順序?qū)λ龊臅r數(shù)據(jù)進行排序，形成一輪優(yōu)先級隊列；以及在負載均衡器接收到請求時，將所述請求依次分配至所述優(yōu)先級隊列中當前最高優(yōu)先級的耗時數(shù)據(jù)所對應(yīng)的服務(wù)器進行處理。本發(fā)明很好地解決了現(xiàn)有負載均衡策略技術(shù)缺乏依據(jù)服務(wù)器實時處理情況進行動態(tài)調(diào)整的能力的問題。
【IPC分類】H04L29/08
【公開號】CN105208133
【申請?zhí)枴緾N201510683853
【發(fā)明人】徐藝圣
【申請人】上海斐訊數(shù)據(jù)通信技術(shù)有限公司
【公開日】2015年12月30日
【申請日】2015年10月20日