一種用于互聯(lián)網(wǎng)系統(tǒng)的過(guò)載保護(hù)裝置和方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明的實(shí)施例涉及網(wǎng)絡(luò)計(jì)算機(jī)系統(tǒng)負(fù)載控制，并且更具體地涉及用于互聯(lián)網(wǎng)系統(tǒng)的過(guò)載保護(hù)裝置和方法。
【背景技術(shù)】
[0002]本部分的介紹可促進(jìn)更好地理解本發(fā)明的方面。相應(yīng)地，本部分的陳述應(yīng)就此而論來(lái)閱讀，并且不應(yīng)被理解為承認(rèn)什么屬于現(xiàn)有技術(shù)或者什么不屬于現(xiàn)有技術(shù)。
[0003]在面對(duì)突發(fā)性高壓力的業(yè)務(wù)量時(shí)，網(wǎng)絡(luò)計(jì)算機(jī)系統(tǒng)尤其是互聯(lián)網(wǎng)應(yīng)用系統(tǒng)的處理能力會(huì)因過(guò)載而逐漸下降。這將導(dǎo)致系統(tǒng)處理業(yè)務(wù)請(qǐng)求的時(shí)間變長(zhǎng)，而用戶(hù)因失去耐心不斷刷新頁(yè)面則進(jìn)一步增加了系統(tǒng)的壓力，造成雪崩效應(yīng)。在這種情況下，系統(tǒng)處理的每個(gè)請(qǐng)求都將因超時(shí)而無(wú)效以致系統(tǒng)對(duì)外部呈現(xiàn)的服務(wù)能力幾乎為O。為避免這種遭遇，一般的處理方式是重啟系統(tǒng)。但這么做將直接影響業(yè)務(wù)的處理和用戶(hù)對(duì)系統(tǒng)提供的服務(wù)的使用。

【發(fā)明內(nèi)容】

[0004]用于互聯(lián)網(wǎng)系統(tǒng)的過(guò)載保護(hù)裝置包括:采集模塊，其從到達(dá)后端應(yīng)用之前的網(wǎng)絡(luò)流量的流量鏡像采集數(shù)據(jù)，決策模塊，其根據(jù)該數(shù)據(jù)確定關(guān)于該后端應(yīng)用的負(fù)載度，并確定保護(hù)策略，保護(hù)模塊，其執(zhí)行該保護(hù)策略。
[0005]可選地，保護(hù)模塊根據(jù)該保護(hù)策略被配置成執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，判斷該請(qǐng)求是否超時(shí)；如果該請(qǐng)求已經(jīng)超時(shí)，則向該客戶(hù)端返回應(yīng)答，而不向該后端應(yīng)用轉(zhuǎn)發(fā)，如果該請(qǐng)求未超時(shí)，則根據(jù)由決策模塊計(jì)算的負(fù)載度，判斷該后端應(yīng)用是否能夠處理該請(qǐng)求；如果該后端應(yīng)用能夠處理該請(qǐng)求，則向該后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，如果該后端應(yīng)用不能夠處理該請(qǐng)求，則延遲轉(zhuǎn)發(fā)該請(qǐng)求。
[0006]可選地，該決策模塊被配置根據(jù)該數(shù)據(jù)確定該網(wǎng)絡(luò)流量的業(yè)務(wù)類(lèi)型，保護(hù)模塊根據(jù)該保護(hù)策略被配置成執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，根據(jù)該網(wǎng)絡(luò)流量的業(yè)務(wù)類(lèi)型，判斷該請(qǐng)求是否為核心業(yè)務(wù)請(qǐng)求，如果該請(qǐng)求是核心業(yè)務(wù)請(qǐng)求，則將該請(qǐng)求轉(zhuǎn)發(fā)給高性能通道，該高性能通道由該后端應(yīng)用中的一半以上的節(jié)點(diǎn)組成，如果該請(qǐng)求是核心業(yè)務(wù)請(qǐng)求，則將該請(qǐng)求轉(zhuǎn)發(fā)給一般性通道，該一般性通道由除所述高性能通道中的節(jié)點(diǎn)以外的節(jié)點(diǎn)組成。
[0007]可選地，該決策模塊根據(jù)該數(shù)據(jù)確定的關(guān)于該后端應(yīng)用的負(fù)載度，被配置成執(zhí)行:當(dāng)判斷所述負(fù)載度超過(guò)閾值時(shí)，向云調(diào)度服務(wù)器發(fā)送自動(dòng)擴(kuò)展命令，使得該云調(diào)度服務(wù)器通知云運(yùn)維平臺(tái)擴(kuò)展產(chǎn)生可供執(zhí)行來(lái)自客戶(hù)端的請(qǐng)求的新的后端應(yīng)用。
[0008]可選地，保護(hù)模塊根據(jù)該保護(hù)策略被配置成執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，如果該請(qǐng)求未超時(shí)，則根據(jù)由決策模塊計(jì)算的負(fù)載度，判斷該后端應(yīng)用是否能夠處理該請(qǐng)求；如果該后端應(yīng)用能夠處理該請(qǐng)求，則向該后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，如果該后端應(yīng)用不能夠處理該請(qǐng)求，則向備用資源池中的后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，其中所述備用資源池中提前部署有多個(gè)已經(jīng)啟動(dòng)的后端應(yīng)用。
[0009]可選地，所述數(shù)據(jù)包括錯(cuò)誤率、響應(yīng)時(shí)間、每秒請(qǐng)求數(shù)。
[0010]一種用于互聯(lián)網(wǎng)系統(tǒng)的過(guò)載保護(hù)方法包括:從到達(dá)后端應(yīng)用之前的網(wǎng)絡(luò)流量的流量鏡像采集數(shù)據(jù)，根據(jù)該數(shù)據(jù)確定關(guān)于該后端應(yīng)用的負(fù)載度，并確定保護(hù)策略，執(zhí)行該保護(hù)策略。
[0011]可選地，根據(jù)該保護(hù)策略執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，判斷該請(qǐng)求是否超時(shí)；如果該請(qǐng)求已經(jīng)超時(shí)，則向該客戶(hù)端返回應(yīng)答，而不向該后端應(yīng)用轉(zhuǎn)發(fā)，如果該請(qǐng)求未超時(shí)，則根據(jù)所述負(fù)載度，判斷該后端應(yīng)用是否能夠處理該請(qǐng)求；如果該后端應(yīng)用能夠處理該請(qǐng)求，則向該后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，如果該后端應(yīng)用不能夠處理該請(qǐng)求，則延遲轉(zhuǎn)發(fā)該請(qǐng)求。
[0012]可選地，根據(jù)該數(shù)據(jù)確定該網(wǎng)絡(luò)流量的業(yè)務(wù)類(lèi)型，根據(jù)該保護(hù)策略執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，根據(jù)該網(wǎng)絡(luò)流量的業(yè)務(wù)類(lèi)型，判斷該請(qǐng)求是否為核心業(yè)務(wù)請(qǐng)求，如果該請(qǐng)求是核心業(yè)務(wù)請(qǐng)求，則將該請(qǐng)求轉(zhuǎn)發(fā)給高性能通道，該高性能通道由該后端應(yīng)用中的一半以上的節(jié)點(diǎn)組成，如果該請(qǐng)求是核心業(yè)務(wù)請(qǐng)求，則將該請(qǐng)求轉(zhuǎn)發(fā)給一般性通道，該一般性通道由除所述高性能通道中的節(jié)點(diǎn)以外的節(jié)點(diǎn)組成。
[0013]可選地，根據(jù)該后端應(yīng)用的負(fù)載度，執(zhí)行:當(dāng)判斷所述負(fù)載度超過(guò)閾值時(shí)，向云調(diào)度服務(wù)器發(fā)送自動(dòng)擴(kuò)展命令，使得該云調(diào)度服務(wù)器通知云運(yùn)維平臺(tái)擴(kuò)展產(chǎn)生可供執(zhí)行來(lái)自客戶(hù)端的請(qǐng)求的新的后端應(yīng)用。
[0014]可選地，根據(jù)該保護(hù)策略執(zhí)行:接收來(lái)自客戶(hù)端的請(qǐng)求，如果該請(qǐng)求未超時(shí)，則根據(jù)所述負(fù)載度，判斷該后端應(yīng)用是否能夠處理該請(qǐng)求；如果該后端應(yīng)用能夠處理該請(qǐng)求，則向該后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，如果該后端應(yīng)用不能夠處理該請(qǐng)求，則向備用資源池中的后端應(yīng)用轉(zhuǎn)發(fā)該請(qǐng)求，其中所述備用資源池中提前部署有多個(gè)已經(jīng)啟動(dòng)的后端應(yīng)用。
[0015]本發(fā)明一個(gè)或多個(gè)實(shí)施例采用鏡像流量的旁路監(jiān)控，其對(duì)原始傳遞的數(shù)據(jù)包不會(huì)產(chǎn)生任何影響；通過(guò)應(yīng)用層面的應(yīng)用響應(yīng)錯(cuò)誤率、應(yīng)用響應(yīng)時(shí)間、應(yīng)用每秒請(qǐng)求數(shù)更精確地判斷應(yīng)用自身是否處于過(guò)載狀態(tài)；以及是提供了多種的保護(hù)措施。本發(fā)明具有以下一個(gè)或多個(gè)優(yōu)勢(shì):在系統(tǒng)面臨突發(fā)性高壓力的情況下，系統(tǒng)服務(wù)能力不會(huì)下降為0，而是會(huì)對(duì)外展示系統(tǒng)的最大處理能力；為后續(xù)的擴(kuò)容、應(yīng)急預(yù)留了時(shí)間，不會(huì)中斷服務(wù)；在突發(fā)性高壓力請(qǐng)求恢復(fù)正常后，自動(dòng)調(diào)整狀態(tài)；系統(tǒng)能夠持續(xù)穩(wěn)定運(yùn)行，提高了在突發(fā)高壓力情況下的用戶(hù)體驗(yàn)。
[0016]當(dāng)結(jié)合附圖閱讀以下描述時(shí)也將理解本發(fā)明的實(shí)施例的其它特征和優(yōu)勢(shì)，其中附圖借助于實(shí)例示出了本發(fā)明的實(shí)施例的原理。
【附圖說(shuō)明】
[0017]借助于實(shí)例，從以下詳細(xì)描述和附圖中，本發(fā)明的各個(gè)實(shí)施例的上述及其它方面、特征及益處將變得更加明顯。
[0018]圖1示出根據(jù)本發(fā)明實(shí)施例的過(guò)載保護(hù)裝置在系統(tǒng)中的示意圖。
[0019]圖2示出根據(jù)本發(fā)明實(shí)施例的實(shí)現(xiàn)延遲轉(zhuǎn)發(fā)和超時(shí)提前處理的流程圖。
[0020]圖3示出示例性的突發(fā)性高壓力曲線(xiàn)圖。
[0021]圖4示出示例性的經(jīng)過(guò)削峰的突發(fā)性高壓力曲線(xiàn)圖。
[0022]圖5示出根據(jù)本發(fā)明實(shí)施例的實(shí)現(xiàn)保護(hù)關(guān)鍵業(yè)務(wù)的流程圖。
[0023]圖6示出根據(jù)本發(fā)明實(shí)施例的實(shí)現(xiàn)資源自動(dòng)擴(kuò)展的過(guò)載保護(hù)裝置在系統(tǒng)中的示意圖。
[0024]圖7示出根據(jù)本發(fā)明實(shí)施例的采用備用資源池的過(guò)載保護(hù)的示意圖。
【具體實(shí)施方式】
[0025]在下文中，將參考實(shí)施例描述本發(fā)明的原理和主旨。應(yīng)當(dāng)理解的是，給出的實(shí)施例僅僅是為了本領(lǐng)域技術(shù)人員更好地理解本發(fā)明并且進(jìn)一步實(shí)踐本發(fā)明，而不是限制本發(fā)明的范圍。例如，作為一個(gè)實(shí)施例的一部分所例示或描述的特征可與另一實(shí)施例結(jié)合使用而產(chǎn)生另外一個(gè)實(shí)施例。為了清晰起見(jiàn)，在本說(shuō)明書(shū)中未描述實(shí)際實(shí)施方式的所有特征。顯然，可以理解的是在任何這種實(shí)施例的實(shí)際研發(fā)中，為實(shí)現(xiàn)開(kāi)發(fā)人員的特定目標(biāo)，諸如符合系統(tǒng)相關(guān)的約束和業(yè)務(wù)相關(guān)的約束，實(shí)施方式將有所不同。
[0026]現(xiàn)在將參考附圖描述所公開(kāi)的主題。在圖中示意性描繪了各種結(jié)構(gòu)、系統(tǒng)和設(shè)備，這僅是出于說(shuō)明的目的而非將這些描述與本領(lǐng)域技術(shù)人員公知的細(xì)節(jié)混淆。然而，包括附圖是為了描述和解釋所公開(kāi)主題的例示性實(shí)例。
[0027]圖1示出根據(jù)本發(fā)明實(shí)施例的過(guò)載保護(hù)裝置在系統(tǒng)中的示意圖。如圖1所示，系統(tǒng)由