基于服務(wù)器健康以及客戶端信息的應(yīng)用智能請求管理的制作方法
【專利說明】[0001] 基于服務(wù)器健康從及客戶端信息的應(yīng)用智能請求管理
[0002] 現(xiàn)代數(shù)據(jù)通信架構(gòu)通常設(shè)及"服務(wù)器場"，服務(wù)器場是出于各種目的管理數(shù)據(jù)的存 儲、處理和交換的服務(wù)器集合。許多服務(wù)越來越多地被作為web應(yīng)用、托管應(yīng)用來提供，該 些應(yīng)用可W被用戶通過瀏覽器或類似的瘦客戶端訪問，而不會給用戶帶來本地安裝、更新、 兼容性問題等等負擔(dān)。如此，服務(wù)器場可包括提供用于生產(chǎn)力、通信、數(shù)據(jù)分析、數(shù)據(jù)存儲W 及類似服務(wù)的web應(yīng)用的高達數(shù)千服務(wù)器?？蛻舳藨?yīng)用（瘦或胖）通過"請求"與托管應(yīng) 用進行交互。例如，作為web應(yīng)用提供的文字處理應(yīng)用程序可W接收來自客戶端應(yīng)用的打 開文檔的請求，在聯(lián)網(wǎng)的存儲中找出該文檔，檢索其內(nèi)容，并呈現(xiàn)在客戶端應(yīng)用處。另一示 例可W是"保存"請求。當(dāng)用戶完成時，他們可化選擇客戶端應(yīng)用上的"保存"控件，該可W 將保存請求發(fā)送到web應(yīng)用，從而造成所存儲的文檔的更新。
[0003] 由于多個服務(wù)器可能設(shè)及該web應(yīng)用，因此傳入的請求需要被定向到正確的服務(wù) 器，W便所請求的任務(wù)可W被完成。請求管理是管理方法中的一種，該方法通過對照請求來 評估邏輯規(guī)則W便確定要采取什么動作W及場中的哪一個或多個服務(wù)器（如果有的話）要 處理該請求，來幫助服務(wù)器場管理傳入的請求。
[0004] 傳統(tǒng)負載平衡和路由通?；陟o態(tài)規(guī)則，不能考慮服務(wù)器、請求、網(wǎng)絡(luò)負載的動態(tài) 變化。此外，隨著越來越多的不同服務(wù)和服務(wù)版本通過服務(wù)器場來提供，管理不同類型的請 求和不同類型的服務(wù)器（專用、良好健康、不良健康、因承租人而異的、支持不同的應(yīng)用版 本，等等）是復(fù)雜的工作。
[0005]
[0006] 提供本
【發(fā)明內(nèi)容】
是為了W精簡的形式介紹將在W下【具體實施方式】中進一步描述 的一些概念。本
【發(fā)明內(nèi)容】
并不旨在排他地標(biāo)識出所要求保護的主題的關(guān)鍵特征或必要特 征，也不旨在用于幫助確定所要求保護的主題的范圍。
[0007] 各實施例設(shè)及基于服務(wù)器健康和客戶端信息的應(yīng)用智能請求管理。根據(jù)一些實施 例，請求管理（RM)模塊可W基于將請求的性質(zhì)與服務(wù)器基礎(chǔ)設(shè)施的動態(tài)拓撲結(jié)構(gòu)進行相 關(guān)的路由規(guī)則作出智能路由決策。M可W使用其對服務(wù)器應(yīng)用、服務(wù)器、化及客戶端的知識 來拒絕可能有害的請求進入服務(wù)，將良好請求路由到合適的機器，W及維護決策及隨之發(fā) 生的結(jié)果的歷史W用于自動和/或手動優(yōu)化。應(yīng)用、服務(wù)器、W及客戶端信息可由管理員提 供給M或通過自動機制來收集。
[000引通過閱讀下面的"【具體實施方式】"并參考相關(guān)聯(lián)的附圖，該些及其他特點和優(yōu)點將 變得顯而易見。應(yīng)該理解，前面的一般描述和下面的詳細描述只是說明性的，并且不限制所 要求保護的各方面。
[畫]附圖簡巧
[0010] 圖1示出了根據(jù)一些實施例的示例網(wǎng)絡(luò)圖，其中可通過服務(wù)通信頭部/請求頭部 在請求管理實體和服務(wù)器/客戶端之間交換服務(wù)器健康和客戶端信息；
[0011] 圖2示出了根據(jù)一些實施例的系統(tǒng)中的客戶端請求的示例管理；
[0012] 圖3示出了根據(jù)其他實施例的系統(tǒng)中的又一些客戶端請求的示例管理；
[0013] 圖4示出了根據(jù)各實施例的請求管理器的功能分解圖；
[0014] 圖5示出根據(jù)一些實施例的示例請求管理設(shè)置對象；
[0015] 圖6示出了根據(jù)一些實施例的示例請求管理規(guī)則和它們的管理；
[0016] 圖7是其中可W實現(xiàn)根據(jù)各實施例的系統(tǒng)的聯(lián)網(wǎng)環(huán)境；
[0017] 圖8是其中可W實現(xiàn)各實施例的示例計算操作環(huán)境的框圖擬及
[0018] 圖9示出了根據(jù)各實施例的基于服務(wù)器健康和客戶端信息的應(yīng)用智能請求管理 的過程的邏輯流程圖。
[001W詳細描巧
[0020] 如W上簡要描述的，基于軟件和/或硬件的請求管理模塊可W使用在周期性或按 需的服務(wù)交換通信的頭部W及來自客戶端的請求通信的頭部中接收到的服務(wù)器健康和客 戶端信息，來管理請求到云服務(wù)內(nèi)的服務(wù)器的轉(zhuǎn)發(fā)。在知曉哪一類客戶端W及生成了哪一 類請求的情況下，請求管理器可被動態(tài)地編程W通過可自定義的規(guī)則或腳本來將該信息納 入考慮。
[0021] 在下面的詳細描述中，參考構(gòu)成其一部分的附圖，在附圖中，通過例圖，示出了特 定實施例或示例?？山M合該些方面，可利用其他方面，并且可W做出結(jié)構(gòu)上的改變而不背離 本發(fā)明的精神或范圍。因此，下面的【具體實施方式】不應(yīng)W限制性的意義來理解，而是本公開 的范圍是由所附權(quán)利要求及其等效方案來定義的。
[0022] 盡管在結(jié)合在計算設(shè)備上的操作系統(tǒng)上運行的應(yīng)用程序執(zhí)行的程序模塊的一般 上下文中描述了各實施例，但是本領(lǐng)域的技術(shù)人員會認識到各方面也可W結(jié)合其他程序模 塊實現(xiàn)。
[0023] 一般而言，程序模塊包括執(zhí)行特定任務(wù)或?qū)崿F(xiàn)特定抽象數(shù)據(jù)類型的例程、程序、組 件、數(shù)據(jù)結(jié)構(gòu)和其他類型的結(jié)構(gòu)。此外，本領(lǐng)域的技術(shù)人員可W明白，各實施例可W用其他 計算機系統(tǒng)配置來實施，包括手持式設(shè)備、多處理器系統(tǒng)、基于微處理器或可編程消費電子 產(chǎn)品、小型計算機、大型計算機W及類似計算設(shè)備。各實施例還能在任務(wù)由通過通信網(wǎng)絡(luò)鏈 接的遠程處理設(shè)備來執(zhí)行的分布式計算環(huán)境中實現(xiàn)。在分布式計算環(huán)境中，程序模塊可位 于本地和遠程存儲器存儲設(shè)備兩者中。
[0024] 各實施例可被實現(xiàn)為計算機實現(xiàn)的過程（方法）、計算系統(tǒng)、或者諸如計算機程序 產(chǎn)品或計算機可讀介質(zhì)等制品。計算機程序產(chǎn)品可W是計算機系統(tǒng)可讀并且編碼包括用于 使計算機或計算系統(tǒng)執(zhí)行示例過程的指令的計算機程序的計算機存儲介質(zhì)。計算機可讀存 儲介質(zhì)是計算機可讀存儲器設(shè)備。例如，計算機可讀存儲介質(zhì)可經(jīng)由易失性計算機存儲器、 非易失性存儲器、硬盤驅(qū)動器、閃存驅(qū)動器、軟盤或緊致盤和類似物理介質(zhì)中的一個或多個 來實現(xiàn)。
[0025] 貫穿本說明書，術(shù)語"平臺"可W是用于基于服務(wù)器健康和客戶端信息的應(yīng)用智能 請求管理的軟件和硬件組件的組合。平臺的示例包括，但不僅限于，在多個服務(wù)器上執(zhí)行的 托管服務(wù)，在單個計算設(shè)備上執(zhí)行的應(yīng)用，W及類似系統(tǒng)。術(shù)語"服務(wù)器"一般指通常在聯(lián) 網(wǎng)環(huán)境中執(zhí)行一個或多個軟件程序的計算設(shè)備。下面提供了有關(guān)該些技術(shù)和示例操作的更 多細節(jié)。
[0026] 參考圖1，圖示100示出了根據(jù)一些實施例的示例網(wǎng)絡(luò)圖，其中可通過服務(wù)通信頭 部/請求頭部在請求管理實體和服務(wù)器/客戶端之間交換服務(wù)器健康和客戶端信息。圖示 100所示出的組件和環(huán)境只是出于說明的目的。各實施例可W在使用各種計算設(shè)備和系統(tǒng)、 硬件和軟件的各種本地、聯(lián)網(wǎng)的、基于云的和類似計算環(huán)境中實現(xiàn)。
[0027] 在圖示100中所示出的示例環(huán)境中，服務(wù)器112可W是例如，向通過在客戶端設(shè)備 102、103、105和107上執(zhí)行的客戶端應(yīng)用（例如，瀏覽器）訪問服務(wù)的用戶提供一個或多個 托管服務(wù)的服務(wù)器場或類似基礎(chǔ)設(shè)施（例如，云108)的一部分。服務(wù)器104和106可W接 收來自相應(yīng)客戶端應(yīng)用的請求，并將它們轉(zhuǎn)發(fā)到被配置成將請求路由到正確服務(wù)器的請求 管理服務(wù)器101。
[002引在一個示例場景中，諸如美國華盛頓州雷德蒙市的微軟公司的Shm'epoint?之類 的協(xié)作服務(wù)可W作為服務(wù)提供。協(xié)作服務(wù)可W允許對各種類型的文檔的存儲、共享W及編 輯，等等。如此，用戶可W通過他們的客戶端設(shè)備上的瀏覽器訪問協(xié)作服務(wù)，查看文檔，編輯 文檔，W及將它保存在其服務(wù)器位置。該些動作可W通過由瀏覽器向服務(wù)器104或106提交 的并由請求管理服務(wù)器101路由的請求來促進。根據(jù)各實施例的系統(tǒng)可包括可伸縮架構(gòu)中 的任何數(shù)量的請求管理服務(wù)器。云108中的不同服務(wù)器可W負責(zé)服務(wù)的不同方面。例如， 一個服務(wù)器可W負責(zé)某些類型的文檔的存儲，而另一服務(wù)器可W負責(zé)促進編輯功能。另外， 多個服務(wù)器還可W負責(zé)相同任務(wù)W提供容量、冗余等等。請求管理服務(wù)器104和106可W 基于該服務(wù)器的可用性、健康狀況、請求類型、客戶端類型等等，通過路由器110向?qū)⒄埱?發(fā)送到正確的服務(wù)器。在一些實施例中，路由、扼流和/或負載平衡功能性可W被集成到路 由器110中，而不是請求管理服務(wù)器104或106中。
[0029] 在決定要向哪一個服務(wù)器發(fā)送請求時，如上文所討論的，請求管理服務(wù)器可W考 慮服務(wù)器健康狀況、客戶端類型、和/或請求類型。服務(wù)器健康狀況可W由各單獨服務(wù)器W 分數(shù)或更詳細的信息（118)的形式，在服務(wù)通信116的頭部114中作為請求管理服務(wù)器101 和服務(wù)器112之間的正常通信交換的一部分，提供給請求管理服務(wù)器101。作為例行操作的 一部分，服務(wù)器112及服務(wù)的其他組件可W周期性地或按需交換服務(wù)通信116。服務(wù)通信 116可包括頭部114。取決于通信類型，頭部的示例可包括HTTP頭部、Shar巧oint頭部，等 等。在一個示例系統(tǒng)中，每一服務(wù)器都可W確定其健康狀況（例如，處理器容量、存儲器容 量、帶寬、當(dāng)前負載，等等），并將健康狀況傳送到請求管理服務(wù)器101。
[0030] 健康信息118或分數(shù)可W是可由管理員自定義的。例如，健康狀況可W是單個分 數(shù)、多個分數(shù)（對于健康量度的多個組或健康量度中的每一個），或更詳細的信息（健康量 度值）。該信息可W在頭部中發(fā)送到請求管理服務(wù)器101。在決定阻塞還是轉(zhuǎn)發(fā)請求、向哪 一個服務(wù)器路由請求、W及如何執(zhí)行負載平衡時，請求管理服務(wù)器101 (或路由器110)可W 考慮健康信息。
[0031] 與經(jīng)由頭部交換服務(wù)器健康狀態(tài)信息相似，請求管理服務(wù)器101可W經(jīng)由請求通 信120的頭部124來從客戶端設(shè)備102、103、105和107接收客戶端信息122?？蛻舳诵畔?可W標(biāo)識客戶端類型，如機器人、真實用戶、與服務(wù)器場的特定承租人相關(guān)聯(lián)的客戶端、與 提交請求的客戶端應(yīng)用相關(guān)聯(lián)的服務(wù)版本、W及類似信息?？蛻舳诵畔⑦€可標(biāo)識請求類型， 該可引導(dǎo)請求管理服務(wù)器101確定處理該請求時設(shè)及什么類型的資源W及資源量。因而， 請求管理服務(wù)器101可W使用客戶端信息來決定將請求發(fā)送到哪些服務(wù)器、是否要對該請 求進行扼流、W及是否及如何對該請求進行負載平衡。
[0032] 請求管理服務(wù)器（在該些服務(wù)器處執(zhí)行的一個或多個請求管理應(yīng)用或模塊）可W