基于緩存流的加速的制作方法
【專利說明】
【背景技術(shù)】
[0001]在復(fù)雜的大型計(jì)算環(huán)境下，越來越多動(dòng)態(tài)用戶請(qǐng)求經(jīng)常導(dǎo)致許多序列化RPC至不同的后端。工程師優(yōu)化這些PRC非常昂貴，優(yōu)化增加顯著的技術(shù)復(fù)雜性和維護(hù)成本并經(jīng)常增加系統(tǒng)時(shí)延。
[0002]即使有完善優(yōu)化的手動(dòng)編碼來并行化這些RPC的一部分，他們?nèi)匀坏湫偷厥荝PC的許多序列化塊。這會(huì)導(dǎo)致增加的時(shí)延且在工程時(shí)間和系統(tǒng)復(fù)雜度方面減輕所述時(shí)延的成本是非常高的。

【發(fā)明內(nèi)容】

[0003]在此討論的解決方案的實(shí)施例可以涉及一種系統(tǒng)，包括:處理器;處理器可讀存儲(chǔ)器，其中存儲(chǔ)有使處理器執(zhí)行包括步驟的方法的指令:接收內(nèi)容請(qǐng)求，內(nèi)容請(qǐng)求包括對(duì)來自數(shù)據(jù)庫的信息的至少一個(gè)數(shù)據(jù)請(qǐng)求;分析所接收的內(nèi)容請(qǐng)求;確定所分析的內(nèi)容請(qǐng)求是否包括與所接收的內(nèi)容請(qǐng)求的執(zhí)行并行地單獨(dú)執(zhí)行的至少一個(gè)數(shù)據(jù)請(qǐng)求;響應(yīng)于確定所接收的內(nèi)容請(qǐng)求包括與所接收的內(nèi)容請(qǐng)求并行地單獨(dú)執(zhí)行的至少一個(gè)數(shù)據(jù)請(qǐng)求;發(fā)起與所接收的內(nèi)容請(qǐng)求的執(zhí)行并行地執(zhí)行所述至少一個(gè)數(shù)據(jù)請(qǐng)求，所述執(zhí)行包括將所述至少一個(gè)數(shù)據(jù)請(qǐng)求發(fā)送到至少一個(gè)數(shù)據(jù)庫以執(zhí)行；響應(yīng)于所述至少一個(gè)數(shù)據(jù)請(qǐng)求，從所述至少一個(gè)數(shù)據(jù)庫接收請(qǐng)求數(shù)據(jù);本地存儲(chǔ)所接收的請(qǐng)求數(shù)據(jù)；以及響應(yīng)于所接收的內(nèi)容請(qǐng)求的執(zhí)行，提供存儲(chǔ)的所接收的請(qǐng)求數(shù)據(jù)。
[0004]在一些實(shí)施例中，內(nèi)容請(qǐng)求包括對(duì)來自一個(gè)或多個(gè)數(shù)據(jù)庫的信息的兩個(gè)或更多個(gè)數(shù)據(jù)請(qǐng)求，所述兩個(gè)或更多個(gè)數(shù)據(jù)請(qǐng)求包括第一數(shù)據(jù)請(qǐng)求和第二數(shù)據(jù)請(qǐng)求。
[0005]在一些實(shí)施例中，發(fā)起執(zhí)行包括發(fā)起與所述第二數(shù)據(jù)請(qǐng)求并行以及與所接收的內(nèi)容請(qǐng)求并行執(zhí)行所第一數(shù)據(jù)請(qǐng)求。
[0006]在一些實(shí)施例中，接收所請(qǐng)求的數(shù)據(jù)包括響應(yīng)于所述第一數(shù)據(jù)請(qǐng)求而接收所請(qǐng)求的數(shù)據(jù)以及響應(yīng)于所述第二數(shù)據(jù)請(qǐng)求而接收所請(qǐng)求數(shù)據(jù)。
[0007]在一些實(shí)施例中，將至少一個(gè)數(shù)據(jù)請(qǐng)求發(fā)送到至少一個(gè)數(shù)據(jù)庫以執(zhí)行包括將所述至少一個(gè)數(shù)據(jù)請(qǐng)求發(fā)送到數(shù)據(jù)中心。
[0008]在一些實(shí)施例中，分析包括識(shí)別在所接收的內(nèi)容請(qǐng)求中包括的所有數(shù)據(jù)請(qǐng)求。
[0009]在一些實(shí)施例中，確定包括確定所識(shí)別的數(shù)據(jù)請(qǐng)求是否與和已知或先前執(zhí)行的內(nèi)容請(qǐng)求相關(guān)聯(lián)的已知或先前執(zhí)行的數(shù)據(jù)請(qǐng)求集合相匹配。
[0010]在一些實(shí)施例中，分析包括確定所接收的內(nèi)容請(qǐng)求是否與先前執(zhí)行的所接收的內(nèi)容請(qǐng)求基本相同；以及響應(yīng)于確定所接收的內(nèi)容請(qǐng)求與先前執(zhí)行的所接收的內(nèi)容請(qǐng)求基本相同，確定所接收的內(nèi)容請(qǐng)求包括與所接收的內(nèi)容請(qǐng)求并行地單獨(dú)執(zhí)行的至少一個(gè)數(shù)據(jù)請(qǐng)求，并且發(fā)起與所接收的內(nèi)容請(qǐng)求的執(zhí)行并行地執(zhí)行與先前執(zhí)行的所接收的內(nèi)容請(qǐng)求相關(guān)聯(lián)的那些數(shù)據(jù)請(qǐng)求。
[0011]在一些實(shí)施例中，分析包括基于所接收的內(nèi)容請(qǐng)求來生成請(qǐng)求簽名。
[0012]在一些實(shí)施例中，確定包括將所生成的請(qǐng)求簽名與一個(gè)或多個(gè)已知或先前生成的請(qǐng)求簽名進(jìn)行比較，所述已知或先前生成的請(qǐng)求簽名每一個(gè)與一個(gè)或多個(gè)已知或先前執(zhí)行的數(shù)據(jù)請(qǐng)求的集合相關(guān)聯(lián)。
[0013]在一些實(shí)施例中，所接收的內(nèi)容請(qǐng)求包括關(guān)于發(fā)起所述內(nèi)容請(qǐng)求的應(yīng)用的信息
[0014]在一些實(shí)施例中，所述請(qǐng)求簽名是基于關(guān)于發(fā)起所述內(nèi)容請(qǐng)求的應(yīng)用的信息來生成的。
[0015]在一些實(shí)施例中，確定包括將所述分析的結(jié)果與一個(gè)或多個(gè)已知或先前的分析結(jié)果進(jìn)行比較，所述已知或先前的分析結(jié)果中的每一個(gè)與一個(gè)或多個(gè)先前執(zhí)行的數(shù)據(jù)請(qǐng)求的集合相關(guān)聯(lián)。
[0016]在一些實(shí)施例中，所述已知或先前的分析結(jié)果存儲(chǔ)在所述處理器可讀存儲(chǔ)器中。
[0017]在此描述的技術(shù)和解決方案的實(shí)施例可以涉及一種方法，包括上述步驟的一些或全部。在此描述的技術(shù)和解決方案的實(shí)施例可以涉及一種計(jì)算機(jī)可讀介質(zhì)，諸如電、磁或光存儲(chǔ)介質(zhì)或載波，具有用于執(zhí)行其上或其中體現(xiàn)的上述方法步驟中的一些或全部的指令。
[0018]在此所述的技術(shù)和解決方案的實(shí)施例可以涉及一種系統(tǒng)，包括:處理器;處理器可讀存儲(chǔ)器，其中存儲(chǔ)有使處理器執(zhí)行包括以下步驟的方法的指令:從做出請(qǐng)求的實(shí)體接收對(duì)內(nèi)容的請(qǐng)求;基于所接收的對(duì)內(nèi)容的請(qǐng)求來生成請(qǐng)求指紋;首先確定所生成的請(qǐng)求指紋是否與所存儲(chǔ)的請(qǐng)求指紋相匹配;響應(yīng)于確定所生成的請(qǐng)求指紋與所存儲(chǔ)的請(qǐng)求指紋相匹配，并行發(fā)起與所存儲(chǔ)的請(qǐng)求指紋相關(guān)聯(lián)的遠(yuǎn)程過程調(diào)用;在所述首先確定步驟之后，串行執(zhí)行與所接收的請(qǐng)求相關(guān)聯(lián)的遠(yuǎn)程過程調(diào)用，對(duì)于串行執(zhí)行的每個(gè)遠(yuǎn)程過程調(diào)用，所述串行執(zhí)行包括:將結(jié)果存根附接到該遠(yuǎn)程過程調(diào)用，結(jié)果存根表示并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的一個(gè)的結(jié)果的占位符；確定并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的所述一個(gè)是否已經(jīng)完全執(zhí)行；響應(yīng)于確定并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的所述一個(gè)已經(jīng)完全執(zhí)行，將并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的所述一個(gè)已經(jīng)完全執(zhí)行的結(jié)果返回到所述結(jié)果存根；以及響應(yīng)于確定所述并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的所述一個(gè)沒有完全執(zhí)行，暫停執(zhí)行遠(yuǎn)程過程調(diào)用的串行執(zhí)行，直到所述并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的所述一個(gè)已經(jīng)完全執(zhí)行為止，并且將所述并行執(zhí)行的遠(yuǎn)程過程調(diào)用中的完成的一個(gè)的結(jié)果返回到結(jié)果存根；以及響應(yīng)于所有所述串行執(zhí)行的遠(yuǎn)程過程調(diào)用具有結(jié)果，基于遠(yuǎn)程過程調(diào)用結(jié)果將請(qǐng)求結(jié)果返回到所述做出請(qǐng)求的實(shí)體。
[0019]所討論的系統(tǒng)和方法的進(jìn)一步的應(yīng)用范圍從下文給出的詳細(xì)描述將變得顯而易見。然而，應(yīng)當(dāng)理解，由于根據(jù)此詳細(xì)描述，在此公開的概念的精神和范圍內(nèi)的各種改變和修改對(duì)本領(lǐng)域的技術(shù)人員將變得顯而易見，因此詳細(xì)描述和具體示例在指示系統(tǒng)和方法的實(shí)施例的同時(shí)，僅通過說明的方式給出。
【附圖說明】
[0020]根據(jù)下面僅通過示例方式而不是限制方式給出的本文的詳細(xì)描述和附圖，討論的系統(tǒng)和方法將變得更充分地理解。
[0021 ]圖1a示出如在此所述的表示RPC加速操作的實(shí)施例的框圖；
[0022]圖1b示出如在此所述的表示RPC加速操作的實(shí)施例的框圖；
[0023]圖2示出如在此所述的表示RPC簽名的實(shí)施例的框圖；
[0024]圖3示出如在此所述的表示在數(shù)據(jù)訪問裝置和數(shù)據(jù)中心之間的數(shù)據(jù)流的實(shí)施例的框圖；
[0025]圖4示出如在此所述的表示在數(shù)據(jù)訪問裝置和數(shù)據(jù)中心之間的數(shù)據(jù)流的實(shí)施例的框圖；
[0026]圖5示出如在此所述的表示RPC加速操作的實(shí)施例的框圖；
[0027]圖6示出如在此所述的表示被配置為執(zhí)行RPC加速或自動(dòng)化操作的一部分或全部的計(jì)算裝置的實(shí)施例的框圖。
[0028]將在詳細(xì)說明中詳細(xì)描述附圖。
【具體實(shí)施方式】
[0029]下列詳細(xì)說明參見附圖。在不同附圖中的相同標(biāo)號(hào)識(shí)別相同或相似元件。此外，下面的詳細(xì)說明不限制討論的概念。相反，在此討論的概念的范圍是由所附的權(quán)利要求書及其等同物限定。
[0030]在此公開的技術(shù)和系統(tǒng)涉及的設(shè)備和方法是指在運(yùn)行系統(tǒng)上的儀器請(qǐng)求，學(xué)習(xí)入站請(qǐng)求的模式(客戶端遠(yuǎn)程調(diào)用-RPC)以及依賴性的RPC請(qǐng)求流(下游或展開的PRC)。學(xué)習(xí)可以是基于啟發(fā)式的，基于回歸的，或基于記憶的。在圖1a中示出描述儀器化請(qǐng)求截取和RPC自動(dòng)化過程的工作流的實(shí)施例。
[0031]在示出的實(shí)施例中，例如，可以在本地web服務(wù)器處接收1001請(qǐng)求。web服務(wù)器可以配備有對(duì)請(qǐng)求1010進(jìn)行分析的硬件、軟件或其結(jié)合。這樣的分析的實(shí)施例可以包括啟發(fā)式分析，以針對(duì)已知或預(yù)期的模式來匹配請(qǐng)求。這樣的分析的實(shí)施例可以包括基于記憶或基于散列的分析，以基于請(qǐng)求以及其中包括的或與之相關(guān)聯(lián)的數(shù)據(jù)的一部分或全部來生成簽名或散列鍵。
[0032]然后，可以評(píng)估1020分析結(jié)果，以確定web服務(wù)器或包括的或與之相關(guān)的RPC自動(dòng)化軟件或硬件是否可以預(yù)測1030RPC的類型，請(qǐng)求在web服務(wù)器已經(jīng)完全處理所接收的請(qǐng)求之前將需要所述RPC的類型。分析結(jié)果也可以用于更新用于未來預(yù)測1060的數(shù)據(jù)。這樣的數(shù)據(jù)可以包括改變與規(guī)則或評(píng)估算法相關(guān)聯(lián)的權(quán)重或閾值。在一些實(shí)施例中，這樣的數(shù)據(jù)可以包括用于評(píng)估未來請(qǐng)求的新的或附加的請(qǐng)求簽名或散列鍵。
[0033]在一些實(shí)施例中，分析請(qǐng)求1010或評(píng)估分析結(jié)果1020還可以包括確定請(qǐng)求是否是用于RPC預(yù)測或自動(dòng)化的候選。在這樣的實(shí)施例中，可以將每個(gè)分析的請(qǐng)求與RPC調(diào)用或數(shù)據(jù)庫查詢的閾值進(jìn)行比較，以確定請(qǐng)求是否是用于如在此所討論的RPC自動(dòng)化的候選。
[0034]如果請(qǐng)求被確定為是不可預(yù)測的1030或以另外方式不是適合的用于RPC自動(dòng)化的候選，則可以在按順序處理請(qǐng)求的各種RPC和/或數(shù)據(jù)庫查詢的情況下正常處理1050請(qǐng)求。如果請(qǐng)求被確定為是可預(yù)測的1030或以另外方式是合適的用于RPC自動(dòng)化的候選，則可以并行發(fā)起1040被預(yù)測或以另外方式被確定為與所接收的請(qǐng)求相關(guān)聯(lián)的RPC或數(shù)據(jù)庫查詢組。這些RPC和查詢可以出去到數(shù)據(jù)中心、數(shù)據(jù)庫和數(shù)據(jù)存儲(chǔ)，其然后將結(jié)果發(fā)送回處理初始請(qǐng)求的系統(tǒng)。在一些實(shí)施例中可以是web服務(wù)器的系統(tǒng)接收并緩存RPC和查詢的結(jié)果1070。
[0035]在一些實(shí)施例中，在發(fā)起1040并行RPC之后，web服務(wù)器可以繼續(xù)正常處理傳入請(qǐng)求1050，好像其中的RPC或查詢將被按順序?qū)ぶ?。然而，在?qǐng)求中遇到RPC或查詢，系統(tǒng)可以首先基于從