專利名稱：一種虛擬化環(huán)境中自適應按需資源分配的方法及系統(tǒng)的制作方法
技術領域：
本發(fā)明涉及資源分配，尤其涉及一種虛擬化環(huán)境中自適應按需資源分配的方法及系統(tǒng)，屬于計算機技術領域。
背景技術：
隨著hternet應用的飛速發(fā)展，越來越多的服務提供商把服務外包給數據中心， 使得數據中心的規(guī)模變得越來越大、越來越復雜。虛擬化技術由于具有以下特點使得其在構建大規(guī)模數據中心中發(fā)揮著越來越重要的作用1、提升基礎架構的資源利用率。一臺物理機(PM)上可以同時運行多臺虛擬機(VM)，虛擬機監(jiān)控器(VMM)提供更細粒度的資源分配機制支持，例如xen(—種開源的虛擬化產品)默認的credit調度策略提供CPU資源動態(tài)分配的機制支持，balloon driver提供memory資源動態(tài)分配機制支持，細粒度的資源分配接近于優(yōu)化分配；2、更好的安全、隔離性。一臺虛擬機受到病毒、安全威脅或其中的應用導致系統(tǒng)崩潰不會影響其他虛擬機的運行；3、具有更好的高可用性。當虛擬機所運行的物理機意外宕機，可以使用虛擬機遷移機制將整個虛擬機快速遷移到其他物理機繼續(xù)運行；4、 能更好的降低功耗、制冷和機房空間。利用服務器整合技術，減少數據中心物理服務器和相關硬件的數量，從減少機房空間、能耗與制冷需求中獲益；5、提高了 IT員工的工作效率。一臺新服務器的上線需要復雜的流程，而新建虛擬機只是幾分鐘的事，大大簡化了服務器的供應。數據中心中的資源管理分三個層次(1)同一臺物理機上多個虛擬機之間如何劃分物理機資源；( 虛擬機在物理機上的放置問題；C3)對外提供服務的服務器不止一臺， 如何在提供相同服務的虛擬機之間進行請求分發(fā)。在目前的資源管理系統(tǒng)中，對于資源的分配與管理，存在著如下幾個問題1)這三個層次相互獨立考慮，沒有考慮相互之間的依賴關系。例如，層次(3)中的請求分發(fā)策略設計的不合理，不能感知到虛擬機資源的動態(tài)變化，會出現層次(1)中“徒勞”增加或減少虛擬機資源的現象。在層次(1)中準確的按需為虛擬機分配資源，可以使得層次O)中虛擬機在更少量的物理機上進行放置。2)目前針對層次(I)HP 公司的 HP-UX Workload Manager、VMware 的 DRS、IBM 的 Tivoli都是基于定義的期望資源使用率來激發(fā)資源重新分配調整的。在學術界P. Padala, X. Zhu等也都是基于類似的思路進行資源的調整?；谫Y源使用率進行調整存在著以下一些缺點(a)隨著hternet應用的發(fā)展，應用變得越來越“龐大”、越來越復雜，期望的資源使用率定義多少合適變得越來越困難。如果定義的太高，會影響應用的性能。如果定義的過低，導致浪費資源。(b)在虛擬化環(huán)境下，準確的資源使用率采樣變得更加困難，因為需要過濾虛擬機監(jiān)控器帶來的開銷。(c)當多個虛擬機運行于同一個物理機上時，以當前測得的資源使用率預測真實的資源需求準確性很差。3)傳統(tǒng)的針對物理機環(huán)境下的請求分發(fā)策略在虛擬化環(huán)境下不再適用。在物理機環(huán)境下除非管理員手工進行scale up或scale down，否則在運行過程中應用所占用的服
5務器資源容量是不變的，而在虛擬化環(huán)境下由于VMM提供動態(tài)的更細粒度資源分配機制支持，虛擬機的資源容量在應用運行過程中會發(fā)生動態(tài)變化。4)傳統(tǒng)情況下為了降低功耗和制冷成本，不使用的物理機進行關機以達到節(jié)能的目的。但是實際情況下web服務具有很大的突發(fā)性，這種情況發(fā)生時加入新的物理機器參與運行時間上的開銷太大。據統(tǒng)計，如果系統(tǒng)不能對用戶的請求按時響應超出用戶的滿意度，服務提供商不僅面臨著“提升”用戶對服務沮喪程度的風險，更有甚者用戶可能會轉向競爭者的服務，影響公司的產品和公司聲譽，帶來很大的經濟損失。為了解決以上存在的問題，我們設計了一套自適應按需資源分配系統(tǒng)。針對問題 2)，在層次(1)根據用戶的期望響應時間進行一臺物理機上多個虛擬機之間資源重新分配的依據，這種方式更直接更符合現實情況。針對問題幻，在層次( 設計了一個虛擬機資源容量動態(tài)感知模塊能實時感知虛擬機容量的動態(tài)變化。針對問題4)，維護了一個空閑資源池，當物理機不使用加入空閑資源池時，不是讓其立即關機，而是讓其處于休眠狀態(tài)維持一段時間。針對問題1)我們所設計的系統(tǒng)考慮這三個層次之間的相互依賴。

發(fā)明內容
本發(fā)明的目的是提供一種虛擬化環(huán)境中自適應按需資源分配的方法及系統(tǒng)，以更有效的滿足用戶體驗，更有效的使用資源。本發(fā)明是通過以下技術方案實現的1、本發(fā)明一種虛擬化環(huán)境中自適應按需資源分配的系統(tǒng)，它包括動態(tài)感知請求分發(fā)模塊、一臺物理機上多個虛擬機之間的按需分配模塊(簡稱1-PM:N-VM模塊)和數據中心全局管理模塊，如圖1所示。它們之間的關系是1-PM:N-VM模塊101根據實時收集的用戶體驗進行一臺物理機上資源的分配；動態(tài)感知請求分發(fā)模塊102根據監(jiān)測的應用請求負載信息和虛擬機容量信息把負載分發(fā)到合適的虛擬機上對請求進行響應；數據中心全局管理模塊103根據收集的物理機資源負載信息決定是否需要虛擬機在物理機之間進行遷移以重新進行放置，在物理機過量或不足時是否向空閑資源池釋放或申請新的物理機以退出或加入應用的服務。所述的動態(tài)感知請求分發(fā)模塊包括應用負載監(jiān)控模塊、應用負載預測模塊、虛擬機容量動態(tài)感知模塊和請求分發(fā)模塊，如圖2所示。它們之間的關系是應用負載監(jiān)控模塊 201監(jiān)測請求負載信息，把結果傳遞給應用負載預測模塊202 ；應用負載預測模塊202使用長期預測加短期修正方法對負載量進行預測；虛擬機容量動態(tài)感知模塊203實時收集各個虛擬機的容量信息；請求分發(fā)模塊204根據負載預測的結果和各個虛擬機的容量信息選擇合適的虛擬機處理請求對其進行響應。該應用負載監(jiān)控模塊是每一類應用都需要一臺負載分發(fā)器，負載監(jiān)控模塊運行于其上。所有的請求首先到達相應的負載分發(fā)器，此處的應用負載監(jiān)控模塊可以很容易的獲知全局負載信息。該模塊是個程序元件。該應用負載預測模塊是使用長期預測加短期修正的方法對負載進行預測。根據應用負載監(jiān)控模塊第i個階段的實測負載和第i個階段的預測誤差預測第i+ι個階段的負載狀態(tài)。該模塊是個程序元件。該虛擬機容量動態(tài)感知模塊是在物理機中的domainO控制臺虛擬機中實時監(jiān)測運行其上的各個虛擬機的容量變化。該模塊是個程序元件。該請求分發(fā)模塊是根據所設計的策略把請求轉發(fā)到相應的虛擬機中進行處理。 該模塊是個程序元件。所述的按需分配模塊即1-PM:N-VM模塊包括請求響應時間獲得模塊、資源需求控制模塊和資源裁決控制模塊，如圖3所示。它們之間的關系是請求響應時間模塊301實時獲得每個虛擬機中所運行應用的請求響應時間；資源需求控制模塊302依據實時獲得的實際響應時間和所定義的期望響應時間的差異，決定需要增加或減少的資源量；資源裁決控制模塊303根據資源需求控制模塊所提供的各個虛擬需求和資源總量的限制條件，做出最終資源分配的決定。該請求響應時間獲得模塊是根據請求到達時間戳和響應處理完畢時間戳的差值獲得每個請求在服務器端的實際處理時間。該模塊是個程序元件。該資源需求控制模塊是根據請求的實際處理時間和期望響應時間決定虛擬機的資源需求。該模塊是個程序元件。該資源裁決控制模塊是根據各個虛擬機的資源需求和資源總量的限制決定最終的資源分配結果。當不發(fā)生資源競爭時，按需為各個虛擬機分配資源。當發(fā)生競爭時，提供服務差異，優(yōu)先保證高優(yōu)先級應用的資源需求。該模塊是個程序元件。所述的數據中心全局管理模塊包括物理機資源監(jiān)控模塊、虛擬機遷移管理模塊和空閑資源池管理模塊。如圖4所示。它們之間的關系是物理機資源監(jiān)控模塊401監(jiān)控物理機的各類資源使用情況；虛擬機遷移管理模塊402根據物理機資源監(jiān)控模塊收集的信息決定是否需要發(fā)生虛擬機在各個物理機之間的遷移進行重新放置，以及選擇哪些虛擬機進行遷移；空閑資源池管理模塊403根據虛擬機遷移管理模塊進行遷移后的結果決定是否需要向空閑池申請或釋放物理機。該物理機資源監(jiān)控模塊是監(jiān)控物理機的各類資源使用情況。該模塊是個程序元件。該虛擬機遷移管理模塊是當物理機監(jiān)控模塊監(jiān)測到物理機的資源使用率過高時，需要把其上運行的一些虛擬機采取一定的策略遷移到其他負載資源使用率較輕的物理結點上。當物理機監(jiān)控模塊監(jiān)測到大多數物理機的資源使用率過低時，需要把某些負載低的物理上運行的虛擬機采取一定的策略遷移到其他物理節(jié)點上，以空閑出更多的物理機釋放到空閑資源池達到降低功耗的目的。該模塊是個程序元件。該空閑資源池管理模塊是負責維護空閑資源池，當前正在運行的物理機數量“過量”或“不足”時，空閑資源池管理模塊負責向空閑資源池申請?zhí)砑踊蜥尫盼锢頇C。該模塊是個程序元件。2、本發(fā)明一種虛擬化環(huán)境中自適應按需資源分配的方法，其中包括三個具體的策略1)自適應的虛擬機動態(tài)容量感知請求分發(fā)策略，其具體步驟如下步驟1 實時監(jiān)控應用負載；步驟2 使用長期預測和短期修正的方法，根據第i個階段的實測負載和預測誤差預測第i+Ι個階段的應用負載；步驟3 實時獲得虛擬機的資源容量信息；
步驟4 據步驟1預測的負載量信息與預設的負載閾值進行比較，若小于負載閾值，應用負載很低時，應盡量將負載集中，以便空出更多的物理機釋放到空閑資源池以達到降低功耗的目的；若高于負載閾值，應盡量將負載均衡，避免出現有的虛擬機“忙死”，有的虛擬機“閑死”現象的發(fā)生。2) I-PM N-VM資源分配策略設計了一種一臺物理機上多臺虛擬機之間根據應用的用戶體驗(在這指響應時間)進行資源分配的方法(簡稱1-PM:N-VM資源分配策略)。其具體步驟如下步驟1 實時獲得運行在每個虛擬機上應用的請求響應時間；步驟2 為每類應用定義一個期望的響應時間范圍。統(tǒng)計在每個周期內響應時間落入期望響應時間范圍左側，正好落入期望響應時間范圍內，落入期望響應時間范圍右側的請求數。定義期望的用戶滿意度，期望的用戶滿意度以落入期望響應時間范圍內的請求數和總請求數的比例來表示，越高效果越好。當落入期望響應時間范圍左側的請求數和總請求數的比例超出一定的閾值意味著為應用提供的資源充足，應當減少資源。當落入期望響應時間范圍右側的請求數和總請求數的比例超出一定的閾值意味著發(fā)生資源不足供應的現象，應該增加資源；步驟3 根據設計的資源差異和響應時間差異的函數模型決定需要增加或減少的
資源量；步驟4 依據設計的優(yōu)化理論模型，根據各個虛擬機的資源需求和資源總量的限制裁決最終的資源分配。3)虛擬機遷移策略，其具體步驟如下步驟1 為每臺物理機定義一個資源使用率的上下限閾值步驟2 當物理機資源使用率低于下限此時又沒有物理機的資源使用率高于上限，并且存在著物理機可以接收其上運行的虛擬機(可以接收意味著其他物理機接收虛擬機不會導致物理機的資源使用率超出上限)預示著物理機“過量”供應，將其上運行的虛擬機遷移到可以接收的物理機上，減少物理機的數量。當物理機資源使用率高于上限，但存在物理機可以接收其上運行的虛擬機，需要把虛擬機遷移到可以接收的物理機上繼續(xù)運行。 當物理機資源使用率高于上限閾值并維持了一段時間，此時沒有可以接收其上運行的虛擬機繼續(xù)運行的物理機，應從空閑資源池中吸收正在休眠的物理機加入運行。3、本發(fā)明的優(yōu)點在于1)設計了一個綜合考慮一臺物理機上多個虛擬機之間資源分配、提供同等服務的多個虛擬機之間請求分發(fā)、虛擬機放置三個層次的自適應資源管理框架。所設計的系統(tǒng)具有自適應性，減少了系統(tǒng)管理員的維護成本。2)設計了根據實際的用戶體驗進行資源分配的策略，與傳統(tǒng)的依據期望資源使用率進行資源分配調整的方法相比，不僅直接更具有現實意義。3)不同于傳統(tǒng)的請求分發(fā)策略，所設計的虛擬機容量動態(tài)感知模塊能實時感知到虛擬機容量的變化，進而能更好的利用資源。4)所維護的空閑資源池能更好的應對負載的“突變”。由于釋放到空閑資源池中的物理機不是立即關機，而是處于休眠狀態(tài)維持一段時間，減少了負載突變動態(tài)加入需要的啟動時間。

圖1本發(fā)明自適應按需資源分配整體框架2本發(fā)明動態(tài)感知請求分發(fā)模塊結構示意3本發(fā)明I-PM N-VM資源分配模塊結構示意4本發(fā)明數據中心全局管理模塊結構示意5本發(fā)明動態(tài)感知請求分發(fā)策略流程61-PM N-VM資源分配策略流程7虛擬機遷移策略流程中符號說明如下101 I-PMiN-VM模塊；102動態(tài)感知請求分發(fā)模塊；103數據中心全局管理模塊； 201應用負載監(jiān)控模塊；202應用負載預測模塊；203虛擬機容量動態(tài)感知模塊；204請求分發(fā)模塊；301請求響應時間獲得模塊；302資源需求控制模塊；303資源裁決控制模塊；401 物理機資源監(jiān)控模塊；402虛擬機遷移管理模塊；403空閑資源池管理模塊。PM Physical Machine，物理機；VM Virtual Machine，虛擬機；1-PM:N-VM 表示一個物理機上多個虛擬機之間的資源分配；Tij第i個應用在第j個統(tǒng)計周期的總請求數； Nij第i個應用在第j個統(tǒng)計周期實際響應時間落入期望響應時間的請求數；Li j第i個應用在第j個統(tǒng)計周期實際響應時間落入期望響應時間左側的請求數；Uij第i個應用在第j 個統(tǒng)計周期實際響應時間落入期望響應時間右側的請求數。
具體實施例方式為使本發(fā)明技術方案和優(yōu)點更加清楚，下面結合本發(fā)明實施例，對本發(fā)明實施例中的技術方案進行清楚、完整的描述。需要說明的是，在附圖或說明書中，相同的元件皆使用相同的附圖標記。本發(fā)明一種虛擬化環(huán)境中自適應按需資源分配的系統(tǒng)，它包括一臺物理機上多個虛擬機之間的按需分配模塊(簡稱1-PM:N-VM模塊)101、動態(tài)感知請求分發(fā)模塊102、數據中心全局管理模塊103，如圖1所示。1-PM:N-VM模塊101根據實時收集的用戶體驗進行一臺物理機上資源的分配；動態(tài)感知請求分發(fā)模塊102根據監(jiān)測的應用請求負載信息和虛擬機容量信息把負載分發(fā)到合適的虛擬機上對請求進行響應；數據中心全局管理模塊103根據收集的物理機資源負載信息決定是否需要虛擬機在物理機之間進行遷移以重新進行放置，在物理機過量或不足時是否向空閑資源池釋放或申請新的物理機以退出或加入應用的服務。所述的動態(tài)感知請求分發(fā)模塊102包括應用負載監(jiān)控模塊201、應用負載預測模塊202、虛擬機容量動態(tài)感知模塊203和請求分發(fā)模塊204，如圖2所示。應用負載監(jiān)控模塊201監(jiān)測請求負載信息，把結果傳遞給應用負載預測模塊202 ；應用負載預測模塊202使用長期預測加短期修正方法對負載量進行預測；虛擬機容量動態(tài)感知模塊203實時收集各個虛擬機的容量信息；請求分發(fā)模塊204根據負載預測的結果和各個虛擬機的容量信息選擇合適的虛擬機處理請求對其進行響應。該應用負載監(jiān)控模塊201 每一類應用都需要一臺負載分發(fā)器，負載監(jiān)控模塊運行于其上。所有的請求首先到達相應的負載分發(fā)器，此處的應用負載監(jiān)控模塊可以很容易的獲知全局負載信息，實時收集各應用的負載量信息。該模塊是個程序元件。該應用負載預測模塊202 針對web服務的負載，長期而言負載具有一定的規(guī)律性，但是短期內又具有一定的突發(fā)性，對負載的預測采取長期預測加短期修正的方法。根據應用負載監(jiān)控模塊第i個階段的實測負載和第i個階段的預測誤差預測第i+Ι個階段的負載狀態(tài)。該模塊是個程序元件。該虛擬機容量動態(tài)感知模塊203 在物理機中的domainO控制臺虛擬機中實時監(jiān)測運行其上的各個虛擬機的容量變化，利用xenstore和使用xentop命令可以實時獲得各個虛擬機的資源容量信息。該模塊是個程序元件。該請求分發(fā)模塊204 根據應用預測模塊預測的負載量和虛擬機容量動態(tài)感知模塊收集的各虛擬機容量信息，依據所設計的策略(見實時例一中的請求分發(fā)策略)把請求轉發(fā)到相應的虛擬機中進行處理。該模塊是個程序元件。所述的按需分配模塊即1-PM:N-VM模塊101包括請求響應時間獲得模塊301、資源需求控制模塊302和資源裁決控制模塊303，如圖3所示。請求響應時間模塊301實時獲得每個虛擬機中所運行應用的請求響應時間；資源需求控制模塊302依據實時獲得的實際響應時間和所定義的期望響應時間的差異，決定需要增加或減少的資源量；資源裁決控制模塊303根據資源需求控制模塊所提供的各個虛擬需求和資源總量的限制條件，做出最終資源分配的決定。該請求響應時間獲得模塊301 根據請求到達時間戳和響應處理完畢時間戳的差值獲得每個請求在服務器端的實際處理時間。每類應用定義一個期望的響應時間。所有的請求都會通過位于domainO中的虛擬bridge進行轉發(fā)，使用tshark工具從數據鏈路層對請求和響應包進行獲得，使用四元組〈源IP，目的IP，源端口，目的端口 >標識一個連接，分析獲得響應時間。該模塊是個程序元件。該資源需求控制模塊302 根據請求的實際處理時間和期望響應時間決定虛擬機的資源需求。資源量和響應時間之間的關系很復雜，很難用一個數學模型來表達之間的關系。田納西大學的王曉瑞等人證實資源量之間的差異和響應時間的差異關系更容易用數學模型表示，本發(fā)明設計資源差異和響應時間差異的關系模型以此得出需要增加或減少的資源量(見實施例二)。該模塊是個程序元件。該資源裁決控制模塊303 根據各個虛擬機的資源需求和資源總量的限制決定最終的資源分配結果。當不發(fā)生資源競爭時，按需為各個虛擬機分配資源。當發(fā)生競爭時，提供服務差異，優(yōu)先保證高優(yōu)先級應用的資源需求。該模塊是個程序元件。所述的數據中心全局管理模塊103包括物理機資源監(jiān)控模塊401、虛擬機遷移管理模塊402和空閑資源池管理模塊403。物理機資源監(jiān)控模塊401監(jiān)控物理機的各類資源使用情況；虛擬機遷移管理模塊402根據物理機資源監(jiān)控模塊收集的信息決定是否需要發(fā)生虛擬機在各個物理機之間的遷移進行重新放置，以及選擇哪些虛擬機進行遷移；空閑資源池管理模塊403根據虛擬機遷移管理模塊402進行遷移后的結果決定是否需要向空閑池申請或釋放物理機。該物理機資源監(jiān)控模塊401 監(jiān)控物理機的各類資源使用情況。使用開源的性能收集工具sysstat對物理機各類資源使用情況進行實時收集。該模塊是個程序元件。
該虛擬機遷移管理模塊402 當物理機監(jiān)控模塊監(jiān)測到物理機的資源使用率過高時，需要把其上運行的一些虛擬機采取一定的策略遷移(見實施例三)到其他負載資源使用率較輕的物理結點上。當物理機監(jiān)控模塊監(jiān)測到大多數物理機的資源使用率過低時，需要把某些負載低的物理上運行的虛擬機采取一定的策略(見實施例三)遷移到其他物理節(jié)點上，以空閑出更多的物理機釋放到空閑資源池達到降低功耗的目的。該模塊是個程序元件。該空閑資源池管理模塊403:負責維護空閑資源池，當前正在運行的物理機數量 “過量”或“不足”時，空閑資源池管理模塊負責向空閑資源池申請?zhí)砑踊蜥尫盼锢頇C。該模塊是個程序元件。2、本發(fā)明一種在虛擬化環(huán)境中自適應按需分配資源的方法，其中包括三個具體的策略實施例一，自適應的虛擬機動態(tài)容量感知請求分發(fā)策略；實施例二，I-PMiN-VM資源分配策略；實施例三，虛擬機遷移策略。1)實施例一自適應的虛擬機動態(tài)容量感知請求分發(fā)策略圖5為本發(fā)明實施例一提供的虛擬化環(huán)境中動態(tài)感知請求分發(fā)策略的方法流程圖，在本實施例中，動態(tài)感知請求分發(fā)策略的方法步驟為步驟1 使用應用負載監(jiān)測模塊201監(jiān)測當前應用的負載狀態(tài)信息；步驟2 使用長期預測加短期修正的預測方法根據當前的負載狀態(tài)信息和當前的預測誤差預測下一個階段的負載量大小步驟3 虛擬機容量動態(tài)感知模塊203實時感知虛擬機容量變化，維護一個本服務所有虛擬機容量的雙向循環(huán)鏈表。雙向循環(huán)鏈表按著容量從大到小的順序對虛擬機進行排序。步驟4 請求分發(fā)模塊204根據當前的負載狀態(tài)和提供服務的虛擬機容量把請求轉發(fā)到合適的服務器上進行服務。若負載量小于一定的閾值，應將負載盡量的集中。按如下公式1進行計算W1^PM擁有的VM數量+W2*VM資源使用率+W3*VM資源容量(公式1)對值進行降序排序，把請求轉發(fā)給值最大的虛擬機上進行處理，以使得所運行的虛擬機個數少的物理機能盡快“排空”其上的負載，達到盡快釋放物理機到空閑資源池以達到降低功耗的目的。若負載量高于一定的閾值，應將負載盡量的在各個虛擬機之間進行均衡。按如下公式2進行計算W1^VM所在PM的資源利用率+W2*VM資源使用率+W3/VM資源容量(公式2)對值按升序進行排序，把請求轉發(fā)給值最小的虛擬機上進行處理，以使得負載能盡量的均衡。2)實施例二 I-PM N-VM資源分配策略圖6為本發(fā)明實施例二提供的1-PM:N-VM資源分配策略的流程圖，在本實施例中， 1-PM:N-VM資源分配策略的方法步驟為步驟1 使用請求響應時間獲得模塊301獲得每個請求的實際響應時間。根據< 源IP，目的IP，源端口，目的端口〉標示一個連接，利用請求時間戳和響應時間戳的差值得到每個請求的實際響應時間，并且統(tǒng)計每個應用i在第j個周期內的吞吐量Tu，設定期望的響應時間為[A-U +&]。統(tǒng)計響應時間落入期望響應時間范圍內[A -U的請求數Nij和響應時間落入A - A,左側的請求數Lij或響應時間落入A + 右側的請求數Uu。 Clij為第i個虛擬機第j個周期內的實測響應時間，Ru為第i個虛擬機第j個周期的資源。步驟2 設定應用的滿意度為Pij = NijAij (公式 3)應用i的最壞承受度為4，當& >1_化時應用的滿意度得到滿足。當、/7；_ >4 (公式4)時，落入期望響應時間范圍左側的請求數和總請求數的比例超出設定的閾值意味著為應用提供的資源充足，用戶體驗很好。但是這種情況在實際當中也是不期望發(fā)生的現象，因為應用占用越多的資源需要付出更多的成本，服務提供商并沒有因為提供更好的用戶體驗而獲得比落入期望響應時間范圍內更多的收益，這種情況下提供商的凈收益其實是減少了，所以應當減少資源。當％ ITij > Q1 (公式5)時，落入期望響應時間范圍右側的請求數和總請求數的比例超出設定的閾值意味著發(fā)生資源不足供應的現象，用戶體驗受到影響，應該為其增加資源。步驟3 資源量之間的差異和響應時間的差異關系更容易用數學模型表示，本發(fā)明設計資源差異和響應時間差異的關系模型以此得出需要增加或減少的資源量。離期望響應時間范圍越接近，需要增加或減少的資源量越小。Δ Rij = λ (I-Pij) * Δ Clij (公式 6)其中ARij = Rij-Rij^1, Adlj = (Iij-Dij | , λ 為系數。步驟4 根據各個虛擬機的資源需求，考慮到資源總量的限制，當不發(fā)生資源競爭時按需進行分配，當發(fā)生資源競爭時優(yōu)先保證高優(yōu)先級應用的資源需求。3)實施例三虛擬機遷移策略圖7為本發(fā)明實施例三提供的虛擬機遷移策略的流程圖，在本實施例中虛擬機遷移策略的方法步驟為步驟1 使用物理機資源監(jiān)控模塊401獲得每個物理機的資源使用情況。為每個物理機定義一個資源使用率的上下限。步驟2 判斷資源使用率是否大于上限？若大于上限，按如下公式計算W1^VM內存量+W2*VM內存臟頁率+W3/VM的CPU負載(公式7)選擇值最小的虛擬機進行遷移。這是因為據實驗分析，虛擬機遷移的開銷主要跟虛擬機所占用的內存量大小和虛擬機在運行過程中產生的臟頁率有關。按這種方式進行遷移可以降低虛擬機遷移時的開銷，節(jié)省時間。判斷是否存在可以接收虛擬機繼續(xù)運行的物理機？可以接收虛擬機，是指虛擬機遷移過去后，不會使得目的物理機的資源使用率超出使用率的上限限制。若存在，則進行遷移的操作。若不存在，則向空閑資源池管理模塊進行申請加入新的物理機投入運行。若小于上限，判斷是否存在可以接收物理機上所運行所有虛擬機的物理機？若存在，則進行遷移操作。是否可以把物理機上所有的虛擬機遷移完畢？若可以，則把此時空閑的物理機釋
12放到空閑資源池中。
權利要求
1. 一種虛擬化環(huán)境中自適應按需資源分配的系統(tǒng)，其特征在于它包括動態(tài)感知請求分發(fā)模塊、一臺物理機上多個虛擬機之間的按需分配模塊即1-PM:N-VM模塊和數據中心全局管理模塊，1-PM:N-VM模塊根據實時收集的用戶體驗進行一臺物理機上資源的分配；動態(tài)感知請求分發(fā)模塊根據監(jiān)測的應用請求負載信息和虛擬機容量信息把負載分發(fā)到合適的虛擬機上對請求進行響應；數據中心全局管理模塊根據收集的物理機資源負載信息決定是否需要虛擬機在物理機之間進行遷移以重新進行放置，在物理機過量或不足時是否向空閑資源池釋放或申請新的物理機以退出或加入應用的服務；所述的動態(tài)感知請求分發(fā)模塊包括應用負載監(jiān)控模塊、應用負載預測模塊、虛擬機容量動態(tài)感知模塊和請求分發(fā)模塊，應用負載監(jiān)控模塊監(jiān)測請求負載信息，把結果傳遞給應用負載預測模塊；應用負載預測模塊使用長期預測加短期修正方法對負載量進行預測；虛擬機容量動態(tài)感知模塊實時收集各個虛擬機的容量信息；請求分發(fā)模塊根據負載預測的結果和各個虛擬機的容量信息選擇合適的虛擬機處理請求對其進行響應；該應用負載監(jiān)控模塊是每一類應用都需要一臺負載分發(fā)器，負載監(jiān)控模塊運行于其上；所有的請求首先到達相應的負載分發(fā)器，此處的應用負載監(jiān)控模塊可以很容易的獲知全局負載信息，該模塊是個程序元件；該應用負載預測模塊是使用長期預測加短期修正的方法對負載進行預測；根據應用負載監(jiān)控模塊第i個階段的實測負載和第i個階段的預測誤差預測第i+Ι個階段的負載狀態(tài)，該模塊是個程序元件；該虛擬機容量動態(tài)感知模塊是在物理機中的domainO控制臺虛擬機中實時監(jiān)測運行其上的各個虛擬機的容量變化，該模塊是個程序元件；該請求分發(fā)模塊是根據所設計的策略把請求轉發(fā)到相應的虛擬機中進行處理，該模塊是個程序元件；所述的按需分配模塊即1-PM:N-VM模塊包括請求響應時間獲得模塊、資源需求控制模塊和資源裁決控制模塊，請求響應時間模塊實時獲得每個虛擬機中所運行應用的請求響應時間；資源需求控制模塊依據實時獲得的實際響應時間和所定義的期望響應時間的差異，決定需要增加或減少的資源量；資源裁決控制模塊根據資源需求控制模塊所提供的各個虛擬需求和資源總量的限制條件，做出最終資源分配的決定；該請求響應時間獲得模塊是根據請求到達時間戳和響應處理完畢時間戳的差值獲得每個請求在服務器端的實際處理時間，該模塊是個程序元件；該資源需求控制模塊是根據請求的實際處理時間和期望響應時間決定虛擬機的資源需求，該模塊是個程序元件；該資源裁決控制模塊是根據各個虛擬機的資源需求和資源總量的限制決定最終的資源分配結果；當不發(fā)生資源競爭時，按需為各個虛擬機分配資源；當發(fā)生競爭時，提供服務差異，優(yōu)先保證高優(yōu)先級應用的資源需求；該模塊是個程序元件；所述的數據中心全局管理模塊包括物理機資源監(jiān)控模塊、虛擬機遷移管理模塊和空閑資源池管理模塊，物理機資源監(jiān)控模塊監(jiān)控物理機的各類資源使用情況；虛擬機遷移管理模塊根據物理機資源監(jiān)控模塊收集的信息決定是否需要發(fā)生虛擬機在各個物理機之間的遷移進行重新放置，以及選擇哪些虛擬機進行遷移；空閑資源池管理模塊根據虛擬機遷移管理模塊進行遷移后的結果決定是否需要向空閑池申請或釋放物理機；該物理機資源監(jiān)控模塊是監(jiān)控物理機的各類資源使用情況，該模塊是個程序元件； 該虛擬機遷移管理模塊是當物理機監(jiān)控模塊監(jiān)測到物理機的資源使用率過高時，需要把其上運行的一些虛擬機采取一定的策略遷移到其它負載資源使用率較輕的物理結點上；當物理機監(jiān)控模塊監(jiān)測到大多數物理機的資源使用率過低時，需要把某些負載低的物理上運行的虛擬機采取一定的策略遷移到其他物理節(jié)點上，以空閑出更多的物理機釋放到空閑資源池達到降低功耗的目的，該模塊是個程序元件；該空閑資源池管理模塊是負責維護空閑資源池，當前正在運行的物理機數量“過量” 或“不足”時，空閑資源池管理模塊負責向空閑資源池申請?zhí)砑踊蜥尫盼锢頇C，該模塊是個程序元件。
2. 一種虛擬化環(huán)境中自適應按需資源分配的方法，其特征在于它包括三個具體的策略1)自適應的虛擬機動態(tài)容量感知請求分發(fā)策略，其具體步驟如下 步驟1 實時監(jiān)控應用負載；步驟2 使用長期預測和短期修正的方法，根據第i個階段的實測負載和預測誤差預測第i+Ι個階段的應用負載；步驟3 實時獲得虛擬機的資源容量信息；步驟4 據步驟1預測的負載量信息與預設的負載閾值進行比較，若小于負載閾值，應用負載很低時，應盡量將負載集中，以便空出更多的物理機釋放到空閑資源池以達到降低功耗的目的；若高于負載閾值，應盡量將負載均衡，避免出現有的虛擬機“忙死”，有的虛擬機“閑死”現象的發(fā)生；2)I-PMiN-VM資源分配策略，其具體步驟如下步驟1 實時獲得運行在每個虛擬機上應用的請求響應時間； 步驟2 為每類應用定義一個期望的響應時間范圍；統(tǒng)計在每個周期內響應時間落入期望響應時間范圍左側，正好落入期望響應時間范圍內，落入期望響應時間范圍右側的請求數；定義期望的用戶滿意度，期望的用戶滿意度以落入期望響應時間范圍內的請求數和總請求數的比例來表示，越高效果越好；當落入期望響應時間范圍左側的請求數和總請求數的比例超出一定的閾值意味著為應用提供的資源充足，應當減少資源；當落入期望響應時間范圍右側的請求數和總請求數的比例超出一定的閾值意味著發(fā)生資源不足供應的現象，應該增加資源；步驟3 根據設計的資源差異和響應時間差異的函數模型決定需要增加或減少的資源量；步驟4:依據設計的優(yōu)化理論模型，根據各個虛擬機的資源需求和資源總量的限制裁決最終的資源分配；3)虛擬機遷移策略，其具體步驟如下步驟1 為每臺物理機定義一個資源使用率的上下限閾值；步驟2:當物理機資源使用率低于下限此時又沒有物理機的資源使用率高于上限，并且存在著物理機可以接收其上運行的虛擬機，預示著物理機“過量”供應，將其上運行的虛擬機遷移到可以接收的物理機上，減少物理機的數量；當物理機資源使用率高于上限，但存在物理機可以接收其上運行的虛擬機，需要把虛擬機遷移到可以接收的物理機上繼續(xù)運行；當物理機資源使用率高于上限閾值并維持了一段時間，此時沒有可以接收其上運行的虛擬機繼續(xù)運行的物理機，應從空閑資源池中吸收正在休眠的物理機加入運行。
全文摘要
一種虛擬化環(huán)境中自適應按需資源分配的系統(tǒng)，它包括動態(tài)感知請求分發(fā)模塊、1-PM:N-VM模塊和數據中心全局管理模塊。1-PM:N-VM模塊根據實時收集的用戶體驗進行一臺物理機上資源的分配；動態(tài)感知請求分發(fā)模塊根據監(jiān)測的應用請求負載信息和虛擬機容量信息把負載分發(fā)到合適的虛擬機上對請求進行響應；數據中心全局管理模塊根據收集的物理機資源負載信息決定是否需要虛擬機在物理機之間進行遷移以重新進行放置，在物理機過量或不足時是否向空閑資源池釋放或申請新的物理機以退出或加入應用的服務。一種虛擬化環(huán)境中自適應按需資源分配的方法，它包括自適應的虛擬機動態(tài)容量感知請求分發(fā)策略、1-PM:N-VM資源分配策略和虛擬機遷移策略。本發(fā)明在計算機技術領域里有應用前景。
文檔編號G06F9/48GK102279771SQ20111025814
公開日2011年12月14日 申請日期2011年9月2日 優(yōu)先權日2011年9月2日
發(fā)明者劉家軍, 張偉, 徐威, 祝明發(fā), 肖利民, 阮利 申請人:北京航空航天大學