工作負載分配裝置及其工作負載分配方法
【專利摘要】本發(fā)明提供一種工作負載分配裝置及其工作負載分配方法。工作負載分配裝置包含一監(jiān)控器、一處理器及一分配器。監(jiān)控器用以監(jiān)控數(shù)個服務器的運作狀態(tài)。處理器電性連接至該監(jiān)控器，并用以執(zhí)行下列操作：根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表；正規(guī)化該平均性能指標表；根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表而計算各該演算法的一基準值；以及根據(jù)該等基準值自該等演算法選擇一候選演算法。分配器電性連接至該處理器，用以根據(jù)該候選演算法，分配一工作負載至該等服務器。
【專利說明】工作負載分配裝置及其工作負載分配方法
【技術領域】
[0001]本發(fā)明提供一種工作負載分配裝置及其工作負載分配方法。更具體而言，本發(fā)明提供一種關于透過演算法選擇機制為數(shù)個服務器分配工作負載的工作負載分配裝置及其工作負載分配方法。
【背景技術】
[0002]為因應現(xiàn)代網(wǎng)路快速、穩(wěn)定及多元化的要求，服務器叢集技術已廣泛被使用。經(jīng)由數(shù)臺服務器所組成的服務器叢集(Cluster)，可有效提高服務器的高度調適性，并達成擴充執(zhí)行效能等等優(yōu)點。然而，隨著服務器叢集技術的發(fā)展，如何有效地將工作負載分配至服務器叢集內的多個服務器中，也變得更加重要且復雜。
[0003]對于傳統(tǒng)的服務器叢集而言，在分配工作負載至服務器叢集內的多個服務器時，大多只會配置一種演算法作為工作負載的分配準則，例如透過:隨機法(Random)、輪詢法(Round-Robin)、最少連線法(Least-Connection)及加權法(Weighted)等等。再者,在分配工作負載至服務器叢集內的多個服務器時，通常會因應不同的工作負載分配目標，例如；負載平衡、提升效率、提升服務品質等等，決定一種較適用的演算法。
[0004]然而，處于服務器叢集中的服務器，經(jīng)常會受到多個無法預期的變數(shù)的影響，這將使得只設置一種演算法作為工作負載的分配準則，并無法應付這些變數(shù)所造成的問題。舉例而言，當服務器叢集應用于電力負載分配的情況時，若僅使用一種演算法作為負載分配的準則，一旦影響服務器叢集中的服務器的變數(shù)改變或增加，例如電價、電流量、延遲時間或任務量等等變數(shù)，原本選用的演算法將無法有效地進行負載分配。于是，服務器叢集中的服務器將面臨工作負載分配失衡、工作負載分配效率減低等問題。
[0005]另一方面，當工作負載分配目標轉變時，原本設置的演算法大多無法滿足新的工作負載分配目標。舉例而言，當服務器叢集應用于電力負載分配的情況時，若工作負載分配目標由負載平衡轉變?yōu)楣?jié)省能源，則原本為了滿足負載平衡所配置的演算法，將難以繼續(xù)滿足節(jié)省能源。換言之，為了特定的工作負載分配目標，設置特定的演算法，是傳統(tǒng)的服務器叢集在進行工作負載分配時，所慣用的技術手段。
[0006]綜上所述，傳統(tǒng)的工作負載分配并無法因應各種不同的情況，而作出適應性地改變。有鑒于此，如何適應性地將工作負載分配至服務器叢集內的多個服務器，確為所屬【技術領域】中亟需克服的重要問題。

【發(fā)明內容】

[0007]本發(fā)明的主要目的在于適應性地將工作負載分配至服務器叢集內的多個服務器。因此，本發(fā)明提供一種工作負載分配裝置及其工作負載分配方法。進一步言，本發(fā)明針對服務器叢集內的多個服務器的運作狀態(tài)進行監(jiān)視，以取得該等服務器的運作狀態(tài)，并根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表。本發(fā)明對該平均性能指標表進行正規(guī)化，并建立與該平均性能指標表相對應的一加權分配表。本發(fā)明透過該已正規(guī)化的性能指標表與該加權分配表，作為一演算法選擇機制，以自該等演算法中選出最適合當下進行工作負載分配的一候選演算法。
[0008]本發(fā)明透過監(jiān)視該等服務器的運作狀態(tài)，可即時因應該等服務器的運作狀態(tài)的變化而選擇不同的演算法，并據(jù)以改變分配工作負載至該等服務器的方式，故可有效改善該等服務器突然受到多個無法預期的變數(shù)所造成的影響。再者，本發(fā)明可透過加權分配表進行適應性地調整上述演算法選擇機制，以于工作負載分配目標改變時，即時且適應性地選擇出最適合的演算法進行工作負載的分配?？傃灾?，本發(fā)明可適應性地將工作負載分配至服務器叢集內的多個服務器。
[0009]為達上述目的，本發(fā)明提供了一種工作負載分配裝置，包含一監(jiān)控器、一處理器及一分配器。該監(jiān)控器用以監(jiān)控數(shù)個服務器的運作狀態(tài)。該處理器電性連接至該監(jiān)控器，用以執(zhí)行下列操作:根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表；正規(guī)化該平均性能指標表；根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表而計算各該演算法的一基準值；以及根據(jù)該等基準值自該等演算法選擇一候選演算法。該分配器電性連接至該處理器，用以根據(jù)該候選演算法，分配一工作負載至該等服務器。
[0010]為達上述目的，本發(fā)明更提供了一種工作負載分配方法，包含下列步驟:
[0011](a)使一監(jiān)控器監(jiān)控數(shù)個服務器的運作狀態(tài)；
[0012](b)使一處理器根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表，其中該處理器電性連接至該監(jiān)控器；
[0013](C)使該處理器正規(guī)化該平均性能指標表；
[0014](d)使該處理器根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表，計算各該
演算法的一基準值；
[0015](e)使該處理器根據(jù)該等基準值自該等演算法選擇一候選演算法；以及
[0016](f)使一分配器根據(jù)該候選演算法，分配一工作負載至該等服務器，其中該分配器電性連接至該處理器。
[0017]在參閱附圖及隨后所描述的實施方式后，所屬【技術領域】具有通常知識者便可了解本發(fā)明的技術手段及相關實施方面。
【專利附圖】

【附圖說明】
[0018]圖1為本發(fā)明的第一實施例的工作負載分配裝置的示意圖；
[0019]圖2為本發(fā)明的第一實施例的一種平均性能指標表及其正規(guī)化性能指標表；
[0020]圖3為本發(fā)明的第一實施例的權重分配表及其基準值對應表；
[0021]圖4為本發(fā)明的第二實施例的權重分配表及其基準值對應表；
[0022]圖5為本發(fā)明的第三實施例所述的工作負載分配方法的流程圖；以及
[0023]圖6為本發(fā)明的第四實施例所述的工作負載分配方法的流程圖。
[0024]主要元件符號說明:
[0025]I工作負載分配裝置
[0026]11監(jiān)控器
[0027]13處理器
[0028]15分配器[0029]20服務器叢集
[0030]22第一服務器
[0031]24第二服務器
[0032]C客戶端
[0033]RR輪詢法
[0034]RND隨機法
[0035]LEF最小功耗節(jié)點優(yōu)先法
[0036]LPF最少待執(zhí)行任務數(shù)量優(yōu)先法
[0037]LEUF最低能量/利用率比率優(yōu)先法
[0038]LTTF最低時間/任務率優(yōu)先法
[0039]LPFFT最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法
[0040]T21 ?T5 表格
【具體實施方式】
[0041]本發(fā)明的內容可透過以下實施例來解釋，但本發(fā)明的實施例并非用以限制本發(fā)明必須在如以下實施例中所述的任何特定的環(huán)境、應用或方式方能實施。因此，以下實施例的說明僅在于闡釋本發(fā)明，而非用以限制本發(fā)明。在以下實施例及附圖中，與本發(fā)明非直接相關的元件已省略而未繪示，且繪示于附圖中的各元件之間的尺寸比例僅為了便于理解，而非用以限制為本發(fā)明實際的實施比例。
[0042]本發(fā)明的第一實施例如圖1所示，其為描繪一工作負載分配裝置I的示意圖，包含一監(jiān)控器11、一處理器13及一分配器15。處理器13分別與監(jiān)控器11及分配器15電性連接。于本實施例中，如圖1所示，處理器13可被設置于分配器15中，但不限于此。于其他實施例，監(jiān)控器11、處理器13及分配器15亦可透過不同的硬件實施，或全部整合在同一硬件中。
[0043]如圖1所示，一服務器叢集20可包含數(shù)個服務器，例如一第一服務器22及一第二服務器24等等。為了易于說明，以下提及第一服務器22及一第二服務器24即可視為服務器叢集20所包含的數(shù)個服務器，惟此說明方式并非用以限制本發(fā)明的可實施方面。
[0044]監(jiān)控器11可透過有線傳輸或無線傳輸?shù)姆绞脚c服務器叢集20進行通信及數(shù)據(jù)傳遞。因此，在監(jiān)控器11與第一服務器22及第二服務器24建立連線后，可進一步監(jiān)控第一服務器22及第二服務器24的運作狀態(tài)。透過監(jiān)控器11的上述運作，處理器13可持續(xù)地取得第一服務器22及第二服務器24當下的運作狀態(tài)。
[0045]根據(jù)第一服務器22及第二服務器24當下的運作狀態(tài)，處理器13可針對數(shù)個演算法建立一平均性能指標表。根據(jù)使用者的需求，該等演算法可選自，例如但不限于:輪詢法(Round-Robin, RR)、隨機法(Random, RND)、最小功耗節(jié)點優(yōu)先法(Least EnergyFirst, LEF)、最少待執(zhí)行任務數(shù)量優(yōu)先法(Least Pending First, LPF)、最低能量/利用率比率優(yōu)先法(Least Energy-to-Utilization First, LEUF)、最低時間/任務率優(yōu)先法(Least Time-to-Task First, LTTF)及最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法(LeastPending-Task-to-Task First, LPFFT)等等。
[0046]以下將以電力工作負載的分配為例作進一步說明，惟此范例并非用以限定本發(fā)明的可實施方面。請參考圖2的表格T21，其繪示了一種平均性能指標表的方面，其中第一欄為可選擇的演算法類別，而第二欄至第七欄為對應至該等可選擇的演算法的平均參數(shù)，依序為平均功耗(單位為瓦特)、平均利用率(單位為百分比)、平均延遲時間(單位為秒)、平均未處理任務數(shù)量、平均已完成任務數(shù)量及平均能量(單位為度)。應理解，上述平均性能指標表亦可包含其他欄位，用以描述其他平均參數(shù)，并不受限于此所述。
[0047]上述平均性能指標表中各個欄位所記錄的數(shù)值，皆是處理器13根據(jù)監(jiān)控器11監(jiān)控服務器叢集20的數(shù)個服務器所得的運作狀態(tài)所建立的，其中平均性能指標表的更新時間，可根據(jù)使用者的需求、服務器叢集20的運作狀態(tài)、處理器13及監(jiān)控器11本身的設定及運作方式等等因素而設定。舉例而言，可以每隔I小時更新一次，也可每隔24小時更新一次。
[0048]圖2的表格T21中各個欄位所記錄的數(shù)值僅用以說明，而非用以限定本發(fā)明的可實施方面。進一步言，在建立上述平均性能指標表后，處理器13即可得知該等可選擇的演算法，當各自對服務器叢集20的數(shù)個服務器進行負載分配時，所相對應產(chǎn)生的平均參數(shù)值為何。
[0049]舉例而言，當采用最小功耗節(jié)點優(yōu)先法(即LEF)時對服務器叢集20的數(shù)個服務器進行負載分配時，該等服務器的平均功耗、平均利用率、平均延遲時間、平均未處理任務數(shù)量、平均已完成任務數(shù)量及平均能量分別為1785.13瓦特、15.77%,4.24秒、636.27件、2177.12件及0.45度。基于上述說明，本領域具有通常知識者應可理解其他可選擇的演算法與該等平均參數(shù)之間的對應關系，于此不再贅述。
[0050]在獲得表格T21中所列的該等平均參數(shù)值后，處理器13將以一正規(guī)化分布方法，針對表格T21中所列的該等平均參數(shù)值進行正規(guī)化，以建立一已正規(guī)化性能指標表。該已正規(guī)化性能指標表可包含數(shù)個參考欄位，各個參考欄位具有對應至可選擇的該等演算法的數(shù)個參考參數(shù)。
[0051]對于電力負載分配而言，負載數(shù)值、延遲數(shù)值以及任務數(shù)值為常見的參考參數(shù)。因此，處理器13在針對表格T21中所列的該等平均參數(shù)值進行正規(guī)化時，可以負載數(shù)值、延遲數(shù)值以及任務數(shù)值作為正規(guī)化的依據(jù)，進而建立如圖2的表格T22所示的已正規(guī)化性能指標表。
[0052]請參閱圖2的表格T22，其繪示了一種已正規(guī)化性能指標表的方面，其中第一欄為可選擇的演算法類別，而第二欄至第四欄為對應至該等可選擇的演算法的參考參數(shù)，依序為負載數(shù)值、延遲數(shù)值以及任務數(shù)值。應理解，上述已正規(guī)化性能指標表亦可包含其他欄位，或用以描述其他參考參數(shù)，并不受限于此所述。
[0053]如何將圖2的表格T21所示的平均性能指標表正規(guī)化為圖2的表格T22所示的已正規(guī)化性能指標表已為本領域具有通常知識者所熟知，于此不再贅述。另外，以負載數(shù)值、延遲數(shù)值以及任務數(shù)值作為正規(guī)化的依據(jù)僅為了易于說明，而非用以限定本發(fā)明的可實施方面。
[0054]圖2的表格T22中各個欄位所記錄的數(shù)值僅用以說明，而非用以限定本發(fā)明的可實施方面。進一步言，在建立上述已正規(guī)化性能指標表后，處理器13即可得知該等可選擇的演算法，當各自對服務器叢集20的數(shù)個服務器進行負載分配時，在負載、延遲及任務三個指標上的參考數(shù)值為何。[0055]舉例而言，當采用最小功耗節(jié)點優(yōu)先法(即LEF)時對服務器叢集20的數(shù)個服務器進行負載分配時，該等服務器的負載數(shù)值、延遲數(shù)值以及任務數(shù)值分別為98.38,2.8及3.54。于本實施例，當參考數(shù)值愈高,則表示在該項參考指標上的優(yōu)先權越高。舉例而言，相對于其他可選擇的演算法，最小功耗節(jié)點優(yōu)先法在負載數(shù)值指標上的優(yōu)先權極高(表示功率消耗低)，但其在延遲數(shù)值指標上的優(yōu)先權極低(表示處理時間慢)，且在任務數(shù)值指標上的優(yōu)先權也極低(表示任務處理量低)?；谏鲜稣f明，本領域具有通常知識者應可理解其他可選擇的演算法與該等參考參數(shù)之間的對應關系，于此不再贅述。
[0056]于其他實施例，工作負載分配裝置I更可包含一儲存器(未繪示于圖)，且該儲存器與處理器13電性連結，并用以暫時或長時間儲存圖2的表格T21所示的平均性能指標以及圖2的表格T22所示的已正規(guī)化性能指標表。
[0057]處理器13在建立圖2的表格T22所示的已正規(guī)化性能指標表后，可進一步建立相對應于該已正規(guī)化性能指標表的一個權重分配表。如同上述，由于該已正規(guī)化性能指標表包含一負載欄位、一延遲欄位及一任務欄位，故該權重分配表亦包含一負載權重欄位、一延遲權重欄位及一任務權重欄位。應理解，當該已正規(guī)化性能指標表包含不同的參考參數(shù)欄位時，該權重分配表將相應地具有不同的權重欄位。
[0058]處理器13可根據(jù)圖2的表格T22所示的該已正規(guī)化性能指標表及該權重分配表，計算各該可選擇的演算法的一基準值(Benchmark),并根據(jù)該等基準值自該等可選擇的演算法中選擇一候選演算法，其中該候選演算法即為當下最適合進行工作負載分配的演算法。
[0059]于本實施例，處理器13可根據(jù)下式，計算相應于各該演算法的一基準值:
[0060]NPIff = NPILXffL+NPIDXffD+NPITXffT(I)
[0061]其中NPIw為相應于各該可選擇的演算法的基準值，NPIl, NPId以及NPIt分別為相應于各該演算法的參考參數(shù)，也就是負`載數(shù)值、延遲數(shù)值以及任務數(shù)值Wd以及Wt分別為相應于NPL、NPId以及NPIt的負載權重、延遲權重及任務權重。于其他實施例，在不違背本發(fā)明的精神的前提下，處理器13亦可根據(jù)其他方程式，計算相應于各該演算法的一基準值。
[0062]根據(jù)上述方程式(1)，處理器13可計算各該可選擇的演算法的一基準值(Benchmark)。換言之，各該可選擇的演算法的基準值是根據(jù)相對各該演算法的該負載數(shù)值與該負載權重的乘積、該延遲數(shù)值與該延遲權重的乘積及該任務數(shù)值與該任務權重的乘積的相加的和計算而來。
[0063]茲以圖3的表格T31與表格T32為例做進一步說明，其中圖3的表格T31為一個相對應于圖2的表格T22的權重分配表，T32為一個相對應于圖3的表格T31的基準值對應表。
[0064]表格T31為一權重分配表,且該權重分配表中各個欄位的權重數(shù)值，也就是負載權重、延遲權重及任務權重，是可根據(jù)使用者需求進行調整。為了說明，本實施例采用了兩組不同的權重分配，即權重A及權重B。權重A的負載權重、延遲權重及任務權重分別設定為1、1及1，而權重B的負載權重、延遲權重及任務權重分別為10、1及I。應理解,權重A及權重B的權重分配僅為了易于說明，而非用以限定本發(fā)明的可實施方面。
[0065]如圖3的表格T31與表格T32所示，當采用權重A的權重分配方式，各該可選擇的演算法的基準值將列示于表格T32的基準值A欄位內，而當采用權重B的權重分配方式，各該可選擇的演算法的基準值將列示于表格T32的基準值B欄位內。于本實施例，基準值越高，則表示相對應的演算法具有越高的優(yōu)先權，也就是越適合作為后續(xù)工作負載分配的候選演算法。
[0066]當采用權重A的權重分配方式時，相對于其他可選擇的演算法，最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法(即LPFFT)可具有最高的基準值，也就是218.89。換言之，此時選擇最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法作為后續(xù)工作負載分配的候選演算法為最佳的選擇。相似地，當采用權重A的權重分配方式時，相對于其他可選擇的演算法，最小功耗節(jié)點優(yōu)先法(即LEF)可具有最高的基準值，也就是990.14。換言之，此時選擇最小功耗節(jié)點優(yōu)先法作為后續(xù)工作負載分配的候選演算法為最佳的選擇。
[0067]在處理器13因應不同的權重分配方式，選擇出該候選演算法后，分配器15將利用該候選演算法將客戶端C要求的一工作負載分配至服務器叢集20中的數(shù)個服務器中，包含第一服務器22及第二服務器24。應理解，上述工作負載可以包含數(shù)個工作任務，也可以單指一個工作任務，且二者皆為本發(fā)明的可實施方面。
[0068]本發(fā)明的第二實施例同樣為一工作負載分配裝置。本質上，本實施例所述的工作負載分配裝置可視為第一實施例所述的工作負載分配裝置1，且能執(zhí)行工作負載分配裝置I所能執(zhí)行的所有運作，因此，以下敘述將著重于強調二者的相異處。有關本實施例與第一實施例的相同處，請參閱第一實施例及其相關圖式的說明；且在未特別強調的情況下，本實施例所述的各個元件可視為第一實施例中所述的相對應元件。
[0069]于本實施例中，同樣以電力工作負載的分配為例進一步說明如下。本實施例所述的工作負載分配裝置可包含一監(jiān)控器、一處理器及一分配器，其中該處理器分別與該監(jiān)控器及該分配器電性連接。本實施例與第一實施例的不同處為，本實施例所述的處理器還可根據(jù)一需量反應方案(Demand Response Program)建立如圖3的表格T31所示的權重分配表。更詳細來說，本實施例所述的處理器可根據(jù)該需量反應方案，調整表格T31所示的權重數(shù)值(即負載權重、延遲權重及任務權重)，以適應地應付不同的工作負載分配目標。
[0070]為了易于說明，上述需量反應方案僅考慮包含一緊急用電定價(Critical PeakPricing, CPP)及一分時用電定價(Time-of-Use Pricing, TOU Pricing),其中分時用電定價更包含一尖峰用電定價及一離峰用電定價。應理解，于其他實施例，上述需量反應方案更可包含其他定價、或采用其他定價作為需量反應方案。
[0071]茲以圖4的表格T41與表格T42為例進一步說明，其中圖4的表格T41為一個相對應于圖2的表格T22的權重分配表，T42為一個相對應于圖4的表格T41的基準值對應表。
[0072]如圖4的表格T41所示，不同的需量反應方案可設定不同的權重分配，其中:對應至緊急用電定價的負載權重、延遲權重及任務權重分別設定為10、1及I ;對應至尖峰用電定價的負載權重、延遲權重及任務權重分別設定為5、1及I ;以及對應至離峰用電定價的負載權重、延遲權重及任務權重分別設定為2.5、1及I。
[0073]隨著需量反應方案的不同，工作負載的分配目標將可能改變。舉例而言，當需量反應方案為緊急用電定價(即高電價)時，工作負載的分配目標需要的是選擇出最節(jié)省功耗的演算法，故緊急用電定價的負載權重設定為10，而其延遲權重及任務權重皆設定為I以滿足解省能源的分配目標。相似地，因應尖峰用電定價以及離峰用電定價，工作負載的分配目標可能改變，而本實施例所述的處理器仍可適應地調整權重的分配，使分配器15可適應地分配工作負載至服務器叢集20中的數(shù)個服務器中。
[0074]如圖4的表格T42所示，當需量反應方案為緊急用電定價時，最小功耗節(jié)點優(yōu)先法(即LEF)的基準值最高。換言之，相對于其他可選擇的演算法，最小功耗節(jié)點優(yōu)先法的優(yōu)先權最高，最適合作為后續(xù)分配工作負載的候選演算法。當需量反應方案為尖峰用電定價時，最小功耗節(jié)點優(yōu)先法(即LEF)的基準值依舊是最高。換言之，相對于其他可選擇的演算法，最小功耗節(jié)點優(yōu)先法的優(yōu)先權最高，最適合作為后續(xù)分配工作負載的候選演算法。然而，當需量反應方案為離峰用電定價時，最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法(即LPFFT)的基準值最高。換言之，相對于其他可選擇的演算法，最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法的優(yōu)先權最高，最適合作為后續(xù)分配工作負載的候選演算法。
[0075]據(jù)此，于該緊急用電定價或該尖峰用電定價的使用期間，本實施例所述的分配器將根據(jù)最小功耗節(jié)點優(yōu)先法，將客戶端C要求的工作負載分配至服務器叢集20中的數(shù)個服務器，包含第一服務器22或第二服務器24。另外，于該離峰用電定價的使用期間，本實施例所述的分配器將根據(jù)最低待執(zhí)行任務數(shù)量/任務數(shù)量優(yōu)先法，將客戶端C要求的工作負載分配至服務器叢集20中的數(shù)個服務器，包含第一服務器22或第二服務器24。
[0076]于其他實施例，本實施例所述的處理器還可根據(jù)使用者需求設定一服務品質門檻值。舉例而言，服務品質門檻值可以設定為如圖2的表格T22所示的延遲數(shù)值以及任務數(shù)值相加總和的下限值，例如設定為20。如此，當需量反應方案為緊急用電定價或時尖峰用電定價，原本候選的演算法應為最小功耗節(jié)點優(yōu)先法(即LEF)，但因最小功耗節(jié)點優(yōu)先法的延遲數(shù)值(即2.8)以及任務數(shù)值(即3.54)的總和僅為6.34 (即2.8+3.54)，并未達所設定的服務品質門檻值，故本實施例所述的處理器會進一步作以下處理。
[0077]具體而言，本實施例所述的處理器13將重新調整權重分配表的權重分配比例，例如降低負載權重并提升延遲權重以及任務權重的比例，使得最小功耗節(jié)點優(yōu)先法的延遲數(shù)值以及任務數(shù)值得以提升。當然，此時最小功耗節(jié)點優(yōu)先法的負載數(shù)值可能降低。透過持續(xù)的迭代運算，本實施例所述的處理器將可自該等可選擇的演算法中，選出滿足服務品質門檻值的候選演算法。然后，本實施例所述的分配器將根據(jù)滿足服務品質門檻值的候選演算法，將客戶端C要求的工作負載分配至服務器叢集20中的數(shù)個服務器，包含第一服務器22或第二服務器24。應理解，上述服務品質門檻值的定義及設定值僅為本發(fā)明的一種實施方面，并非用以限定本發(fā)明的可實施方面。
[0078]本發(fā)明的第三實施例如圖5所示，其描繪一種工作負載分配方法，適用于一工作負載分配裝置，該工作負載分配裝置包含一監(jiān)控器、一處理器以及一分配器，其中該處理器分別電性連接至該監(jiān)控器及該分配器。本質上，本實施例所述的工作負載分配裝置可視為第一實施例所述的工作負載分配裝置I。
[0079]如圖5所示，工作負載分配方法首先執(zhí)行步驟S500，使該監(jiān)控器監(jiān)控數(shù)個服務器的運作狀態(tài)。再來，執(zhí)行步驟S510，使該處理器根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表，其中該平均性能指標表包含對應至各該演算法的該等服務器的數(shù)個平均參數(shù)。該等平均參數(shù)可包含但不限于:平均功耗、平均利用率、平均延遲時間、平均未處理任務數(shù)量、平均已完成任務數(shù)量及平均能量的其中之一或其組合。[0080]接著，執(zhí)行步驟S520，使該處理器正規(guī)化該平均性能指標表，其中該已正規(guī)化性能指標表包含對應至各該演算法的該等服務器的數(shù)個參考值。之后，執(zhí)行步驟S530，使該處理器根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表，計算各該演算法的一基準值，其中該權重分配表包含數(shù)個相對應于該等參考值的權重。然后，執(zhí)行步驟S540，使該處理器根據(jù)該等基準值自該等演算法選擇一候選演算法。最后，執(zhí)行步驟S550，使該分配器根據(jù)該候選演算法，分配一工作負載至該等服務器。
[0081]于其他實施例，上述該等參考值可包含一負載數(shù)值、一延遲數(shù)值及一任務數(shù)值，且該權重分配表包含分別對應至該負載數(shù)值、該延遲數(shù)值及該任務數(shù)值的一負載權重、一延遲權重及一任務權重。如此，上述該等基準值可為該等服務器的該相對應負載數(shù)值與該負載權重的乘積、該相對應延遲數(shù)值與該延遲權重的乘積及該相對應任務數(shù)值與該任務權重的乘積的相加的和。
[0082]除了上述步驟，本實施例所述的工作負載分配方法亦能執(zhí)行第一實施例所描述的工作負載分配裝置I的所有操作及產(chǎn)生相對應的所有功能，且所屬【技術領域】具有通常知識者可直接了解本實施例所述的工作負載分配方法如何基于第一實施例的揭露內容執(zhí)行此等操作及產(chǎn)生此等功能，于此不再贅述。
[0083]本發(fā)明的第四實施例如圖6所示，其描繪一種工作負載分配方法，適用于一工作負載分配裝置。該工作負載分配裝置包含一監(jiān)控器、一處理器以及一分配器，其中該處理器分別電性連接至該監(jiān)控器及該分配器。本質上，本實施例所述的工作負載分配裝置可視為第二實施例所述的工作負載分配裝置I。本實施例的工作負載分配方法的步驟S500、S510、S520、S540及S550與第三實施例的該等步驟相同，因此，以下敘述將著重于二者的相異處。有關本實施例與第三實施例的相同之處，請參閱第三實施例的相關說明。
[0084]本實施例所述的工作負載分配方法，于執(zhí)行步驟S530之前，可選擇地先執(zhí)行步驟S525,使該處理器根據(jù)一需量反應方案建立一權重分配表,其中該權重分配表與該已正規(guī)化性能指標表相對應。然后，執(zhí)行步驟S530，使該處理器根據(jù)該已正規(guī)化性能指標表及在步驟S525所建立的該權重分配表，計算各該演算法的一基準值。本實施例所述的需量反應方案可包含但不限于:一緊急用電定價及一分時用電定價的其中之一，其中分時用電定價更分為一尖峰用電定價及一離峰用電定價。
[0085]另一方面，本實施例所述的工作負載分配方法，于執(zhí)行步驟S540與執(zhí)行步驟S550之間，可先執(zhí)行步驟S545，使該處理器判斷該候選演算法是否符合一服務品質門檻值。若判斷結果為否，則回到步驟S525，使該處理器根據(jù)該需量反應方案重新建立一權重分配表；若判斷結果為是，則執(zhí)行步驟S550。
[0086]于其他實施例，上述服務品質門檻值，可以設定為延遲數(shù)值以及任務數(shù)值的總和的下限值，并于步驟S545，使該處理器判斷相應于該候選演算法的延遲數(shù)值以及任務數(shù)值的總和是否低于該服務品質門檻值。若判斷結果為否，則使處理器重新設定該權重分配表，并回到步驟S530 ;若判斷結果為是，則執(zhí)行步驟S550。
[0087]除了上述步驟，本實施例所述的工作負載分配方法亦能執(zhí)行第二實施例所描述的工作負載分配裝置的所有操作及產(chǎn)生所對應的所有功能，且所屬【技術領域】具有通常知識者可直接了解本實施例所述的工作負載分配方法如何基于第二實施例的揭露內容執(zhí)行此等操作及產(chǎn)生此等功能，于此不再贅述。[0088]綜上所述，本發(fā)明提供了一種工作負載分配裝置及其工作負載分配方法。進一步言，本發(fā)明針對服務器叢集內的多個服務器的運作狀態(tài)進行監(jiān)視，以取得該等服務器的運作狀態(tài)，并根據(jù)該等服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表。本發(fā)明對該平均性能指標表進行最佳化，并建立與該平均性能指標表相對應的一加權分配表。本發(fā)明透過該已正規(guī)化的性能指標表與該加權分配表，作為一演算法選擇機制，以自該等演算法中選出最適合當下進行工作負載分配的一候選演算法。
[0089]本發(fā)明透過監(jiān)視該等服務器的運作狀態(tài)，可即時因應該等服務器的運作狀態(tài)的變化而選擇不同的演算法，并據(jù)以改變分配工作負載至該等服務器的方式，故可有效改善該等服務器突然受到多個無法預期的變數(shù)所造成的影響。再者，本發(fā)明可透過加權分配表進行適應性地調整上述演算法選擇機制，以于工作負載分配目標改變時，即時且適應性地選擇出最適合的演算法進行工作負載的分配?？傃灾?，本發(fā)明提供了可適應性地將工作負載分配至服務器叢集內的多個服務器的工作負載分配裝置及其工作負載分配方法。
[0090]上述實施例所闡述的內容僅用以例舉本發(fā)明的部分可實施方面，以及闡釋本發(fā)明的技術特征，并非用以限制本發(fā)明的實質保護范疇。因此，任何熟悉本【技術領域】者可輕易完成的改變或均等性的安排均屬于本發(fā)明所主張的范圍，且本發(fā)明的權利保護范圍實以權利要求書為準。
【權利要求】
1.一種工作負載分配裝置，包含: 一監(jiān)控器，用以監(jiān)控數(shù)個服務器的運作狀態(tài)； 一處理器，電性連接至該監(jiān)控器，并用以執(zhí)行下列操作: 根據(jù)所述服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表； 正規(guī)化該平均性能指標表； 根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表，計算各該演算法的一基準值；以及 根據(jù)所述基準值自所述演算法選擇一候選演算法；以及 一分配器，電性連接至該處理器，并用以根據(jù)該候選演算法，分配一工作負載至所述服務器。
2.如權利要求1所述的工作負載分配裝置，其特征在于，該處理器根據(jù)一需量反應方案，建立該權重分配表。
3.如權利要求2所述的工作負載分配裝置，其特征在于，該平均性能指標表包含對應至各該演算法的所述服務器的數(shù)個平均參數(shù)。
4.如權利要求3所述的工作負載分配裝置，其特征在于，該已正規(guī)化性能指標表包含對應至各該演算法的所述服務器的數(shù)個參考值，且該權重分配表包含數(shù)個相對應于所述參考值的權重。
5.如權利要求4所述的工作負載分配 裝置，其特征在于，對應至各該演算法的該基準值為該已正規(guī)化性能指標表中相對應的各該參考值與該權重分配表中相對應的各該權重的乘積的相加的和。
6.一種工作負載分配方法，包含下列步驟: (a)使一監(jiān)控器監(jiān)控數(shù)個服務器的運作狀態(tài)； (b)使一處理器根據(jù)所述服務器的運作狀態(tài)，針對數(shù)個演算法建立一平均性能指標表，其中該處理器電性連接至該監(jiān)控器； (C)使該處理器正規(guī)化該平均性能指標表； (d)使該處理器根據(jù)該已正規(guī)化性能指標表及一相對應的權重分配表，計算各該演算法的一基準值； (e)使該處理器根據(jù)所述基準值自所述演算法選擇一候選演算法；以及 (f)使一分配器根據(jù)該候選演算法，分配一工作負載至所述服務器，其中該分配器電性連接至該處理器。
7.如權利要求6所述的工作負載分配方法，其特征在于，于該步驟(d)之前更包含下列步驟: (dO)使該處理器根據(jù)一需量反應方案，建立該權重分配表。
8.如權利要求7所述的工作負載分配方法，其特征在于，該平均性能指標表包含對應至各該演算法的所述服務器的數(shù)個平均參數(shù)。
9.如權利要求8所述的工作負載分配方法，其特征在于，該已正規(guī)化性能指標表包含對應至各該演算法的所述服務器的數(shù)個參考值，且該權重分配表包含數(shù)個相對應于所述參考值的權重。
10.如權利要求9所述的工作負載分配方法，其特征在于，對應至各該演算法的該基準值為該已正規(guī)化性能指標表中相對應的各該參考值與該權重分配表中相對應的各該權重的乘積的相加的和。·
【文檔編號】G06F9/50GK103853614SQ201210534834
【公開日】2014年6月11日 申請日期:2012年12月12日 優(yōu)先權日:2012年12月6日
【發(fā)明者】湯政仁, 莊棨椉, 林為森, 邱育生 申請人:財團法人資訊工業(yè)策進會