本發(fā)明涉及通信與計算機技術領域,更具體地,涉及一種超融合一體機系統及其橫向和縱向擴容方法。
背景技術:
超融合一體機系統是一種基于分布式架構的,將計算和存儲進行高度融合的計算機系統。超融合一體機系統一大優(yōu)點就是其橫向擴容能力,包括計算能力和存儲能力的橫向擴容?,F階段,超融合一體機系統在出廠時往往是需要配置好系統,然后再到實際環(huán)境中與原集群的一體機系統進行通信,加入集群,完成橫向擴容。而本發(fā)明提出了一種新的橫向擴容方法,采用主運行系統遠程管理技術結合管理agent軟件的方式進行橫向擴容,使得超融合一體機系統可以裸機的形式出廠,在實際環(huán)境中由主運行系統自動地部署系統到超融合一體機上,完成超融合一體機系統的橫向擴容。
雖然超融合一體機系統具備超強的橫向擴展能力,但是在大數據時代,數據會被源源不斷地產生和保存,這往往會導致超融合一體機系統的存儲能力出現不足,而cpu、內存等計算資源則非常充足的情況出現。在這種情況下,進行橫向擴容則存在計算資源的浪費,而僅對存儲資源進行擴容即可滿足需求,即需要對超融合系統進行縱向擴容。
一般地,商用的超融合系統在進行存儲資源的縱向擴容后,會導致超融合系統中經過縱向擴容的節(jié)點的存儲能力大于其他未被擴容的節(jié)點的存儲能力。商用的超融合一體機系統并不會基于上述特點自動優(yōu)化數據的放置,因而使得縱向擴容的節(jié)點易于稱為超融合一體機系統的存儲性能瓶頸。因此本發(fā)明提出了一種新的縱向擴容方法,通過數據冷熱分層的方式,將冷數據存放在外部存儲中,并實時監(jiān)測數據的使用情況,對數據進行冷熱切換,避免縱向擴容的節(jié)點成為超融合一體機系統的存儲性能瓶頸。
技術實現要素:
本發(fā)明提供一種超融合一體機系統,該系統可有效完成系統的橫向和縱向擴容。
本發(fā)明的又一目的在于提供該超融合一體機系統的橫向和縱向擴容方法。
為了達到上述技術效果,本發(fā)明的技術方案如下:
一種超融合一體機系統,包括自身的計算資源,網絡資源,內部存儲資源以及用于進行存儲資源縱向擴展的外部存儲資源,所述的計算資源為服務提供計算能力,所述的網絡資源為內部的資源提供通信通道以及用于超融合一體機系統橫向擴容提供外部通信通道,所述的內部存儲資源與外部存儲資源存放所述超融合系統中的數據。
進一步地,該系統還包括:
元數據管理模塊,用于對縱向擴展和橫向擴展數據遷移或數據負載重均衡后的文件元數據及其訪問地址進行統一管理;
數據遷移模塊,用于接收到數據遷移請求時,將所述的存儲資源中符合預設條件的數據遷移到所述的外部存儲資源上進行存儲,并更新遷移后的數據訪問地址;用于橫向擴容后,與新加入的超融合一體機進行協商,將所在超融合一體機內部的數據遷移到新加入的超融合一體機的存儲資源上;
訪問頻率模塊,用于統計超融合系統中所有文件的訪問頻率,以區(qū)分熱數據和冷數據,冷數據在內部存儲資源不足時優(yōu)先逐出到外部存儲資源中;
擴容配置模塊,用于超融合一體機的擴容模式的配置,不同的擴容配置將觸發(fā)不同的擴容策略。
進一步地,所述的內部存儲資源由若干個內部存儲節(jié)點組成,并以分布式存儲的形式提供服務,所述的內部存儲節(jié)點包括若干用于存儲數據的磁盤,同時也是所述超融合一體機系統的計算節(jié)點。
進一步地,所述的外部存儲資源通過以下兩種方式提供:
1)、獨立于操作系統的磁盤擴展柜,包括若干用于進行存儲空間擴容的磁盤,所述的磁盤擴展柜與所述的內部存儲節(jié)點連接;
2)、由若干外部存儲節(jié)點組成,所述外部存儲節(jié)點為基于主流cpu架構的服務器且包括若干磁盤,外部存儲節(jié)點與內部存儲資源通過網絡連接;
其中,針對外部存儲資源的不同提供方式,該超融合一體機系統采取不同的縱向擴容策略來進行擴容。
一種超融合一體機系統的橫向擴容方法,包括以下步驟:
s1:監(jiān)測擴容配置是否對應為資源橫向擴容配置,其中,所述的預設的資源橫向擴容包括計算資源的橫向擴容以及內部存儲資源的橫向擴容;
s2:若用戶配置對應為所述的資源橫向擴容配置,則超融合擴展網口檢測網絡信號,檢測到網絡信息后,進入自動橫向擴展工作模式;
s3:網絡連接管理模塊自動構建橫向擴容通信信道,橫向擴容通信信道受主超融合一體機的系統服務進程或控制虛擬機的控制,支持超融合一體機系統間的高速數據交換;
s4:超融合一體機系統的控制虛擬機及系統服務進程利用橫向擴容通信信道交換數據,完成橫向擴展的即插即用,從而完成超融合集群的擴容;
s5:超融合集群橫向完成擴容后,超融合管理系統對內部存儲資源中的數據進行重均衡。
一種超融合一體機系統的縱向擴容方法,包括以下步驟:
(1)、檢測擴容配置是否對應為所述存儲資源的縱向擴容配置,其中所述的存儲資源縱向擴容配置主要由外部存儲的提供方式指定;
(2)、若外部存儲資源以獨立于操作系統的磁盤擴展柜的方式提供,則監(jiān)測內部存儲資源的空閑空間是否滿足將部分數據遷移到外部存儲的條件;如果滿足遷移條件,則將內部存儲中符合預設的數據遷移條件的相關數據遷移到外部存儲中,并更新所述相關數據的訪問地址;
(3)、若外部存儲資源以若干基于主流cpu架構的外部存儲節(jié)點的方式提供,則超融合管理系統采用網絡安裝的方式進行外部存儲節(jié)點的系統及存儲服務的自動部署。存儲服務部署完成后,外部存儲資源與內部存儲資源形成統一的存儲資源池,超融合管理系統將對數據在擴容后的存儲資源池上進行負載均衡,將內部數據平攤在個存儲節(jié)點上。
進一步地,若外部存儲資源以獨立于操作系統的磁盤擴展柜的方式提供時,內部存儲資源將部分數據遷移到外部存儲的過程包括:
1)、將所述的內部存儲資源中的數據以文件的方式進行劃分,并記錄所述的內部存儲資源中所有文件的訪問頻率以及根據文件的訪問頻率進行排序;
2)、監(jiān)測內部存儲的空閑空間是否低于需要將數據遷出的閾值或是否高于允許將數據遷入的閾值;
3)、若內部存儲的空閑空間低于需要將數據遷出的閾值,則將所述內部存儲中的文件以文件訪問頻率由低到高的順序遷移到外部存儲中或將或低于預設的訪問頻率的文件遷移到外部存儲中,并更新文件的訪問地址,直到內部存儲的空閑空間高于數據遷出的閾值;
4)、若內部存儲的空閑空間高于允許將數據遷入的閾值,則將所述外部存儲中的文件以文件訪問頻率從高到低的順序遷移到內部存儲中或將或高于預設的訪問頻率的文件遷移到內部存儲中,并更新文件的訪問地址,直到內部存儲的空閑空間低于允許數據遷入的閾值。
與現有技術相比,本發(fā)明技術方案的有益效果是:
本發(fā)明提供一種超融合一體機系統及其橫向和縱向擴容方法,系統包括自身的計算資源,網絡資源,內部存儲資源以及用于進行存儲資源縱向擴展的外部存儲資源,所述的計算資源為服務提供計算能力,所述的網絡資源為內部的資源提供通信通道以及用于超融合一體機系統橫向擴容提供外部通信通道,所述的內部存儲資源與外部存儲資源存放所述超融合系統中的數據,可有效的完成橫向和縱向擴容擴容;系統的縱向擴容方法結合外部存儲不同的方式進行縱向擴容,并通過數據冷熱分層的方式,將冷數據存放在外部存儲中,對存儲進行數據使用情況的實時監(jiān)測,對數據進行冷熱切換,避免縱向擴容的節(jié)點成為超融合一體機系統的存儲性能瓶頸。
附圖說明
圖1為本發(fā)明的總體架構示意圖;
圖2為本發(fā)明的超融合一體機橫向擴容結構示意圖;
圖3為本發(fā)明的超融合一體機橫向擴容網絡口自動配置示意圖;
圖4為本發(fā)明的超融合一體機縱向擴容結構示意圖;
圖5為本發(fā)明的超融合一體機橫向擴容流程圖;
圖6為本發(fā)明的超融合一體機縱向擴容流程圖。
具體實施方式
附圖僅用于示例性說明,不能理解為對本專利的限制;
為了更好說明本實施例,附圖某些部件會有省略、放大或縮小,并不代表實際產品的尺寸;
對于本領域技術人員來說,附圖中某些公知結構及其說明可能省略是可以理解的。
下面結合附圖和實施例對本發(fā)明的技術方案做進一步的說明。
如圖1-6所示,一種超融合一體機系統,包括自身的計算資源,網絡資源,內部存儲資源以及用于進行存儲資源縱向擴展的外部存儲資源,所述的計算資源用于為服務提供計算能力,所述的網絡資源用于為內部的資源提供通信通道以及用于超融合一體機系統橫向擴容提供外部通信通道,所述的內部存儲資源與外部存儲資源用于存放所述超融合系統中的數據。所述的超融合一體機系統還包括:
a)元數據管理模塊,用于對縱向擴展和橫向擴展數據遷移或數據負載重均衡后的文件元數據及其訪問地址進行統一管理;
b)數據遷移模塊,用于接收到數據遷移請求時,將所述的存儲資源中符合預設條件的數據遷移到所述的外部存儲資源上進行存儲,并更新遷移后的數據訪問地址;用于橫向擴容后,與新加入的超融合一體機進行協商,將所在超融合一體機內部的數據遷移到新加入的超融合一體機的存儲資源上;
c)訪問頻率模塊,用于統計超融合系統中所有文件的訪問頻率,以區(qū)分熱數據和冷數據,冷數據在內部存儲資源不足時優(yōu)先逐出到外部存儲資源中;
d)擴容配置模塊,用于超融合一體機的擴容模式的配置,不同的擴容配置將觸發(fā)不同的擴容策略。
在具體的實施過程中,所述的內部存儲資源由若干個內部存儲節(jié)點組成,并以分布式存儲的形式提供服務,所述的內部存儲節(jié)點包括若干用于存儲數據的磁盤,同時也是所述超融合一體機系統的計算節(jié)點。
在具體的實施過程中,所述的外部存儲資源可以通過以下兩種方式提供:
a)獨立于操作系統的磁盤擴展柜,包括若干用于進行存儲空間擴容的磁盤,所述的磁盤擴展柜與所述的內部存儲節(jié)點連接;
b)由若干外部存儲節(jié)點組成,所述外部存儲節(jié)點為基于主流cpu架構的服務器且包括若干磁盤,外部存儲節(jié)點與內部存儲資源通過網絡連接。
在具體的實施過程中,針對所述的外部存儲資源的不同提供方式所述的超融合一體機系統采取不同的縱向擴容策略。
在具體的實施過程中,所述的超融合一體機系統的橫向擴容的步驟如下:
a)監(jiān)測擴容配置是否對應為資源橫向擴容配置,其中,預設的資源橫向擴容包括計算資源的橫向擴容以及內部存儲資源的橫向擴容;
b)若用戶配置對應為所述的資源橫向擴容配置,則超融合擴展網口檢測網絡信號,檢測到網絡信息后,進入自動橫向擴展工作模式;
c)網絡連接管理模塊自動構建橫向擴容通信信道,橫向擴容通信信道受主超融合一體機的系統服務進程或控制虛擬機的控制,支持超融合一體機系統間的高速數據交換;
d)超融合一體機系統的控制虛擬機及系統服務進程利用橫向擴容通信信道交換數據,完成橫向擴展的即插即用,從而完成超融合集群的擴容;
e)超融合集群橫向完成擴容后,超融合管理系統對內部存儲資源中的數據進行重均衡。
在具體的實施過程中,所述的超融合一體機系統的管理層采用主超融合一體機系統遠程管理技術結合管理代理軟件的方法對對物理節(jié)點和節(jié)點系統進行主動式管理。
在具體的實施過程中,所述的超融合一體機系統在管理層頂層統一抽象出節(jié)點的網絡設備、存儲設備、文件系統、處理器、電源系統等基本概念,下層通過不同類型的驅動來獲取和管理數據。
在具體的實施過程中,所述超融合一體機系統的節(jié)點支持節(jié)點支持ipmi、idrac、ilo等技術,直接通過遠程管理接口訪問傳感器信息。
在具體的實施過程中,新的超融合一體機加入所述的超融合集群時,所述的主超融合一體機系統通過主控制虛擬機牽引,通過網絡安裝的方式將系統及服務自動部署到新的超融合一體機中的裸機節(jié)點中,并通過代理軟件向超融合管理系統實時匯報裸機節(jié)點的安裝信息。
在具體的實施過程中,自動部署包括操作系統的部署以及服務組件的部署。所述的服務組件包括云計算組件,虛擬化組件,內部存儲服務組件。
在具體的實施過程中,所述的超融合一體機系統的縱向擴容的步驟如下:
a)檢測擴容配置是否對應為所述存儲資源的縱向擴容配置,其中所述的存儲資源縱向擴容配置主要由外部存儲的提供方式指定;
b)若外部存儲資源以獨立于操作系統的磁盤擴展柜的方式提供,則監(jiān)測內部存儲資源的空閑空間是否滿足將部分數據遷移到外部存儲的條件;如果滿足遷移條件,則將內部存儲中符合預設的數據遷移條件的相關數據遷移到外部存儲中,并更新所述相關數據的訪問地址;
c)若外部存儲資源以若干基于主流cpu架構的外部存儲節(jié)點的方式提供,則超融合管理系統采用網絡安裝的方式進行外部存儲節(jié)點的系統及存儲服務的自動部署。存儲服務部署完成后,外部存儲資源與內部存儲資源形成統一的存儲資源池,超融合管理系統將對數據在擴容后的存儲資源池上進行負載均衡,將內部數據平攤在個存儲節(jié)點上。
在具體的實施過程中,若所述的外部存儲資源以獨立于操作系統的磁盤擴展柜的方式提供,則監(jiān)測所述內部存儲資源的空閑空間是否滿足將部分數據遷移到外部存儲的條件包括:
a)將所述的內部存儲資源中的數據以文件的方式進行劃分,并記錄所述的內部存儲資源中所有文件的訪問頻率以及根據文件的訪問頻率進行排序;
b)監(jiān)測內部存儲的空閑空間是否低于需要將數據遷出的閾值或是否高于允許將數據遷入的閾值;
c)若內部存儲的空閑空間低于需要將數據遷出的閾值,則將所述內部存儲中的文件以文件訪問頻率由低到高的順序遷移到外部存儲中或將或低于預設的訪問頻率的文件遷移到外部存儲中,并更新文件的訪問地址,直到內部存儲的空閑空間高于數據遷出的閾值;
d)若內部存儲的空閑空間高于允許將數據遷入的閾值,則將所述外部存儲中的文件以文件訪問頻率從高到低的順序遷移到內部存儲中或將或高于預設的訪問頻率的文件遷移到內部存儲中,并更新文件的訪問地址,直到內部存儲的空閑空間低于允許數據遷入的閾值。
本發(fā)明提供了一種新的超融合一體機系統橫向擴容方法,采用主運行系統遠程管理技術結合管理agent軟件的方式進行橫向擴容,使得超融合一體機系統可以裸機的形式出廠,在實際環(huán)境中由主運行系統自動地部署系統到超融合一體機上,完成超融合一體機系統的橫向擴容;另外,本發(fā)明也提出了一種新的縱向擴容方法,結合外部存儲不同的方式進行縱向擴容,并通過數據冷熱分層的方式,將冷數據存放在外部存儲中,對存儲進行數據使用情況的實時監(jiān)測,對數據進行冷熱切換,避免縱向擴容的節(jié)點成為超融合一體機系統的存儲性能瓶頸。
相同或相似的標號對應相同或相似的部件;
附圖中描述位置關系的用于僅用于示例性說明,不能理解為對本專利的限制;
顯然,本發(fā)明的上述實施例僅僅是為清楚地說明本發(fā)明所作的舉例,而并非是對本發(fā)明的實施方式的限定。對于所屬領域的普通技術人員來說,在上述說明的基礎上還可以做出其它不同形式的變化或變動。這里無需也無法對所有的實施方式予以窮舉。凡在本發(fā)明的精神和原則之內所作的任何修改、等同替換和改進等,均應包含在本發(fā)明權利要求的保護范圍之內。