專利名稱：分布式集群文件系統(tǒng)及文件訪問方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種文件系統(tǒng)及文件訪問方法，尤指一種分布式集群文件系統(tǒng)及文件訪問方法。
背景技術(shù)：
隨著非結(jié)構(gòu)化數(shù)據(jù)的海量增長，越來越多的企業(yè)面臨數(shù)據(jù)管理的難題?，F(xiàn)有文件系統(tǒng)，不能從任何一個引擎單元訪問任何一個存儲單元；不支持文件內(nèi)的細粒度的全局鎖， 不可并發(fā)讀寫，訪問性能低，容易出現(xiàn)存儲負荷熱點問題。另外，如果某一引擎單元出現(xiàn)故障，該引擎單元對應(yīng)的存儲空間就得不到利用，資源利用率低。

發(fā)明內(nèi)容
本發(fā)明的目的在于克服現(xiàn)有技術(shù)的缺陷，而提供一種分布式集群文件系統(tǒng)及文件訪問方法，實現(xiàn)了任何一個引擎單元都能夠訪問到任何一個存儲單元，任何引擎單元故障后，都可以把該單元負責(zé)任務(wù)轉(zhuǎn)移到其他任何引擎單元上，具有可靠性強、資源利用率高、 響應(yīng)速度快、成本低的優(yōu)點。實現(xiàn)上述目的的技術(shù)方案是本發(fā)明的一種分布式集群文件系統(tǒng)，包括復(fù)數(shù)個引擎單元，用于提供文件系統(tǒng)的邏輯功能，復(fù)數(shù)個存儲單元，用于存儲文件；所述引擎單元通過直連或交換網(wǎng)絡(luò)與所述存儲單元全互聯(lián)，任一引擎單元連接所有存儲單元的雙控端口。上述引擎單元之間全互聯(lián)且通過雙信道通信，上引擎單元之間采用低延遲運輸協(xié)議和組成員服務(wù)原子廣播協(xié)議通信，且在所述低延遲運輸協(xié)議與組成員服務(wù)原子廣播協(xié)議基礎(chǔ)上構(gòu)建集群鎖。上述文件系統(tǒng)的邏輯功能分為復(fù)數(shù)個類型，所述每個引擎單元負責(zé)不同類型的邏輯功能。當(dāng)一上述引擎單元故障后，該引擎單元的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單兀。上述存儲單元對所述任一引擎單元提供同一卷設(shè)備名稱。本發(fā)明的一種文件訪問方法，包括步驟一或復(fù)數(shù)個引擎單元對一目標(biāo)文件的一或復(fù)數(shù)個區(qū)域發(fā)出讀寫請求；判斷所述區(qū)域是否存在先前讀寫請求；若一區(qū)域不存在先前讀寫請求，允許最先對所述區(qū)域發(fā)出讀寫請求的一引擎單元訪問；否則，通知所有對所述區(qū)域發(fā)出讀寫請求的引擎單元等待，并在先前讀寫操作完成后，通知所有對所述區(qū)域發(fā)出讀寫請求的引擎單元。
當(dāng)一上述引擎單元故障后，所述引擎單元的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單兀。本發(fā)明由于采用了以上技術(shù)方案，使其具有以下有益效果是引擎單元與每一存儲單元的兩控制端口通信連接，實現(xiàn)引擎單元與存儲單元的全互聯(lián)；從任何一個引擎單元都能夠訪問到任何一個存儲單元，從而保證數(shù)據(jù)通道的暢通無阻，并且提供冗余路徑實現(xiàn)高可靠性。引擎單元之間通過雙信道通信，并采用低延遲運輸協(xié)議和組成員服務(wù)原子廣播協(xié)議，保證了數(shù)據(jù)處理的一致性，且提供了備用鏈路，即使一條鏈路故障時，也能保證通信鏈路的可靠性。當(dāng)一上述引擎單元故障后，該引擎單元的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單元，實現(xiàn)對稱式的元數(shù)據(jù)處理，元數(shù)據(jù)處理的負載均衡，提高元數(shù)據(jù)處理的效率。引擎單元采用群集鎖技術(shù)，保證了不同引擎單元訪問相同文件系統(tǒng)相同文件并發(fā)訪問的一致性，存儲單元對所述引擎單元提供同一卷設(shè)備名稱。實現(xiàn)了全局的存儲空間管理，保證了塊設(shè)備訪問的一致性。本發(fā)明實現(xiàn)了任何一個引擎單元都能夠訪問到任何一個存儲單元，任何引擎單元故障后，都可以把該單元負責(zé)任務(wù)轉(zhuǎn)移到其他任何引擎單元上，具有可靠性強、資源利用率高、響應(yīng)速度快、成本低的優(yōu)點。


圖1為本發(fā)明分布式集群文件系統(tǒng)的結(jié)構(gòu)示意圖；圖2為本發(fā)明分布式集群文件系統(tǒng)的引擎單元通信結(jié)構(gòu)示意圖；圖3為本發(fā)明分布式集群文件系統(tǒng)實施例的結(jié)構(gòu)示意圖；圖4為本發(fā)明分布式集群文件系統(tǒng)實施例的的引擎單元通信結(jié)構(gòu)示意圖；圖5為本發(fā)明分布式集群文件系統(tǒng)的引擎單元邏輯功能處理原理圖；圖6為本發(fā)明分布式集群文件系統(tǒng)的多引擎單元并發(fā)訪問原理圖。
具體實施例方式下面結(jié)合附圖和具體實施例對本發(fā)明作進一步說明。請參閱圖1，本發(fā)明的一種分布式集群文件系統(tǒng)，包括本發(fā)明的一種分布式集群文件系統(tǒng)，包括復(fù)數(shù)個引擎單元1，用于提供文件系統(tǒng)的邏輯功能，復(fù)數(shù)個存儲單元2，用于存儲文件；引擎單元1通過直連或交換網(wǎng)絡(luò)與存儲單元2全互聯(lián)，任一引擎單元1連接所有存儲單元2的雙控端口 21。從任何一個引擎單元1都能夠訪問到任何一個存儲單元2，從而保證數(shù)據(jù)通道的暢通無阻，并且提供冗余路徑實現(xiàn)高可靠性。存儲單元2對引擎單元1 提供同一卷設(shè)備名稱。文件系統(tǒng)形成全局名字空間，系統(tǒng)的每個引擎單元1都能夠讀寫相同的文件，實現(xiàn)引擎單元1之間的并發(fā)訪問，復(fù)數(shù)個引擎單元1可以并發(fā)訪問同一個文件。同時根據(jù)元數(shù)據(jù)的分類、分片，讓每個引擎單元1都能參與元數(shù)據(jù)的處理，減少引擎單元1之間轉(zhuǎn)發(fā)數(shù)據(jù)請求的通信量，實現(xiàn)負載均衡，從而系統(tǒng)處理的并發(fā)性能。請參閱圖3，引擎單元1可通過一冗余交換機連接到存儲單元2，每個存儲單元2 也分別連接到冗余交換機，從而形成全冗余的組網(wǎng)，提高了系統(tǒng)的可靠性。
請參閱圖2，引擎單元1之間需要相互通信，采用全互聯(lián)且通過雙信道通信，冗余互聯(lián)，保證通信通道的高效可靠。每個引擎單元1提供兩條鏈路到另外一個引擎單元1，從而即使一條鏈路故障時，也能保證通信鏈路的可靠性。請參閱圖4，多個引擎單元1可分別連接到兩個交換機上，形成兩個獨立的通信網(wǎng)，從而提供了冗余通信平面，保證了系統(tǒng)的可靠性。引擎單元1之間采用低延遲運輸協(xié)議和組成員服務(wù)原子廣播協(xié)議通信，以保證數(shù)據(jù)處理的一致性，且在低延遲運輸協(xié)議(LLT:Low Latency Transport)與組成員服務(wù)原子廣播協(xié)議(GLM =Global lock manager)基礎(chǔ)上構(gòu)建集群鎖(GLM =Global lock manager)， 該通信層直接構(gòu)建在以太網(wǎng)二層協(xié)議上，而不是TCP/IP層上。考慮到集群通信主要傳送的鎖信息，通常幀都比較小，而TCP/IP包會帶來額外的大幀頭開銷；同時集群通信主要在私有網(wǎng)絡(luò)內(nèi)傳遞，對TCP/IP在廣域網(wǎng)的超時重傳、滑動窗口沒有太多需求。所以，LLT針對集群鎖通信需求，直接利用以太網(wǎng)幀傳送包，從而達到提高利用率的目的，并且設(shè)計自己的流量控制、超時重傳、以及重復(fù)幀處理，實現(xiàn)高效傳輸。同時，針對集群多引擎單元1通信的原子要求，設(shè)計了 GAB模塊，它保證通信的原子性；也就是說，保證在集群多引擎單元1中，消息要么被所有引擎單元1受到并確認(rèn)，要么所有引擎單元1都丟棄該消息，從而不會出現(xiàn)部分確認(rèn)消息、部分丟棄消息的中間狀態(tài)。請參閱圖5，系統(tǒng)將元數(shù)據(jù)分為不同的類型，比如超級塊、日志區(qū)、分配單元(AU， Allocation Unit)、索引節(jié)點(INODE)。這些元數(shù)據(jù)具有不同的屬性，分別對不同的數(shù)據(jù)管理負責(zé)，比如，超級塊對整個集群文件系統(tǒng)的數(shù)據(jù)負責(zé)，而索引節(jié)點則是針對單獨的文件負責(zé)。文件系統(tǒng)的邏輯功能分為復(fù)數(shù)個類型，每個引擎單元1負責(zé)不同類型的邏輯功能。如一第一引擎單元11負責(zé)超級塊的更新修改，其他引擎單元1需要對超級塊進行更新修改都把請求發(fā)送給第一引擎單元11。又如一第二引擎單元12負責(zé)文件Fl的索引元數(shù)據(jù)更新修改，其他引擎單元需要操作Fl文件都需要把請求發(fā)送給第二引擎單元。同時，當(dāng)一引擎單元1故障后，該引擎單元1的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單元1。從而實現(xiàn)對稱式的數(shù)據(jù)處理，實現(xiàn)數(shù)據(jù)處理的負載均衡，提高元數(shù)據(jù)處理的效率。請參閱圖6，除此之外，系統(tǒng)還提供全局鎖機制，保證不同引擎單元1訪問相同存儲單元2相同文件并發(fā)訪問的一致性，通過細粒度的鎖設(shè)計，保證系統(tǒng)的并發(fā)性。通過此機制，實現(xiàn)了集群多引擎單元1范圍內(nèi)的一致性處理；同時，通過細粒度的區(qū)域所設(shè)計，保證高并發(fā)?？梢酝ㄟ^以下步驟對文件進行訪問首先，一或復(fù)數(shù)個引擎單元1對一目標(biāo)文件的一或復(fù)數(shù)個區(qū)域發(fā)出讀寫請求；然后，判斷區(qū)域是否存在先前讀寫請求；若一區(qū)域不存在先前讀寫請求，允許最先對該區(qū)域發(fā)出讀寫請求的一引擎單元1 訪問；否則，通知所有對區(qū)域發(fā)出讀寫請求的引擎單元1等待，并在先前讀寫操作完成后，通知所有對該區(qū)域發(fā)出讀寫請求的引擎單元1。當(dāng)一引擎單元故障1后，該引擎單元丨的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單元 1。
5
文件允許復(fù)數(shù)個引擎單元1同時訪問，實現(xiàn)了集群多引擎單元1范圍內(nèi)的一致性處理；同時，通過細粒度的區(qū)域設(shè)計，保證高并發(fā)。以上結(jié)合附圖實施例對本發(fā)明進行了詳細說明，本領(lǐng)域中普通技術(shù)人員可根據(jù)上述說明對本發(fā)明做出種種變化例。因而，實施例中的某些細節(jié)不應(yīng)構(gòu)成對本發(fā)明的限定，本發(fā)明將以所附權(quán)利要求書界定的范圍作為本發(fā)明的保護范圍。
權(quán)利要求
1.一種分布式集群文件系統(tǒng)，其特征在于，包括 復(fù)數(shù)個引擎單元，用于提供文件系統(tǒng)的邏輯功能， 復(fù)數(shù)個存儲單元，用于存儲文件；所述引擎單元通過直連或交換網(wǎng)絡(luò)與所述存儲單元全互聯(lián)，任一引擎單元連接所有存儲單元的雙控端口。
2.根據(jù)權(quán)利要求1所述的分布式集群存儲系統(tǒng)，其特征在于，所述引擎單元之間全互聯(lián)且通過雙信道通信。
3.根據(jù)權(quán)利要求2所述的分布式集群存儲系統(tǒng)，其特征在于，所述引擎單元之間采用低延遲運輸協(xié)議和組成員服務(wù)原子廣播協(xié)議通信，且在所述低延遲運輸協(xié)議與組成員服務(wù)原子廣播協(xié)議基礎(chǔ)上構(gòu)建集群鎖。
4.根據(jù)權(quán)利要求1或3所述的分布式集群存儲系統(tǒng)，其特征在于，所述文件系統(tǒng)的邏輯功能分為復(fù)數(shù)個類型，所述每個引擎單元負責(zé)不同類型的邏輯功能。
5.根據(jù)權(quán)利要求4所述的分布式集群存儲系統(tǒng)，其特征在于，當(dāng)一所述引擎單元故障后，該引擎單元的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單元。
6.根據(jù)權(quán)利要求5所述的分布式集群存儲系統(tǒng)，其特征在于，所述存儲單元對所述任一引擎單元提供同一卷設(shè)備名稱。
7.基于權(quán)利要求6所述系統(tǒng)的一種文件訪問方法，其特征在于，包括步驟 一或復(fù)數(shù)個引擎單元對一目標(biāo)文件的一或復(fù)數(shù)個區(qū)域發(fā)出讀寫請求；判斷所述區(qū)域是否存在先前讀寫請求；若一區(qū)域不存在先前讀寫請求，允許最先對所述區(qū)域發(fā)出讀寫請求的一引擎單元訪問；否則，通知所有對所述區(qū)域發(fā)出讀寫請求的引擎單元等待，并在先前讀寫操作完成后， 通知所有對所述區(qū)域發(fā)出讀寫請求的引擎單元。
8.根據(jù)權(quán)利要求7所述的文件訪問方法，其特征在于，當(dāng)一所述引擎單元故障后，所述引擎單元的邏輯功能任務(wù)轉(zhuǎn)移給其他正常引擎單元。
全文摘要
本發(fā)明公開了一種分布式集群文件系統(tǒng)及文件訪問方法，包括復(fù)數(shù)個引擎單元，用于提供文件系統(tǒng)的邏輯功能，復(fù)數(shù)個存儲單元，用于存儲文件；所述引擎單元通過直連或交換網(wǎng)絡(luò)與所述存儲單元全互聯(lián)，任一引擎單元連接所有存儲單元的雙控端口。由于采用了本發(fā)明的一種分布式集群文件系統(tǒng)及文件訪問方法，實現(xiàn)了任何一個引擎單元都能夠訪問到任何一個存儲單元，任何引擎單元故障后，都可以把該單元負責(zé)任務(wù)轉(zhuǎn)移到其他任何引擎單元上，具有可靠性強、資源利用率高、響應(yīng)速度快、成本低的優(yōu)點。
文檔編號H04L29/08GK102394922SQ201110330419
公開日2012年3月28日 申請日期2011年10月27日 優(yōu)先權(quán)日2011年10月27日
發(fā)明者盧寶豐, 安然, 談川玉 申請人:上海文廣互動電視有限公司