在存儲(chǔ)群集中的擦除編碼和復(fù)制的制作方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明一般地涉及擦除編碼。更具體地，本發(fā)明涉及在固定內(nèi)容存儲(chǔ)群集中的擦除編碼和復(fù)制的組合，并且涉及當(dāng)使用擦除編碼時(shí)的卷故障恢復(fù)。
【背景技術(shù)】
[0002]傳統(tǒng)地，在存儲(chǔ)群集中提供的存儲(chǔ)(例如，通過(guò)使用獨(dú)立節(jié)點(diǎn)的冗余陣列，或RAIN)相對(duì)于通過(guò)存儲(chǔ)的對(duì)象的復(fù)制或存儲(chǔ)的對(duì)象的擦除編碼的硬件故障是可靠的。前者具有相同的獨(dú)特標(biāo)識(shí)符可以訪問(wèn)多個(gè)復(fù)制品(例如，使用日志和基于RAM的索引方案)的優(yōu)勢(shì)，但是具有高的帶寬和存儲(chǔ)開(kāi)銷(xiāo)(取決于期望的復(fù)制品的數(shù)量，大的對(duì)象可以占用顯著量的空間)的缺點(diǎn)。后者享有針對(duì)類似級(jí)別的相對(duì)于介質(zhì)故障的保護(hù)的較小的存儲(chǔ)腳印以及較少的開(kāi)銷(xiāo)的好處，但是遭受的缺陷在于擦除集合的每個(gè)段是必須分離地標(biāo)識(shí)的不同內(nèi)容，以便讀取對(duì)象或重新構(gòu)建任何丟失的段。當(dāng)重新啟動(dòng)存儲(chǔ)群集時(shí)，該標(biāo)識(shí)可能是特別有問(wèn)題的。擦除編碼在存儲(chǔ)小的對(duì)象時(shí)也將招致較高的處理開(kāi)銷(xiāo)并且丟失其腳印優(yōu)勢(shì)。
[0003]因此，兩種技術(shù)都具有缺陷。進(jìn)一步地，可應(yīng)用于擦除編碼的某些現(xiàn)有技術(shù)方法使用與存儲(chǔ)群集分離的控制數(shù)據(jù)庫(kù)，以便標(biāo)識(shí)和跟蹤特定對(duì)象的段；該方法時(shí)有問(wèn)題的，因?yàn)槠湟敫嗟拈_(kāi)銷(xiāo)，并且令人懷疑該控制數(shù)據(jù)庫(kù)的可用性以及其是否需要被復(fù)制。此外，即使在擦除編碼下可以使用被用于對(duì)該對(duì)象進(jìn)行編碼的段的子集來(lái)重新構(gòu)建對(duì)象(例如，如果存在磁盤(pán)故障)，不僅標(biāo)識(shí)哪些片段不再存在是費(fèi)時(shí)的，而且定位剩余的段也是費(fèi)時(shí)的。
[0004]相應(yīng)地，期望改進(jìn)的技術(shù)用于與存儲(chǔ)群集一起使用，以便利用復(fù)制和擦除編碼的優(yōu)勢(shì)，以及在硬件故障之后限制暴露。

【發(fā)明內(nèi)容】

[0005]為了實(shí)現(xiàn)前述內(nèi)容，并根據(jù)本發(fā)明的目的，公開(kāi)了組合對(duì)象復(fù)制和擦除編碼兩者以便利用各自的優(yōu)點(diǎn)的存儲(chǔ)群集。
[0006]在一個(gè)實(shí)施例中，一種方法在存儲(chǔ)群集中存儲(chǔ)數(shù)字對(duì)象。首先，存儲(chǔ)群集在存儲(chǔ)群集的計(jì)算機(jī)節(jié)點(diǎn)處從客戶端應(yīng)用接收請(qǐng)求來(lái)存儲(chǔ)數(shù)字對(duì)象。存儲(chǔ)群集然后確定是使用復(fù)制還是擦除編碼在存儲(chǔ)群集中存儲(chǔ)數(shù)字對(duì)象。可以通過(guò)參考來(lái)自客戶端的指令、對(duì)象的固有屬性、對(duì)象的元數(shù)據(jù)、群集設(shè)置或其他手段來(lái)做出該確定。當(dāng)確定使用擦除編碼存儲(chǔ)數(shù)字對(duì)象時(shí)，存儲(chǔ)群集使用擦除編碼將數(shù)字對(duì)象寫(xiě)入到存儲(chǔ)群集的多個(gè)計(jì)算機(jī)節(jié)點(diǎn)，并且數(shù)字對(duì)象被存儲(chǔ)為多個(gè)段。另外，創(chuàng)建清單計(jì)算機(jī)文件，其包括擦除編碼的指示以及在存儲(chǔ)群集內(nèi)針對(duì)每個(gè)段的獨(dú)特標(biāo)識(shí)符。存儲(chǔ)群集然后將清單計(jì)算機(jī)文件存儲(chǔ)在群集的一個(gè)或多個(gè)節(jié)點(diǎn)上，并且向客戶端應(yīng)用返回清單計(jì)算機(jī)文件的獨(dú)特標(biāo)識(shí)符。清單與其他數(shù)字對(duì)象是可區(qū)分的。
[0007]在另一實(shí)施例中，一個(gè)方法從具有多個(gè)計(jì)算機(jī)節(jié)點(diǎn)的存儲(chǔ)群集讀取數(shù)字對(duì)象。首先，在存儲(chǔ)群集內(nèi)的計(jì)算機(jī)節(jié)點(diǎn)中的一個(gè)從包括針對(duì)數(shù)字對(duì)象的獨(dú)特標(biāo)識(shí)符的客戶端應(yīng)用接收請(qǐng)求。存儲(chǔ)群集在對(duì)象被存儲(chǔ)的節(jié)點(diǎn)中的一個(gè)上尋找被這樣標(biāo)識(shí)的對(duì)象。如果該對(duì)象不是如上文描述的清單，則它被返回到客戶端應(yīng)用。如果該對(duì)象是清單，則其接著使用在所述清單內(nèi)找到的獨(dú)特段標(biāo)識(shí)符在存儲(chǔ)群集內(nèi)確定多個(gè)段。使用這些獨(dú)特的段標(biāo)識(shí)符，該方法使用段和擦除編碼算法重新構(gòu)建數(shù)字對(duì)象。最后，該方法向客戶端應(yīng)用返回?cái)?shù)字對(duì)象。
[0008]在另一實(shí)施例中，其中客戶端應(yīng)用希望以內(nèi)容的新版本替換與獨(dú)特標(biāo)識(shí)符相關(guān)聯(lián)的內(nèi)容，本發(fā)明如在先前的段落中描述的那樣運(yùn)轉(zhuǎn)以尋找對(duì)象，然后如之前段落中的那樣寫(xiě)入它。新的版本將保留先前版本的獨(dú)特標(biāo)識(shí)符，但是具有較晚的創(chuàng)建時(shí)間戳，其在更新過(guò)程期間區(qū)分兩個(gè)版本。一旦較新的版本被成功寫(xiě)入群集中，就舊的刪除較舊的版本。健康處理模塊也可以刪除針對(duì)其較新的版本存在的對(duì)象的較舊的版本，作為從錯(cuò)誤狀態(tài)維持群集數(shù)據(jù)的一種方法。
[0009]在另一實(shí)施例中，一種方法從故障的磁盤(pán)恢復(fù)。首先，該方法在存儲(chǔ)群集(具有多個(gè)計(jì)算機(jī)節(jié)點(diǎn))內(nèi)檢測(cè)節(jié)點(diǎn)中的一個(gè)的磁盤(pán)已經(jīng)故障。接下來(lái)，該方法掃描存儲(chǔ)群集的另一磁盤(pán)的永久存儲(chǔ)區(qū)以尋找故障磁盤(pán)的獨(dú)特標(biāo)識(shí)符；該獨(dú)特標(biāo)識(shí)符與存儲(chǔ)群集的數(shù)字流相關(guān)聯(lián)。然后確定所述數(shù)字流是使用復(fù)制還是使用擦除編碼被存儲(chǔ)在存儲(chǔ)群集內(nèi)；當(dāng)確定數(shù)字流使用擦除編碼被存儲(chǔ)時(shí)，該方法標(biāo)識(shí)先前存儲(chǔ)在故障磁盤(pán)上的丟失的段。使用來(lái)自所述數(shù)字流的同胞標(biāo)識(shí)符，該方法在存儲(chǔ)群集內(nèi)定位多個(gè)其他的段。接下來(lái)，該方法使用多個(gè)其他的段和擦除編碼算法重新生成丟失的段。最后，該方法將重新生成的段存儲(chǔ)在存儲(chǔ)群集的計(jì)算機(jī)節(jié)點(diǎn)上。
[0010]在另一實(shí)施例中，段可以在存儲(chǔ)群集內(nèi)被重新定位，而不需要額外的控制計(jì)算機(jī)或控制數(shù)據(jù)庫(kù)。當(dāng)段被重新定位時(shí)，在同胞段的元數(shù)據(jù)中更新在其上游同胞段中的卷提示。替代地，在磁盤(pán)上的其日志中的同胞段的流的表示中更新卷提示。存儲(chǔ)群集可以廣播同胞段的獨(dú)特標(biāo)識(shí)符以便尋找同胞段所位于的磁盤(pán)。清單也可以被用于尋找上游段或者被重新定位的段的同胞段。
[0011]在其他的實(shí)施例中，以對(duì)象存儲(chǔ)元數(shù)據(jù)或者在指示何時(shí)應(yīng)將對(duì)象轉(zhuǎn)換為不同的格式的群集設(shè)置內(nèi)存儲(chǔ)元數(shù)據(jù)。當(dāng)觸發(fā)條件被滿足時(shí)，群集將對(duì)象從使用復(fù)制的存儲(chǔ)轉(zhuǎn)換成擦除編碼格式，從一種擦除編碼格式轉(zhuǎn)換成另一種，或者從擦除編碼格式轉(zhuǎn)換成復(fù)制存儲(chǔ)格式。以其舊的格式的原始對(duì)象如果期望的話可以被刪除。有利的是，與原始對(duì)象一起使用的獨(dú)特標(biāo)識(shí)符被保留用于與以新的存儲(chǔ)格式的對(duì)象一起使用，因此，確保原始存儲(chǔ)所述對(duì)象的客戶端應(yīng)用可以使用與其提供的原始的獨(dú)特標(biāo)識(shí)符在任何未來(lái)的時(shí)間處取回它。
[0012]在另一實(shí)施例中，對(duì)象可以從實(shí)現(xiàn)一種存儲(chǔ)格式(如，復(fù)制、具體的擦除編碼等)的存儲(chǔ)群集被移動(dòng)到并不一定使用實(shí)現(xiàn)存儲(chǔ)格式的第二個(gè)存儲(chǔ)群集。當(dāng)被移動(dòng)時(shí)，對(duì)象將被自動(dòng)轉(zhuǎn)換成由第二個(gè)群集所使用的存儲(chǔ)格式。對(duì)象的轉(zhuǎn)換可以通過(guò)在第二個(gè)存儲(chǔ)群集中的默認(rèn)設(shè)置來(lái)指示，通過(guò)對(duì)象的用戶元數(shù)據(jù)(其勝過(guò)群集設(shè)置)來(lái)指示，或者通過(guò)來(lái)自發(fā)起移動(dòng)的程序的指令來(lái)指;^。
[0013]一般地，在本發(fā)明的任何實(shí)施例的情況下，不需要額外的控制數(shù)據(jù)庫(kù)。本質(zhì)上，存儲(chǔ)在群集內(nèi)的數(shù)字對(duì)象可以使用其獨(dú)特標(biāo)識(shí)符被寫(xiě)入、讀取和管理，不論對(duì)象采樣是使用復(fù)制還是使用擦除編碼被存儲(chǔ)。
【附圖說(shuō)明】
[0014]本發(fā)明連同其進(jìn)一步優(yōu)點(diǎn)可以通過(guò)參考與附圖相組合的以下描述被最好地理解，其中:
圖1圖示了本發(fā)明操作的環(huán)境。
[0015]圖2圖示了使用5:7擦除編碼的針對(duì)對(duì)象的示例擦除集合。
[0016]圖3呈現(xiàn)了可以被用于本發(fā)明實(shí)施例的示例清單。
[0017]圖4A和4B是描述客戶端應(yīng)用如何將文件寫(xiě)入存儲(chǔ)集合的流程圖。
[0018]圖5是描述客戶端應(yīng)用如何從存儲(chǔ)群集讀取數(shù)字對(duì)象的流程圖。
[0019]圖6是描述存儲(chǔ)群集可以如何從卷故障中恢復(fù)的流程圖。
[0020]圖7是描述如何將對(duì)象從一種格式轉(zhuǎn)換到另一格式的流程圖。
[0021]圖8是描述如何執(zhí)行跨存儲(chǔ)群集的管理的流程圖。
[0022]圖9A和圖9B圖示了適于實(shí)現(xiàn)本發(fā)明的實(shí)施例的計(jì)算機(jī)系統(tǒng)。
【具體實(shí)施方式】
[0023]如本領(lǐng)域已知的那樣，擦除編碼是用于在沒(méi)有復(fù)制的開(kāi)銷(xiāo)的情況下提供數(shù)據(jù)對(duì)象的冗余的技術(shù)。給定特定的數(shù)據(jù)對(duì)象，擦除編碼將對(duì)象分為K個(gè)數(shù)據(jù)段并且從這些數(shù)據(jù)段生成P個(gè)奇偶校驗(yàn)段，針對(duì)在擦除集合中的總共M個(gè)段，通常指示為K:M擦除編碼。例如，數(shù)據(jù)段被分為5個(gè)段，這些段然后被用于生成2個(gè)奇偶校驗(yàn)段，被稱為使用5:7擦除編碼。擦除編碼的關(guān)鍵性質(zhì)在于可以從任何K個(gè)段重新構(gòu)建原始對(duì)象，無(wú)論擦除編碼的對(duì)象的段是原始數(shù)據(jù)段還是奇偶校驗(yàn)段中的一個(gè)。相應(yīng)地，將每個(gè)段分發(fā)到在存儲(chǔ)群集內(nèi)不同的卷(并且分發(fā)到不同的節(jié)點(diǎn))因此保護(hù)數(shù)據(jù)對(duì)象防止在群集內(nèi)的任何兩個(gè)卷丟失是有利的。在群集中給定足夠的節(jié)點(diǎn)，段被分布到不同的節(jié)點(diǎn)，提供防止節(jié)點(diǎn)丟失的保護(hù)。如果節(jié)點(diǎn)被定位在不同的地理區(qū)域中，則段以某種可能的程度被均勻地分布在將保護(hù)的各區(qū)域之中，以防止在一個(gè)地理場(chǎng)所中的群集的一部分的丟失。
[0024]在一個(gè)實(shí)施例中，本發(fā)明允許使用復(fù)制或使用擦除編碼存儲(chǔ)對(duì)象。取決于來(lái)自客戶端應(yīng)用的指令、對(duì)象的類別、對(duì)象的大小、對(duì)象的元數(shù)據(jù)等，群集可以以每個(gè)對(duì)象的基礎(chǔ)來(lái)回切換。例如，相對(duì)較大的對(duì)象都可以使用擦除編碼來(lái)存儲(chǔ)，而相對(duì)較小的對(duì)象都可以使用復(fù)制來(lái)存儲(chǔ)。普通的復(fù)制可以被視為擦除編碼的一種特例，其中K=I并且其中M等于給定對(duì)象的復(fù)制品的總數(shù)。此外，不同的對(duì)象可以被分派不同的擦除編碼。在非常大的對(duì)象的情況下，若干這樣的擦除集合可以被用于表示該對(duì)象。通過(guò)允許不同對(duì)象被分派包括普通的復(fù)制的不同的編碼，本發(fā)明允許防止數(shù)據(jù)丟失的不同級(jí)別的保護(hù)，以不同的處理成本和存儲(chǔ)腳印。
[0025]在第二個(gè)實(shí)施例中，本發(fā)明在擦除編碼下嘗試標(biāo)識(shí)和尋找對(duì)象的段的情況下解決了所述問(wèn)題。代替使用分離的數(shù)據(jù)庫(kù)，清單文件(或?qū)ο?包括與特定對(duì)象相關(guān)聯(lián)的每個(gè)段的描述。在清單內(nèi)包括在群集內(nèi)的針對(duì)每個(gè)段的獨(dú)特標(biāo)識(shí)符、每個(gè)段的大小，其中針對(duì)所述對(duì)象使用編碼算法以及具體的擦除編碼(5:7，等)。然后將清單對(duì)待為在群集內(nèi)的普通對(duì)象，被提供以獨(dú)特的標(biāo)識(shí)符，并且按需要被復(fù)制(例如，被復(fù)制到相同的冗余度，P+1)。清單的復(fù)制是簡(jiǎn)單的，因?yàn)槿杭呀?jīng)針對(duì)其他對(duì)象執(zhí)行了復(fù)制，并且具有小的存儲(chǔ)開(kāi)銷(xiāo)，因?yàn)榍鍐卧诖笮∩舷鄬?duì)較小。因此，經(jīng)由清單，特定的擦除編碼的對(duì)象的段是快速并且容易可訪問(wèn)的。針對(duì)該清單對(duì)象的標(biāo)識(shí)符被返回到客戶應(yīng)用用于對(duì)象的未來(lái)的取回。這提供了擦除編碼的有效腳印，同時(shí)保持了簡(jiǎn)單的標(biāo)識(shí)、高可用性以及普通復(fù)制的快速啟動(dòng)。
[0026]在第三個(gè)實(shí)施例中，本發(fā)明通過(guò)最小化在硬件故障之后、在重新生成所有丟失的段之前的時(shí)間，解決了在存儲(chǔ)群集內(nèi)對(duì)數(shù)據(jù)丟失的暴露。擦除編碼的對(duì)象的每個(gè)段包括關(guān)于在保持對(duì)象的下一段的群集內(nèi)的卷標(biāo)識(shí)符的提示。該提示有可能是正確的卷標(biāo)識(shí)符，但是可能不被保證。硬件故障(諸如硬盤(pán)故障)一發(fā)生，并且在注意到特定的段丟失之前，在群集內(nèi)的每個(gè)卷就將掃描在磁盤(pán)上的其日志，以便尋找具有作為其提示的針對(duì)故障的卷的卷標(biāo)識(shí)符的段。因此，在等待群集的任何正常的完整性檢測(cè)發(fā)生之前，任何丟失的段可以被標(biāo)識(shí)并且可以被盡可能快地重新生成。
[0027]存儲(chǔ)群集示例
如上文所提及的那樣，本發(fā)明應(yīng)用于數(shù)字化對(duì)象，即以數(shù)字形式表示的任何類型的信息。例如，數(shù)字對(duì)象可以是信息的電子表示，諸如計(jì)算機(jī)文件、文件組，文件標(biāo)識(shí)符的組或者數(shù)據(jù)或數(shù)據(jù)庫(kù)信息的收集。這樣的其他的數(shù)據(jù)的收集包括來(lái)自數(shù)字音頻或視頻流的幀或者剪輯、數(shù)字照片、掃描的紙質(zhì)文檔、語(yǔ)音信息、CAD/CAM設(shè)計(jì)、MRI或X射線數(shù)據(jù)、來(lái)自消息記錄或文件的流、來(lái)自系統(tǒng)的審計(jì)或狀態(tài)日志的日志條目、電子郵件存檔、檢查圖像等。本文經(jīng)常使用術(shù)語(yǔ)“計(jì)算機(jī)文件”來(lái)包含信息任何的電子表示。
[0028]本發(fā)明可以使用任何合適的計(jì)算機(jī)硬件和軟件來(lái)實(shí)現(xiàn)，并且可以被實(shí)