專利名稱:獨(dú)立磁盤陣列、網(wǎng)絡(luò)采集數(shù)據(jù)處理方法及系統(tǒng)的制作方法
技術(shù)領(lǐng)域:
本發(fā)明涉及網(wǎng)絡(luò)數(shù)據(jù)采集領(lǐng)域,并且更為具體地,涉及一種均勻高速獨(dú)立磁盤陣列,基于該均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法及具有該均勻獨(dú)立磁盤陣列的系統(tǒng)。
背景技術(shù):
在網(wǎng)絡(luò)系統(tǒng)集成的各個領(lǐng)域中,當(dāng)基于網(wǎng)絡(luò)流量調(diào)試網(wǎng)絡(luò)設(shè)備以及網(wǎng)絡(luò)拓?fù)鋾r, 首先需要對高密度的流量進(jìn)行采集,進(jìn)而才能進(jìn)行相應(yīng)的數(shù)據(jù)分析等操作。在現(xiàn)有的基于高密度網(wǎng)絡(luò)流量采集(即,高流量網(wǎng)絡(luò)數(shù)據(jù)采集)方案中,主要采用已有的網(wǎng)絡(luò)抓包工具監(jiān)聽網(wǎng)絡(luò)流量,生成具有網(wǎng)絡(luò)數(shù)據(jù)包(即,IP數(shù)據(jù)包)格式的文件,并將所生成的網(wǎng)絡(luò)數(shù)據(jù)包轉(zhuǎn)儲到磁盤設(shè)備上。當(dāng)在高密度的網(wǎng)絡(luò)數(shù)據(jù)流場景中進(jìn)行數(shù)據(jù)采集時,通常需要數(shù)據(jù)采集設(shè)備能夠完整地保存數(shù)據(jù),而不能產(chǎn)生丟包。這里,數(shù)據(jù)采集的性能完全取決于所述數(shù)據(jù)采集設(shè)備中的數(shù)據(jù)采取單元(即,網(wǎng)卡)的數(shù)據(jù)包獲取性能以及數(shù)據(jù)存儲單元的寫入,(例如,磁盤的磁盤寫入速度)。在目前的網(wǎng)絡(luò)設(shè)備上,網(wǎng)卡的數(shù)據(jù)包獲取性能已經(jīng)達(dá)到千兆限速,這完全能夠滿足高密度網(wǎng)絡(luò)數(shù)據(jù)流量采集的性能需要。而對于數(shù)據(jù)存儲單元,例如磁盤工具,目前市面上的磁盤主要分為HDD (Hard disk drive)以及 SSD(solid-state drive)兩類。HDD (Hard disk drive)是使用旋轉(zhuǎn)盤片為基礎(chǔ)的非易失性存儲設(shè)備。HDD的地址結(jié)構(gòu),在CHS尋址方式中,磁盤的物理地址由磁頭號(或磁面號)、柱面號(磁道號)和扇區(qū)號組成。圖1中示出了現(xiàn)有硬盤中的地址結(jié)構(gòu)?,F(xiàn)有的磁盤都是等密度盤,并且磁盤容量由下面的等式確定。硬盤容量=柱面數(shù)*磁頭數(shù)*扇區(qū)數(shù)*扇區(qū)大小。在針對磁盤進(jìn)行數(shù)據(jù)讀取和寫入時,數(shù)據(jù)的讀取/寫入按柱面進(jìn)行。具體地,在磁頭讀/寫數(shù)據(jù)時,首先在同一柱面內(nèi)從” 0”磁頭開始進(jìn)行操作,依次向下在同一柱面的不同磁面上進(jìn)行操作,只在同一柱面所有的磁面的讀取/寫入都完成后,磁頭才轉(zhuǎn)移到下一柱面,并且從該下一柱面的“0”磁頭開始處理。從圖1中可以看出,柱面0到柱面1、柱面2......是以主軸為圓心的同心圓,這些
同心圓的角速度一樣,由于徑向長度不一樣,所以,柱面O到柱面1、柱面2......的線速度
也不一樣,并且外圈的線速度較內(nèi)圈的線速度大,也就是說,在同樣的轉(zhuǎn)速下,外圈在相同時間段里,劃過的圓弧長度要比內(nèi)圈劃過的圓弧長度大,并且目前的磁盤都是等密度磁盤, 所以磁盤的寫入/讀取特性是速度由快變慢的過程。圖2示出了現(xiàn)有HDD硬盤的磁道速度示意圖。目前市面上主流的HDD存儲盤包括希捷Constellation ES系列,它是當(dāng)前比較主流的企業(yè)級HDD硬盤。采用測試工具HD Tune Pro 3. 50對希捷Constellation系列進(jìn)行測試,可得到如圖3所示的測量數(shù)據(jù)。
通過圖3中示出的性能測試報告可以發(fā)現(xiàn),當(dāng)前HDD的寫入性能只能在外圈的時候滿足高密度數(shù)據(jù)采集設(shè)備的需求,隨著寫入數(shù)據(jù)量的增加,HDD的寫入性能將會大幅度下降,并不能保證高密度數(shù)據(jù)的采集任務(wù)。SSD(solid-state drive)是由控制單元和固態(tài)存儲單元(DRAM或FLASH芯片)組成的硬盤。由于并非采用旋轉(zhuǎn)磁盤進(jìn)行數(shù)據(jù)讀寫,所以SSD不存在讀寫速度下降的情況,但是SSD的成本高以及FLASH的可擦寫次數(shù)有限,它并不適合在工業(yè)生產(chǎn)中大批量應(yīng)用。通過上述對磁盤的分析可以發(fā)現(xiàn),目前的HDD磁盤存儲設(shè)備不能提供數(shù)據(jù)以恒定的高速寫入性能,無法滿足高密度網(wǎng)絡(luò)數(shù)據(jù)采集的需求,而SSD固態(tài)磁盤因為其成本太高, 容量不大并不適合在工業(yè)生產(chǎn)中批量應(yīng)用。換言之,現(xiàn)有的所有磁盤工具的寫入性能都不能滿足高密度網(wǎng)絡(luò)數(shù)據(jù)采集的需求。為了提高HDD磁盤的寫入性能,目前比較常用的方法是采用RAIDOtedimdant Array of Independent Disks,獨(dú)立磁盤冗余陣列)。RAID是一種把多塊獨(dú)立的硬盤按不同方式組合起來形成一個硬盤組,從而提供比單個磁盤更高的存儲性能和提供數(shù)據(jù)冗余的技術(shù)。組成磁盤陣列的不同方式稱為RAID級別。圖4中示出了各種RAID級別以及對應(yīng)的性能。從圖4中可以看出,RAID只有在級別0時才提高存儲設(shè)備寫入性能,而其他級別的主要特點(diǎn)都在冗余上,對提高存儲設(shè)備寫入性能并沒有太大的幫助。RAIDO的實(shí)現(xiàn)方法是以條帶形式將RAID組的數(shù)據(jù)均勻分布在各個硬盤中,從而提高了存儲設(shè)備的吞吐量。圖5 示出了 RAIDO的工作原理圖。通過對RAIDO原理以及對HDD磁盤結(jié)構(gòu)原理的分析,RAIDO只是對磁盤寫入性能的一個簡單累加。當(dāng)磁盤尋道進(jìn)入內(nèi)圈之后,寫入性能會大幅度下降,并不能保證恒定的高速寫入性能,所以RAIDO并不能從根本上滿足基于高密度網(wǎng)絡(luò)數(shù)據(jù)采集設(shè)備的需求。
發(fā)明內(nèi)容
鑒于上述,本發(fā)明提供了一種均勻高速獨(dú)立磁盤陣列,基于該均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法及具有該均勻獨(dú)立磁盤陣列的系統(tǒng),利用該均勻高速獨(dú)立磁盤陣列,能夠為高密度網(wǎng)絡(luò)數(shù)據(jù)采集提供持續(xù)恒定的高寫入速度,并且使得磁盤的I/O性能達(dá)到恒定的高吞吐量值,從而達(dá)到高密度數(shù)據(jù)采集的要求,同時由于可以采用成本較低的HDD,基于該均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)成本低。根據(jù)本發(fā)明的一個方面,提供了一種均勻高速獨(dú)立磁盤陣列,包括多個磁盤,其中所述各個磁盤被分區(qū)為若干個分區(qū);分區(qū)組成組單元,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。此外,在所述各個磁盤的寫入性能相近并且被分區(qū)為相同數(shù)目的分區(qū)時,所述均勻高速獨(dú)立磁盤陣列還可以包括奇偶性確定單元,用于確定所述均勻高速獨(dú)立磁盤陣列中的磁盤數(shù)的奇偶性,在所述磁盤數(shù)為偶數(shù)時,所述均勻高速獨(dú)立磁盤陣列還包括磁盤組成組單元,用于基于所述各磁盤的寫入性能,按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小的方式,以兩個磁盤為單位對所述磁盤陣列中的磁盤進(jìn)行磁盤分組,以及對于磁盤分組后的各磁盤組,所述分區(qū)組成組單元基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組中的各構(gòu)成磁盤中取出一個形成分區(qū)組,在所述磁盤數(shù)為奇數(shù)時,所述分區(qū)組成組單元按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤中取出一個分區(qū)形成分區(qū)組。此外,在一個或多個示例中,如果所述磁盤數(shù)為偶數(shù),則在進(jìn)行磁盤分組時,所述磁盤組成組單元首先對同型磁盤兩兩配對形成磁盤組。所述磁盤組成組單元還可以包括第一排序單元,用于針對所述剩余磁盤,按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序。 所述磁盤組成組單元基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。根據(jù)本發(fā)明的另一方面,提供了一種網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng),包括如上所述的均勻高速獨(dú)立磁盤陣列;數(shù)據(jù)采集單元,用于利用根據(jù)所讀取的網(wǎng)絡(luò)配置信息確定的接口集, 從網(wǎng)絡(luò)采集數(shù)據(jù);以及數(shù)據(jù)存儲單元,用于將所采集的數(shù)據(jù),存儲到所述均勻高速獨(dú)立磁盤陣列的各磁盤組的分區(qū)組中。此外,在一個或多個示例中,所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)還可以包括時間戳信息處理單元,用于基于所讀取的網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對與所述通信協(xié)議匹配的所采集的數(shù)據(jù)添加時間戳信息,其中,所述數(shù)據(jù)存儲單元將添加有時間戳信息的所采集的數(shù)據(jù),存儲到經(jīng)由所述磁盤分組組合裝置處理后的所述均勻高速獨(dú)立磁盤陣列的各磁盤組的分區(qū)組中。此外,在一個或多個示例中,所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)還可以包括單個文件容量設(shè)置單元,用于在完成分區(qū)組成組之后,設(shè)置單個文件容量;以及文件創(chuàng)建單元,用于在設(shè)置單個文件容量后創(chuàng)建文件,所述要存儲的采集數(shù)據(jù)被存儲在所創(chuàng)建的文件中,其中在將添加有時間戳信息的所采集的數(shù)據(jù)存儲到成組后的分區(qū)組中時,如果要存儲的數(shù)據(jù)的長度大于所設(shè)置的單個文件容量,則所述文件創(chuàng)建單元創(chuàng)建新的同名文件。此外,在一個或多個示例中,所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)還可以包括輸出顯示單元,用于在將添加有時間戳信息的所采集的數(shù)據(jù)寫入到所述磁盤陣列中之后,基于可編程的SDK庫以及二進(jìn)制工具,對所寫入的采集數(shù)據(jù)進(jìn)行輸出顯示。根據(jù)本發(fā)明的另一方面,提供了一種基于均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法,包括利用根據(jù)所讀取的網(wǎng)絡(luò)配置信息確定的接口集,從網(wǎng)絡(luò)采集數(shù)據(jù);以及將所采集的數(shù)據(jù),存儲到根據(jù)所述均勻高速獨(dú)立磁盤陣列的各磁盤中的各分區(qū)寫入性能分組的分區(qū)組中,其中所述均勻高速獨(dú)立磁盤陣列中的各個磁盤被分區(qū)為若干分區(qū),其中,根據(jù)所述均勻高速獨(dú)立磁盤陣列的各磁盤中的各分區(qū)寫入性能進(jìn)行的分區(qū)分組包括基于各磁盤的分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述均勻高速獨(dú)立磁盤陣列的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。此外,在一個或多個示例中,在所述各個磁盤的寫入性能相近并且被分區(qū)為相同數(shù)目的分區(qū)時,在基于各磁盤的分區(qū)的寫入性能形成分區(qū)組的步驟還可以包括確定所述均勻高速磁盤陣列中的磁盤數(shù)的奇偶性;如果所述磁盤數(shù)為偶數(shù),則基于所述各磁盤的寫入性能,按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小的方式,以兩個磁盤為單位對所述磁盤陣列中的磁盤進(jìn)行磁盤分組;以及對于磁盤分組后的各磁盤組,基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組中的各構(gòu)成磁盤中取出一個分區(qū)形成分區(qū)組,以及如果所述磁盤數(shù)為奇數(shù),則按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤中取出一個分區(qū)形成分區(qū)組。此外,在一個或多個示例中,如果所述磁盤數(shù)為偶數(shù),則在進(jìn)行磁盤分組時,所述方法還可以包括對同型磁盤兩兩配對形成磁盤組;針對所述剩余磁盤,按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序;基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。此外,在一個或多個示例中,在將所采集的數(shù)據(jù)存儲到分組的分區(qū)組中之前,所述方法還可以包括基于所讀取的網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對與所述通信協(xié)議匹配的所采集的數(shù)據(jù)添加時間戳信息,以及將添加有時間戳信息的所采集的數(shù)據(jù)存儲到所述分區(qū)組中。此外,在一個或多個示例中,在完成磁盤組和分區(qū)組成組之后,所述方法還可以包括設(shè)置單個文件容量并創(chuàng)建文件,所述要存儲的采集數(shù)據(jù)被存儲在所創(chuàng)建的文件中,其中,在將添加有時間戳信息的所采集的數(shù)據(jù)存儲到成組后的分區(qū)組中時,如果要存儲的數(shù)據(jù)的長度大于所設(shè)置的單個文件容量,則創(chuàng)建新的同名文件。此外,在一個或多個示例中,在將添加有時間戳信息的所采集的數(shù)據(jù)寫入到所述磁盤陣列中之后,所述方法還可以包括基于可編程的SDK庫以及二進(jìn)制工具,對所寫入的采集數(shù)據(jù)進(jìn)行輸出顯示。為了實(shí)現(xiàn)上述以及相關(guān)目的,本發(fā)明的一個或多個方面包括后面將詳細(xì)說明并在權(quán)利要求中特別指出的特征。下面的說明以及附圖詳細(xì)說明了本發(fā)明的某些示例性方面。 然而,這些方面指示的僅僅是可使用本發(fā)明的原理的各種方式中的一些方式。此外,本發(fā)明旨在包括所有這些方面以及它們的等同物。
根據(jù)下述參照附圖進(jìn)行的詳細(xì)描述,本發(fā)明的上述和其他目的、特征和優(yōu)點(diǎn)將變得更加顯而易見。在附圖中圖1示出了現(xiàn)有硬盤的地址結(jié)構(gòu)的示意圖;圖2示出了現(xiàn)有HDD硬盤的磁道速度示意圖;圖3示出了利用測量工具對希捷硬盤進(jìn)行測試的測試結(jié)果;圖4中示出了各種RAID級別以及對應(yīng)的性能;圖5示出了 RAIDO的工作原理的示意圖;圖6示出了根據(jù)本發(fā)明實(shí)施例的均勻高速獨(dú)立磁盤陣列的方框示意圖;圖7示出了根據(jù)本發(fā)明的另一實(shí)施例的均勻高速獨(dú)立磁盤陣列的方框示意圖;圖8示出了具有根據(jù)本發(fā)明的均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)的方框示意圖;圖9示出了根據(jù)本發(fā)明實(shí)施例的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法的示例的總體方框圖;圖10示出了圖9中的網(wǎng)絡(luò)配置過程的流程圖11示出了圖9中的均勻高速獨(dú)立磁盤陣列(UHAID)的配置過程的流程圖;圖12A示出了當(dāng)磁盤數(shù)為偶數(shù)時進(jìn)行的配置的示例的示意圖;圖12B示出了當(dāng)磁盤數(shù)據(jù)為奇數(shù)時進(jìn)行的配置的示例的示意圖;圖13示出了圖9中的網(wǎng)絡(luò)數(shù)據(jù)采集過程的流程圖;圖14示出了圖9中的基于UHAID的數(shù)據(jù)存儲過程的流程圖;和圖15A和15B示出了根據(jù)本發(fā)明的網(wǎng)絡(luò)采集數(shù)據(jù)處理功能的性能。在所有附圖中相同的標(biāo)號指示相似或相應(yīng)的特征或功能。
具體實(shí)施例方式下面描述本公開的各個方面。應(yīng)該明白的是,本文的教導(dǎo)可以以多種多樣形式具體體現(xiàn),并且在本文中公開的任何具體結(jié)構(gòu)、功能或兩者僅僅是代表性的?;诒疚牡慕虒?dǎo),本領(lǐng)域技術(shù)人員應(yīng)該明白的是,本文所公開的一個方面可以獨(dú)立于任何其它方面實(shí)現(xiàn), 并且這些方面中的兩個或多個方面可以按照各種方式組合。例如,可以使用本文所闡述的任何數(shù)目的方面,實(shí)現(xiàn)裝置或?qū)嵺`方法。另外,可以使用其它結(jié)構(gòu)、功能、或除了本文所闡述的一個或多個方面之外或不是本文所闡述的一個或多個方面的結(jié)構(gòu)和功能,實(shí)現(xiàn)這種裝置或?qū)嵺`這種方法。此外,本文所描述的任何方面可以包括權(quán)利要求的至少一個元素。 下面將參照附圖描述本發(fā)明的各個實(shí)施例。圖6示出了根據(jù)本發(fā)明的一個實(shí)施例的均勻高度獨(dú)立磁盤陣列(UHAID) 600的方框示意圖。如圖6所示,所述UHAID 600包括多個磁盤601,比如,601-1,601-2,......,
601-n,以及分區(qū)組成組單元607。所述多個磁盤600用于存儲要采集的數(shù)據(jù)。所述多個磁盤600可以是寫入性能相近的,也可以是寫入性能不相近。此外,所述多個磁盤可以被分區(qū)為若干分區(qū),例如被分區(qū)為相等數(shù)目的分區(qū)或者數(shù)目不等的分區(qū)。所述磁盤例如是HDD。所述分區(qū)組成組單元607 用于按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式, 從所述多個磁盤中的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。這里所述的分區(qū)組的構(gòu)成分區(qū)的寫入性能總和指的是將分區(qū)組的各個構(gòu)成分組的寫入性能相加后得到的和,它可以認(rèn)為是分區(qū)組的寫入性能。下面以一個示例來對分區(qū)組成組單元607的操作進(jìn)行說明。例如,假設(shè)UHAID陣列600包括兩個磁盤sda和sdb,其中sda的寫入性能為160 80MB/s,以及sdb的寫入性能為80 60MB/s。在進(jìn)行初始分區(qū)時,硬盤sda被分區(qū)為兩個分區(qū)sdal和sda2,其中 sdal的寫入性能為160 ΙΟΟΜΒ/s, sda2的寫入性能為100 80MB/s。硬盤sdb被分區(qū)為一個分區(qū)。在這種情況下,按照上述分區(qū)分組原則,將sdal單獨(dú)形成為分區(qū)組1,而將sda2 和sdb形成為分區(qū)組2。按照這樣的分區(qū),所得到的分區(qū)組1的寫入性能為160 100MB/ s,而分區(qū)組2的寫入性能是構(gòu)成分區(qū)的寫入性能之和,即180 140MB/S。同其它分組方式相比,例如,與sdal、sda2和sdb分別成組相比,這種分組方式所得到的分區(qū)組的寫入性能之間的最大差值最小。圖7示出了根據(jù)本發(fā)明的另一實(shí)施例的均勻高度獨(dú)立磁盤陣列(UHAID) 700的方框示意圖,該實(shí)施例是在所述UHAID陣列中的各個磁盤的寫入性能都相近并且每個磁盤都被分區(qū)為相等數(shù)目的分區(qū)的情況下發(fā)生的。如圖7所示,所述UHAID 700包括多個磁盤701,比如,701-1,701-2,......,
701-n,奇偶性確定單元703,磁盤組成組單元705以及分區(qū)組成組單元707。所述多個磁盤700用于存儲要采集的數(shù)據(jù),其中所述多個磁盤700的寫入性能相近,并且被分區(qū)為相等數(shù)目的分區(qū)。所述磁盤例如是HDD。在這種情況下,所述奇偶性確定單元703用于確定所述UHAID 700中所包含的磁盤數(shù)的奇偶性。當(dāng)所述磁盤數(shù)為偶數(shù)時,所述磁盤組成組單元705用于基于各磁盤的寫入性能, 按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大誤差最小的方式,以兩個磁盤為單位對所述磁盤陣列中的磁盤進(jìn)行磁盤分組,從而得到各個磁盤組。然后,對于磁盤分組后的各個磁盤組,所述分區(qū)組成組單元基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組的各構(gòu)成磁盤中取出一個分區(qū)形成分區(qū)組。在如上對磁盤進(jìn)行分組時,如何使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小,可以利用一個已知算法,例如采用遍歷算法,計算各種分組方案下的各磁盤組的寫入性能之間的最大差值,然后從中選擇最大差值最小的一種分組方案來對磁盤進(jìn)行分組。此外,在另一個優(yōu)選實(shí)施例中,在如上進(jìn)行磁盤分組時,所述磁盤組成組單元可以首先將同型磁盤兩兩配對形成磁盤組,然后針對剩余磁盤,所述磁盤組成組單元705中的第一排序單元(未示出)按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序。在所述第一排序單元如上完成排序后,所述磁盤組成組單元基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。以上示出的僅僅是一個示例,還可以采用其它方式進(jìn)行磁盤分組。在如上以兩個磁盤為單位進(jìn)行磁盤分組后,所述分區(qū)組成組單元707基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組中的各構(gòu)成磁盤中取出一個分區(qū)形成分區(qū)組。在一個示例中,所述分區(qū)組成組單元707還可以包括第二排序單元(未示出),用于分別對于各磁盤組中的兩個磁盤的分區(qū)的寫入性能按照高低順序進(jìn)行排序。在所述第二排序單元如上完成排序后,所述分區(qū)組成組單元707基于所述第二排序單元的排序結(jié)果,按照首尾配對的方式,從該磁盤組的兩個磁盤中各取出一個分區(qū)構(gòu)成分區(qū)組。例如,如果磁盤組包括磁盤A和磁盤B,磁盤A和磁盤B都被分為4個分區(qū)Al、A2、A3、A4以及B1、B2、B3和B4,并且磁盤A 中分區(qū)的寫入性能為Al > A2 > A3 > A 4,以及磁盤B中的分區(qū)的寫入性能Bl > B2 > B3 > B4,則按照上述分區(qū)分組原則,Al和B4構(gòu)成分組1,A2和B3構(gòu)成分組2,A3和B2構(gòu)成分組3,以及A4和Bl構(gòu)成分組4。如果所述磁盤數(shù)為奇數(shù)時,則將所有磁盤作為一個磁盤組進(jìn)行處理。在這種情況下,所述分區(qū)組成組單元707用于基于該磁盤組中的各磁盤的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組的各構(gòu)成磁盤中各取出一個分區(qū)形成分區(qū)組。例如,在一個示例中,假設(shè)磁盤總數(shù)為n,n為奇數(shù),并且各個磁盤都被分成η個分區(qū)。當(dāng)按照上述原則進(jìn)行分區(qū)分組時,在每個最終形成的分區(qū)組中分區(qū)個數(shù)為η個,并且每個分區(qū)都來自不同的磁盤。另外,每個分區(qū)組中的任何元素都不與其它分區(qū)組中的元素相同。即分區(qū)組Ni={i,j,…,k},其中i,j,…,k是來
自不同的磁盤1 η的分區(qū),i,k,. . . . k = 1,......,η。并且每個分區(qū)組Ni中的元素與
其它分區(qū)組的元素都不相同。同樣,在對分區(qū)進(jìn)行分組時,如何使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小,可以利用一個已知算法,例如采用遍歷算法, 計算各種分組方案下的各分區(qū)組的寫入性能之間的最大差值,然后從中選擇最大差值最小的一種分組方案來對分區(qū)進(jìn)行分組。這里要說明的是,圖7中示出的是在所述UHAID陣列中的各個磁盤的寫入性能都相近并且每個磁盤都被分區(qū)為相等數(shù)目的分區(qū)的情況下發(fā)生的分區(qū)分組。當(dāng)各個磁盤的寫入性能不相近或者每個磁盤的分區(qū)數(shù)目不等時,將所有磁盤作為一個磁盤組,按照圖6中示出的方式處理。此外,在對磁盤組中的各個磁盤進(jìn)行分區(qū)和格式化時,依據(jù)分組配對中兩個分區(qū)耗時相近的原則,在unit_size = disk_capacity/N的基礎(chǔ)上進(jìn)行微調(diào)。Unit_size (disk 劃入分區(qū)組的分區(qū)大小)disk_capacity (單個磁盤的容量)。而且,磁盤組中的各個磁盤被分區(qū)為具有相同的分區(qū)。圖8示出了根據(jù)本發(fā)明實(shí)施例的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)800的一個示例的方框示意圖。如圖7中所示,網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)800包括讀取單元810、接口集確定單元 820、緩存區(qū)設(shè)置單元830、數(shù)據(jù)采集單元840、時間戳信息處理單元850、數(shù)據(jù)存儲單元860、 UHAID陣列600/700以及輸出顯示單元870。所述讀取單元810用于讀取網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)中的網(wǎng)絡(luò)配置信息。所述網(wǎng)絡(luò)配置信息通過配置文件的方式提供。通常,所述網(wǎng)絡(luò)配置信息包括采集網(wǎng)口配置信息以及數(shù)據(jù)采集緩存區(qū)大小。所述接口集確定單元820用于根據(jù)所述網(wǎng)絡(luò)配置信息(例如,根據(jù)采集網(wǎng)口配置信息),確定用于數(shù)據(jù)采集的接口集。所述緩存區(qū)設(shè)置單元830用于設(shè)置用于數(shù)據(jù)采集的緩存區(qū)。所述數(shù)據(jù)采集單元840用于利用根據(jù)所讀取的網(wǎng)絡(luò)配置信息確定的接口集,從網(wǎng)絡(luò)采集數(shù)據(jù)。所述數(shù)據(jù)采集單元840例如是網(wǎng)卡等。然后,所述時間戳信息處理單元850用于基于所讀取的網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對與所述通信協(xié)議匹配的所采集的數(shù)據(jù)添加時間戳信息。所述數(shù)據(jù)存儲單元860用于將添加有時間戳信息的所采集的數(shù)據(jù),存儲到經(jīng)由所述磁盤分組組合裝置處理后的所述均勻高速獨(dú)立磁盤陣列600或700的各磁盤組的分區(qū)組中。在如上進(jìn)行存儲后,在需要進(jìn)行輸出顯示時,所述輸出顯示單元870用于在將添加有時間戳信息的所采集的數(shù)據(jù)寫入到所述磁盤陣列中之后,基于可編程的SDK庫以及二進(jìn)制工具,對所寫入的采集數(shù)據(jù)進(jìn)行輸出顯示。所述輸出顯示單元例如可以是液晶顯示器等。例如,可以按照時間戳顯示采集數(shù)據(jù)、按照時間戳顯示前預(yù)定數(shù)目個采集數(shù)據(jù)、顯示特定文件的采集數(shù)據(jù)或者顯示特定時間段內(nèi)的采集數(shù)據(jù)。此外,在一個優(yōu)選實(shí)施例中,如果所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)是多內(nèi)核設(shè)備,則所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)還可以包括綁定單元(未示出),用于將所述數(shù)據(jù)采集單元以及數(shù)據(jù)存儲單元分別綁定到不同的內(nèi)核上。此外,在一個示例中,所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)還可以包括單個文件容量設(shè)置單元(未示出),用于在完成磁盤組和分區(qū)組成組之后,設(shè)置單個文件容量;以及文件創(chuàng)建單元(未示出),用于在設(shè)置單個文件容量后,創(chuàng)建文件,其中,所述要存儲的采集數(shù)據(jù)被存儲在所創(chuàng)建的文件中。如上參照圖6、圖7和圖8描述了根據(jù)本發(fā)明實(shí)施例的均勻高速獨(dú)立磁盤陣列以及具有該均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)。下面將參照圖9到圖15B描述根據(jù)本發(fā)明的網(wǎng)絡(luò)采集數(shù)據(jù)處理過程。圖9示出了根據(jù)本發(fā)明的實(shí)施例的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法的示例的總體方框圖。如圖9所示,首先,在步驟S910,在進(jìn)行網(wǎng)絡(luò)數(shù)據(jù)采集之前,對網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)進(jìn)行網(wǎng)絡(luò)采集配置。在進(jìn)行網(wǎng)絡(luò)采集配置后,在步驟S920,進(jìn)行UHAID陣列配置。然后,在步驟S930,利用數(shù)據(jù)采集單元,從網(wǎng)絡(luò)采集數(shù)據(jù)。在采集到數(shù)據(jù)后,在步驟S940,將所采集的數(shù)據(jù)存儲在經(jīng)過UHAID陣列配置后的各磁盤組的分區(qū)組中。如果需要輸出所存儲的數(shù)據(jù),則在步驟S850,基于所提供的可編程的SDK庫以及二進(jìn)制工具,對所述UHAID中存儲的數(shù)據(jù)進(jìn)行UHADI的I/O操作,從而進(jìn)行輸出顯示。所述輸出顯示包括按照時間戳顯示采集數(shù)據(jù)、按照時間戳顯示前預(yù)定數(shù)目個采集數(shù)據(jù)、顯示特定文件的采集數(shù)據(jù)或者顯示特定時間段內(nèi)的采集數(shù)據(jù)。下面參考圖10到圖14分別針對上述流程中的網(wǎng)絡(luò)采集配置過程、UHAID陣列配置過程、網(wǎng)絡(luò)數(shù)據(jù)采集過程以及基于UHAID的數(shù)據(jù)存儲過程進(jìn)行詳細(xì)說明。圖10示出了圖9中的網(wǎng)絡(luò)采集配置過程的流程圖。如圖10中所示,首先,在步驟 S911,網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)中的讀取單元讀取網(wǎng)絡(luò)配置信息。所述網(wǎng)絡(luò)配置信息通過配置文件的方式提供。通常,所述網(wǎng)絡(luò)配置信息包括采集網(wǎng)口配置信息以及數(shù)據(jù)采集緩存區(qū)大小。在讀取網(wǎng)絡(luò)配置信息后,在步驟S913,接口集確定單元基于所讀取的網(wǎng)絡(luò)配置信息, 確定用于數(shù)據(jù)采集的接口集。此外,優(yōu)選地,在所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)是多內(nèi)核系統(tǒng)的情況下,還可以在步驟S915,分別將用于數(shù)據(jù)采集的數(shù)據(jù)采集單元以及用于數(shù)據(jù)存儲的數(shù)據(jù)存儲單元綁定到不同的內(nèi)核上,并設(shè)置不同的獨(dú)占標(biāo)識符。然后,在步驟S917,所述緩存器設(shè)置單元設(shè)置用于數(shù)據(jù)采集的緩存區(qū),從而增加網(wǎng)絡(luò)數(shù)據(jù)采集時處理大量突發(fā)數(shù)據(jù)包的能力。這里要說明的是,在替換實(shí)施例的情況下,如果所述網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng)是單核系統(tǒng),則不需要上述步驟S915。圖11示出了圖9中的均勻高速獨(dú)立磁盤陣列(UHAID)的配置過程的流程圖,其是在所述UHAID陣列中的各個磁盤的寫入性能都相近并且每個磁盤都被分區(qū)為相等數(shù)目的分區(qū)的情況下進(jìn)行的。如圖11中所示,首先,在步驟S921中,所述奇偶性確定單元確定所述UHAID陣列中所包含的磁盤數(shù)的奇偶性。如果所述磁盤數(shù)是偶數(shù),則進(jìn)行到步驟S923。否則,進(jìn)行到步驟 S925。在步驟S923,所述磁盤組成組單元705以兩個磁盤為單位,按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小的方式對所述磁盤陣列中的磁盤進(jìn)行分組。在對磁盤進(jìn)行分組時,如何使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小,可以利用一個已知算法,例如采用遍歷算法,計算各種分組方案下的各磁盤組的寫入性能之間的最大差值,然后從中選擇最大差值最小的一種分組方案來對磁盤進(jìn)行分組。例如,在一個示例中,當(dāng)所述磁盤數(shù)為偶數(shù)時,所述磁盤組成組單元可以首先將同型磁盤兩兩配對形成磁盤組。然后針對剩余磁盤,按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序。在所述第一排序單元如上完成排序后,基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。在如上進(jìn)行磁盤分組后, 流程進(jìn)行到步驟S927。在步驟S925中,當(dāng)所述磁盤數(shù)為奇數(shù)時,將所有磁盤組成一個磁盤組,然后,流程進(jìn)行到步驟S927。在步驟S927,針對各個磁盤組,基于該磁盤組中的各磁盤的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分組的寫入性能總和之間的最大差值最小的方式,從該磁盤組的各構(gòu)成磁盤中各取出一個分組形成分區(qū)組。具體分組方法,可以參照上述針對分區(qū)組成組單元進(jìn)行的描述。圖11中示出的是所述UHAID陣列中的各個磁盤的寫入性能都相近并且每個磁盤都被分區(qū)為相等數(shù)目的分區(qū)的情形。如果各個磁盤的寫入性能不相近或者每個磁盤的分區(qū)數(shù)目不等,則將所有磁盤作為一個磁盤組,按照圖6中示出的方式處理。圖12A示出了當(dāng)磁盤數(shù)為偶數(shù)時進(jìn)行的配置的一個示例的示意圖。圖12B示出了當(dāng)磁盤數(shù)為奇數(shù)時進(jìn)行的配置的示意圖。在圖12A和12B中,各個分區(qū)的寫入性能隨著編號的增加逐漸變低。例如,分區(qū)1的寫入性能最高,分區(qū)η的寫入性能最低。圖13示出了圖9中的網(wǎng)絡(luò)數(shù)據(jù)采集過程的流程圖。如圖13中所示,首先,在步驟 S931中,利用基于所述網(wǎng)絡(luò)配置信息確定的接口集,數(shù)據(jù)采集單元從網(wǎng)絡(luò)采集(捕獲)數(shù)據(jù)。隨后,在步驟S933中,基于所述網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對所采集的數(shù)據(jù)進(jìn)行過濾。也就是,判斷所采集的數(shù)據(jù)包是否與所述通信協(xié)議匹配。如果匹配,則流程進(jìn)行到步驟S935。否則,進(jìn)行到步驟S937。在步驟S935,將數(shù)據(jù)頭以及時間戳信息添加到所采集的數(shù)據(jù)包上。如下示出了時間戳數(shù)據(jù)結(jié)構(gòu)以及數(shù)據(jù)包頭結(jié)構(gòu)。時間戳數(shù)據(jù)結(jié)構(gòu)
struct ne_pcap_timeval {
//seconds
mt tv—sec; int tv—usee;
};數(shù)據(jù)包頭數(shù)據(jù)結(jié)構(gòu)
struct ne_pcap_sf_pkthdr {
//microseconds
struct ne_pcap_timeval ts; //time stamp
int caplen;//length of portion present
int len;
//length this packet另外,如下示出了在進(jìn)行時間戳信息添加之前以及之后的數(shù)據(jù)結(jié)構(gòu)。原始數(shù)據(jù)包格式
權(quán)利要求
1.一種均勻高速獨(dú)立磁盤陣列,包括多個磁盤,其中所述各個磁盤被分區(qū)為若干個分區(qū);分區(qū)組成組單元,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。
2.如權(quán)利要求1所述的均勻高速獨(dú)立磁盤陣列,其中,在所述各個磁盤的寫入性能相近并且被分區(qū)為相同數(shù)目的分區(qū)時,所述均勻高速獨(dú)立磁盤陣列包括奇偶性確定單元,用于確定所述均勻高速獨(dú)立磁盤陣列中的磁盤數(shù)的奇偶性,在所述磁盤數(shù)為偶數(shù)時,所述均勻高速獨(dú)立磁盤陣列還包括磁盤組成組單元,用于基于所述各磁盤的寫入性能,按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小的方式,以兩個磁盤為單位對所述磁盤陣列中的磁盤進(jìn)行磁盤分組,以及對于磁盤分組后的各磁盤組,所述分區(qū)組成組單元基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式, 從該磁盤組中的各構(gòu)成磁盤中取出一個分區(qū)形成分區(qū)組,在所述磁盤數(shù)為奇數(shù)時,所述分區(qū)組成組單元按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤中取出一個分區(qū)形成分區(qū)組。
3.如權(quán)利要求2所述的均勻高速獨(dú)立磁盤陣列,其中,如果所述磁盤數(shù)為偶數(shù),則在進(jìn)行磁盤分組時,所述磁盤組成組單元首先對同型磁盤兩兩配對形成磁盤組,以及所述磁盤組成組單元還包括第一排序單元,用于針對所述剩余磁盤,按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序;以及所述磁盤組成組單元基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。
4.一種網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng),包括如上1到3中任何一個所述的均勻高速獨(dú)立磁盤陣列;數(shù)據(jù)采集單元,用于利用根據(jù)所讀取的網(wǎng)絡(luò)配置信息確定的接口集,從網(wǎng)絡(luò)采集數(shù)據(jù);以及數(shù)據(jù)存儲單元,用于將所采集的數(shù)據(jù),存儲到所述均勻高速獨(dú)立磁盤陣列的各磁盤組的分區(qū)組中。
5.如權(quán)利要求4所述的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng),還包括時間戳信息處理單元,用于基于所讀取的網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對與所述通信協(xié)議匹配的所采集的數(shù)據(jù)添加時間戳信息,其中,所述數(shù)據(jù)存儲單元將添加有時間戳信息的所采集的數(shù)據(jù),存儲到經(jīng)由所述磁盤分組組合裝置處理后的所述均勻高速獨(dú)立磁盤陣列的各磁盤組的分區(qū)組中。
6.如權(quán)利要求4所述的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng),還包括單個文件容量設(shè)置單元,用于在完成分區(qū)組成組之后,設(shè)置單個文件容量;以及文件創(chuàng)建單元,用于在設(shè)置單個文件容量后,創(chuàng)建文件,其中,所述要存儲的采集數(shù)據(jù)被存儲在所創(chuàng)建的文件中,其中在將添加有時間戳信息的所采集的數(shù)據(jù)存儲到成組后的分區(qū)組中時,如果要存儲的數(shù)據(jù)的長度大于所設(shè)置的單個文件容量,則所述文件創(chuàng)建單元創(chuàng)建新的同名文件。
7.如權(quán)利要求5或6所述的網(wǎng)絡(luò)采集數(shù)據(jù)處理系統(tǒng),還包括輸出顯示單元,用于在將添加有時間戳信息的所采集的數(shù)據(jù)寫入到所述磁盤陣列中之后,基于可編程的SDK庫以及二進(jìn)制工具,對所寫入的采集數(shù)據(jù)進(jìn)行輸出顯示。
8.一種基于均勻高速獨(dú)立磁盤陣列的網(wǎng)絡(luò)采集數(shù)據(jù)處理方法,包括 利用根據(jù)所讀取的網(wǎng)絡(luò)配置信息確定的接口集,從網(wǎng)絡(luò)采集數(shù)據(jù);以及將所采集的數(shù)據(jù),存儲到根據(jù)所述均勻高速獨(dú)立磁盤陣列的各磁盤中的各分區(qū)寫入性能分組的分區(qū)組中,其中所述均勻高速獨(dú)立磁盤陣列中的各個磁盤被分區(qū)為若干分區(qū),其中,根據(jù)所述均勻高速獨(dú)立磁盤陣列的各磁盤中的各分區(qū)寫入性能進(jìn)行的分區(qū)分組包括基于各磁盤的分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述均勻高速獨(dú)立磁盤陣列的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。
9.如權(quán)利要求8所述的方法,其中,在所述各個磁盤的寫入性能相近并且被分區(qū)為相同數(shù)目的分區(qū)時,在基于各磁盤的分區(qū)的寫入性能形成分區(qū)組的步驟還包括確定所述均勻高速磁盤陣列中的磁盤數(shù)的奇偶性; 如果所述磁盤數(shù)為偶數(shù),則基于所述各磁盤的寫入性能,按照使得成組后的各磁盤組的構(gòu)成磁盤的寫入性能總和之間的最大差值最小的方式,以兩個磁盤為單位對所述磁盤陣列中的磁盤進(jìn)行磁盤分組; 以及對于磁盤分組后的各磁盤組,基于各磁盤組中的各分區(qū)的寫入性能,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從該磁盤組中的各構(gòu)成磁盤中取出一個分區(qū)形成分區(qū)組,以及如果所述磁盤數(shù)為奇數(shù),則按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤中取出一個分區(qū)形成分區(qū)組。
10.如權(quán)利要求9所述的方法,其中,如果所述磁盤數(shù)為偶數(shù),則在進(jìn)行磁盤分組時, 對同型磁盤兩兩配對形成磁盤組;針對所述剩余磁盤,按照磁盤的寫入性能高低對所述剩余磁盤進(jìn)行排序; 基于所述第一排序單元的排序結(jié)果,按照首尾配對的方式,將所述剩余磁盤兩兩配對形成磁盤組。
11.如權(quán)利要求9所述的方法,其中,在將所采集的數(shù)據(jù)存儲到分組的分區(qū)組中之前, 還包括基于所讀取的網(wǎng)絡(luò)配置信息中的用于過濾數(shù)據(jù)的通信協(xié)議,對與所述通信協(xié)議匹配的所采集的數(shù)據(jù)添加時間戳信息,以及將添加有時間戳信息的所采集的數(shù)據(jù)存儲到所述分區(qū)組中。
12.如權(quán)利要求11所述的方法,在完成磁盤組和分區(qū)組成組之后,所述方法還包括設(shè)置單個文件容量,并創(chuàng)建文件,其中,所述要存儲的采集數(shù)據(jù)被存儲在所創(chuàng)建的文件中,其中,在將添加有時間戳信息的所采集的數(shù)據(jù)存儲到成組后的分區(qū)組中時,如果要存儲的數(shù)據(jù)的長度大于所設(shè)置的單個文件容量,則創(chuàng)建新的同名文件。
13.如權(quán)利要求11或12所述的方法,在將添加有時間戳信息的所采集的數(shù)據(jù)寫入到所述磁盤陣列中之后,所述方法還包括基于可編程的SDK庫以及二進(jìn)制工具,對所寫入的采集數(shù)據(jù)進(jìn)行輸出顯示。
全文摘要
本發(fā)明提供了一種均勻高速獨(dú)立磁盤陣列,包括多個磁盤,其中所述各個磁盤被分區(qū)為若干個分區(qū);分區(qū)組成組單元,按照使得成組后的各分區(qū)組的構(gòu)成分區(qū)的寫入性能總和之間的最大差值最小的方式,從所述多個磁盤中的各個磁盤或部分磁盤中取出一個或多個分區(qū)形成分區(qū)組。利用該均勻高速獨(dú)立磁盤陣列,能夠為高密度網(wǎng)絡(luò)數(shù)據(jù)采集提供持續(xù)恒定的高寫入速度,并且使得磁盤的I/O性能達(dá)到恒定的高吞吐量值,并且成本低。
文檔編號G06F3/06GK102270105SQ20111022592
公開日2011年12月7日 申請日期2011年8月8日 優(yōu)先權(quán)日2011年8月8日
發(fā)明者曹斌, 金健, 陳靜相 申請人:東軟集團(tuán)股份有限公司