庫(kù)隨機(jī)對(duì)等地劃分為訓(xùn)練圖像集和測(cè)試圖像集,并且把每 一幅圖像大小歸一化為256X256,同時(shí)將每一幅訓(xùn)練圖像的旋轉(zhuǎn)圖像也擴(kuò)充到訓(xùn)練圖像集 中,在訓(xùn)練階段,再將每一幅訓(xùn)練圖像的大小裁剪成224X224。
[0031]由于卷積神經(jīng)網(wǎng)絡(luò)包含數(shù)以百萬(wàn)計(jì)的參數(shù),使用規(guī)模太小的圖像庫(kù)訓(xùn)練得到的卷 積神經(jīng)網(wǎng)絡(luò)很容易發(fā)生過(guò)擬合現(xiàn)象。為解決該問(wèn)題,在大型數(shù)據(jù)庫(kù)ImageNet圖像庫(kù)上預(yù)訓(xùn) 練神經(jīng)網(wǎng)絡(luò)模型;最后,使用建立的變電站數(shù)據(jù)庫(kù)繼續(xù)訓(xùn)練該模型直至收斂。在上述訓(xùn)練過(guò) 程中,定義如下的能量損失函數(shù):
[0032]
[0033]其中,Llciss為能量損失值,lk為第k個(gè)屬性的真實(shí)值(0或者l);pk為第k個(gè)屬性的后 驗(yàn)概率,即測(cè)試值。設(shè)定丟失率為70%,S卩70%的參數(shù)將隨機(jī)地被舍棄,并且使用誤差反向 傳播算法和梯度下降算法迭代更新模型參數(shù),直至能量損失函數(shù)達(dá)到最小,此時(shí)得到的模 型即為最優(yōu)。
[0034]接下來(lái),采用深度卷積神經(jīng)網(wǎng)絡(luò)來(lái)對(duì)所有的屬性進(jìn)行分類(lèi),對(duì)每一幅待測(cè)圖像,檢 測(cè)出該圖像所包含的所有屬性。本發(fā)明采用的深度卷積網(wǎng)絡(luò)結(jié)構(gòu)對(duì)于海量的圖像分類(lèi)任務(wù) 具有非常好的效果,進(jìn)而得到了非常好的應(yīng)用。在該神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中,采用卷積層、歸化層、 池化層以及內(nèi)積層來(lái)準(zhǔn)確獲取圖像的語(yǔ)義信息,每一次迭代過(guò)后,采用誤差反向傳播算法 來(lái)更新每層各個(gè)節(jié)點(diǎn)的參數(shù)。由于傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)算法只是用來(lái)對(duì)單標(biāo)簽的圖像進(jìn)行 分類(lèi),得到的結(jié)果只是具有最高可能性的標(biāo)簽,而本發(fā)明需要完成的是對(duì)多標(biāo)簽的圖像進(jìn) 行屬性識(shí)別,故傳統(tǒng)的算法并不能完成該工作,本發(fā)明改進(jìn)了這一點(diǎn):通過(guò)把最后一層Soft max層改為Sigmoid層,當(dāng)某一個(gè)屬性概率大于0.5時(shí),則預(yù)測(cè)屬性表中對(duì)應(yīng)的屬性值為1,否 則為〇,借助Sigmoid函數(shù)的特性使該問(wèn)題得到了很好的解決。
[0035]本發(fā)明采用的Caffe深度學(xué)習(xí)框架為,設(shè)定初始化學(xué)習(xí)率為0.000001,基于上面學(xué) 習(xí)到的模型,對(duì)每一幅測(cè)試圖像,采取以下步驟進(jìn)行分類(lèi):
[0036] 1.利用所有訓(xùn)練圖像的均值對(duì)圖像進(jìn)行歸一化處理;
[0037] 2.利用訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)對(duì)該圖像進(jìn)行測(cè)試,得到該圖像的所有屬性的分布 概率;
[0038] 3.基于設(shè)定好的閾值0.5得到預(yù)測(cè)屬性表,再對(duì)比所有測(cè)試圖像的真實(shí)屬性表和 預(yù)測(cè)屬性表,計(jì)算得到各類(lèi)屬性的分類(lèi)準(zhǔn)確率。
[0039]以上所述僅是本發(fā)明的優(yōu)選實(shí)施方式,應(yīng)當(dāng)指出:對(duì)于本技術(shù)領(lǐng)域的普通技術(shù)人 員來(lái)說(shuō),在不脫離本發(fā)明原理的前提下,還可以做出若干改進(jìn)和潤(rùn)飾,這些改進(jìn)和潤(rùn)飾也應(yīng) 視為本發(fā)明的保護(hù)范圍。
【主權(quán)項(xiàng)】
1. 一種基于卷積神經(jīng)網(wǎng)絡(luò)的變電站屬性分類(lèi)方法,其特征在于:包括如下步驟: 步驟一:構(gòu)建變電站圖像數(shù)據(jù)庫(kù),這個(gè)數(shù)據(jù)庫(kù)包括變電站、變壓器、刀閘、輸電線(xiàn)路、絕 緣子、營(yíng)業(yè)廳、人七類(lèi)圖像;所有圖像包括的內(nèi)容都是現(xiàn)實(shí)的變電站相關(guān)場(chǎng)景和器件;所有 圖像均設(shè)置為256X256像素; 步驟二:構(gòu)建屬性表,對(duì)數(shù)據(jù)庫(kù)中的所有圖像構(gòu)建屬性表,所述屬性表包括七個(gè)數(shù)值, 所述七個(gè)數(shù)值分別對(duì)應(yīng)變電站、變壓器、刀閘、輸電線(xiàn)路、絕緣子、營(yíng)業(yè)廳、人七類(lèi)屬性,若圖 像中包括該項(xiàng)屬性則對(duì)應(yīng)數(shù)值設(shè)置為1,否則設(shè)置為0; 步驟三:預(yù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)模型,為避免過(guò)擬合現(xiàn)象,在圖片庫(kù)ImageNet上預(yù)訓(xùn)練卷 積神經(jīng)網(wǎng)絡(luò)模型,所述圖片庫(kù)ImageNet包括1000類(lèi)不同的圖像,所述卷積神經(jīng)網(wǎng)絡(luò)的第8層 參數(shù)均設(shè)置為1000; 步驟四:學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò),在步驟三的基礎(chǔ)上,繼續(xù)學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)模型; 步驟五:利用學(xué)習(xí)好的卷積神經(jīng)網(wǎng)絡(luò)模型對(duì)圖像進(jìn)行屬性分類(lèi),包括如下步驟: 5a:利用所有訓(xùn)練圖像的均值對(duì)圖像進(jìn)行歸一化處理; 5b:利用訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像進(jìn)行測(cè)試,得到該圖像的所有屬性的分布概率; 5c:基于設(shè)定好的閾值0.5得到預(yù)測(cè)屬性表,再對(duì)比所有測(cè)試圖像的真實(shí)屬性表和預(yù)測(cè) 屬性表,計(jì)算得到各類(lèi)屬性的分類(lèi)準(zhǔn)確率。2. 根據(jù)權(quán)利要求1所述的一種基于卷積神經(jīng)網(wǎng)絡(luò)的變電站屬性分類(lèi)方法,其特征在于: 所述步驟四包括如下步驟: 4a:所有圖像隨機(jī)地劃分成訓(xùn)練圖像和測(cè)試圖像,所述訓(xùn)練圖像和測(cè)試圖像各占50%; 4b:將訓(xùn)練圖像全部作一個(gè)旋轉(zhuǎn),并將旋轉(zhuǎn)后的圖像擴(kuò)充到訓(xùn)練圖像中; 4c:將新加入的圖像按照步驟二的方法建立屬性表; 4d:將卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的第8層設(shè)置為7,卷積神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)率設(shè)置為0.000001, 并按照0.7的丟失率隨機(jī)地丟棄70%的參數(shù)。3. 根據(jù)權(quán)利要求1所述的一種基于卷積神經(jīng)網(wǎng)絡(luò)的變電站屬性分類(lèi)方法,其特征在于: 所述卷積神經(jīng)網(wǎng)絡(luò)模型Softmax層改為Sigmoid層。
【專(zhuān)利摘要】本發(fā)明公開(kāi)了一種基于卷積神經(jīng)網(wǎng)絡(luò)的變電站屬性分類(lèi)方法,能夠非常準(zhǔn)確地檢索到和變電站相關(guān)的特定場(chǎng)景以及特定對(duì)象,能夠幫助變電站安防人員高效地處理監(jiān)控資料,在一定程度上填補(bǔ)了智能安防的技術(shù)空缺。主要?jiǎng)?chuàng)新點(diǎn)在于巧妙地將圖像所包含的特定場(chǎng)景和特定對(duì)象對(duì)應(yīng)成一種屬性,進(jìn)而建立起一個(gè)用來(lái)表征圖像的二值屬性表,同時(shí)改進(jìn)傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),使其能夠?qū)Π鄬傩缘膱D像進(jìn)行準(zhǔn)確識(shí)別和分類(lèi)。本發(fā)明提供的一種基于卷積神經(jīng)網(wǎng)絡(luò)的變電站屬性分類(lèi)方法,改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)克服了傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)只能對(duì)單一屬性進(jìn)行分類(lèi)的缺點(diǎn),達(dá)到平均分類(lèi)準(zhǔn)確率為94.7%,具有非常強(qiáng)的可行性和實(shí)用性。
【IPC分類(lèi)】G06N3/08, G06K9/62
【公開(kāi)號(hào)】CN105426908
【申請(qǐng)?zhí)枴緾N201510755426
【發(fā)明人】吳佳, 蘇丹, 郝小龍, 袁衛(wèi)國(guó), 彭啟偉, 李環(huán)媛, 羅旺, 劉超, 余磊, 高崧, 馮敏
【申請(qǐng)人】國(guó)網(wǎng)冀北電力有限公司信息通信分公司, 國(guó)家電網(wǎng)公司, 南京南瑞集團(tuán)公司, 南京南瑞信息通信科技有限公司
【公開(kāi)日】2016年3月23日
【申請(qǐng)日】2015年11月9日