本發(fā)明涉及一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法，屬于神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)研究領(lǐng)域。

背景技術(shù)：

在智能電網(wǎng)快速發(fā)展的環(huán)境下，電網(wǎng)向著網(wǎng)絡(luò)化、數(shù)字化、集成化、標(biāo)準(zhǔn)化的大方向前進(jìn)，因此對(duì)電力負(fù)荷的預(yù)測(cè)要求也逐步加深。對(duì)電力負(fù)荷的預(yù)測(cè)包括對(duì)售電量和用電量的預(yù)測(cè)。售電量是指電力企業(yè)售給用戶的電量及供給本企業(yè)非電力生產(chǎn)基礎(chǔ)建設(shè)、大修理和非生產(chǎn)部門等所使用的電量；用電量是指電網(wǎng)的售電量與自備電廠自發(fā)、自用電和其售給附近用戶的電量之和。電力負(fù)荷中用電量的預(yù)測(cè)可分為長期、中期、短期、超短期預(yù)測(cè)；中、長期預(yù)測(cè)主要用于電力系統(tǒng)的規(guī)劃建設(shè)，主要為發(fā)電設(shè)備的增容擴(kuò)建、擴(kuò)建選址、裝機(jī)容量大小等的確定提供依據(jù)；短期預(yù)測(cè)主要用于為月度調(diào)配、控制、檢修計(jì)劃提供優(yōu)先保證，指導(dǎo)電網(wǎng)各部門的正常運(yùn)行，月度用電量的預(yù)測(cè)直接反映電力企業(yè)的經(jīng)營效益，對(duì)電力企業(yè)合理安排購售電方案、確定融資缺口具有重要意義。

目前,對(duì)于用電量進(jìn)行預(yù)測(cè)的方法分為兩大類,一類是傳統(tǒng)預(yù)測(cè)法,另一類是現(xiàn)代預(yù)測(cè)法。傳統(tǒng)預(yù)測(cè)法主要有：時(shí)間序列法、回歸分析法、趨勢(shì)外推法；傳統(tǒng)預(yù)測(cè)法主要是依據(jù)經(jīng)驗(yàn)，對(duì)歷史數(shù)據(jù)要求高；不適合負(fù)荷序列波動(dòng)大的時(shí)間序列情況；無法全面考慮各種影響負(fù)荷的因素；模型初始化難度較大,需要豐富的經(jīng)驗(yàn)和較高的技巧?，F(xiàn)代預(yù)測(cè)法主要有系統(tǒng)動(dòng)力學(xué)理念預(yù)測(cè)法、模糊預(yù)測(cè)法、專家系統(tǒng)預(yù)測(cè)法、神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法、灰色預(yù)測(cè)法；其中神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法是近幾年發(fā)展迅猛的一種預(yù)測(cè)方法，它以其強(qiáng)自適應(yīng)性、并行處理、分布式存儲(chǔ)方式、容錯(cuò)性強(qiáng)的特點(diǎn)廣泛適用于具有高度非線性和各種不確定性的情況。但其也存在收斂速度慢、隱含層神經(jīng)元交叉重疊、容易陷入局部極小值等缺點(diǎn)。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明的目的是提供一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法，針對(duì)普通神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法收斂速度慢、預(yù)測(cè)精度低以及隱含層神經(jīng)元交叉重疊、容易陷入局部極小的問題，在小波神經(jīng)網(wǎng)絡(luò)的框架上加入粒子群算法和多分辨率分析的思想，結(jié)合兩者的優(yōu)點(diǎn)，建立一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)用電量的模型。這種預(yù)測(cè)方法能夠使收斂速度明顯加快，并且有效避免了因神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元交叉重疊而產(chǎn)生的影響，避免了陷入局部極小的可能，預(yù)測(cè)精度得到提高，且具有實(shí)用性強(qiáng)，應(yīng)用效果佳等優(yōu)點(diǎn)。

實(shí)現(xiàn)本發(fā)明目的所采用的技術(shù)方案是：

一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法，它包括以下內(nèi)容：

1)小波神經(jīng)網(wǎng)絡(luò)：

小波神經(jīng)網(wǎng)絡(luò)既有小波變換的時(shí)頻域特性與變焦特性，又有神經(jīng)網(wǎng)絡(luò)自學(xué)習(xí)、自適應(yīng)、容錯(cuò)性與魯棒性，小波神經(jīng)網(wǎng)絡(luò)的框架是基于BP神經(jīng)網(wǎng)絡(luò)構(gòu)建的，用小波激勵(lì)函數(shù)替換sigmoid函數(shù)，并通過平移因子和伸縮因子構(gòu)造小波基，其中平移因子所實(shí)現(xiàn)的功能相當(dāng)于BP神經(jīng)網(wǎng)絡(luò)里的閾值，即對(duì)加權(quán)后的輸入數(shù)值進(jìn)行橫向微調(diào)；伸縮因子的作用是在不同尺度下對(duì)其進(jìn)行調(diào)整，也正是由于這兩項(xiàng)調(diào)整因子的結(jié)合，才使得小波神經(jīng)網(wǎng)絡(luò)能夠更加精準(zhǔn)地向目標(biāo)函數(shù)進(jìn)行逼近，采用緊密型結(jié)構(gòu)對(duì)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行構(gòu)建，構(gòu)造出來的3層小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)；

設(shè)輸入層為I個(gè)單元，輸入向量: X=[x₁,x₂,……,x_I]，隱含層為J個(gè)單元，激勵(lì)函數(shù)為小波函數(shù) ，伸縮因子向量：A=[a₁,a₂,……,a_J]，平移因子向量為B=[b₁,b₂,……,b_J]；

輸出向量：Y=[y₁,y₂,……,y_k]，預(yù)期輸出向量：O=[o₁,o₂,……,o_k]，輸入層與隱含層權(quán)值、隱含層與輸出層權(quán)值為w，輸入層第i個(gè)節(jié)點(diǎn)和隱含層第j個(gè)節(jié)點(diǎn)間權(quán)值為w_i,j，隱含層第j個(gè)節(jié)點(diǎn)和輸出層第k個(gè)節(jié)點(diǎn)間權(quán)值為w_j,k；

u表示每一層神經(jīng)元的輸入，v來表示經(jīng)激勵(lì)函數(shù)處理后的輸出，在迭代訓(xùn)練過程中，輸入為X，y_k為輸出層第k個(gè)神經(jīng)元的總輸出，隱層第j個(gè)神經(jīng)元及輸出層第k個(gè)神經(jīng)元的輸入輸出表達(dá)式為：

網(wǎng)絡(luò)的前向傳遞函數(shù)為：

預(yù)期的輸出向量與經(jīng)訓(xùn)練后的實(shí)際輸出向量之差為誤差向量：ER=[er₁,er₂,……,er_k]，第k個(gè)神經(jīng)元輸出誤差為：

輸出層所有神經(jīng)元輸出誤差能量總和即全局誤差能量E為：

將得到的誤差反向傳播修正權(quán)值，依據(jù)權(quán)值的修正量 與誤差能量對(duì)權(quán)值的偏微分成正比來計(jì)算各權(quán)值與平移伸縮因子的修正值，再根據(jù)Delta學(xué)習(xí)規(guī)則，設(shè)定學(xué)習(xí)步長η，將修正后的各權(quán)值和因子保留進(jìn)行下一次迭代，網(wǎng)絡(luò)中隱含層個(gè)數(shù)可依據(jù)經(jīng)驗(yàn)值選??；η選取過大可導(dǎo)致收斂過程震蕩，過小則會(huì)減慢收斂速度，可通過多次嘗試進(jìn)行選?。?/p>

2）粒子群優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)：

粒子群優(yōu)化算法是一種通過模擬鳥群覓食行為來進(jìn)行協(xié)同搜索，從而在解空間中找到最優(yōu)解的算法，算法過程是在狀態(tài)空間中對(duì)每一個(gè)尋優(yōu)位置進(jìn)行評(píng)估，最終得到最佳位置，再從最佳位置出發(fā)進(jìn)行搜索，直到獲得最優(yōu)目標(biāo)值，將該算法用于優(yōu)化小波神經(jīng)網(wǎng)絡(luò)，可加快神經(jīng)網(wǎng)絡(luò)訓(xùn)練的收斂速度，以全局優(yōu)化的方式避免小波神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中陷入局部極小值，提高預(yù)測(cè)精度；

假設(shè)目標(biāo)搜索空間為D維空間，粒子數(shù)為S個(gè)，于是第i個(gè)粒子在D維空間中的位置表示為：X_i=[x_i1,x_i2,……,x_iD];第i個(gè)粒子的當(dāng)前速度為：V_i=[v_i1,v_i2,......,v_iD]；第i個(gè)粒子自身歷史最優(yōu)位置為：P_i=[p_i1,p_i2,......,p_iD]；粒子群整體的最優(yōu)位置為：P_g=[p_g1,p_g2,......p_gD]，其在第k次迭代中第i個(gè)粒子第d維的速度更新公式為：

其中，i=1,2,...S，d=1,2,...D，c_1、c₂為正常數(shù)的加速因子，r₁、r₂服從[0,1]上均勻分布的隨機(jī)數(shù)，w為慣性權(quán)重，w_max和w_min分別為慣性權(quán)重的最大值和慣性權(quán)重的最小值，其計(jì)算公式為：

其位置更新公式為：

用粒子群算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)，其中，令粒子個(gè)數(shù)D=60，加速因子c₁=c₂=2，w_max=0.9，w_min=0.4，以平均絕對(duì)百分誤差值作為目標(biāo)函數(shù)適應(yīng)度值；

3）粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)：

基于小波多分辨率分析和多尺度正交空間思想，以神經(jīng)網(wǎng)絡(luò)為框架，再利用粒子群算法對(duì)其全局優(yōu)化，構(gòu)建基于粒子群優(yōu)化的多分辨率分析小波神經(jīng)網(wǎng)絡(luò)；

設(shè)J為尺度參數(shù)，其在初始狀態(tài)下值為0；輸入層有I個(gè)神經(jīng)元；隱含層有n個(gè)神經(jīng)元，并將Meyer尺度函數(shù)作為其激勵(lì)函數(shù)，尺度函數(shù)為，并以此構(gòu)建多尺度正交空間，逼近目標(biāo)函數(shù)；輸出層神經(jīng)元為G個(gè)，由此可以得到當(dāng)尺度參數(shù)為0時(shí)的輸出表達(dá)式為：

其中，x為輸入向量；w_i,j為輸入層第i個(gè)神經(jīng)元與隱含層第j個(gè)神經(jīng)元之間的連接權(quán)值；a_j為第j個(gè)隱含層神經(jīng)元閾值；c_j,g為隱含層第j個(gè)神經(jīng)元與輸出層第g個(gè)神經(jīng)元的連接權(quán)值；

接著提升分辨率，令尺度參數(shù)J為1，增加n個(gè)隱含層神經(jīng)元，輸入層有m個(gè)神經(jīng)元，其激勵(lì)函數(shù)為Meyer小波函數(shù)，用來逼近目標(biāo)函數(shù)中更加細(xì)微的部分，可以得到當(dāng)尺度參數(shù)為1時(shí)的輸出表達(dá)式為：

其中，v_i,k為輸入層第i個(gè)神經(jīng)元和隱含層第k個(gè)神經(jīng)元的連接權(quán)值；b_k為隱含層神經(jīng)元閾值；d_k,g為隱含層第k個(gè)神經(jīng)元和輸出層第g個(gè)神經(jīng)元得到連接權(quán)值；

然后進(jìn)一步提升分辨率，令尺度參數(shù)J為2，加入2n個(gè)隱含層神經(jīng)元，激勵(lì)函數(shù)為Meyer小波函數(shù)，輸出表達(dá)式為：

以此遞推下去，便能夠從不同分辨率逼近目標(biāo)函數(shù)，并且每提高一次尺度，隱含層便會(huì)增加2^J-1n個(gè)神經(jīng)元，e表示從1到J的每一個(gè)尺度參數(shù)值，直到達(dá)到最理想的逼近效果，尺度參數(shù)為J時(shí)，其對(duì)應(yīng)的傳遞函數(shù)通式為：

得到多分辨率小波神經(jīng)網(wǎng)絡(luò)的基本框架，再用粒子群算法對(duì)其權(quán)值進(jìn)行優(yōu)化，便得到基于粒子群優(yōu)化的多分辨率分析的小波神經(jīng)網(wǎng)絡(luò)，在多分辨率分析過程中，J的值并不是越大越好，其需要不斷進(jìn)行實(shí)驗(yàn)取值，從而得到一個(gè)尺度參數(shù)使訓(xùn)練誤差和預(yù)測(cè)誤差皆為最小。

本發(fā)明的有益效果：在小波神經(jīng)網(wǎng)絡(luò)的框架上加入粒子群算法和多分辨率分析的思想，結(jié)合兩者的優(yōu)點(diǎn)，建立一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)用電量的模型。這種預(yù)測(cè)方法能夠使收斂速度明顯加快，并且有效避免了因神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元交叉重疊而產(chǎn)生的影響，避免了陷入局部極小的可能，預(yù)測(cè)精度得到提高，且具有實(shí)用性強(qiáng)，應(yīng)用效果佳等優(yōu)點(diǎn)。

附圖說明

圖1為前饋型小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)；

圖2為粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)程序結(jié)構(gòu)流程圖；

圖3為多分辨率小波神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)；

圖4為小波神經(jīng)網(wǎng)路預(yù)測(cè)誤差收斂情況；

圖5為小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)；

圖6為粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)目標(biāo)函數(shù)值收斂情況；

圖7為粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)；

圖8為粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)目標(biāo)函數(shù)值收斂情況；

圖9為粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)。

圖中的標(biāo)號(hào)、符號(hào)和線條等說明如下：

圖1中，w_i,j為輸入層第i個(gè)節(jié)點(diǎn)和隱含層第j個(gè)節(jié)點(diǎn)間權(quán)值，w_j,k為隱含層第j個(gè)節(jié)點(diǎn)和輸出層第k個(gè)節(jié)點(diǎn)間權(quán)值；設(shè)輸入層為I個(gè)單元，隱含層為J個(gè)單元，激勵(lì)函數(shù)為小波函數(shù)；a_j為伸縮因子；b_j為平移因子；

圖2是根據(jù)粒子群算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)。為了得到各粒子的個(gè)體最優(yōu)位置和群體最優(yōu)位置而做更新粒子速度和位置的循環(huán)。當(dāng)符合要求時(shí)根據(jù)情況進(jìn)行預(yù)測(cè)；

圖3的多分辨率小波神經(jīng)網(wǎng)絡(luò)是基于前饋神經(jīng)網(wǎng)絡(luò)框架，以小波多分辨率分析和多尺度正交空間思想為基礎(chǔ)構(gòu)建的。分為輸入層、隱含層和輸出層，輸入層神經(jīng)元個(gè)數(shù)為m個(gè)、隱含層每提高一次尺度，向隱含層增加2^J-1n個(gè)神經(jīng)元、輸出層神經(jīng)元個(gè)數(shù)為g；w_i,j、v_i,k、c_j,g、d_k,g為權(quán)重；2^-J和2^-J/2均為尺度系數(shù)，根據(jù)尺度參數(shù)J確定尺度系數(shù)；

圖4、圖6、圖8分別為小波神經(jīng)網(wǎng)絡(luò)的誤差收斂情況、粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)的目標(biāo)函數(shù)值收斂情況以及粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)的目標(biāo)函數(shù)值收斂情況（目標(biāo)函數(shù)為訓(xùn)練樣本經(jīng)過歸一化后的平均絕對(duì)百分誤差）。橫坐標(biāo)表示迭代次數(shù)，圖4縱坐標(biāo)表示平均絕對(duì)百分誤差；圖6，圖8縱坐標(biāo)表示目標(biāo)函數(shù)值；

圖5、圖7、圖9分別為小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)圖、粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)圖和粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)回歸預(yù)測(cè)圖。橫坐標(biāo)表示月份，縱坐標(biāo)表示負(fù)荷值，單位為萬千瓦時(shí)。圖中紅色線代表預(yù)測(cè)用電量；藍(lán)色線代表真實(shí)用電量?；貧w預(yù)測(cè)圖為兩者的比較圖。

具體實(shí)施方式

下面利用附圖和實(shí)施例對(duì)發(fā)明作進(jìn)一步說明。

本發(fā)明是一種基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法，包括以下內(nèi)容：

1)小波神經(jīng)網(wǎng)絡(luò)

小波神經(jīng)網(wǎng)絡(luò)既有小波變換的時(shí)頻域特性與變焦特性，又有神經(jīng)網(wǎng)絡(luò)自學(xué)習(xí)、自適應(yīng)、容錯(cuò)性與魯棒性，小波神經(jīng)網(wǎng)絡(luò)的框架是基于BP神經(jīng)網(wǎng)絡(luò)構(gòu)建的，用小波激勵(lì)函數(shù)替換sigmoid函數(shù)，并通過平移因子和伸縮因子構(gòu)造小波基，其中平移因子所實(shí)現(xiàn)的功能相當(dāng)于BP神經(jīng)網(wǎng)絡(luò)里的閾值，即對(duì)加權(quán)后的輸入數(shù)值進(jìn)行橫向微調(diào)；伸縮因子的作用是在不同尺度下對(duì)其進(jìn)行調(diào)整，也正是由于這兩項(xiàng)調(diào)整因子的結(jié)合，才使得小波神經(jīng)網(wǎng)絡(luò)能夠更加精準(zhǔn)地向目標(biāo)函數(shù)進(jìn)行逼近，采用緊密型結(jié)構(gòu)對(duì)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行構(gòu)建，圖1為構(gòu)造出來的3層小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

設(shè)輸入層為I個(gè)單元，輸入向量: X=[x₁,x₂,……,x_I]。隱含層為J個(gè)單元，激勵(lì)函數(shù)為小波函數(shù)，伸縮因子向量：A=[a₁,a₂,……,a_J]，平移因子向量為B=[b₁,b₂,……,b_J]。輸出向量：Y=[y₁,y₂,……,y_k]，預(yù)期輸出向量：O=[o₁,o₂,……,o_k]。輸入層與隱含層權(quán)值、隱含層與輸出層權(quán)值為w，輸入層第i個(gè)節(jié)點(diǎn)和隱含層第j個(gè)節(jié)點(diǎn)間權(quán)值為w_i,j，隱含層第j個(gè)節(jié)點(diǎn)和輸出層第k個(gè)節(jié)點(diǎn)間權(quán)值為w_j,k。

u表示每一層神經(jīng)元的輸入，v來表示經(jīng)激勵(lì)函數(shù)處理后的輸出。在迭代訓(xùn)練過程中，輸入為X，隱層第j個(gè)神經(jīng)元及輸出層第k個(gè)神經(jīng)元的輸入輸出表達(dá)式為：

網(wǎng)絡(luò)的前向傳遞函數(shù)為：

預(yù)期的輸出向量與經(jīng)訓(xùn)練后的實(shí)際輸出向量之差為誤差向量：ER=[er₁,er₂,……,er_k]，第k個(gè)神經(jīng)元輸出誤差為：

輸出層所有神經(jīng)元輸出誤差能量總和即全局誤差能量為：

將得到的誤差反向傳播修正權(quán)值。依據(jù)權(quán)值的修正量 與誤差能量對(duì)權(quán)值的偏微分成正比來計(jì)算各權(quán)值與平移伸縮因子的修正值。再根據(jù)Delta學(xué)習(xí)規(guī)則，設(shè)定學(xué)習(xí)步長η，將修正后的各權(quán)值和因子保留進(jìn)行下一次迭代。網(wǎng)絡(luò)中隱含層個(gè)數(shù)可依據(jù)經(jīng)驗(yàn)值選??；η選取過大可導(dǎo)致收斂過程震蕩，過小則會(huì)減慢收斂速度，可通過多次嘗試進(jìn)行選取。

2）粒子群優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)

粒子群優(yōu)化算法是一種通過模擬鳥群覓食行為來進(jìn)行協(xié)同搜索，從而在解空間中找到最優(yōu)解的算法。算法過程是在狀態(tài)空間中對(duì)每一個(gè)尋優(yōu)位置進(jìn)行評(píng)估，最終得到最佳位置，再從該位置出發(fā)進(jìn)行搜索，直到獲得最優(yōu)目標(biāo)值。將該算法用于優(yōu)化小波神經(jīng)網(wǎng)絡(luò)，可加快神經(jīng)網(wǎng)絡(luò)訓(xùn)練的收斂速度，以全局優(yōu)化的方式避免小波神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中陷入局部極小值，提高預(yù)測(cè)精度。

假設(shè)目標(biāo)搜索空間為D維空間，粒子數(shù)為S個(gè)。于是第i個(gè)粒子在D維空間中的位置表示為：X_i=[x_i1,x_i2,……,x_iD];第i個(gè)粒子的當(dāng)前速度為：V_i=[v_i1,v_i2,......,v_iD];第i個(gè)粒子的自身歷史最優(yōu)位置為：P_i=[p_i1,p_i2,......,p_iD]；粒子群整體的最優(yōu)位置為：P_g=[p_g1,p_g2,......p_gD]。其在第k次迭代中第i個(gè)粒子第d維的速度更新公式為：

其中，i=1,2,...S，d=1,2,...D，c_1、c₂為正常數(shù)的加速因子，r₁、r₂服從[0,1]上均勻分布的隨機(jī)數(shù)。w為慣性權(quán)重，其計(jì)算公式為：

其位置更新公式如下：

用粒子群算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)，其中，令粒子個(gè)數(shù)D=60，加速因子c₁=c₂=2，w_max=0.9，w_min=0.4，以平均絕對(duì)百分誤差值作為目標(biāo)函數(shù)適應(yīng)度值。

3）粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)

基于小波多分辨率分析和多尺度正交空間思想，以神經(jīng)網(wǎng)絡(luò)為框架，再利用粒子群算法對(duì)其全局優(yōu)化，構(gòu)建基于粒子群優(yōu)化的多分辨率分析小波神經(jīng)網(wǎng)絡(luò)。如圖3所示。

設(shè)J為尺度參數(shù)，其在初始狀態(tài)下值為0；輸入層有I個(gè)神經(jīng)元；隱含層有n個(gè)神經(jīng)元，并將Meyer尺度函數(shù)作為其激勵(lì)函數(shù)，并以此構(gòu)建多尺度正交空間，逼近目標(biāo)函數(shù)；輸出層神經(jīng)元為G個(gè)。由此得到：

其中，x為輸入向量；w_i,j為輸入層第i個(gè)神經(jīng)元與隱含層第j個(gè)神經(jīng)元之間的連接權(quán)值；a_j為第j個(gè)隱含層神經(jīng)元閾值；c_j,g為隱含層第j個(gè)神經(jīng)元與輸出層第g個(gè)神經(jīng)元的連接權(quán)值。

接著提升分辨率，令尺度參數(shù)J為1。增加n個(gè)隱含層神經(jīng)元，其激勵(lì)函數(shù)為Meyer小波函數(shù)，用來逼近目標(biāo)函數(shù)中更加細(xì)微的部分?？梢缘玫剑?/p>

其中，v_i,k為輸入層第i個(gè)神經(jīng)元和隱含層第k個(gè)神經(jīng)元的連接權(quán)值；b_k為隱含層神經(jīng)元閾值；d_k,g為隱含層第k個(gè)神經(jīng)元和輸出層第g個(gè)神經(jīng)元得到連接權(quán)值。

然后進(jìn)一步提升分辨率，令尺度參數(shù)J為2。加入2n個(gè)隱含層神經(jīng)元，激勵(lì)函數(shù)為Meyer小波函數(shù)：

以此遞推下去，便能夠從不同分辨率逼近目標(biāo)函數(shù)，并且每提高一次尺度，隱含層便會(huì)增加2^J-1n個(gè)神經(jīng)元，直到達(dá)到最理想的逼近效果，尺度參數(shù)為J時(shí)，其對(duì)應(yīng)的傳遞函數(shù)通式為：

由此得到多分辨率小波神經(jīng)網(wǎng)絡(luò)的基本框架，再用粒子群算法對(duì)其權(quán)值進(jìn)行優(yōu)化，便得到基于粒子群優(yōu)化的多分辨率分析的小波神經(jīng)網(wǎng)絡(luò)。在多分辨率分析過程中，J的值并不是越大越好，其需要不斷進(jìn)行實(shí)驗(yàn)取值，從而得到一個(gè)尺度參數(shù)使訓(xùn)練誤差和預(yù)測(cè)誤差皆為最小，這樣可以很好地解決傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)利用經(jīng)驗(yàn)值確定隱含層維數(shù)造成誤差的缺點(diǎn)。

仿真驗(yàn)證及分析：

為驗(yàn)證本發(fā)明基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法的有效性，分別用小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法、粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法，與粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法相比較進(jìn)行驗(yàn)證?，F(xiàn)選取負(fù)荷數(shù)據(jù)為2008-2015年以月為時(shí)間序列的唐山市全社會(huì)用電量，用三種預(yù)測(cè)方法分別對(duì)該地區(qū)用電量進(jìn)行預(yù)測(cè)并通過比較，分析得出結(jié)果以此證明基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法的高效實(shí)用性。

仿真采用數(shù)據(jù)由冀北電網(wǎng)唐山市供電公司提供。其中，2008-2014年（84個(gè)月）的歷史負(fù)荷數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本，2015年（12個(gè)月）的歷史負(fù)荷數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)樣本。將2008-2013年72個(gè)月數(shù)據(jù)作為訓(xùn)練輸入樣本，2009-2014年數(shù)據(jù)作為訓(xùn)練輸出樣本，從而輸入2014年的數(shù)據(jù)通過網(wǎng)絡(luò)訓(xùn)練預(yù)測(cè)2015年的負(fù)荷情況。在神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中將原始數(shù)據(jù)初步整理，把72個(gè)訓(xùn)練輸入樣本組成6*12的矩陣，即每一行為一年的數(shù)據(jù)，共6年。其小波神經(jīng)網(wǎng)絡(luò)、基于粒子群優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)、基于多分辨率分析的粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)對(duì)電力負(fù)荷預(yù)測(cè)的MATLAB仿真情況如下圖4-圖9所示。根據(jù)實(shí)驗(yàn)，訓(xùn)練過程J取2。

三種神經(jīng)網(wǎng)絡(luò)對(duì)電力負(fù)荷預(yù)測(cè)精度對(duì)比如表1所示：

由上述仿真可以看出，WNN（小波神經(jīng)網(wǎng)絡(luò)）、PSO-WNN（粒子群優(yōu)化小波神經(jīng)網(wǎng)絡(luò)），PSO-MRWNN（粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)）三種預(yù)測(cè)方法對(duì)用電量預(yù)測(cè)都有較好的效果。圖6與圖8的對(duì)比可以看出在粒子群優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)中多分辨率的加入對(duì)目標(biāo)函數(shù)值的訓(xùn)練收斂精度產(chǎn)生了積極的作用（目標(biāo)函數(shù)為訓(xùn)練樣本經(jīng)過歸一化后的平均絕對(duì)百分誤差）。在預(yù)測(cè)精確度方面，經(jīng)過粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)的精度更高，收斂速度更快。MAPE值為0.0356（MAPE為平均百分誤差）。實(shí)驗(yàn)證明，第三種方法對(duì)月度用電量的預(yù)測(cè)效果更好，也就是利用基于粒子群優(yōu)化多分辨率小波神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法達(dá)到的預(yù)測(cè)效果更好。通過對(duì)比試驗(yàn)，進(jìn)一步的驗(yàn)證了本發(fā)明基于粒子群優(yōu)化的多分辨率小波神經(jīng)網(wǎng)絡(luò)用電量預(yù)測(cè)方法的有效性。