專利名稱：季節(jié)性輸入多層反饋Elman網(wǎng)絡(luò)結(jié)構(gòu)的制作方法
技術(shù)領(lǐng)域：
本實(shí)用新型涉及一種網(wǎng)絡(luò)結(jié)構(gòu),具體涉及一種季節(jié)性輸入多層反饋Elman網(wǎng)絡(luò)結(jié)構(gòu)。
技術(shù)背景Elman神經(jīng)網(wǎng)絡(luò)是典型的局部遞歸內(nèi)時(shí)延反饋型神經(jīng)網(wǎng)絡(luò)，在BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，通過引入反饋信號(hào)，存儲(chǔ)內(nèi)部狀態(tài)使其具各映射動(dòng)態(tài)的功能。它除了具有輸入層、隱含層、輸出層單元外，還有一個(gè)特殊的承接層，承接層是用來記憶隱含層單元前一時(shí)刻的輸出值，可認(rèn)為是一步延遲，隱含層的輸出通過承接層的延遲、存儲(chǔ)、自聯(lián)到隱含層的輸入。這種自聯(lián)方式使其對(duì)歷史數(shù)據(jù)具有敏感性，內(nèi)部反饋網(wǎng)絡(luò)的加入增加了網(wǎng)絡(luò)本身處理動(dòng)態(tài)信息的能力，從而達(dá)到動(dòng)態(tài)建模的目的。Elman神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型如圖I設(shè)網(wǎng)絡(luò)的輸入為x(k)，x' (k)為隱含層的輸出，xjk)為承接層輸出；^、《2、《3分別為輸入層至隱含層，承接層至隱含層，隱含層至輸出層的連接權(quán)值；f( ·)為隱含層神經(jīng)元的傳遞函數(shù)，常采用Sigmoid函數(shù)，a (OS α < I)為承接層自反饋增益因子。網(wǎng)絡(luò)的數(shù)學(xué)模型為y(k) = g(ff3x/ (k))(I)X1 (k) = f (W1X (k) +W2Xc (k))(2)xc (k) = X1 (k_l) + a xc (k_l)(3)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型僅對(duì)具有趨向性的時(shí)間序列預(yù)測(cè)做了研究，另外，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)基本采用BP算法或者是基于神經(jīng)網(wǎng)絡(luò)的混合算法，這些算法都有不足之處，基于BP的梯度下降算法需要求解目標(biāo)函數(shù)的導(dǎo)數(shù)，適用范圍有局限性；基于神經(jīng)網(wǎng)絡(luò)的混合算法常會(huì)把簡(jiǎn)單問題復(fù)雜話，也較容易出現(xiàn)局部收斂問題
實(shí)用新型內(nèi)容
本實(shí)用新型的目的是提供一種季節(jié)性輸入多層反饋Elman網(wǎng)絡(luò)結(jié)構(gòu)，它能將混沌機(jī)制引入SMF Elman網(wǎng)絡(luò)中，利用混沌機(jī)制固有的全局游動(dòng)，逃出權(quán)值優(yōu)化過程中存在的局部極小點(diǎn)，研究了 Tent映射的混沌特性，并構(gòu)造了相應(yīng)的混沌訓(xùn)練算法，算法具有更好的遍歷均勻性，該算法能夠搜索全局最優(yōu)解，并有較快的搜索速度，也避免了標(biāo)準(zhǔn)Elman神經(jīng)網(wǎng)絡(luò)的收斂速度慢、易陷入局部極小值等問題。為了解決背景技術(shù)所存在的問題，本實(shí)用新型采取以下技術(shù)方案它包含網(wǎng)絡(luò)流量監(jiān)測(cè)裝置I、數(shù)據(jù)處理裝置2和SMF Elman神經(jīng)網(wǎng)絡(luò)3，網(wǎng)絡(luò)流量監(jiān)測(cè)裝置I與數(shù)據(jù)處理裝置2相連，數(shù)據(jù)處理裝置2和SMF Elman神經(jīng)網(wǎng)絡(luò)3相連。本實(shí)用新型的SMF Elman網(wǎng)絡(luò)數(shù)學(xué)模型y(k) = g(ff3x/ (k) +W5Xc2 (k))(4)X1 (k) = f (W1X (k) +W2Xcl (k) +W4Xc2 (k))(5)[0014]xcl (k) =x' (k_l) + a xcl (k_l)(6)xc2 (k) = y (k-1) + β xc2 (k~l)(7)其中W1WW分別為輸入層至隱含層，承接層I至隱含層，隱含層至輸出層，承接層2至隱含層，承接層2至輸出層的連接權(quán)值；x(k)為網(wǎng)絡(luò)的輸入，X' (k)為隱含層的輸出，xcl (k)和xc2 (k)分別為承接層I和承接層2的輸出，y(k)為網(wǎng)絡(luò)的輸出；α (O彡α
<I)和β (O < β < I)為承接層I和承接層2的自反饋增益因子。SIMF Elman網(wǎng)絡(luò)中承接層2和季節(jié)周期性算法的引入，實(shí)現(xiàn)了網(wǎng)絡(luò)的全遞歸，使系統(tǒng)不僅能夠動(dòng)態(tài)回溯內(nèi)部狀態(tài)信息，而且可以動(dòng)態(tài)跟蹤輸出的變化，進(jìn)一步提高了網(wǎng)絡(luò)的逼近能力和動(dòng)態(tài)映射能力。本實(shí)用新型能將混沌機(jī)制引入SMF Elman網(wǎng)絡(luò)中，利用混沌機(jī)制固有的全局游動(dòng)，逃出權(quán)值優(yōu)化過程中存在的局部極小點(diǎn)，研究了 Tent映射的混沌特性，并構(gòu)造了相應(yīng)的混沌訓(xùn)練算法，算法具有更好的遍歷均勻性，該算法能夠搜索全局最優(yōu)解，并有較快的搜索速度，也避免了標(biāo)準(zhǔn)Elman神經(jīng)網(wǎng)絡(luò)的收斂速度慢、易陷入局部極小值等問題。

圖I為本實(shí)用新型背景技術(shù)中的結(jié)構(gòu)示意圖；圖2為本實(shí)用新型的結(jié)構(gòu)示意圖；圖3為圖2的具體結(jié)構(gòu)示意圖。
具體實(shí)施方式
參照?qǐng)D1-3，本具體實(shí)施方式
采取以下技術(shù)方案它包含網(wǎng)絡(luò)流量監(jiān)測(cè)裝置I、數(shù)據(jù)處理裝置2和SMF Elman神經(jīng)網(wǎng)絡(luò)3，網(wǎng)絡(luò)流量監(jiān)測(cè)裝置I與數(shù)據(jù)處理裝置2相連，數(shù)據(jù)處理裝置2和SMF Elman神經(jīng)網(wǎng)絡(luò)3相連。本具體實(shí)施方式
的SMF Elman網(wǎng)絡(luò)數(shù)學(xué)模型y(k) = g(ff3x/ (k) +W5Xc2 (k))(4)X1 (k) = f (W1X (k) +W2Xcl (k) +W4Xc2 (k))(5)xcl (k) =x' (k_l) + a xcl (k_l)(6)xc2 (k) = y (k-1) +β xc2 (k-1)(7)其中W1WW分別為輸入層至隱含層，承接層I至隱含層，隱含層至輸出層，承接層2至隱含層，承接層2至輸出層的連接權(quán)值；x(k)為網(wǎng)絡(luò)的輸入，X' (k)為隱含層的輸出，xcl (k)和xc2 (k)分別為承接層I和承接層2的輸出，y(k)為網(wǎng)絡(luò)的輸出；α (O彡α
<I)和β (O < β < I)為承接層I和承接層2的自反饋增益因子。SIMF Elman網(wǎng)絡(luò)中承接層2和季節(jié)周期性算法的引入，實(shí)現(xiàn)了網(wǎng)絡(luò)的全遞歸，使系統(tǒng)不僅能夠動(dòng)態(tài)回溯內(nèi)部狀態(tài)信息，而且可以動(dòng)態(tài)跟蹤輸出的變化，進(jìn)一步提高了網(wǎng)絡(luò)的逼近能力和動(dòng)態(tài)映射能力。本具體實(shí)施方式
的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法設(shè)網(wǎng)絡(luò)的輸入層為m個(gè)節(jié)點(diǎn)，承接層I為r個(gè)節(jié)點(diǎn)，承接層2為η個(gè)節(jié)點(diǎn)，設(shè)第k步系統(tǒng)的實(shí)際輸出為,定義誤差函數(shù)為[0032]
權(quán)利要求1.季節(jié)性輸入多層反饋Elman網(wǎng)絡(luò)結(jié)構(gòu)，其特征在于它包含網(wǎng)絡(luò)流量監(jiān)測(cè)裝置(I)、數(shù)據(jù)處理裝置(2)和SMF Elman神經(jīng)網(wǎng)絡(luò)(3)，網(wǎng)絡(luò)流量監(jiān)測(cè)裝置(I)與數(shù)據(jù)處理裝置(2)相連，數(shù)據(jù)處理裝置⑵和SMF Elman神經(jīng)網(wǎng)絡(luò)(3)相連。
專利摘要季節(jié)性輸入多層反饋Elman網(wǎng)絡(luò)結(jié)構(gòu)，它涉及一種網(wǎng)絡(luò)結(jié)構(gòu)。它包含網(wǎng)絡(luò)流量監(jiān)測(cè)裝置(1)、數(shù)據(jù)處理裝置(2)和SIMF Elman神經(jīng)網(wǎng)絡(luò)(3)，網(wǎng)絡(luò)流量監(jiān)測(cè)裝置(1)與數(shù)據(jù)處理裝置(2)相連，數(shù)據(jù)處理裝置(2)和SIMF Elman神經(jīng)網(wǎng)絡(luò)(3)相連。它能將混沌機(jī)制引入SIMF Elman網(wǎng)絡(luò)中，利用混沌機(jī)制固有的全局游動(dòng)，逃出權(quán)值優(yōu)化過程中存在的局部極小點(diǎn)，研究了Tent映射的混沌特性，并構(gòu)造了相應(yīng)的混沌訓(xùn)練算法，算法具有更好的遍歷均勻性，該算法能夠搜索全局最優(yōu)解，并有較快的搜索速度，也避免了標(biāo)準(zhǔn)Elman神經(jīng)網(wǎng)絡(luò)的收斂速度慢、易陷入局部極小值等問題。
文檔編號(hào)G06N3/02GK202472729SQ20112053391
公開日2012年10月3日 申請(qǐng)日期2011年12月20日 優(yōu)先權(quán)日2011年12月20日
發(fā)明者黨小超, 李焱, 郝占軍 申請(qǐng)人:黨小超, 李焱, 西北師范大學(xué), 郝占軍