專利名稱：：基于模糊小波包分解的小波特征提取方法
技術(shù)領(lǐng)域：
：本發(fā)明涉及信號處理和模式識別的信號分類技術(shù)，具體地說是一種基于模糊小波包分解的小波特征提取方法。
背景技術(shù)：
：在信號處理和模式識別領(lǐng)域，信號的特征提取一直是研究的關(guān)鍵之處，提取出好的特征既能減小工作量又能實現(xiàn)好的分類效果。目前有很多種數(shù)學(xué)變換，如傅立葉變換、K-L變換、離散小波變換、小波包(WP:WaveletPacket)分解等，這些變換的目的都是想從另外一個角度來分析信號。傅立葉變換在頻域來分析信號；K-L變換只考慮到信號的二階能量特性；小波變換利用小波時頻局部化特性能夠從平穩(wěn)或非平穩(wěn)信號(包括劇烈變化信號)中提取出鑒別能力強的小波特征。離散小波變換逐級分解低頻部分，如Mallat的離散小波分解可描述為其中x為原始信號，xer。，^+1=/^，^+產(chǎn)G^，7f和G分別為二抽取后的低通和高通濾波器，y為分解級數(shù)。具體參見圖l.l。小波包分解不僅逐級分解低頻部分還逐級分解高頻部分，所以小波包可看作是離散小波變換的拓展，能夠提取出比離散小波變換更多的小波特征，如Wickerhauser的小波包分解可描述為其中<formula>formulaseeoriginaldocumentpage4</formula>附為第乂級子空間的索引值。具體參見圖1.2。在小波包分解中，一個一維信號有很多種分解方式，比如V0Q，<formula>formulaseeoriginaldocumentpage4</formula>等。假定g(/)代表)層分解中原始信號的總分解數(shù)，那么_/+1層的總分解數(shù)g(Z+l)-g(/y+l。其中g(shù)(l"2，根節(jié)點亦被認為是一個分解。當7=5時，大約有4.6xl07個有效分解，如果釆用窮舉的方法對每個分解都進行評價，將是一項非常困難的工作?？梢?，從小波包分解中找到最優(yōu)小波分解是一項具挑戰(zhàn)性的工作。目前基于小波包分解的特征提取優(yōu)化方法都是基于信號能量特性，如香衣熵(Shannonentropy)、能量集勢(Energyconcentration)、聯(lián)合最優(yōu)蕃(JointBestbasis)、^f部鑒別基(Localdiscriminantbase)，它們均只考慮到信號的二階統(tǒng)計特性，而忽略其它階次特性。下面以一個例子來說明它們的不足之處有兩類樣本，一類服從高斯分布iV(-lO，l)，另一類服從高斯分布；v(io，i),只考慮信號的能量大小是無法將這兩類區(qū)分開的，然而直觀上這兩類信號是很容易分開的，從信號分類角度看，上述基于信號能量的四種小波包分解方法都不是最優(yōu)的。模糊理論能夠在信號分類中發(fā)揮巨大作用現(xiàn)已得到廣泛認可。將小波包分解的強特征提取能力和模糊理論在信號分類中的優(yōu)勢結(jié)合在一起，并以此從輸入平穩(wěn)或非平穩(wěn)信號中提取出分類能力強的小波系數(shù)特征的方法目前還尚未見報道。
發(fā)明內(nèi)容本發(fā)明的目的在于提供一種基于模糊小波包分解的小波特征提取方法，對平穩(wěn)或非平穩(wěn)信號(包括劇烈變化信號)進行處理，提取出鑒別力強的小波系數(shù)特征，使同類信號的類內(nèi)距盡量小，而不同類信號之間的類間距盡量大，最終實現(xiàn)平穩(wěn)或非平穩(wěn)信號的分類。為了實現(xiàn)上述目的，本發(fā)明的技術(shù)方案是取平穩(wěn)信號或非平穩(wěn)信號為信號樣本，包括對已標明類別的信號樣本的訓(xùn)練過程和新未知類別的信號樣本的特征提取過程，以訓(xùn)練過程為主體；即通過訓(xùn)練過程找最優(yōu)小波分解Q*;以最優(yōu)小波分解0*為基礎(chǔ)，提取鑒別能力強的小波系數(shù)特征；在新未知類別樣本的特征提取過程中提取已定位的小波系數(shù)作為最終特征；其中所述訓(xùn)練過程是通過訓(xùn)練找最優(yōu)小波分解^^過程，即基于模糊隸屬度函數(shù)的代價函數(shù)評價小波包分解中子空間的分類能力，得到最優(yōu)小波分解并提取出鑒別能力的小波系數(shù)特征；具體操作如下首先，定義代價函數(shù)1)定義模糊隸屬度函數(shù)<formula>formulaseeoriginaldocumentpage5</formula>其中<formula>formulaseeoriginaldocumentpage5</formula>是第/類樣本的均值，A,.是第z'類樣本的序號A集合，W是第/類的訓(xùn)練樣本數(shù)，l卜ll是歐式度量距離，c是分類數(shù)；"為樣本信號A的維數(shù)；2)基于模糊隸屬度的代價函數(shù)<formula>formulaseeoriginaldocumentpage6</formula>將所有樣本信號A所屬類別的隸屬度函數(shù)"'&相加，累加和構(gòu)成了代價函數(shù)F(X);代價函數(shù)F(X)用來衡量特征空間X的分類能力；其次，搜索最優(yōu)小波分解Q"在小波包分解中，利用代價函數(shù)F(X)衡量每個分解子空間的分類能力；先選取代價函數(shù)最大的子空間，然后刪除該子空間的所有后代節(jié)點和前輩節(jié)點；再從剩余的子空間內(nèi)選取代價函數(shù)最大的子空間，然后再刪除該子空間的所有后代節(jié)點和前輩節(jié)點；重復(fù)上述過程直到?jīng)]有子空間可刪除為止，此時所有保留的節(jié)點組合就是本發(fā)明要搜索的最優(yōu)小波分解。*;再次，提取鑒別能力強的小波系數(shù)特征對于最優(yōu)小波分解空間內(nèi)的每個小波系數(shù)特征/，利用代價函數(shù)F(/)來評價它們的分類能力，并根據(jù)代價函數(shù)F(/)值的大小對這些特征進行排序，提取鑒別能力強的小波系數(shù)特征；所述新未知類別樣本的特征提取過程為當輸入新樣本時按最優(yōu)小波分解^*對新樣本進行分解，再提取已定位的小波系數(shù)作為最終特征。本發(fā)明的有益效果是1.本發(fā)明在小波包分解中引入了模糊理論，發(fā)揮了小波對平穩(wěn)或非平穩(wěn)信號的時頻局部化特征的提取能力，又利用模糊理論在模式識別中的強分類能力。本發(fā)明是一種從信號分類角度出發(fā)的且基于模糊小波包分解的小波特征提取方法。2.本發(fā)明定義了一種模糊隸屬度函數(shù)，能夠?qū)⑻卣骺臻g由《維("是樣本jq的維數(shù))降低到c維(c是分類數(shù))且c<<"。它是基于有導(dǎo)師學(xué)習(xí)的，其計算簡單，而不象FCM算法那樣需要迭代來計算隸屬度函數(shù)。3.本發(fā)明定義了一種基于模糊隸屬度的代價函數(shù)F(X)，代價函數(shù)F(X)反映所有樣本屬于它們該屬類別的程度。代價函數(shù)F(X)既可評價特征空間X的分類能力，又可評價單一特征的分類能力。代價函數(shù)F(X)越大，特征空間X的分類能力越強。4.本發(fā)明提出了一種最優(yōu)小波分解0*的搜索策略。在小波包分解樹中，認為分類能力強的特征存在于代價函數(shù)大的特征空間。首先選取代價函數(shù)F(X)最大的子空間，然后刪除該空間的所有后代節(jié)點和前輩節(jié)點；再從剩余的子空間內(nèi)選取代價函數(shù)最大的子空間，然后再刪除該空間的所有后代節(jié)點和前輩節(jié)點；重復(fù)上述過程直到?jīng)]有子空間可刪除為止。5.在最優(yōu)小波分解0*中，再次利用模糊代價函數(shù)評價所有小波系數(shù)的分類能力，并對它們的分類能力進行排序，定位出分類能力強的小波系數(shù)。6.本發(fā)明所涉及到的代價函數(shù)計算、最優(yōu)小波分解。*的搜索、鑒別能力強小波特征位置的確定都是在訓(xùn)練過程中離線完成的。訓(xùn)練結(jié)束后，當有一個新未知類別的樣本輸入時，先按最優(yōu)小波分解。*分解，然后到指定位置提取小波系數(shù)作為特征即可，對新樣本的特征提取過程簡單，可以在線實現(xiàn)。7.本發(fā)明所涉及到的所有子模塊(或函數(shù))都由標準C語言編程實現(xiàn)，運行效率高，移植方便，可以在不同的搡作系統(tǒng)上運行。8.本發(fā)明可廣泛應(yīng)用于平穩(wěn)信號或非平穩(wěn)信號的特征提取上，還可適用于樣本數(shù)量少且維數(shù)很高的醫(yī)學(xué)信號分類。附困說明圖l.l是小波分解樹示意圖。圖1.2是小波包分解樹示意圖。圖2.1是本發(fā)明含特征提取的訓(xùn)練實施例工作流程圖。圖2.2是本發(fā)明含新樣本的特征提取過程流程圖。圖3是本發(fā)明的訓(xùn)練過程，輸入訓(xùn)練樣本源文件界面。圖4是本發(fā)明的訓(xùn)練過程，顯示訓(xùn)練樣本界面。圖5是本發(fā)明的訓(xùn)練過程，顯示所提取小波特征能量累計百分比界面。圖6是本發(fā)明的訓(xùn)練過程，顯示提取的小波特征界面。圖7是本發(fā)明的測試過程(新樣本處理過程)，讀入樣本及配置文件界面。圖8是本發(fā)明的測試過程，顯示新樣本界面。圖9是本發(fā)明的測試過程，顯示提取的新樣本小波特征界面。具體實施例方式下面結(jié)合附圖和實施樣例對本發(fā)明作進一步詳細說明。取平穩(wěn)或非平穩(wěn)信號為處理對象，依據(jù)有導(dǎo)師信號分類的基本實施過程，本實施例分為對已標明類別樣本的訓(xùn)練過程和新未知類別樣本的特征提取過程，以訓(xùn)練過程為主體；即通過訓(xùn)練過程找平穩(wěn)或非平穩(wěn)信號最優(yōu)小波分解0*;并以最優(yōu)小波分解0*為基礎(chǔ)，且根據(jù)小波系數(shù)特征/的代價函數(shù)尸(/)的值對最優(yōu)小波分解。*中的所有特征/進行排序并定位這些特征，提取鑒別能力強的小波系數(shù)特征；當輸入新的平穩(wěn)或非平穩(wěn)信號時按最優(yōu)小波分解0*對新樣本進行分解，再提取已定位的小波系數(shù)作為最終特征；具體步驟通過訓(xùn)練過程找襲優(yōu)小波分解Q"基于模糊隸屬度函數(shù)的代價函數(shù)來評價小波包分解中于空間的分類能力，以此得到最優(yōu)小波分解并提取出鑒別能力的小波系數(shù)特征；具體步驟1.定義代價函數(shù)1)定義模糊隸屬度函數(shù)"<formula>formulaseeoriginaldocumentpage8</formula>義廣,其中v,-Z^/;V,是第/類樣本的均值，A,.是第/類樣本的序號*集合，M是第/類的訓(xùn)練樣本數(shù)，lhll是歐式度量距離，c是分類數(shù)。"為樣本信號A的維數(shù)。上式中模糊隸屬度函數(shù)能夠?qū)⑻卣骺臻g由"維("是樣本^的維數(shù))降低到c維(c是分類數(shù))且c"。因為訓(xùn)練樣本所屬類別是已知的，本發(fā)明所定義的隸屬度函數(shù)是基于有導(dǎo)師學(xué)習(xí)的，其計算簡單，而不象FCM算法那樣需要迭代來計算隸屬度函數(shù)。2)基于模糊隸屬度的代價函數(shù)<formula>formulaseeoriginaldocumentpage8</formula>將所有樣本A所屬類別的隸屬度函數(shù)^相加，累加和構(gòu)成了代價函數(shù)F(X)。代價函數(shù)F(X)反映所有樣本屬于它們所屬類別的程度。代價函數(shù)F(X)可用來衡量特征空間X的分類能力，代價函數(shù)F(X)越大，特征空間X的分類能力越強。2.搜索最優(yōu)小波分解0*認為分類能力強的特征存在于代價函數(shù)大的特征空間，代價函數(shù)大的特征空間應(yīng)該被優(yōu)先選中。在小波包分解樹中(參見圖1.2)，利用代價函數(shù)F(X)來衡量每個分解子空間X的分類能力。首先選取代價函數(shù)F(X)值最大的子空間，然后再刪除該子空間的所有后代節(jié)點(包括子節(jié)點、孫節(jié)點等)和前輩節(jié)點(包括父節(jié)點、祖父節(jié)點等)；再從剩余的子空間內(nèi)選取代價函數(shù)F(X)值最大的子空間，然后再刪除該子空間的所有后代節(jié)點和前輩節(jié)點；重復(fù)上述過程直到?jīng)]有子空間可刪除為止，此時所有保留的節(jié)點組合就是本發(fā)明要搜索的最優(yōu)小波分解Q、3.提取鑒別能力強的小波系數(shù)特征對于最優(yōu)小波分解空間0*內(nèi)的每個小波系數(shù)特征/(/EX)，根據(jù)前面所定義的代價函數(shù)F(/)評價其分類能力，代價函欽尸(/)越大惠味蓍特征/的分類能力越強。根據(jù)代價函數(shù)F(/)值的大小，對最優(yōu)小波分解0*中的所有特征/進行排序，并定位這些特征，F(xiàn)(/)值大的特征就被優(yōu)先選取用于信號分類。以下具體實施訓(xùn)練過程如圖2.1所示。首先，輸入樣本數(shù)據(jù)及相關(guān)參數(shù)；選擇包含訓(xùn)練樣本的源文件，依次輸入"總樣本數(shù)"、"樣本長度"、"分類數(shù)目"、"每類樣本數(shù)"(每類樣本數(shù)之間以":"分開)、"每類訓(xùn)練樣分配"(每類訓(xùn)練樣本數(shù)之間以":"分開)，選擇小波名稱、分解級別、拓展模式和最優(yōu)分解準則(選"Fuzzy");然后點擊"讀入樣本"按鈕，讀入源數(shù)據(jù)(具體操作界面見圖3)。其次，進行顯示樣本操作；如圖3所示，在界面上點擊"顯示樣本"按鈕，顯示樣本信號曲線(具體操作界面見圖4)。然后，進行小波特征提??；如圖4所示，在界面上點擊"特征提取"按鈕，進行特征提取操作，包括定義代價函數(shù)(定義模糊隸屬度函數(shù)，基于模糊隸屬度的代價函數(shù))；搜索最優(yōu)小波分解0*;提取鑒別能力強的小波系數(shù)特征；最優(yōu)小波分解0*中代價函數(shù)尸(/)值大的特征/被優(yōu)先選取。最后，顯示能量遞增百分比和提取的小波特征；如圖4所示，在界面上的按鈕"顯示能量遞增百分比"和"顯示提取的小波特征"會自動激活(點擊"顯示能量遞增百分比"按鈕，出現(xiàn)小波系數(shù)能量遞增百分比曲線，見圖5;在圖5中，點擊"顯示提取的小波特征"按鈕，出現(xiàn)提取的小波系數(shù)特征，見圖6)。訓(xùn)練過程可用的小波名稱庫見表1,小波分解的邊緣拓展模式見表2。表l:可以利用的小波名稱庫<table>tableseeoriginaldocumentpage9</column></row><table>表2:小波分解的邊緣拓展模式拓<table>tableseeoriginaldocumentpage9</column></row><table>'Per'若信號長度為奇數(shù)，將最后面的數(shù)據(jù)重復(fù)加一次使長度為偶數(shù)，然后執(zhí)行'ppd'拓展方式。若信號長度為偶數(shù)，直接執(zhí)行'ppd'拓展方式。新樣本的特征提取當輸入新的未知類別樣本(平穩(wěn)或非平穩(wěn)信號)時按最優(yōu)小波分解0*對新樣本進行分解，再提取已定位的小波系數(shù)作為最終特征；具體步驟如圖2.2所示。首先，訓(xùn)練過程結(jié)束后，輸入新樣本及WP配置文件(包括最優(yōu)小波分解0*,小波系數(shù)特征的位置)；點擊圖6中"處理新的樣本"按鈕，進入操作過程(見圖7);在圖7的搡作界面中，讀入新樣本文件名稱，WP配置文件名稱后，點擊"讀入樣本及配置文件"按鈕，在"總的樣本數(shù)目"、"樣本長度"、"類別數(shù)目"、"小波名稱"、"拓展模式"、"分解準則"、"分解級別"等欄目會自動出現(xiàn)相應(yīng)內(nèi)容。其次，顯示樣本操作；在操作界面圖7中，點擊"顯示樣本"按鈕，出現(xiàn)新樣本信號曲線(參見圖8)。然后，進行小波特征提??；在圖8中，點擊"特征提取"按鈕，對新樣本進行特征提取操作，包括按最優(yōu)小波分解Q"t新樣本進行分解，再提取已定位的小波系數(shù)作為最終特征。'然后，顯示小波系數(shù)特征；在圖8中，點擊"顯示提取的小波特征"按鈕，出現(xiàn)從新樣本中提取的小波系數(shù)特征，具體內(nèi)容見圖9。最后，退出程序。權(quán)利要求1.一種基于模糊小波包分解的小波特征提取方法，其特征是取平穩(wěn)信號或非平穩(wěn)信號為信號樣本，包括對已標明類別的信號樣本的訓(xùn)練過程和新未知類別的信號樣本的特征提取過程，以訓(xùn)練過程為主體；即通過訓(xùn)練過程找最優(yōu)小波分解Ω*；以最優(yōu)小波分解Ω*為基礎(chǔ)，提取鑒別能力強的小波系數(shù)特征；在新未知類別樣本的特征提取過程中提取已定位的小波系數(shù)作為最終特征。2.按權(quán)利要求l所述基于模糊小波包分解的小波特征提取方法，其特征是所述訓(xùn)練過程是通過訓(xùn)練找最優(yōu)小波分解0*過程，即基于模糊隸屬度函數(shù)的代價函數(shù)評價小波包分解中子空間的分類能力，得到最優(yōu)小波分解并提取出鑒別能力的小波系數(shù)特征；具體搡作如下首先，定義代價函數(shù)1)定義模糊隸屬度函數(shù)<formula>seeoriginaldocumentpage2</formula>其中<formula>seeoriginaldocumentpage2</formula>是第i類樣本的均值，a,是第i類樣本的序號k集合，Ni是第i類的訓(xùn)練樣本數(shù)，l卜il是歐式度量距離，c是分類數(shù)；n為樣本信號Xk的維數(shù)；2)基于模糊隸屬度的代價函數(shù)F(X)=X將所有樣本信號Xk所屬類別的隸屬度函數(shù)uik相加，累加和構(gòu)成了代價函數(shù)F(X);代價函數(shù)F(X)用來衡量特征空間X的分類能力；其次，搜索最優(yōu)小波分解Ω*在小波包分解中，利用代價函數(shù)F(X)衡量每個分解子空間的分類能力；先選取代價函數(shù)最大的子空間，然后刪除該子空間的所有后代節(jié)點和前輩節(jié)點；再從剩余的子空間內(nèi)選取代價函數(shù)最大的子空間，然后再刪除該子空間的所有后代節(jié)點和前輩節(jié)點；重復(fù)上述過程直到?jīng)]有子空間可刪除為止，此時所有保留的節(jié)點組合就是本發(fā)明要搜索的最優(yōu)小波分解Ω*;再次，提取鑒別能力強的小波系數(shù)特征對亍最優(yōu)小波分解空問內(nèi)的哿個小波系數(shù)特征l，利用代價函數(shù)F(l)來評價它們的分類能力，并根據(jù)代價函數(shù)F(l)值的大小對這些特征進行排序，提取鑒別能力強的小波系數(shù)特征。3.按權(quán)利要求l所述基于模糊小波包分解的小波特征提取方法，其特征是所述新未知類別樣本的特征提取過程為當輸入新樣本時按最優(yōu)小波分解Ω*對新樣本進行分解，再提取已定位的小波系數(shù)作為最終特征。全文摘要本發(fā)明屬于信號處理和模式識別技術(shù)，具體公開一種基于模糊小波包分解的小波特征提取方法，取平穩(wěn)信號或非平穩(wěn)信號為信號樣本，包括對已標明類別的信號樣本的訓(xùn)練過程和新未知類別的信號樣本的特征提取過程，以訓(xùn)練過程為主體；即通過訓(xùn)練過程找最優(yōu)小波分解Ω^*；以最優(yōu)小波分解Ω^*為基礎(chǔ)，提取鑒別能力強的小波系數(shù)特征；在新未知類別樣本的特征提取過程中提取已定位的小波系數(shù)作為最終特征。采用本發(fā)明對平穩(wěn)或非平穩(wěn)信號(包括劇烈變化信號)進行處理，提取出鑒別力強的小波系數(shù)特征，使同類信號的類內(nèi)距盡量小，而不同類信號之間的類間距盡量大，最終實現(xiàn)平穩(wěn)或非平穩(wěn)信號的分類。文檔編號G06K9/46GK101201901SQ20061013475公開日2008年6月18日申請日期2006年12月13日優(yōu)先權(quán)日2006年12月13日發(fā)明者史澤林,李德強申請人:中國科學(xué)院沈陽自動化研究所