點數(shù)之=Σ'其中叫是定義于特 ?_1 ,: 征仁上的模糊隸屬度函數(shù)的個數(shù)。輸入層L1到模糊映射層L2的所有權值都被設置為1, 模糊映射層L2的節(jié)點j輸出為:
[0_
⑷
[0039]其中^是高斯型隸屬度函數(shù),爲2是一個與輸入特征&相聯(lián)系的可調(diào)參數(shù),稱為 特征調(diào)節(jié)器,用于度量特征的重要性。當我2取較大值時,< 值趨向于對于較小的爲2 <趨向于1,也就是使特征趨同?;诖?,如果對于好的特征#取較大值,對于不好的特征 及2取較小的值,就可以用一個關于f^2的函數(shù)=]-£?_<來選擇特征。
[0040] 前件層L3的每一個節(jié)點對應著一個模糊規(guī)則的if部分,其節(jié)點j的輸出為:
[0041] u) = Μ{αΛ,,&) … \^/
[0042] 其中Μ定義為:
[0043]
[0044] 其中r彡1。前件層L3的節(jié)點數(shù)為< =11%模糊映射層L2到前件層L3的所 ? , 有權值都被設置為1。在網(wǎng)絡訓練中,鐘形函數(shù)的三個參數(shù)ξ、σ、τ的值會根據(jù)從訓練樣 本集中的樣本學習得來的信息而被調(diào)整到合適的值。
[0045] 前件層L3的網(wǎng)絡結構與D. Chakraborty的是一樣的,但是,本發(fā)明的前件層L3的 參數(shù)仍然參與學習。
[0046] 后件層L4的每一個節(jié)點,從模糊推理的角度來說代表著模糊規(guī)則的"then"部分, 從模式分類的角度來說代表著一個類別。因此,后件層L4的節(jié)點數(shù)(14=(:。后件層L4的 節(jié)點將前件層L3輸出的各規(guī)則的權重聯(lián)合起來,用S型函數(shù)來計算并最終得出一個值表示 輸入的樣本X屬于類1的確定程度。后件層L4的傳遞函數(shù)為S型函數(shù)。
[0047] 前件層L3到后件層L4是一個全連接,權值按Nguyen-Widrow方法初始化,并在隨 后的網(wǎng)絡學習中調(diào)整到最佳的值。L4層的輸出:
[0048]
(7)
[0049] 其中W4為前件層L3到后件層L4的權值矩陣,維數(shù)是d4Xd3,/^是該矩陣的第j 行向量,a3是前件層L3的輸出向量。
[0050]L4傳遞函數(shù)使用S型函數(shù),而不是像D. Chakraborty那樣使用max函數(shù)。
[0051] (3)神經(jīng)模糊網(wǎng)絡的學習過程:
[0052] 網(wǎng)絡學習過程分為3個階段。第1階段固定隸屬度函數(shù)參數(shù)ξ、〇、τ,調(diào)整前件 層L3與后件層L4之間的權值和特征調(diào)節(jié)器參數(shù)βi,第2階段,對γth(th為一個門 限值)的特征A,剪除其在模糊映射層L2的所有節(jié)點,然后重新訓練網(wǎng)絡。第3階段,依據(jù) 一定的準則,對前件層L3的節(jié)點進行剪枝,并再次訓練,同時更新模糊映射層L2的鐘形隸 屬度函數(shù)的參數(shù)ξ、σ、τ。
[0053] 圖2示意性地示出了根據(jù)本發(fā)明優(yōu)選實施例的基于神經(jīng)模糊網(wǎng)絡的特征選擇方 法的流程圖。
[0054] 如圖2所示,根據(jù)本發(fā)明優(yōu)選實施例的基于神經(jīng)模糊網(wǎng)絡的特征選擇方法包括:
[0055] 第一步驟S1 :基于X訓練神經(jīng)模糊網(wǎng)絡,使模糊隸屬度函數(shù)的參數(shù)調(diào)整到合適的 值,得到隸屬度函數(shù)集:
[0056]
[0057] 其中.表示特征仁的第m;個隸屬度函數(shù);
[0058]第二步驟S2:計算輸入為xq時神經(jīng)模糊網(wǎng)絡的輸出〇q;
[0059]第三步驟S3:修改神經(jīng)模糊網(wǎng)絡,使得模糊映射層將xq映射為,
[0060]
[0061]即令仁的所有隸屬度函數(shù)值恒為〇. 5,設此時神經(jīng)模糊網(wǎng)絡的輸出為
[0062] 第四步驟S4:計算特征仁的度量值FQJi
[0063]
[0064]第五步驟S5:將特征度量值按降序排序,度量值越大特征越重要。
[0065]本發(fā)明的神經(jīng)模糊網(wǎng)絡綜合了人工神經(jīng)網(wǎng)絡和模糊邏輯推理系統(tǒng)的優(yōu)點,在模式 識別和特征選擇領域具有廣闊的應用前景。本發(fā)明提出的神經(jīng)模糊網(wǎng)絡四層結構具有一個 自適應隸屬度函數(shù)學習過程,克服了D.Chakraborty教授的方法對于在隸屬度函數(shù)學習之 前特征選擇已經(jīng)完成了問題,避免了特征選擇的結果將會嚴重依賴于隸屬度函數(shù)的初始值 的問題,同時,也避免了數(shù)據(jù)歸一化的帶來的數(shù)據(jù)損失難題。神經(jīng)模糊網(wǎng)絡與剪枝算法相結 合,也避免了一般神經(jīng)網(wǎng)絡的簡單算法對于某些特殊分布的數(shù)據(jù),其結果不能反映出真實 情況的難題。
[0066] 本發(fā)明具有如下優(yōu)點:1)模糊隸屬度函數(shù)是自學習的,避免了數(shù)據(jù)歸一化的問 題;2)計算簡單,網(wǎng)絡訓練后可以重復用于特征選擇而不必再次訓練;3)特征度量值具有 計算簡單、意義明確的優(yōu)點;4)可用于模式分類,由于是基于模糊規(guī)則的,所以網(wǎng)絡行為容 易理解、分析;5)容易和各種搜索算法結合起來組成一個完整的特征選擇系統(tǒng)。本發(fā)明應 用面較廣,可以應用在圖像識別、語音識別、數(shù)據(jù)挖掘、機器視覺等方面。
[0067]此外,需要說明的是,除非特別說明或者指出,否則說明書中的術語"第一"、"第 二"、"第三"等描述僅僅用于區(qū)分說明書中的各個組件、元素、步驟等,而不是用于表示各個 組件、元素、步驟之間的邏輯關系或者順序關系等。
[0068] 可以理解的是,雖然本發(fā)明已以較佳實施例披露如上,然而上述實施例并非用以 限定本發(fā)明。對于任何熟悉本領域的技術人員而言,在不脫離本發(fā)明技術方案范圍情況下, 都可利用上述揭示的技術內(nèi)容對本發(fā)明技術方案作出許多可能的變動和修飾,或修改為等 同變化的等效實施例。因此,凡是未脫離本發(fā)明技術方案的內(nèi)容,依據(jù)本發(fā)明的技術實質(zhì)對 以上實施例所做的任何簡單修改、等同變化及修飾,均仍屬于本發(fā)明技術方案保護的范圍 內(nèi)。
【主權項】
1. 一種基于神經(jīng)模糊網(wǎng)絡的特征選擇方法,其特征在于包括: 第一步驟:基于X訓練神經(jīng)模糊網(wǎng)絡,調(diào)整模糊隸屬度函數(shù)的參數(shù)以得到隸屬度函數(shù) 集:其中表示特征A的第m^個隸屬度函數(shù); 第二步驟:計算輸入為Xq時神經(jīng)模糊網(wǎng)絡的輸出〇 q; 第三步驟:修改神經(jīng)模糊網(wǎng)絡,使得模糊映射層將Xq映射為,其中使得A的所有隸屬度函數(shù)值恒為〇. 5,此時神經(jīng)模糊網(wǎng)絡的輸出為; 第四步驟:計算特征匕的度量值FQJi第五步驟:將特征度量值FQJ1按降序排序。2. 根據(jù)權利要求1所述的基于神經(jīng)模糊網(wǎng)絡的特征選擇方法,其特征在于,將度量值 FQJi越大的特征f;確定為越重要。
【專利摘要】本發(fā)明提供了一種基于神經(jīng)模糊網(wǎng)絡的特征選擇方法,包括:第一步驟:基于χ訓練神經(jīng)模糊網(wǎng)絡,調(diào)整模糊隸屬度函數(shù)的參數(shù)以得到隸屬度函數(shù)集:<maths num="0001"></maths>,其中表示特征fi的第mj個隸屬度函數(shù);第二步驟:計算輸入為xq時神經(jīng)模糊網(wǎng)絡的輸出oq;第三步驟:修改神經(jīng)模糊網(wǎng)絡,使得模糊映射層將xq映射為其中使得fi的所有隸屬度函數(shù)值恒為0.5,此時神經(jīng)模糊網(wǎng)絡的輸出為第四步驟:計算特征fi的度量值FQJi第五步驟:將特征度量值FQJi按降序排序。
【IPC分類】G06K9/66, G06N3/08
【公開號】CN105389599
【申請?zhí)枴緾N201510658528
【發(fā)明人】胡靜
【申請人】上海電機學院
【公開日】2016年3月9日
【申請日】2015年10月12日