專利名稱：面向鑒別的整體和局部特征融合識別系統(tǒng)的制作方法
技術領域：
本發(fā)明涉及一種電信技術領域中的識別系統(tǒng)，具體是一種面向鑒別的整體和局部特征融合識別系統(tǒng)。

背景技術：
特征抽取作為現(xiàn)有技術已成功應用于人臉識別、車牌識別、視頻監(jiān)控、目標跟蹤識別等領域。
經對現(xiàn)有技術文獻檢索發(fā)現(xiàn)，K.Fukunaga.在Academic Press，San Diego，California，USA，1990.(美國學術出版社，圣地亞哥，加利福尼亞，美國，1990.)上發(fā)表的文章“Introduction to statistical patternclassification”(“統(tǒng)計模式識別導論”)中，提出一種經典的面向鑒別的特征抽取方法——線性鑒別分析方法(Linear Discriminant Analysis，簡稱LDA)，這種方法通過最大化類間散布矩陣而最小化類內散布矩陣，獲取數(shù)據(jù)的整體結構信息，使得投影后的模式樣本的類間散布最大而類內散布最小，也就是說，投影后保證模式樣本在新的空間中有最大的類間距離和最小的類內距離，即模式在該空間中有最佳的可分離性。
最近，局部幾何結構在特征抽取領域引起了廣泛的關注，而局部幾何結構可以通過拉普拉斯矩陣獲得。經檢索發(fā)現(xiàn)，X.He，P.Niyogi在In Proc.Conf.Advances in Neural Information Processing Systems，2003.(神經信息處理系統(tǒng)進展國際會議，2003)上發(fā)表的文章“Locality Preserving Projections”(“局部保持投影”)中，提出了一種局部保持投影法，局部保持投影法基于圖的拉普拉斯矩陣計算數(shù)據(jù)的低維流形，其方法是首先構造原始數(shù)據(jù)的鄰接圖，建立圖的拉普拉斯矩陣，然后以在原始空間中距離接近的兩個數(shù)據(jù)點，投影后在特征空間中的距離更近為準則，求得變換矩陣，獲取數(shù)據(jù)集的局部結構信息。
以上兩種方法用于模式識別，都能獲得較好的識別結果。但是LDA、LPP分別主要抽取數(shù)據(jù)集的整體信息、局部信息，僅能反映數(shù)據(jù)集某方面的特征，而在現(xiàn)實世界中，數(shù)據(jù)集的結構通常非常復雜，僅僅靠整體信息或僅僅靠局部結構信息，可能不足以揭示數(shù)據(jù)集內在的真實結構。而且在模式識別中，整體結構特征在相對更重要，還是局部結構特征相對更重要，隨著應用的不同而不同。另外，LPP是一種無監(jiān)督的特征抽取方法，沒有利用數(shù)據(jù)的類別信息。而一般情況下，類別信息對分類識別具有重要作用。因此尋求一種面向鑒別的整體和局部特征融合識別方法具有重要的意義。在進一步的檢索中尚未發(fā)現(xiàn)這種特征融合識別方法。


發(fā)明內容
本發(fā)明的目的在于針對上述現(xiàn)有技術的不足，提出一種面向鑒別的整體和局部特征融合識別系統(tǒng)(Supervised Global and Local feature fusion Analysis，簡稱SGLA)，即面向鑒別的融合整體結構信息和局部結構信息進行特征融合與識別，使其達到兼顧整體結構信息和局部結構信息，提取出更具鑒別力的特征，本發(fā)明可應用于識別，能夠提高識別的精度。
本發(fā)明是通過以下技術方案實現(xiàn)的，本發(fā)明包括加權鄰接圖構造模塊、訓練樣本的矩陣構建模塊、最佳調節(jié)因子選擇模塊、投影矩陣獲得模塊、數(shù)據(jù)分類模塊，其中 加權鄰接圖構造模塊將每個訓練樣本作為一個頂點，建立一個加權鄰接圖，根據(jù)類別信息獲得任意兩個頂點間的相似性權值，并將相似性權值傳輸給訓練樣本的矩陣構建模塊； 訓練樣本的矩陣構建模塊接收相似性權值并根據(jù)最近鄰原則，使得每個頂點都只與與其相似性權值最小的若干個頂點連接，建立訓練樣本的相似矩陣，再由訓練樣本的相似矩陣建立訓練樣本的度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣，并將上述矩陣傳輸給投影矩陣獲得模塊； 最佳調節(jié)因子選擇模塊選取使得訓練樣本的識別率達到最高時的調節(jié)因子值作為調節(jié)因子的最佳取值，并將最佳取值傳輸給投影矩陣獲得模塊； 投影矩陣獲得模塊接收圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣以及最佳調節(jié)因子，再根據(jù)面向鑒別的整體和局部特征融合識別的方法解廣義特征值問題，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣，并將投影矩陣傳輸給數(shù)據(jù)分類模塊； 數(shù)據(jù)分類模塊接收輸入的訓練數(shù)據(jù)和測試數(shù)據(jù)，并將訓練數(shù)據(jù)和測試數(shù)據(jù)投影到投影矩陣中獲得到訓練系數(shù)矩陣和測試系數(shù)矩陣，采用最小距離分類器，識別出測試數(shù)據(jù)所屬的類別。
所述加權鄰接圖構造模塊，其根據(jù)類別信息獲得任意兩個頂點間的相似性權值，是指設每個訓練樣本代表一個頂點xi，建立任意兩個頂點之間的相似性權值，這些相似性權值表示如下
相似性權值的構造利用了訓練數(shù)據(jù)的類別信息，較好地反映了相連接的兩個數(shù)據(jù)點間的相似程度，相似性權值越大說明這兩個數(shù)據(jù)點越相似。
所述訓練樣本的矩陣構建模塊，其建立訓練樣本的相似矩陣、度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣，具體如下 矩陣構建模塊接收相似性權值，在相似性權值中按照最近鄰原則，找出每個頂點的k個近鄰頂點，即找出與頂點xi間的相似性權值最小的前k個頂點，使得頂點xi只與這k個頂點連接，建立訓練數(shù)據(jù)集的相似矩陣W，W的元素表示為
頂點xi的度為n為訓練數(shù)據(jù)點的個數(shù)，建立鄰接圖的度矩陣為D＝diag(d1，d2，…，dn)，建立圖的拉普拉斯矩陣為L＝D-W，即
建立訓練樣本的類內散布矩陣Sw、類間散布矩陣Sb分別為， 其中，X＝{x1，x2，…，xN}、c為樣本類別數(shù)、為第i類目標的均值向量(i＝1，2，…，c)、為總體的均值向量。
所述投影矩陣獲得模塊，其根據(jù)面向鑒別的整體和局部特征融合識別方法，解廣義特征值問題，采用的目標函數(shù)如下 其中A為投影矩陣，ρ為調節(jié)因子，且0≤ρ≤1，調節(jié)因子ρ的最佳取值可以通過實驗確定，n為樣本數(shù)目，(6)式等價于求解如下廣義特征值問題 其中，α為特征值λ對應的特征向量，解廣義特征值問題(7)，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣。
與現(xiàn)有技術相比，本發(fā)明具有如下有益效果 本發(fā)明在構造加權鄰接圖時，引入了訓練數(shù)據(jù)的類別信息，可以更準確地刻畫數(shù)據(jù)間的關系，本發(fā)明可以提取出融合整體特征和局部特征的復合特征，更具有鑒別力，而且既具有局部保留映射法能夠保留數(shù)據(jù)的流形結構的特性，又具有線性鑒別分析方法能使類內數(shù)據(jù)聚集地更緊湊而拉大類間距離的特性，應用到識別問題中，可以提高識別性能(以實施例為例，本發(fā)明方法的識別率比LDA的識別率高七個百分點)。本發(fā)明可應用于人臉識別、視頻監(jiān)控系統(tǒng)、軍事目標跟蹤識別系統(tǒng)等。



圖1為本發(fā)明的系統(tǒng)結構框圖； 圖2為本發(fā)明在航天器圖像庫中進行識別的結果與直接用矩特征進行識別，以及用線性鑒別分析(LDA)進行識別的結果比較圖。

具體實施例方式 下面結合附圖對本發(fā)明的實施例作詳細說明本實施例在以本發(fā)明技術方案為前提下進行實施，給出了詳細的實施方式和具體的操作過程，但本發(fā)明的保護范圍不限于下述的實施例。
本實施例應用于對STK模型庫中的航天器模型進行識別，STK是美國AGI公司出品的衛(wèi)星仿真工具包，此工具包不但可以對衛(wèi)星的軌道、姿態(tài)和通信鏈路進行計算，還可以根據(jù)真實的星歷信息計算各天體的位置和實際的光照。此外，工具包內包含很多天體表面紋理信息和航天器模型，因而可以對空間視景進行模擬。
在仿真中，從STK模型庫中選取了4類有代表性的航天器模型，利用STK8.0計算得到航天器模擬圖像，每類航天器模型有100幅圖像。
本實施例獲得每幅圖像的Hu不變矩作為觀測數(shù)據(jù)進行實驗。取每類航天器模型的前30幅圖像的Hu不變矩組成訓練數(shù)據(jù)集，每類剩余70幅圖像的Hu不變矩組成測試數(shù)據(jù)集，則訓練數(shù)據(jù)共有120個，測試數(shù)據(jù)共有280個。
如圖1所示，本實施例包括加權鄰接圖構造模塊、訓練樣本的矩陣構建模塊、最佳調節(jié)因子選擇模塊、投影矩陣獲得模塊、數(shù)據(jù)分類模塊，其中 加權鄰接圖構造模塊將每個訓練樣本作為一個頂點，建立一個加權鄰接圖，根據(jù)類別信息獲得任意兩個頂點間的相似性權值，并將相似性權值傳輸給訓練樣本的矩陣構建模塊； 訓練樣本的矩陣構建模塊接收相似性權值并根據(jù)最近鄰原則，使得每個頂點都只與與其相似性權值最小的若干個頂點連接，建立訓練樣本的相似矩陣，再由訓練樣本的相似矩陣建立訓練樣本的度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣，并將上述矩陣傳輸給投影矩陣獲得模塊； 最佳調節(jié)因子選擇模塊選取使得訓練樣本的識別率達到最高時的調節(jié)因子值作為調節(jié)因子的最佳取值，并將最佳取值傳輸給投影矩陣獲得模塊； 投影矩陣獲得模塊接收圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣以及最佳調節(jié)因子，再根據(jù)面向鑒別的整體和局部特征融合識別的方法解廣義特征值問題，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣，并將投影矩陣傳輸給數(shù)據(jù)分類模塊； 數(shù)據(jù)分類模塊接收輸入的訓練數(shù)據(jù)和測試數(shù)據(jù)，并將訓練數(shù)據(jù)和測試數(shù)據(jù)投影到投影矩陣中獲得到訓練系數(shù)矩陣和測試系數(shù)矩陣，采用最小距離分類器，識別出測試數(shù)據(jù)所屬的類別。
所述加權鄰接圖構造模塊，其構造的鄰接圖中的每個頂點xi對應于航天器訓練數(shù)據(jù)集中的一個數(shù)據(jù)點，建立任意兩個頂點之間的相似性權值，這些相似性權值可以表示成
相似性權值的構造利用了航天器訓練數(shù)據(jù)的類別信息，較好地反映了相連接的兩個數(shù)據(jù)點間的相似程度，相似性權值越大說明這兩個數(shù)據(jù)點越相似，越有可能屬于同一種航天器。
所述訓練樣本的矩陣構建模塊，其在相似性權值中按照最近鄰原則，找出與頂點xi間的相似性權值最小的前k＝15個頂點，使得頂點xi只與這15個頂點連接，建立航天器訓練數(shù)據(jù)集的相似矩陣W，W的元素表示為
頂點xi的度為n＝120為航天器訓練數(shù)據(jù)點的個數(shù)，建立鄰接圖的度矩陣為D＝diag(d1，d2，…，dn)，建立圖的拉普拉斯矩陣為 L＝D-W，即
建立航天器訓練樣本的類內散布矩陣Sw、類間散布矩陣Sb，分別為， 其中，X＝{x1，x2，…，xn}；c＝4為航天器訓練樣本的類別數(shù)；為第i類航天器訓練樣本的均值向量(i＝1，2，3，4)，ni為第i類航天器訓練樣本的個數(shù)，此處ni均為30；為航天器訓練樣本的總體均值向量。顯然，Sw的跡度量了航天器訓練樣本的內聚程度，而Sb的跡度量了樣本的分離程度。
所述投影矩陣獲得模塊，其根據(jù)面向鑒別的整體和局部特征融合識別方法，解廣義特征值問題，采用的目標函數(shù)如下 其中A為投影矩陣，ρ為調節(jié)因子，且0≤ρ≤1，調節(jié)因子ρ的最佳取值可以通過試驗確定，n為樣本數(shù)目，引入n是為了消除Sw和XLXT計算上的差異。
局部結構通過拉普拉斯矩陣L體現(xiàn)。通過(6)式，可以提取出整體結構特征和局部結構特征綜合后所得到的復合特征，這些特征可以更全面地表達航天器目標數(shù)據(jù)。(6)式等價于求解如下廣義特征值問題 其中，α為特征值λ對應的特征向量。
解廣義特征值問題(7)，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣。
圖2是采用本實施例(SGLA)在航天器圖像庫中進行識別的結果與直接用矩特征進行識別(Invmoments)，以及用線性鑒別分析(LDA)進行識別的比較結果圖，附圖中顯示的是調節(jié)因子ρ對識別性能的影響，其中橫坐標為調節(jié)因子取值，縱坐標為識別率，從圖中可看出，本實施例系統(tǒng)獲得的結果明顯優(yōu)于直接用矩特征的和用LDA提取特征所獲得的結果，能獲得更具鑒別性的特征，可以提高識別性能。
權利要求
1、一種面向鑒別的整體和局部特征融合識別系統(tǒng)，其特征在于，包括加權鄰接圖構造模塊、訓練樣本的矩陣構建模塊、最佳調節(jié)因子選擇模塊、投影矩陣獲得模塊、數(shù)據(jù)分類模塊，其中
加權鄰接圖構造模塊將每個訓練樣本作為一個頂點，建立一個加權鄰接圖，根據(jù)類別信息獲得任意兩個頂點間的相似性權值，并將相似性權值傳輸給訓練樣本的矩陣構建模塊；
訓練樣本的矩陣構建模塊接收相似性權值并根據(jù)最近鄰原則，使得每個頂點都只與與其相似性權值最小的若干個頂點連接，建立訓練樣本的相似矩陣，再由訓練樣本的相似矩陣建立訓練樣本的度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣，并將上述矩陣傳輸給投影矩陣獲得模塊；
最佳調節(jié)因子選擇模塊選取使得訓練樣本的識別率達到最高時的調節(jié)因子值作為調節(jié)因子的最佳取值，并將最佳取值傳輸給投影矩陣獲得模塊；
投影矩陣獲得模塊接收圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣以及最佳調節(jié)因子，再根據(jù)面向鑒別的整體和局部特征融合識別的方法解廣義特征值問題，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣，并將投影矩陣傳輸給數(shù)據(jù)分類模塊；
數(shù)據(jù)分類模塊接收輸入的訓練數(shù)據(jù)和測試數(shù)據(jù)，并將訓練數(shù)據(jù)和測試數(shù)據(jù)投影到投影矩陣中獲得到訓練系數(shù)矩陣和測試系數(shù)矩陣，采用最小距離分類器，識別出測試數(shù)據(jù)所屬的類別。
2、根據(jù)權利要求1所述的面向鑒別的整體和局部特征融合識別系統(tǒng)，其特征是，所述加權鄰接圖構造模塊，其根據(jù)類別信息獲得任意兩個頂點間的相似性權值，是指設每個訓練樣本代表一個頂點xi，建立任意兩個頂點之間的相似性權值，這些相似性權值表示如下
相似性權值的構造利用了訓練數(shù)據(jù)的類別信息，相似性權值反映了相連接的兩個數(shù)據(jù)點間的相似程度，相似性權值越大說明這兩個數(shù)據(jù)點越相似。
3、根據(jù)權利要求1所述的面向鑒別的整體和局部特征融合識別系統(tǒng)，其特征是，所述訓練樣本的矩陣構建模塊，其建立訓練樣本的相似矩陣、度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣，具體如下
矩陣構建模塊接收相似性權值，在相似性權值中按照最近鄰原則，找出每個頂點的k個近鄰頂點，即找出與頂點xi間的相似性權值最小的前k個頂點，使得頂點xi只與這k個頂點連接，建立訓練數(shù)據(jù)集的相似矩陣W，W的元素表示為
頂點xi的度為n為訓練數(shù)據(jù)點的個數(shù)，建立鄰接圖的度矩陣為D＝diag(d1，d2，…，dn)，建立圖的拉普拉斯矩陣為L＝D-W，即
建立訓練樣本的類內散布矩陣Sw、類間散布矩陣Sb分別為，
其中，X＝{x1，x2，…，xN}、c為樣本類別數(shù)、為第i類目標的均值向量(i＝1，2，…，c)、為總體的均值向量。
4、根據(jù)權利要求1所述的面向鑒別的整體和局部特征融合識別系統(tǒng)，其特征是，所述投影矩陣獲得模塊，根據(jù)面向鑒別的整體和局部特征融合識別方法，解廣義特征值問題，采用的目標函數(shù)如下
其中A為投影矩陣，ρ為調節(jié)因子，且0≤ρ≤1，調節(jié)因子ρ的最佳取值可以通過試驗確定，n為樣本數(shù)目，上式等價于求解如下廣義特征值問題
其中，α為特征值λ對應的特征向量，解廣義特征值問題，選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣。
全文摘要
一種模式識別技術領域中的面向鑒別的整體和局部特征融合識別系統(tǒng)，本發(fā)明中，加權鄰接圖構造模塊建立一個加權鄰接圖，根據(jù)類別信息獲得任意兩個頂點間的相似性權值；訓練樣本的矩陣構建模塊接收相似性權值并根據(jù)最近鄰原則，建立訓練樣本的相似矩陣、度矩陣、圖的拉普拉斯矩陣、類內散布矩陣和類間散布矩陣；最佳調節(jié)因子選擇模塊選取使得訓練樣本的識別率達到最高時的調節(jié)因子值作為調節(jié)因子的最佳取值；投影矩陣獲得模塊選取所有特征值中前幾個最小的特征值對應的特征向量作為基向量，構成投影矩陣；數(shù)據(jù)分類模塊采用最小距離分類器，識別出測試數(shù)據(jù)所屬的類別。本發(fā)明利用數(shù)據(jù)間的類別信息，更準確地刻畫數(shù)據(jù)間關系，取得更高的識別性能。
文檔編號G06K9/46GK101441716SQ20081020345
公開日2009年5月27日 申請日期2008年11月27日 優(yōu)先權日2008年11月27日
發(fā)明者趙海濤, 楊慧軍, 博 金, 敬忠良 申請人:上海交通大學