基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化sar分類方法
【專利摘要】本發(fā)明公開了一種基于半監(jiān)督稀疏濾波的半監(jiān)督深度學(xué)習(xí)方法。解決了傳統(tǒng)深度學(xué)習(xí)方法參數(shù)調(diào)節(jié)復(fù)雜，在擁有較低標(biāo)簽數(shù)據(jù)時分類精度不高的技術(shù)問題，其步驟包括：輸入待分類的極化SAR圖像數(shù)據(jù)；提取訓(xùn)練樣本和測試樣本；求訓(xùn)練樣本的Wishart近鄰樣本；初始化深度稀疏濾波網(wǎng)絡(luò)的參數(shù)；對深度稀疏濾波網(wǎng)絡(luò)預(yù)訓(xùn)練；對深度稀疏濾波網(wǎng)絡(luò)微調(diào)；對測試樣本進行類別預(yù)測；輸出待分類的極化SAR圖像的分類圖像和分類精度。本發(fā)明通過構(gòu)建新穎的深度稀疏濾波網(wǎng)絡(luò)模型，并在預(yù)訓(xùn)練過程中加入半監(jiān)督正則項的方法，降低了深度學(xué)習(xí)網(wǎng)絡(luò)參數(shù)調(diào)節(jié)的復(fù)雜度，提高了極化SAR圖像地物分類的精度?？捎糜诃h(huán)境監(jiān)測、地球資源勘測和軍事系統(tǒng)等技術(shù)領(lǐng)域。
【專利說明】
基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明屬于圖像處理技術(shù)領(lǐng)域，特別設(shè)及一種極化SAR圖像地物分類方法，具體是 一種基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法?？捎糜诃h(huán)境監(jiān)測、地球資源勘測和 軍事系統(tǒng)等。
【背景技術(shù)】
[0002] 機器學(xué)習(xí) （Machine Learning,ML)是一口多領(lǐng)域交叉學(xué)科，設(shè)及概率論、統(tǒng)計學(xué)、 逼近論、凸分析、算法復(fù)雜度理論等多口學(xué)科。?？谘芯坑嬎銠C怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí) 行為，W獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能。在極化 S A R圖像分類領(lǐng)域，機器學(xué)習(xí)已經(jīng)有了許多突破性的進展，例如W i S h a r t m a X i m U m l;Lkelihood(WML)，支持矢量機（suppo;rt vector machines，SVM)等方法。
[0003] 常見的機器學(xué)習(xí)方法大都運用人工提取特征的方法，費時費力，且不一定能夠取 得令人滿意的特征。深度學(xué)習(xí)是機器學(xué)習(xí)研究中的一個新的領(lǐng)域，它是一種模擬人腦進行 分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，模仿人腦的機制來解釋數(shù)據(jù)。對于極化SAR圖像分類，深度學(xué)習(xí)網(wǎng)絡(luò) 能夠自主地從極化SAR數(shù)據(jù)中學(xué)習(xí)到更為抽象的高層表示屬性或者特征，學(xué)習(xí)到的特征可 W更有效地運用到地物分類、環(huán)境監(jiān)測等研究。
[0004] 而現(xiàn)有的深度學(xué)習(xí)模型:找式自編碼器(SAE)，限制玻爾茲曼機(RBM)，深度置信網(wǎng) (DBN)，卷積神經(jīng)網(wǎng)絡(luò)(CNN)等都需要調(diào)節(jié)很多參數(shù)。比如說學(xué)習(xí)速率(learning rates)、動 量(momen化m)、稀疏度懲罰系數(shù)（sparsity penal ties)等等，而運些參數(shù)最終的確定需要 通過交叉驗證獲得，運就需要花費大量的時間和精力。隨著遙感領(lǐng)域的不斷發(fā)展，環(huán)境監(jiān) 測、地球資源勘測、軍事系統(tǒng)等應(yīng)用對極化SAR圖像處理的需求加大，想要對極化SAR圖像的 地物分類取得理想的結(jié)果，雖然深度學(xué)習(xí)在機器學(xué)習(xí)方法中有著較為明顯的優(yōu)勢，但傳統(tǒng) 的深度學(xué)習(xí)網(wǎng)絡(luò)需要大量的參數(shù)調(diào)節(jié)，運將消耗大量的時間，不當(dāng)?shù)膮?shù)選擇將直接影響 深度學(xué)習(xí)網(wǎng)絡(luò)的性能W及最終的分類結(jié)果，運就制約深度學(xué)習(xí)方法在遙感領(lǐng)域的應(yīng)用。

【發(fā)明內(nèi)容】

[0005] 本發(fā)明的目的在于針對上述已有技術(shù)的不足，提出了一種基于半監(jiān)督深度稀疏濾 波網(wǎng)絡(luò)的極化SAR分類方法，提高地物分類正確率。
[0006] 本發(fā)明是一種基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在于，包 括如下步驟：
[0007] (1)輸入待分類的極化SAR圖像數(shù)據(jù)，即極化SAR圖像的相干矩陣T，根據(jù)極化SAR圖 像的地物分布信息得到標(biāo)簽矩陣Y，同一種地物的分布由同樣的類別標(biāo)號表示，不能確定類 別的地物分布在標(biāo)簽矩陣中用0表示，根據(jù)極化SAR圖像的相干矩陣T生成樣本矩陣 義二知嗟i，N是樣本的總個數(shù)，XI表示第i個樣本。
[000引（2)提取訓(xùn)練樣本和測試樣本，根據(jù)極化SAR圖像的樣本數(shù)據(jù)X和標(biāo)簽矩陣Y，隨機 提取出L個訓(xùn)練樣本，Μ個測試樣本，其中L+M = N，根據(jù)所有樣本的類別信息，每類隨機選取 1 %的樣本作為訓(xùn)練樣本，其余的為測試樣本。
[0009] (3)求訓(xùn)練樣本的Wishart近鄰樣本，在所有的樣本數(shù)據(jù)中，求取每個訓(xùn)練樣本Xi (i = l ,2..丄)所對應(yīng)的K個胖13]1曰的近鄰樣本xj( j = l ,2. . .K)，至此，基本的數(shù)據(jù)處理完成。
[0010] (4)開始優(yōu)化深度網(wǎng)絡(luò)，初始化深度網(wǎng)絡(luò)的基本參數(shù)，隨機初始化深度稀疏濾波網(wǎng) 絡(luò)的權(quán)重參數(shù)W，設(shè)定深度稀疏濾波網(wǎng)絡(luò)每層的節(jié)點數(shù)，確定深度稀疏濾波網(wǎng)絡(luò)的整體結(jié) 構(gòu)。
[0011] (5)對深度稀疏濾波網(wǎng)絡(luò)預(yù)訓(xùn)練，將訓(xùn)練樣本及其對應(yīng)的Wishart近鄰樣本送入到 深度稀疏濾波網(wǎng)絡(luò)中進行預(yù)訓(xùn)練，采用逐層貪婪的預(yù)訓(xùn)練方法，前一層的輸出作為后一層 的輸入，直到訓(xùn)練完最后一個隱層，同時在每層的預(yù)訓(xùn)練中加入半監(jiān)督近鄰保持正則項，與 稀疏濾波器共同優(yōu)化網(wǎng)絡(luò)的權(quán)重，深度稀疏濾波網(wǎng)絡(luò)的權(quán)重得到初步優(yōu)化。
[0012] (6)對深度稀疏濾波網(wǎng)絡(luò)微調(diào)，利用訓(xùn)練樣本及其標(biāo)簽信息，結(jié)合Softmax分類器 對深度稀疏濾波網(wǎng)絡(luò)進行微調(diào)，進一步優(yōu)化網(wǎng)絡(luò)的權(quán)重，使網(wǎng)絡(luò)變得更穩(wěn)定，至此，深度稀 疏濾波網(wǎng)絡(luò)優(yōu)化完成。
[0013] (7)測試深度稀疏濾波網(wǎng)絡(luò)的性能，對測試樣本進行類別預(yù)測，將測試樣本送入到 深度稀疏濾波網(wǎng)絡(luò)，利用Softmax分類器對測試樣本的類別標(biāo)簽進行預(yù)測，得到每個測試樣 本的預(yù)測類別。
[0014] (8)輸出待分類的極化SAR圖像的分類結(jié)果圖和分類精度，根據(jù)訓(xùn)練樣本和步驟 (7)中已預(yù)測出類別的測試樣本，輸出待分類的極化SAR圖像的最終分類結(jié)果并計算本次分 類的精度。
[0015] 本發(fā)明的技術(shù)思路是：將單層的稀疏濾波器拓展為一種新穎的深度稀疏濾波網(wǎng) 絡(luò)，在擁有少量標(biāo)記樣本的情況下，結(jié)合半監(jiān)督思想，對極化SAR數(shù)據(jù)進行特征學(xué)習(xí)，通過分 類器實現(xiàn)地物分類，提高分類準確度。
[0016] 本發(fā)明具有如下優(yōu)點：
[0017] 1、本發(fā)明由于采用了深度學(xué)習(xí)的方法，利用深度稀疏濾波網(wǎng)絡(luò)來自主地學(xué)習(xí)極化 SAR圖像的特征，因而避免了傳統(tǒng)方法中人工學(xué)習(xí)特征的繁瑣，并且深度稀疏濾波網(wǎng)絡(luò)可W 學(xué)習(xí)到極化SAR圖像更為抽象本質(zhì)的特征，運些特征更加有利于極化SAR圖像的地物分類。
[0018] 2、本發(fā)明方法由于在稀疏濾波器的基礎(chǔ)上拓展得到深度稀疏濾波網(wǎng)絡(luò)，此深度學(xué) 習(xí)網(wǎng)絡(luò)有著較少的參數(shù)和穩(wěn)定的性能，因而有效彌補了傳統(tǒng)深度學(xué)習(xí)網(wǎng)絡(luò)參數(shù)復(fù)雜，難W 調(diào)節(jié)的缺陷，適當(dāng)避免了因參數(shù)調(diào)節(jié)不當(dāng)造成分類結(jié)果不理想的情況。
[0019] 3、本發(fā)明方法由于采用了半監(jiān)督學(xué)習(xí)的方法，在預(yù)訓(xùn)練的過程中加入了半監(jiān)督正 則項，因而改善了在標(biāo)記樣本較少的情況下分類器分類正確率較低，W及大量無標(biāo)記樣本 造成的信息浪費的問題。
【附圖說明】
[0020] 圖1是本發(fā)明的實現(xiàn)流程示意圖；
[0021] 圖2是對極化SAR地物仿真圖像的實驗結(jié)果圖，其中圖2(a)是極化SAR仿真圖的 Pauli分解圖，圖2(b)是仿真圖的標(biāo)簽圖，圖2(c)是采用對比方法DNN的分類結(jié)果圖，圖2(d) 是采用對比方法SAE的分類結(jié)果圖，圖2(e)是采用對比方法DSF的分類結(jié)果圖，圖2(f)是采 用本發(fā)明方法的分類結(jié)果圖。
【具體實施方式】
[0022 ]下面結(jié)合附圖對本發(fā)明詳細說明
[0023] 實施例1
[0024] 因遙感技術(shù)的發(fā)展，在環(huán)境監(jiān)測、地球資源勘測、軍事系統(tǒng)等領(lǐng)域有著廣泛的應(yīng) 用，對極化SAR圖像處理的需求也不斷加大，深度學(xué)習(xí)在機器學(xué)習(xí)方法中有著較為明顯的優(yōu) 勢，而傳統(tǒng)的深度學(xué)習(xí)網(wǎng)絡(luò)需要大量的參數(shù)調(diào)節(jié)，會消耗大量的時間，且可能直接影響深度 學(xué)習(xí)網(wǎng)絡(luò)的性能W及最終的分類結(jié)果，因此，本發(fā)明提出一種基于半監(jiān)督深度稀疏濾波網(wǎng) 絡(luò)的極化SAR分類方法，參見圖1，包括如下步驟：
[0025] (1)輸入待分類的極化SAR圖像數(shù)據(jù)，即極化SAR圖像的相干矩陣T，根據(jù)極化SAR圖 像的地物分布信息得到標(biāo)簽矩陣Y，同一種地物無論分布如何，在標(biāo)簽矩陣中由同樣的類別 標(biāo)號表示，不能確定類別的地物分布在標(biāo)簽矩陣中用0表示，由極化SAR圖像的相干矩陣T生 成樣本矩陣義=桿，.指,，N是樣本的總個數(shù)，XI表示第i個樣本。
[0026] la、取極化SAR圖像的極化相干矩陣T的上Ξ角位置的6個元素的模值作為每個像 素點的原始特征；
[0027] 化、利用MATLAB軟件中的reshape函數(shù)將T矩陣轉(zhuǎn)化為二維的樣本矩陣義=扣,.詰，X eRPxw，p二6為樣本矩陣的維數(shù)，N為樣本總數(shù)，每一列表示一個樣本，運是對極化SAR數(shù)據(jù)的 基本處理。
[0028] (2)提取訓(xùn)練樣本和測試樣本，根據(jù)極化SAR圖像的樣本數(shù)據(jù)X和標(biāo)簽矩陣Y，隨機 提取出L個訓(xùn)練樣本，Μ個測試樣本，其中L+M = N，根據(jù)所有樣本的類別信息，每類隨機選取 1 %的樣本作為訓(xùn)練樣本，其余的為測試樣本。
[0029] (3)求訓(xùn)練樣本的Wishart近鄰樣本，在所有的樣本數(shù)據(jù)中，求取每個訓(xùn)練樣本XI 。=1，2..丄)所對應(yīng)的1(個機311曰1'1:近鄰樣本義^^' = 1，2...1〇，由于極化54踐義據(jù)本身服從 Wishad分布，離更小的兩個樣本之間更有可能屬于相同的類別，至此，基本的數(shù) 據(jù)處理完成。
[0030] (4)開始優(yōu)化深度稀疏濾波網(wǎng)絡(luò)，初始化深度稀疏濾波網(wǎng)絡(luò)的基本參數(shù)，隨機初始 化深度稀疏濾波網(wǎng)絡(luò)的權(quán)重參數(shù)W，設(shè)定深度稀疏濾波網(wǎng)絡(luò)每層的節(jié)點數(shù)。
[0031] (5)對深度稀疏濾波網(wǎng)絡(luò)預(yù)訓(xùn)練，將訓(xùn)練樣本及其對應(yīng)的Wishart近鄰樣本送入到 深度稀疏濾波網(wǎng)絡(luò)中進行預(yù)訓(xùn)練，采用逐層貪婪的預(yù)訓(xùn)練方法，前一層的輸出作為后一層 的輸入，直到訓(xùn)練完最后一個隱層，在每層的預(yù)訓(xùn)練中加入半監(jiān)督近鄰保持正則項，與稀疏 濾波共同優(yōu)化網(wǎng)絡(luò)的權(quán)重。訓(xùn)練樣本及其Wishart近鄰樣本的正則項約束可W優(yōu)化深度稀 疏濾波網(wǎng)絡(luò)結(jié)構(gòu)，使其更加有利于對服從Wishart分布的極化SAR數(shù)據(jù)進行地物分類，同時 在預(yù)訓(xùn)練中進一步加強了對無標(biāo)記樣本的使用，在有少量標(biāo)記樣本的情況下也可W取得很 好的地物分類精度。稀疏濾波本身有著較少的參數(shù)需要調(diào)節(jié)，利用貪婪算法拓展為深度稀 疏濾波網(wǎng)絡(luò)結(jié)構(gòu)后在參數(shù)調(diào)節(jié)方面有著較大的優(yōu)勢，且學(xué)習(xí)到的新的樣本特征用于地物分 類也有著較高的精度。
[0032] (6)對深度稀疏濾波網(wǎng)絡(luò)微調(diào)，利用訓(xùn)練樣本及其標(biāo)簽信息，結(jié)合Softmax分類器 對深度稀疏濾波網(wǎng)絡(luò)進行微調(diào)，進一步優(yōu)化網(wǎng)絡(luò)的權(quán)重，使網(wǎng)絡(luò)更穩(wěn)定。
[0033] (7)對測試樣本進行類別預(yù)測，將測試樣本送入到深度稀疏濾波網(wǎng)絡(luò)，利用 Softmax分類器對測試樣本的類別標(biāo)簽進行預(yù)測，得到每個測試樣本的預(yù)測類別。
[0034] (8)輸出待分類的極化SAR圖像的分類結(jié)果圖和分類精度，根據(jù)訓(xùn)練樣本和步驟 (7)中已預(yù)測出類別的測試樣本，輸出待分類的極化SAR圖像的最終分類結(jié)果，參見圖2(f)， 并計算本次分類的精度。
[0035] 本發(fā)明在單層稀疏濾波器的基礎(chǔ)上拓展得到深度稀疏濾波網(wǎng)絡(luò)，本發(fā)明的深度學(xué) 習(xí)網(wǎng)絡(luò)有著較少的參數(shù)調(diào)節(jié)，有效彌補了傳統(tǒng)深度學(xué)習(xí)網(wǎng)絡(luò)參數(shù)復(fù)雜，難W調(diào)節(jié)的缺陷;本 發(fā)明具有穩(wěn)定的性能，適當(dāng)避免了因參數(shù)調(diào)節(jié)不當(dāng)造成分類結(jié)果不理想的情況。
[0036] 實施例2
[0037] 基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1，步驟(3)所述的求 每個訓(xùn)練樣本的Wishart近鄰樣本，是按如下步驟獲得：
[003引3曰、訓(xùn)練樣本矩陣為義1 =托杞，利用下面的公式求取訓(xùn)練樣本和其它樣本之間的 Wisha;rt 距離：
[0039] d(xi,xj) = ln((xi)-ixj)巧;r((xj)-ixi)-q(x=l ,2, ...,LJ = 1,2,...,N)，
[0040] 其中，Tr()表示矩陣的跡，對于發(fā)送與接收是一體的雷達，由于互易性，q = 3;對于 發(fā)送與接收不是一體的雷達，q = 4;
[0041 ] 3b、利用MATLAB中的sod函數(shù)，將3a中求得的Wishad距離d(xi，xj)按絕對值升序 排列，取前K個，找到與其對應(yīng)的前K個樣本，作為訓(xùn)練樣本XI的Wishart近鄰樣本，記為： 二I
[0042] 實施例3
[0043] 基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1-2,步驟(4)中所述 初始化深度網(wǎng)絡(luò)的參數(shù)為：
[0044] 4a、深度稀疏濾波網(wǎng)絡(luò)的隱層數(shù)為3,每層的節(jié)點數(shù)分別為:25，100,50;
[0045] 4b、初始化深度稀疏濾波網(wǎng)絡(luò)的權(quán)重恥，胖1^炒><9,〇是輸入信號的維數(shù)，9是第一個 隱層的節(jié)點數(shù)。
[0046] 本發(fā)明的深度稀疏濾波網(wǎng)絡(luò)有著較少的參數(shù)需要調(diào)節(jié)，參數(shù)初始化方便，網(wǎng)絡(luò)的 訓(xùn)練過程中也只有簡單的正則項參數(shù)需要調(diào)節(jié)，和其它深度學(xué)習(xí)方法相比耗時較少。
[0047] 實施例4
[0048] 基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1-3,步驟(5)所述的 對深度稀疏濾波網(wǎng)絡(luò)的預(yù)訓(xùn)練過程為：
[0049] 5曰、輸入深度稀疏濾波網(wǎng)絡(luò)的預(yù)訓(xùn)練樣本，將訓(xùn)練樣本xi(i = l，2. . .L)及其對應(yīng) 的K個鄰樣本?/(.Υ,.) =林;，.T,2，...，xf}作為預(yù)訓(xùn)練樣本輸入到深度網(wǎng)絡(luò)中；
[0050] 5b、利用第一個隱層學(xué)習(xí)新的樣本特征，將傳統(tǒng)的非線性sigmoid函數(shù)作為激活函 數(shù)：Φ(z) = (l+e邱(-z))-l，χeRDx墻輸入向量，則第一個隱層的輸出為:々|=抑!f/..v)，第i個 樣本的輸出表示為hl(Xi)，作為新的樣本特征；
[0051] 5c、優(yōu)化網(wǎng)絡(luò)權(quán)重W，每一層稀疏濾波網(wǎng)絡(luò)利用LBFGS算法求解下面的目標(biāo)函數(shù)，從 而優(yōu)化網(wǎng)絡(luò)的權(quán)重W，目標(biāo)函數(shù)為：
[0054] 其中，目標(biāo)函數(shù)中的
為半 監(jiān)督近鄰保持正則項，參照流形學(xué)習(xí)的方法利用樣本之間的近鄰關(guān)系來優(yōu)化網(wǎng)絡(luò)的結(jié)構(gòu)，λ 為正則項參數(shù)，
U(Xi)表示訓(xùn)練樣本Xi對應(yīng)的Wishart近鄰樣本集合；
[0055] 5d、貪婪算法訓(xùn)練其余隱層，將加中學(xué)習(xí)到的新的樣本特征hi作為新的輸入送到 下一層，利用貪婪學(xué)習(xí)算法，將上一層的輸出作為下一層的輸入，利用5c中的目標(biāo)函數(shù)^ (W)依次優(yōu)化每個隱層的權(quán)重W，直到訓(xùn)練完最后一個隱層，樣本XI通過最后一個隱層的輸 出可W表示為h3(Xi)。
[0056] 本發(fā)明通過稀疏濾波和半監(jiān)督正則項相結(jié)合來進行深度網(wǎng)絡(luò)預(yù)訓(xùn)練，將網(wǎng)絡(luò)的權(quán) 重參數(shù)優(yōu)化到一個合適的范圍，進一步優(yōu)化了網(wǎng)絡(luò)的結(jié)構(gòu)，更有利于對服從Wishad分布的 極化SAR數(shù)據(jù)樣本進行地物分類。
[0化7] 實施例5
[005引基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1-4,步驟(6)所述的 對深度稀疏濾波網(wǎng)絡(luò)的微調(diào)，有如下目標(biāo)函數(shù)：
[0化9]
[0060] 其中，
曼權(quán)重衰減項，權(quán)重衰減項的目 的在于減少權(quán)重的幅度，防止過擬合，yi表示訓(xùn)練樣本XI對應(yīng)的類別標(biāo)簽，h(xi)是將訓(xùn)練樣 本XI經(jīng)過整個深度網(wǎng)絡(luò)后學(xué)習(xí)到的特征h3(xi)，送到Softmax分類器中得到的輸出，β = 3θ-3 為權(quán)重衰減參數(shù)；
[0061] 利用梯度下降算法求解上述目標(biāo)函數(shù)L2(W)，進一步優(yōu)化稀疏濾波網(wǎng)絡(luò)的權(quán)重W， 實現(xiàn)整個網(wǎng)絡(luò)的微調(diào)，從而構(gòu)建深度稀疏濾波網(wǎng)絡(luò)，采用該網(wǎng)絡(luò)學(xué)習(xí)到的特征將更有利于 實現(xiàn)極化SAR圖像的地物分類。
[0062] 下面給出一個更加詳盡的例子，對本發(fā)明進一步說明：
[0063] 實施例6
[0064] 基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1-5,參照圖1，本發(fā)明 的具體實施步驟如下：
[0065] 步驟1、輸入待分類的極化SAR圖像數(shù)據(jù)，參見圖2(a)，輸入極化SAR圖像的相干矩 陣T，根據(jù)極化SAR圖像的地物分布信息得到標(biāo)簽矩陣Y，參見圖2(b)，圖2(b)就是由標(biāo)簽矩 陣Y直接生成的圖像，圖像中不同的色塊代表不同的地物，同一種地物的分布在標(biāo)簽矩陣中 由同樣的類別標(biāo)號表示，不能確定類別的地物分布在標(biāo)簽矩陣中用0表示，根據(jù)極化SAR圖 像的相干矩陣τ生成樣本矩陣義=枉侶1，N是樣本的總個數(shù)，Xi表示第i個樣本。
[0066] 本實例使用極化SAR地物仿真圖像。由于極化SAR數(shù)據(jù)的極化相干矩陣T是哈密頓 半正定矩陣，所W可W提取維數(shù)為3X3的極化相干矩陣T的上Ξ角位置的6個元素的模值作 為每個像素點的原始特征，利用MATLAB軟件中的reshape函數(shù)將T矩陣轉(zhuǎn)化為二維的樣本矩 陣，每一列表示一個樣本，仿真數(shù)據(jù)有18000個樣本，每個樣本的維數(shù)為6維。每個樣本對應(yīng) 極化SAR圖像上的一個像素點。
[0067] 步驟2、提取訓(xùn)練樣本和測試樣本，根據(jù)極化SAR圖像的樣本數(shù)據(jù)X和標(biāo)簽矩陣Y，將 樣本數(shù)據(jù)按類別隨機提取出L個訓(xùn)練樣本，Μ個測試樣本，其中L+M = N。將樣本數(shù)據(jù)按照其各 自所在的類別，按照1:99的比例隨機提取為訓(xùn)練樣本和測試樣本，每類的測試樣本占該類 總數(shù)的1%。
[0068] 步驟3、求訓(xùn)練樣本的Wishart近鄰樣本，在所有的樣本數(shù)據(jù)中，求取每個訓(xùn)練樣本 xi(i = l,2..丄)所對應(yīng)的K個Wishart近鄰樣本xj(j = l,2. . .K)。
[0069] 3a、對于訓(xùn)練樣本xi(i = l，2..丄），按照改進的Wishart距離公式，求它和其它樣 本之間的Wisha;rt距離：d(Xi,Xj) = ln((Xi)-lχj)巧;r((Xj)-lχi)-q(x=l,2,...,L,j = l, 2，...，N)，
[0070] 其中，Tr()表示矩陣的跡，對于發(fā)送與接收是一體的雷達，由于互易性，q = 3,對于 發(fā)送與接收不是一體的雷達，q = 4,本實例使用的極化SAR地物仿真圖像數(shù)據(jù)是由發(fā)送與接 收一體的雷達系統(tǒng)獲取生成，q取3。
[0071] 3b、利用MATLAB中的sod函數(shù)，將3a中求得的Wishad距離d(Xi，Xj)按絕對值升序 排列，取前K個，找到與其對應(yīng)的前K個樣本，作為訓(xùn)練樣本XI的Wishart近鄰樣本，記為： ^(.-?)=枉:，-取義。
[0072] 步驟4、初始化深度稀疏濾波網(wǎng)絡(luò)的基本參數(shù)，隨機初始化深度稀疏濾波網(wǎng)絡(luò)的權(quán) 重參數(shù)W，設(shè)定深度稀疏濾波網(wǎng)絡(luò)每層的節(jié)點數(shù)。
[0073] 設(shè)置深度稀疏濾波網(wǎng)絡(luò)的Ξ個隱層節(jié)點數(shù)，分別為25，100,50;初始化網(wǎng)絡(luò)的權(quán)重 矩陣Wl，Wle護>^D是輸入信號的維數(shù)，N是第一個隱層的節(jié)點數(shù)。
[0074] 本發(fā)明的深度稀疏濾波網(wǎng)絡(luò)有著較少的參數(shù)和穩(wěn)定的性能，有效彌補了傳統(tǒng)深度 學(xué)習(xí)網(wǎng)絡(luò)參數(shù)復(fù)雜，難W調(diào)節(jié)的缺陷，適當(dāng)避免了因參數(shù)調(diào)節(jié)不當(dāng)造成分類結(jié)果不理想的 情況。
[0075] 步驟5、對深度稀疏濾波網(wǎng)絡(luò)預(yù)訓(xùn)練。
[0076] 5曰、輸入深度稀疏濾波網(wǎng)絡(luò)的預(yù)訓(xùn)練樣本，將訓(xùn)練樣本xi及其對應(yīng)的K個Wishart 近鄰樣本1/片）={杳扣...，皆}作為預(yù)訓(xùn)練樣本輸入到深度網(wǎng)絡(luò)中，1 = 1，2，...山
[0077] 5b、利用第一個隱層學(xué)習(xí)新的樣本特征，將傳統(tǒng)的非線性sigmoid函數(shù)作為激活函 數(shù)：Φ(z) = (l+e邱(-z))-l，χeREx堪輸入向量，則第一個隱層的輸出為:?^=挪rl?，第i個 樣本的輸出表示為hl(Xi)，作為新的樣本特征；
[0078] 5c、優(yōu)化網(wǎng)絡(luò)權(quán)重W，每一層稀疏濾波網(wǎng)絡(luò)利用LBFGS算法求解下面的目標(biāo)函數(shù)，從 而優(yōu)化網(wǎng)絡(luò)的權(quán)重W，目標(biāo)函數(shù)為：
[0081 ] 其中，目標(biāo)函數(shù)中的
為半 監(jiān)督近鄰保持正則項，參照流形學(xué)習(xí)的方法利用樣本之間的近鄰關(guān)系來優(yōu)化網(wǎng)絡(luò)的結(jié)構(gòu)，λ 為正則項參數(shù)，
，U(Xi)表示訓(xùn)練樣本XI對應(yīng)的113}1曰的近鄰樣本集合。
[0082] 5d、貪婪算法訓(xùn)練其余隱層，將加中學(xué)習(xí)到的新的樣本特征hi作為新的輸入送到 下一層，利用貪婪學(xué)習(xí)算法，將上一層的輸出作為下一層的輸入，利用5c中的目標(biāo)函數(shù)^ (W)依次優(yōu)化每個隱層的權(quán)重W，直到訓(xùn)練完最后一個隱層，樣本XI通過最后一個隱層的輸 出可W表示為h3(Xi)。
[0083] 本發(fā)明通過稀疏濾波和半監(jiān)督正則項相結(jié)合來進行深度網(wǎng)絡(luò)預(yù)訓(xùn)練，將網(wǎng)絡(luò)的權(quán) 重參數(shù)優(yōu)化到一個合適的范圍，進一步優(yōu)化了網(wǎng)絡(luò)的結(jié)構(gòu)，更有利于對服從Wishad分布的 極化SAR數(shù)據(jù)樣本進行地物分類。
[0084] 步驟6、對深度稀疏濾波網(wǎng)絡(luò)微調(diào)。
[0085] 預(yù)訓(xùn)練完成后，網(wǎng)絡(luò)的權(quán)重W已經(jīng)收斂到合理的范圍，進一步利用訓(xùn)練樣本和其對 應(yīng)類別標(biāo)簽信息，結(jié)合Sof tmax分類器對網(wǎng)絡(luò)進行微調(diào)：
[0086]
[0087] 其中
是權(quán)重衰減項，權(quán)重衰減項的目 的在于減少權(quán)重的幅度，防止過擬合，yi表示訓(xùn)練樣本XI對應(yīng)的類別標(biāo)簽，h(xi)是將訓(xùn)練樣 本XI經(jīng)過整個深度網(wǎng)絡(luò)后學(xué)習(xí)到的特征h3(xi)，送到Softmax分類器中得到的輸出，β = 3θ-3 為權(quán)重衰減參數(shù)；
[0088] 利用梯度下降算法求解上述目標(biāo)函數(shù)L2(W)，進一步優(yōu)化稀疏濾波網(wǎng)絡(luò)的權(quán)重W， 實現(xiàn)整個網(wǎng)絡(luò)的微調(diào)。
[0089] 步驟7、對測試樣本進行類別預(yù)測，將測試樣本送入到深度稀疏濾波網(wǎng)絡(luò)，利用 Softmax分類器對測試樣本的類別標(biāo)簽進行預(yù)測，得到每個測試樣本的預(yù)測類別。
[0090] 7a、將測試樣本X非俞入到已經(jīng)構(gòu)建好的深度稀疏濾波網(wǎng)絡(luò)中，學(xué)習(xí)到最終的特征 白=
[0091] 7b、將7a中學(xué)習(xí)到的最終特征送到Softmax分類器中進行類別預(yù)測：
[0092] Softmax分類器的輸出是yERPxi，P表示為類別數(shù)，測試樣本xj的預(yù)測類別可W表 示為：
[0093]
[0094] 其中α是樣本X北勺預(yù)測類別置信度。
[0095] 步驟8、輸出待分類的極化SAR圖像的分類接骨拼圖和分類精度，根據(jù)訓(xùn)練樣本和 步驟7中已預(yù)測出類別的測試樣本，輸出待分類的極化SAR圖像的最終分類結(jié)果并計算本次 分類的精度。
[0096] (8a)利用分類器預(yù)測的樣本類別，對應(yīng)到極化SAR圖像上的每個像素點，將紅色、 綠色、藍色作為Ξ基色，按照Ξ基色上色法為每個像素點上色，輸出結(jié)果圖，參見圖2(f)。
[0097] (8b)將分類器預(yù)測的類別標(biāo)號與測試樣本真實的類別標(biāo)號進行對比，得出實驗的 分類正確率。
[0098] 本發(fā)明由于采用了深度學(xué)習(xí)的方法，利用深度稀疏濾波網(wǎng)絡(luò)來自主地學(xué)習(xí)極化 SAR圖像的特征，因而避免了傳統(tǒng)方法中人工學(xué)習(xí)特征的繁瑣，深度稀疏濾波網(wǎng)絡(luò)可W學(xué)習(xí) 到極化SAR圖像更為抽象本質(zhì)的特征，運些特征更加有利于極化SAR圖像的地物分類。
[0099] 本發(fā)明的效果可W通過仿真實驗具體說明：
[0100] 實施例7
[0101] 基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法同實施例1-6，
[0102] 1.實驗條件
[0103] 硬件平臺為：Intel(R)Core(TMH5-2410M CPU@2.30GHz、RAM 4.00GB;
[0104] 軟件平臺為:MATLAB R20Ub;
[0105] 實驗選用120X150的極化SAR地物仿真圖像進行測試，有18000個樣本點，每個樣 本點的維數(shù)為6維，類別數(shù)為9,標(biāo)記為Ci，i = l，2, . . .，9。實驗中，每類隨機選取1%的樣本 作為訓(xùn)練樣本，其余的為測試樣本。
[0106] 2.實驗內(nèi)容與結(jié)果
[0107] 本發(fā)明結(jié)合Softmax分類器對極化SAR地物仿真圖進行分類，在同樣實驗設(shè)置的前 提下與其它深度學(xué)習(xí)方法進行比較，其中為深度神經(jīng)網(wǎng)絡(luò)，圖2(c)是由對圖2(a)進 行分類的結(jié)果圖；實驗中還采用了SAE找式自編碼器，圖2(d)用SAE方法對圖2(a)進行分類 的結(jié)果圖；圖2(e)是采用DSF深度稀疏濾波網(wǎng)絡(luò)對圖2(a)進行分類的結(jié)果圖；SDSF為本發(fā)明 方法。表1為采用上述4種方法分別得到的極化SAR地物仿真圖像的地物分類精度和總體分 類精度。
[0108] 表1、各種方法在仿真圖上的地物分類精度（％ )和總體分類精度（％ )
[0109]
[0110] 從表1中可W看出，在訓(xùn)練樣本均為1 %的情況下，本發(fā)明與現(xiàn)有的深度學(xué)習(xí)方法 相比具有較高的分類精度。參見仿真實驗結(jié)果圖2,本發(fā)明具有更高的可視性。
[0111] 綜上所述，本發(fā)明提出的基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法改善 了傳統(tǒng)深度學(xué)習(xí)方法參數(shù)調(diào)節(jié)過多，對訓(xùn)練樣本要求較大的問題，能夠有效提高極化SAR圖 像的分類精度，而且在訓(xùn)練樣本較少的情況下也能得到較高的分類精度。
[0112] 本發(fā)明公開了一種基于半監(jiān)督稀疏濾波的半監(jiān)督深度學(xué)習(xí)方法。解決了傳統(tǒng)深度 學(xué)習(xí)方法參數(shù)調(diào)節(jié)復(fù)雜，在擁有較低標(biāo)簽數(shù)據(jù)時分類精度不高的技術(shù)問題，其步驟包括:1、 輸入待分類的極化SAR圖像數(shù)據(jù)，即極化SAR圖像的相干矩陣T，根據(jù)極化SAR圖像的地物分 布信息得到標(biāo)簽矩陣Y，由極化SAR圖像的相干矩陣T生成樣本矩陣X;2、提取訓(xùn)練樣本和測 試樣本，根據(jù)極化SAR圖像的樣本數(shù)據(jù)X和標(biāo)簽矩陣Y，隨機提取出L個訓(xùn)練樣本，Μ個測試樣 本;3、求訓(xùn)練樣本的Wishart近鄰樣本，在所有的樣本數(shù)據(jù)中，求取每個訓(xùn)練樣本xi( i = 1， 2. . .L)所對應(yīng)的Κ個Wishad近鄰樣本;4、初始化深度稀疏濾波網(wǎng)絡(luò)的參數(shù)，隨機初始化深 度稀疏濾波網(wǎng)絡(luò)的權(quán)重參數(shù)W，設(shè)定深度稀疏濾波網(wǎng)絡(luò)每層的節(jié)點數(shù);5、深度稀疏濾波網(wǎng)絡(luò) 預(yù)訓(xùn)練，將訓(xùn)練樣本及其對應(yīng)的Wishart近鄰樣本送入到深度稀疏濾波網(wǎng)絡(luò)中進行預(yù)訓(xùn)練， 采用逐層貪婪的預(yù)訓(xùn)練方法，前一層的輸出作為后一層的輸入，直到訓(xùn)練完最后一個隱層， 同時在每層的預(yù)訓(xùn)練中加入半監(jiān)督近鄰保持正則項，與稀疏濾波共同優(yōu)化網(wǎng)絡(luò)的權(quán)重;6、 深度稀疏濾波網(wǎng)絡(luò)微調(diào)，利用訓(xùn)練樣本及其標(biāo)簽信息，結(jié)合Softmax分類器對深度稀疏濾波 網(wǎng)絡(luò)進行微調(diào)，進一步優(yōu)化網(wǎng)絡(luò)的權(quán)重;7、對測試樣本進行類別預(yù)測，將測試樣本送入到深 度稀疏濾波網(wǎng)絡(luò)，利用Softmax分類器對測試樣本的類別標(biāo)簽進行預(yù)測，得到每個測試樣本 的預(yù)測類別;8、輸出待分類的極化SAR圖像的分類圖像和分類精度，根據(jù)訓(xùn)練樣本已預(yù)測出 類別的測試樣本，輸出待分類的極化SAR圖像的最終分類結(jié)果并計算分類的精度。
[0113] 本發(fā)明通過構(gòu)建新穎的深度稀疏濾波網(wǎng)絡(luò)模型，降低了深度學(xué)習(xí)網(wǎng)絡(luò)參數(shù)調(diào)節(jié)的 復(fù)雜度，并在預(yù)訓(xùn)練過程中加入半監(jiān)督近鄰保持正則項的方法，減少了訓(xùn)練樣本的個數(shù)，通 過借助少量的訓(xùn)練樣本提高了極化SAR圖像地物分類的正確率?？捎糜诃h(huán)境監(jiān)測、地球資源 勘測和軍事系統(tǒng)等應(yīng)用。
【主權(quán)項】
1. 本發(fā)明是一種基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在于，包括 如下步驟： (1) 輸入待分類的極化SAR圖像數(shù)據(jù)，即極化SAR圖像的相干矩陣T，根據(jù)極化SAR圖像的 地物分布信息得到標(biāo)簽矩陣Y，由極化SAR圖像的相干矩陣T生成樣本矩陣尤={X,}: ,Ν是樣 本的總個數(shù)，xi表示第i個樣本； (2) 提取訓(xùn)練樣本和測試樣本，根據(jù)極化SAR圖像的樣本數(shù)據(jù)X和標(biāo)簽矩陣Y，隨機提取 出L個訓(xùn)練樣本，Μ個測試樣本，其中L+M=N，根據(jù)所有樣本的類別信息，每類隨機選取1 %的 樣本作為訓(xùn)練樣本，其余的為測試樣本； (3) 求訓(xùn)練樣本的Wishart近鄰樣本，在所有的樣本數(shù)據(jù)中，求取每個訓(xùn)練樣本xi(i = l,2. · .L)所對應(yīng)的K個Wishart近鄰樣本xj(j = l,2. · ·Κ); (4) 初始化深度稀疏濾波網(wǎng)絡(luò)的基本參數(shù)，隨機初始化深度稀疏濾波網(wǎng)絡(luò)的權(quán)重參數(shù) W，設(shè)定深度稀疏濾波網(wǎng)絡(luò)每層的節(jié)點數(shù)； (5) 對深度稀疏濾波網(wǎng)絡(luò)預(yù)訓(xùn)練，將訓(xùn)練樣本及其對應(yīng)的Wishart近鄰樣本送入到深度 稀疏濾波網(wǎng)絡(luò)中進行預(yù)訓(xùn)練，采用逐層貪婪的預(yù)訓(xùn)練方法，前一層的輸出作為后一層的輸 入，直到訓(xùn)練完最后一個隱層，同時在每層的預(yù)訓(xùn)練中加入半監(jiān)督近鄰保持正則項，與稀疏 濾波器共同優(yōu)化網(wǎng)絡(luò)的權(quán)重； (6) 對深度稀疏濾波網(wǎng)絡(luò)微調(diào)，利用訓(xùn)練樣本及其標(biāo)簽信息，結(jié)合Softmax分類器對深 度稀疏濾波網(wǎng)絡(luò)進行微調(diào)，進一步優(yōu)化網(wǎng)絡(luò)的權(quán)重； (7) 對測試樣本進行類別預(yù)測，將測試樣本送入到深度稀疏濾波網(wǎng)絡(luò)，利用Softmax分 類器對測試樣本的類別標(biāo)簽進行預(yù)測，得到每個測試樣本的預(yù)測類別； (8) 輸出待分類的極化SAR圖像的分類結(jié)果圖和分類精度，根據(jù)訓(xùn)練樣本和已預(yù)測出類 別的測試樣本，輸出待分類的極化SAR圖像的最終分類結(jié)果并計算本次分類的精度。2. 根據(jù)權(quán)利要求1所述的基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在 于，步驟(3)所述的求每個訓(xùn)練樣本的Wishart近鄰樣本，是按如下步驟獲得： 3a、訓(xùn)練樣本矩陣為義={χ匕，利用下面的公式求取訓(xùn)練樣本和其它樣本之間的 Wishart 距離： d(xi,Xj) = ln((xi)_1Xj)+Tr((xj)_1Xi)-q(x=l,2, . . . ,L, j = 1,2, . . . ,Ν), 其中，Tr〇表示矩陣的跡，對于發(fā)送與接收是一體的雷達，由于互易性，q = 3;對于發(fā)送 與接收不是一體的雷達，q = 4; 3b、利用MATLAB中的sort函數(shù)，將3a中求得的Wishart距離d(xi，xj)按絕對值升序排列， 取前K個，找到與其對應(yīng)的前K個樣本，作為訓(xùn)練樣本Xi的Wishart近鄰樣本，記為： U(Xi) = {x],xf ,,,.,χι } .〇3. 根據(jù)權(quán)利要求1所述的基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在 于，步驟(4)中所述初始化深度網(wǎng)絡(luò)的參數(shù)為： 4a、深度稀疏濾波網(wǎng)絡(luò)的隱層數(shù)為3，每層的節(jié)點數(shù)分別為:25，100，50; 4b、初始化深度稀疏濾波網(wǎng)絡(luò)的權(quán)重是輸入信號的維數(shù)，Q是第一個隱層 的節(jié)點數(shù)。4. 根據(jù)權(quán)利要求1所述的基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在 于，其中步驟(5)所述的對深度稀疏濾波網(wǎng)絡(luò)的預(yù)訓(xùn)練過程為： 5a、輸入深度稀疏濾波網(wǎng)絡(luò)的預(yù)訓(xùn)練樣本，將訓(xùn)練樣本Xi及其對應(yīng)的K個Wishart近鄰樣 本:[/(七）={;^1，'2,...,1嚴}作為預(yù)訓(xùn)練樣本輸入到深度網(wǎng)絡(luò)中，1 = 1，2，...丄； 5b、利用第一個隱層學(xué)習(xí)新的樣本特征，將傳統(tǒng)的非線性sigmoid函數(shù)作為激活函數(shù)： Φ(ζ) = (1+ΘΧρ(-ζ))-Sxef1是輸入向量，則第一個隱層的輸出為:1η=Φ (WiTx)，第i個 樣本的輸出表示為hi (xi )，作為新的樣本特征； 5c、優(yōu)化網(wǎng)絡(luò)權(quán)重W，每一層稀疏濾波網(wǎng)絡(luò)利用LBFGS算法求解下面的目標(biāo)函數(shù)，從而優(yōu) 化網(wǎng)絡(luò)的權(quán)重W，目標(biāo)函數(shù)為：η 、 其中，目標(biāo)函數(shù)中的| 為稀疏濾波目標(biāo)函數(shù)，Σ為/|^(七)-~(勺|為半監(jiān)督 ' /.戶 i 近鄰保持正則項，參照流形學(xué)習(xí)的方法利用樣本之間的近鄰關(guān)系來優(yōu)化網(wǎng)絡(luò)的結(jié)構(gòu)，λ為正 則項參數(shù)，l ( j，U(Xi)表示訓(xùn)練樣本Xi對應(yīng)的Wishart近鄰樣本集合。 5d、貪婪算法訓(xùn)練其余隱層，將5b中學(xué)習(xí)到的新的樣本特征In作為新的輸入送到下一 層，利用貪婪學(xué)習(xí)算法，將上一層的輸出作為下一層的輸入，利用5c中的目標(biāo)函數(shù)LKW)依 次優(yōu)化每個隱層的權(quán)重W，直到訓(xùn)練完最后一個隱層，樣本^通過最后一個隱層的輸出可以 表不為h3(Xi)。5.根據(jù)權(quán)利要求1所述的基于半監(jiān)督深度稀疏濾波網(wǎng)絡(luò)的極化SAR分類方法，其特征在 于，步驟(6)所述的對深度稀疏濾波網(wǎng)絡(luò)的微調(diào)，有如下目標(biāo)函數(shù)：其中 是均方誤差項，ΣΙΚΙ是權(quán)重衰減項，權(quán)重衰減項的目的在 U. 于減少權(quán)重的幅度，防止過擬合，yl表示訓(xùn)練樣本X1對應(yīng)的類別標(biāo)簽，h(xl)是將訓(xùn)練樣本 X1 經(jīng)過整個深度網(wǎng)絡(luò)后學(xué)習(xí)到的特征h3(Xl)，送到Softmax分類器中得到的輸出，β = 3θ-3為權(quán) 重衰減參數(shù)； 利用梯度下降算法求解上述目標(biāo)函數(shù)L2(w)，進一步優(yōu)化稀疏濾波網(wǎng)絡(luò)的權(quán)重W，實現(xiàn)整 個網(wǎng)絡(luò)的微調(diào)。
【文檔編號】G06K9/62GK106067042SQ201610415914
【公開日】2016年11月2日
【申請日】2016年6月13日 公開號201610415914.3, CN 106067042 A, CN 106067042A, CN 201610415914, CN-A-106067042, CN106067042 A, CN106067042A, CN201610415914, CN201610415914.3
【發(fā)明人】劉紅英, 閔強, 楊淑媛, 焦李成, 慕彩虹, 熊濤, 王桂婷, 馮婕, 朱德祥
【申請人】西安電子科技大學(xué)