一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方法
【專利摘要】本發(fā)明公開了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜?空間降維方法，首先，鑒于直接使用高波段的張量數(shù)據(jù)會使得深度卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)空間大幅度增加，引入最大似然本征維估計算法和主成分分析對歸一化高光譜圖像的波段維進(jìn)行降維，得到低波段的高光譜圖像；然后，通過窗口領(lǐng)域，將低波段高光譜圖像轉(zhuǎn)化為張量型低波段高光譜圖像，保持每個像素點的光譜和空間信息；最后，利用深度卷積神經(jīng)網(wǎng)絡(luò)對張量型低波段高光譜圖像進(jìn)行光譜?空間降維，使得降維后的特征同時包括光譜信息和空間信息。本發(fā)明能有效地利用高光譜數(shù)據(jù)的光譜特征和空間領(lǐng)域特征獲得較高的整體分類精度和Kappa系數(shù)。
【專利說明】
-種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間 降維方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明屬于高光譜遙感圖像處理技術(shù)領(lǐng)域，具體設(shè)及一種基于深度卷積神經(jīng)網(wǎng)絡(luò) 的張量型高光譜圖像光譜-空間降維方法。
【背景技術(shù)】
[0002] 近年來，隨著遙感技術(shù)的快速發(fā)展，獲取高精度、高分辨率的遙感影像已經(jīng)變得非 常容易，高光譜影像傳感器收集到的高光譜圖像能夠提供豐富的波段信息和空間信息，具 有較強的地物判別能力，因此被廣泛應(yīng)用于環(huán)境監(jiān)測、植被分類、農(nóng)作物長勢監(jiān)測等領(lǐng)域。 對高光譜遙感影像中的每個像素點進(jìn)行分類是運些應(yīng)用中常見的方法之一。近年來，機(jī)器 學(xué)習(xí)領(lǐng)域中一些基于判別的方法由于其具有較強的處理高維、小樣本數(shù)據(jù)的能力，而被成 功應(yīng)用到高光譜圖像分類中，如多項式邏輯回歸、支持向量機(jī)(Suppod Vector Machines， SVM)等。然而，豐富的波段信息存在大量的冗余，有研究表明，直接使用原始高維數(shù)據(jù)，不僅 計算量極大，而且會降低分類精度。因此，如何有效降低高光譜圖像的維數(shù)成為分類工作中 的一個重要問題。常見的高光譜降維算法包括波段提取和波段選擇。
[0003] 直接由傳感器獲取的原始高光譜圖像是W=維形式存儲，包括兩維的空間信息 (寬度和高度)和一維的波段信息，在對運些原始高光譜圖像進(jìn)行降維和分類之前，一般先 將其轉(zhuǎn)化為向量型數(shù)據(jù)和張量型數(shù)據(jù)兩種形式。早期的降維算法主要使用的是向量型數(shù) 據(jù)，W高光譜圖像為例，需要首先把=維的高光譜圖像轉(zhuǎn)化為一維的向量形式，再進(jìn)行降 維、分類，運種思路僅使用了高光譜圖像的波段特征，而忽略了空間信息。典型的向量型降 維算法包括主成分分析(PCA)、線性判別分析、局部保持投影等，盡管高光譜圖像具有豐富 的波段信息，能夠在一定程度上對高光譜圖像進(jìn)行表示，但運種思路仍存在著固有的缺陷： 1)運種思路是基于"相鄰像素點相互獨立"運一假設(shè)，而高光譜圖像相鄰像素點之間具有較 強的相關(guān)性，故運一假設(shè)不成立;2)將=維的高光譜圖像轉(zhuǎn)化為一維的向量型數(shù)據(jù)會破壞 圖像內(nèi)部的結(jié)構(gòu)，從而導(dǎo)致信息的丟失;3)將高光譜圖像向量化之后會導(dǎo)致"維數(shù)災(zāi)難"的 問題等。針對運些問題，近年來，一些基于張量型數(shù)據(jù)的降維算法被相繼提出，如多線性主 成分分析，多線性判別分析等。
[0004] 深度學(xué)習(xí)是目前機(jī)器學(xué)習(xí)領(lǐng)域最流行的研究方向之一，能夠?qū)W習(xí)到數(shù)據(jù)的深層高 級特征，具有比淺層算法更強大的非線性表示能力。如，找式自動編碼器憑借其多隱層的結(jié) 構(gòu)來挖掘數(shù)據(jù)的深層最優(yōu)特征，深度卷積神經(jīng)網(wǎng)絡(luò)(DCNN)通過對局部區(qū)域進(jìn)行多種濾波方 式來學(xué)習(xí)強魯棒性的特征等。使用深度學(xué)習(xí)方法提取到的特征，能夠較大程度提高分類精 度。近年來，已有一些學(xué)者將深度學(xué)習(xí)方法應(yīng)用到高光譜圖像分類中。如，化en等分別使用 深度信念網(wǎng)絡(luò)和找式自動編碼器對高光譜圖像進(jìn)行特征提取并通過分類器進(jìn)行分類，實驗 結(jié)果表明，相比淺層算法提取的特征，深度學(xué)習(xí)方法提取到的特征能夠獲得更高的分類精 度。但運些思路使用的都是向量型數(shù)據(jù)。
[0005] DO^N作為深度學(xué)習(xí)方法中最典型的模型之一，具有：1)權(quán)值共享，所需訓(xùn)練的參數(shù) 較少;2)相鄰兩層間的神經(jīng)元局部連接，能夠挖掘像素間的近鄰關(guān)系;3)學(xué)習(xí)到的特征具有 位移不變性等特點。被廣泛應(yīng)用于圖像分類、行人檢測、目標(biāo)識別等領(lǐng)域。LeNe巧為歷史上 首個成功訓(xùn)練的DC順，并被成功應(yīng)用到手寫體數(shù)字識別中，并取得了較高的識別精度。 Krizhevsky等沿用LeNetS的結(jié)構(gòu)模式，并在其基礎(chǔ)上對模型的層數(shù)及參數(shù)進(jìn)行大規(guī)模增 加，并通過引入新的激活函數(shù)和化opout等技巧，利用Image化t LSVRC-2010數(shù)據(jù)集成功訓(xùn) 練了首個大規(guī)模DC順。如何合理利用DC順來對高光譜圖像進(jìn)行復(fù)雜的非線性映射，從而提 取到深度特征，成為高光譜降維研究領(lǐng)域的一個重要問題?；仁状螌O^N引入高光譜圖 像分類任務(wù)中，但其工作是在向量型數(shù)據(jù)的基礎(chǔ)上，采用ID的卷積模式，運種思路不僅沒有 考慮高光譜圖像的空間信息，而且不能充分發(fā)揮DO^N的特征提取能力。Yue等使用2D-DO^N， 同時考慮高光譜圖像的空間信息和波段信息，提出一種基于DC順的高光譜降維思路:分別 計算高光譜圖像的空間特征圖和波段特征圖，然后將兩種特征圖同時作為DC順的輸入數(shù) 據(jù)，進(jìn)行特征提取和分類，但是運種思路是將空間特征和波段特征分開處理。

【發(fā)明內(nèi)容】

[0006] 發(fā)明目的：為了克服現(xiàn)有技術(shù)中存在的不足，本發(fā)明提供一種基于深度卷積神經(jīng) 網(wǎng)絡(luò)的張量型高光譜圖像降維算法，使得降維后的特征同時包括光譜信息和空間信息。
[0007] 技術(shù)方案:為實現(xiàn)上述目的，本發(fā)明采用的技術(shù)方案為：
[0008] -種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方法，包括如下 步驟：
[0009] 步驟1，對原始高光譜圖像進(jìn)行歸一化；
[0010] 步驟2,用最大似然本征維估計算法計算歸一化高光譜圖像的波段本征維n;
[0011] 步驟3,用主成分分析將歸一化高光譜圖像的波段數(shù)降至n，得到低波段高光譜圖 像；
[0012] 步驟4,通過窗口領(lǐng)域，將低波段高光譜圖像轉(zhuǎn)化為張量型低波段高光譜圖像Z; [001引步驟5，將Z劃分成訓(xùn)練集Ztrain與測試集Ztest;
[0014]步驟6,用訓(xùn)練集Ztrain訓(xùn)練深度卷積神經(jīng)網(wǎng)絡(luò)，得到最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型 DCNNoptimal ；
[001引步驟7，用最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型DCNNoptima謝訓(xùn)練集Ztrain和現(xiàn)聯(lián)集Ztest進(jìn)行 特征提取，得到原始高光譜圖像的低維光譜-空間訓(xùn)練集特征Ztrain和測試集特征Ztest;
[0016] 步驟8,用訓(xùn)練集特征Ztrain及訓(xùn)練集標(biāo)簽Ytrain訓(xùn)練支持向量機(jī)，得到分類器 SVMoptimal ；
[0017] 步驟9,用分類器SVMoptimal對測試集特征Ztest進(jìn)行預(yù)測，得到預(yù)測標(biāo)簽Ypreidicto [001引進(jìn)一步的，所述步驟1中，給定原始高光譜圖像X =耗，:…，義,，...，^^}€扱心"，1 = 1， 2,…N，xi表示第i個高光譜圖像，其中m為原始高光譜圖像的維數(shù)，N為原始高光譜圖像的個 數(shù)，歸一化采用的計算方法為：
[0019]
[0020] 式中，X/表示第i個歸一化高光譜圖像，XU表示第i個歸一化高光譜圖像中第j維 的值，min( ?)表示取最小值計算，max( ?)表示取最大值計算；得到歸一化高光譜圖像 .r = Ui'，…，.y;，..,V}e]rwx"'。
[0021] 進(jìn)一步的，所述步驟3中，給定歸一化高光譜圖像JT =林1'，…，乂,'，...，乂%'^化"<"'，首 先計算給定歸一化高光譜圖像的總體協(xié)方差矩陣Scdv:
[0022]
[0023] 式中，y表示歸一化高光譜圖像的均值；
[0024] 主成分分析的目的是使得投影后的協(xié)方差最大化，則其目標(biāo)函數(shù)為：
[0025]
[0026] s.t. WpcaTWpca= I
[0027] 式中，Wpca為特征投影矩陣，I為單位矩陣;假設(shè)入為Sedv的秩，則：
[002引 Scov =入 Wpca;
[0029] 設(shè)、,人2 ,…,人n為上式中前n個最大特征值，對應(yīng)的特征向量為WPCAl ,WPCA2 ,…,WPCAn, 則采用主成分分析對歸一化高光譜圖像公進(jìn)行主成分特征提取，得到：
[0030] X" = ( WPCAi，WPCA2，…，WPCAn) Tx' = WpcaTx'
[003。 式中，X" e扱V、"表示經(jīng)過主成分分析后的低波段高光譜圖像。
[0032] 進(jìn)一步的，所述步驟4中，張量型低波段高光譜圖像采用W下=階張量表示：
[0033]
[0034] 式中，F(xiàn)i和F2分別表示單一波段的高光譜圖像的高度和寬度;針對高光譜圖像的特 點，選取目標(biāo)像素四周近鄰8個像素組成張量表示形式，張量型數(shù)據(jù)的標(biāo)簽為目標(biāo)像素對應(yīng) 的標(biāo)簽，張量型低波段高光譜圖像為：
[0035]
[0036] 式中，F(xiàn)i = F2 =化+1 = 17,6 = 8，1《?！丁?，1《'2《。2^1^2分別為。1和。2的序號索 引。
[0037] 進(jìn)一步的，所述步驟5中，劃分訓(xùn)練集Ztrain與測試集Ztest,設(shè)人工給定的訓(xùn)練集樣 本個數(shù)占樣本總數(shù)的比例為T，在所有張量型低波段高光譜圖像中，隨機(jī)選取TN個張量型低 波段高光譜圖像作為訓(xùn)練集Ztrain, (I-T)N個張量型低波段高光譜圖像作為測試集Ztest;N為 原始高光譜圖像的個數(shù)。
[0038] 進(jìn)一步的，所述步驟6中，利用訓(xùn)練集Ztrain訓(xùn)練屯層深度卷積神經(jīng)網(wǎng)絡(luò)，其中屯層 結(jié)構(gòu)分別為：
[0039] 第一層：輸入層II，深度卷積神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)為訓(xùn)練集Ztrain和訓(xùn)練集標(biāo)簽 Ytrain;
[0040] 第二層:卷積層C2，設(shè)定30個特征圖，卷積核大小為4 X 4;
[0041 ]第=層:最大降采樣層P3，設(shè)定降采樣窗口大小為2 X 2，步長為2;
[0042] 第四層:卷積層C4,設(shè)定30個特征圖，卷積核大小為4X4;
[0043] 第五層:最大降采樣層P5，設(shè)定降采樣窗口大小為2 X 2，步長為2;
[0044] 第六層:卷積層C6，設(shè)定30個特征圖，卷積核大小為2 X 2;
[0045] 第屯層：Soft-max 層；
[0046] 訓(xùn)練過程為：
[0047] 步驟6.1，隨機(jī)初始化卷積核W和偏置b，前向計算，得到實際輸出值r;
[004引步驟6 . 2，計算訓(xùn)練集輸出標(biāo)簽與訓(xùn)練集標(biāo)簽Ytrain的均方誤差
[0049] 步驟6.3,計算均方誤差對卷積核W的梯度^和均方誤差對偏置b的梯度 dfV OD
[0050] 步驟6.4，通過梯度下降算法調(diào)整卷積核和偏置，公式為：
[0化1 ]
[0化2]
[0053] 式中，W勺日護(hù)分別表示調(diào)整更新后的卷積核和偏置，a為學(xué)習(xí)率；
[0054] 步驟6.5，循環(huán)執(zhí)行步驟6.2、6.3和6.4 =個步驟10000次，得到最優(yōu)深度卷積神經(jīng) 網(wǎng)絡(luò)模型DCNNoptimalo
[0055] 有益效果:本發(fā)明的一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像降維算法， 鑒于直接使用高波段的張量數(shù)據(jù)會使卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)空間大幅度增加，引入最大似然 本征維估計(MLE)算法和主成分分析(PCA)對高光譜圖像的波段維進(jìn)行降維;然后，通過窗 口領(lǐng)域?qū)⒏吖庾V圖像轉(zhuǎn)化為張量形式，保持每個像素點的光譜和空間信息;最后，利用DCNN 對張量型高光譜圖像進(jìn)行光譜-空間降維，使得降維后的特征同時包括光譜信息和空間信 息。
[0056] 本方法結(jié)合高光譜圖像的張量表示和DC順的優(yōu)勢，具有如下優(yōu)點：（1)保持像素點 光譜-空間領(lǐng)域信息。通過窗口領(lǐng)域能夠很好的保持每個像素的原始空間位置及結(jié)構(gòu)。（2) 通過綜合使用MLE和PCA降低高光譜圖像的波段，從而減少原始高光譜圖像中存在的波段冗 余。（3)通過DO^腳是取張量型高光譜圖像的深層、高級、低維特征，使得到的特征具有更強的 判別能力。（4)所提算法能有效地利用高光譜圖像的空間領(lǐng)域特征和光譜特征獲得較高的 整體分類精度和Kappa系數(shù)。
【附圖說明】
[0057] 圖1為基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方法的流程圖。
【具體實施方式】
[005引下面結(jié)合附圖對本發(fā)明作更進(jìn)一步的說明。
[0059]如圖1所示，一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方 法，首先，鑒于直接使用高波段的張量數(shù)據(jù)會使深度卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)空間大幅度增加， 引入最大似然本征維估計算法和主成分分析對高光譜圖像的波段進(jìn)行降維;然后，通過窗 口領(lǐng)域?qū)⒏吖庾V圖像轉(zhuǎn)化為張量形式，保持每個像素點的光譜和空間信息;最后，利用深度 卷積神經(jīng)網(wǎng)絡(luò)對張量型高光譜圖像進(jìn)行光譜-空間降維，使得降維后的特征同時包括光譜 信息和空間信息。具體步驟如下：
[0060] 步驟1，對原始高光譜圖像進(jìn)行歸一化：
[0061] 給定原始高光譜圖像義=知，…，和...，Xw}e膠""*，1 = 1，2^.禮義1表示第1個高光 譜圖像，其中m為原始高光譜圖像的維數(shù)，N為原始高光譜圖像的個數(shù)，歸一化采用的計算方 法為：
[0062]
[0063] 式中，X/表示第i個歸一化高光譜圖像，XU表示第i個歸一化高光譜圖像中第j維 的值，min( ?)表示取最小值計算，max( ?)表示取最大值計算；得到歸一化高光譜圖像 義'=林;，...,單',...，方"'}居瓜趴》。
[0064] 步驟2,用最大似然本征維估計算法計算歸一化高光譜圖像公的波段本征維n。
[0065] 步驟3,用主成分分析將歸一化高光譜圖像r的波段數(shù)降至n，得到低波段高光譜 圖像X":
[0066] 首先計算歸一化高光譜圖像公的總體協(xié)方差矩陣Scdv:
[0067]
[0068] 式中，去'表示歸一化高光譜圖像的均值；
[0069] 主成分分析的目的是使得投影后的協(xié)方差最大化，則其目標(biāo)函數(shù)為：
[0070]
[0071] s.t. WpcaTWpca= I
[0072] 式中，Wpca為特征投影矩陣，I為單位矩陣;約束條件WpcaTWpca= I的目的是防止協(xié)方 差的無限增大；由于Scdv為非負(fù)定對稱矩陣，由非負(fù)定矩陣的譜分解定理可知，假設(shè)A為Scdv 的秩，則：
[007；3] Scov = AWpca;
[0074] 設(shè)、,人2 ,…,人n為上式中前n個最大特征值，對應(yīng)的特征向量為WPCAl ,WPCA2 ,…,WPCAn, 則采用主成分分析對歸一化高光譜圖像公進(jìn)行主成分特征提取得到：
[007引 X" = ( WPCAi，WPCA2，…，WPCAn) Tx' = WpcaTx'
[0076] 式中，若'G吸Wxk表示經(jīng)過主成分分析后的低波段高光譜圖像。
[0077] 步驟4,通過窗口領(lǐng)域，將低波段高光譜圖像X"轉(zhuǎn)化為張量型低波段高光譜圖像Z:
[0078] 張量型低波段高光譜圖像采用W下=階張量表示：
[0079] Z e IR巧 X 6 X"
[0080] 式中，F(xiàn)i和F2分別表示單一波段的高光譜圖像的高度和寬度;針對高光譜圖像的特 點，選取目標(biāo)像素四周近鄰8個像素組成張量表示形式，張量型數(shù)據(jù)的標(biāo)簽為目標(biāo)像素對應(yīng) 的標(biāo)簽，包括訓(xùn)練集標(biāo)簽和測試集標(biāo)簽;可W看出，運種表示方法可W同時包含高光譜圖像 的空間信息和光譜波段信息;張量型低波段高光譜圖像為：
[0081]
[0082] 式中，F(xiàn)i = F2 =化+1 = 17,6 = 8，1《。《尸1，1《'2《尸2，。^2分別為尸1和尸2的序號索 引。
[0083] 步驟5,將Z劃分成訓(xùn)練集Ztrain與測試集Ztest:
[0084] 設(shè)人工給定的訓(xùn)練集樣本個數(shù)占樣本總數(shù)的比例為T，在所有張量型低波段高光 譜圖像中，隨機(jī)選取TN個張量型低波段高光譜圖像作為訓(xùn)練集Ztrain, (I-T)N個張量型低波 段高光譜圖像作為測試集Ztest;N為原始高光譜圖像的個數(shù)。
[0085] 步驟6,用訓(xùn)練集Ztrain訓(xùn)練深度卷積神經(jīng)網(wǎng)絡(luò)，得到最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型 DCNNoptimal ：
[0086] 利用訓(xùn)練集Ztrain訓(xùn)練屯層深度卷積神經(jīng)網(wǎng)絡(luò)，其中屯層結(jié)構(gòu)分別為：
[0087] 第一層：輸入層II，深度卷積神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)為訓(xùn)練集Ztrain和訓(xùn)練集標(biāo)簽 Ytrain ；
[0088] 第二層:卷積層C2,設(shè)定30個特征圖，卷積核大小為4X4;
[0089] 第=層:最大降采樣層P3，設(shè)定降采樣窗口大小為2 X 2，步長為2;
[0090] 第四層:卷積層C4,設(shè)定30個特征圖，卷積核大小為4X4;
[0091] 第五層:最大降采樣層P5，設(shè)定降采樣窗口大小為2 X 2，步長為2;
[0092] 第六層:卷積層C6，設(shè)定30個特征圖，卷積核大小為2 X 2;
[0093] 第屯層：Soft-max 層；
[0094] 訓(xùn)練過程為：
[0095] 步驟6.1，隨機(jī)初始化卷積核W和偏置b，前向計算，得到實際輸出值F，
[0096] 步驟6 . 2，計算訓(xùn)練集輸出標(biāo)簽fw。與訓(xùn)練集標(biāo)簽Y t r a i n的均方誤差
,、。 一'廠,
[0097] 步驟6.3,計算均方誤差對卷積核W的梯度和均方誤差對偏置b的梯度 dW 如
[0098] 步驟6.4，通過梯度下降算法調(diào)整卷積核和偏置，公式為：
[0099]
[0100]
[0101] 式中，W*和b*分別表示調(diào)整更新后的卷積核和偏置，a為學(xué)習(xí)率；
[0102] 步驟6.5，循環(huán)執(zhí)行步驟6.2、6.3和6.4S個步驟10000次，，即對深度卷積神經(jīng)網(wǎng)絡(luò) 中的卷積核和偏置更新10000次，得到最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型DCNNoptimal。
[010引步驟7，用最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型DC順。Ptimal對訓(xùn)練集Ztrain和測試集Ztest進(jìn)行 特征提取，得到原始高光譜圖像的低維光譜-空間訓(xùn)練集特征Ztrain和測試集特征Ztest。
[0104]步驟8,用訓(xùn)練集特征Ztrain及訓(xùn)練集標(biāo)簽Ytrain訓(xùn)練支持向量機(jī)，得到分類器 SVMoptimal O
[01化]步驟9,用分類器SVMDPtimal對測試集特征Ztest進(jìn)行預(yù)測，得到預(yù)測標(biāo)簽Ypreidicto [0106] W上所述僅是本發(fā)明的優(yōu)選實施方式，應(yīng)當(dāng)指出：對于本技術(shù)領(lǐng)域的普通技術(shù)人 員來說，在不脫離本發(fā)明原理的前提下，還可W做出若干改進(jìn)和潤飾，運些改進(jìn)和潤飾也應(yīng) 視為本發(fā)明的保護(hù)范圍。
【主權(quán)項】
1. 一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方法，其特征在于， 包括如下步驟： 步驟1，對原始高光譜圖像進(jìn)行歸一化； 步驟2，用最大似然本征維估計算法計算歸一化高光譜圖像的波段本征維η; 步驟3,用主成分分析將歸一化高光譜圖像的波段數(shù)降至η，得到低波段高光譜圖像； 步驟4，通過窗口領(lǐng)域，將低波段高光譜圖像轉(zhuǎn)化為張量型低波段高光譜圖像Z; 步驟5，將Z劃分成訓(xùn)練集Ztrain與測試集Ztest; 步驟6,用訓(xùn)練集Ztrain訓(xùn)練深度卷積神經(jīng)網(wǎng)絡(luò)，得到最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型 DCNNoptimal ; 步驟7，用最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò)模型DCNNciptimal對訓(xùn)練集Ztrain和測試集Z test進(jìn)行特征 提取，得到原始高光譜圖像的低維光譜-空間訓(xùn)練集特征Ztrain和測試集特征Ztest; 步驟8,用訓(xùn)練集特征Ztrain及訓(xùn)練集標(biāo)簽Ytrain訓(xùn)練支持向量機(jī)，得到分類器SVM ciptimaI; 步驟9,用分類器SVMciptimal對測試集特征Ztest進(jìn)行預(yù)測，得到預(yù)測標(biāo)簽Y pre3ldlC^2. 根據(jù)權(quán)利要求1所述一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降 維方法，其特征在于:所述步驟1中，給定原始高光譜圖像I ,…，％，…,λλ.}εΚλ，χ，，，,? = 1, 2,…N，Xl表示第i個高光譜圖像，其中m為原始高光譜圖像的維數(shù)，N為原始高光譜圖像的個 數(shù)，胂一仆糶田的i+笪方法為.式中，x/表示第i個歸一化高光譜圖像，Xlj表示第i個歸一化高光譜圖像中第j維的值， min( ·)表示取最小值計算，max( ·)表示取最大值計算；得到歸一化高光譜圖像3. 根據(jù)權(quán)利要求1或2所述一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間 降維方法，其特征在于:所述步驟3中，給定歸一化高光譜圖像X'=丨<,…，#r··,·%'丨， 首先計筧給定歸一化高光譜圖像的總體協(xié)方差矩陣S cciv:式中，史表示歸一化高光譜圖像的均值； 主成分分析的目的是使得投影后的協(xié)方差最大化，則其目標(biāo)函數(shù)為：式中，WpeA為特征投影矩陣，I為單位矩陣;假設(shè)λ為3_的秩，則: Scov=^Wpca; 設(shè)入1，入2，…，λη為上式中前η個最大特征值，對應(yīng)的特征向量為WPCAl ,WPCA2，…，WPCAn，貝丨J米 用 I r+t ZV ZV 士 C 士μ I 卜I 一/U古 Uitfepyl /&V/ 廿仁 I r+t/V 特征提取得至 Ij .式中，JT e 表示經(jīng)過主成分分析后的低波段高光譜圖像。4. 根據(jù)權(quán)利要求3所述一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降 維方法，其特征在于:所述步驟4中.1量酒低湞段高普圖像采用以下三階張量表示：式中，F(xiàn)jPF2分別表示單一波段的高光譜圖像的高度和寬度;針對高光譜圖像的特點， 選取目標(biāo)像素四周近鄰8個像素組成張量表示形式，張量型數(shù)據(jù)的標(biāo)簽為目標(biāo)像素對應(yīng)的 標(biāo)簽，張量型低波段高光譜圖像為：式中，F(xiàn)1 = F2 = 2b+l = 17，b = 8，l彡f1彡F1，l彡f2彡F2，f 1、f2分別為F1和F2的序號索引。5. 根據(jù)權(quán)利要求1或2或4所述一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降維方法，其特征在于:所述步驟5中，劃分訓(xùn)練集Z train與測試集Ztest，設(shè)人工給定的訓(xùn) 練集樣本個數(shù)占樣本總數(shù)的比例為τ，在所有張量型低波段高光譜圖像中，隨機(jī)選取τΝ個張 量型低波段高光譜圖像作為訓(xùn)練集Z train, (Ι-τ)Ν個張量型低波段高光譜圖像作為測試集 Ztest;N為原始高光譜圖像的個數(shù)。6. 根據(jù)權(quán)利要求5所述一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的張量型高光譜圖像光譜-空間降 維方法，其特征在于:所述步驟6中，利用訓(xùn)練集Z train訓(xùn)練七層深度卷積神經(jīng)網(wǎng)絡(luò)，其中七層 結(jié)構(gòu)分別為： 第一層:輸入層11，深度卷積神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)為訓(xùn)練集Ztrain和訓(xùn)練集標(biāo)簽Ytrain; 第二層:卷積層C2，設(shè)定30個特征圖，卷積核大小為4 X 4; 第三層:最大降采樣層P3，設(shè)定降采樣窗口大小為2 X 2，步長為2; 第四層:卷積層C4，設(shè)定30個特征圖，卷積核大小為4 X 4; 第五層:最大降采樣層P5，設(shè)定降采樣窗口大小為2 X 2，步長為2; 第六層:卷積層C6，設(shè)定30個特征圖，卷積核大小為2 X 2; 第七層:Soft-max層； 訓(xùn)練過程為： 步驟6.1，隨機(jī)初始化卷積核W和偏置b，前向計算，得到實際輸出值F ; 步驟6.2，計算訓(xùn)練集輸出標(biāo)簽與訓(xùn)練集標(biāo)簽Ytrain的均方誤差步驟6.3，計算均方誤差對卷積核W的梯，和均方誤差對偏置b的梯j 步驟6.4，通過梯度下降算法調(diào)整卷積核和偏置，公式為：式中，和#分別表示調(diào)整更新后的卷積核和偏置，α為學(xué)習(xí)率； 步驟6.5,循環(huán)執(zhí)行步驟6.2、6.3和6.4三個步驟10000次，得到最優(yōu)深度卷積神經(jīng)網(wǎng)絡(luò) 模型 DCNNciptimaI 〇
【文檔編號】G06T3/00GK106023065SQ201610321578
【公開日】2016年10月12日
【申請日】2016年5月13日
【發(fā)明人】王雪松, 孔毅, 程玉虎
【申請人】中國礦業(yè)大學(xué)