基于相關(guān)向量機(jī)的高光譜影像模糊分類方法及裝置制造方法
【專利摘要】本發(fā)明公開(kāi)了一種基于相關(guān)相量機(jī)的高光譜影像模糊分類方法及裝置,其中方法包括以下步驟:確定訓(xùn)練樣本集,利用稀疏貝葉斯分類模型,選擇核函數(shù),建立相關(guān)向量機(jī)分類預(yù)測(cè)模型;針對(duì)所述訓(xùn)練樣本集,采用一對(duì)一法構(gòu)造多類相關(guān)相量機(jī)分類器,通過(guò)交叉驗(yàn)證優(yōu)化分類器參數(shù);利用所述多類相關(guān)向量機(jī)分類器對(duì)高光譜影像進(jìn)行模糊分類。本發(fā)明提出的基于相關(guān)向量機(jī)(RVM)的高光譜影像模糊分類方法中,采用序列稀疏貝葉斯學(xué)習(xí)算法提高RVM訓(xùn)練速度,針對(duì)一對(duì)一法構(gòu)造的多類RVM分類器,將兩兩配對(duì)的概率輸出轉(zhuǎn)化為相對(duì)于地物類別的隸屬度。與SVM比較,RVM參數(shù)選擇簡(jiǎn)單、分類速度快;利用模糊隸屬度能夠標(biāo)識(shí)混合像元,有效提高影像分類的可靠性。
【專利說(shuō)明】基于相關(guān)向量機(jī)的高光譜影像模糊分類方法及裝置
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及高光譜遙感【技術(shù)領(lǐng)域】,尤其涉及一種基于相關(guān)相量機(jī)(RVM)的高光譜影像模糊分類方法及裝置。
【背景技術(shù)】
[0002]高光譜影像具有豐富的地物光譜信息,與全色、多光譜影像相比,在地物識(shí)別方面具有巨大的優(yōu)勢(shì)。高光譜影像記錄的光譜范圍寬、光譜分辨率高,能夠獲取地物精細(xì)的光譜曲線,從中能夠很好地提取目標(biāo)的輻射特性參量,使地表目標(biāo)的定量分析成為可能。高光譜遙感已經(jīng)成為植被調(diào)查、海洋遙感、農(nóng)業(yè)遙感、環(huán)境監(jiān)測(cè)、軍事情報(bào)獲取等領(lǐng)域新的重要技術(shù)手段。
[0003]高光譜遙感成像機(jī)理復(fù)雜,成像光譜儀定標(biāo)、大氣福射校正、地物光譜重建等預(yù)處理技術(shù)尚未完善。地物光譜曲線的近乎連續(xù),也導(dǎo)致高光譜影像數(shù)據(jù)量大、波段相關(guān)性強(qiáng)、數(shù)據(jù)冗余嚴(yán)重。在不同季節(jié)、不同時(shí)刻、不同環(huán)境下,同類地物的光譜曲線也會(huì)有所不同。高光譜影像分類識(shí)別要解決是高維特征空間海量數(shù)據(jù)的非線性可分問(wèn)題。因此,高光譜影像給地物精細(xì)分類識(shí)別帶來(lái)了巨大機(jī)遇,也給傳統(tǒng)影像分類方法帶來(lái)了挑戰(zhàn)。
[0004]高光譜影像地物識(shí)別有一類研究方法是基于對(duì)光譜曲線的分析。基于地物光譜庫(kù)的光譜匹配分類方法原理直觀、計(jì)算簡(jiǎn)單,但前提是必須對(duì)高光譜影像進(jìn)行準(zhǔn)確的地物光譜重建,否則將會(huì)嚴(yán)重影響地物分類的精度。由于高光譜影像的空間分辨率較低,混合像元大量存在,混合像元分解中端元光譜的選擇、解混模型的建立和求解都是有待解決的問(wèn)題。
[0005]高光譜影像地 物識(shí)別另一類研究方法是進(jìn)行模式分類。傳統(tǒng)統(tǒng)計(jì)模式識(shí)別方法,例如貝葉斯分類、神經(jīng)網(wǎng)絡(luò)等,大多是基于經(jīng)典統(tǒng)計(jì)理論的大數(shù)定理,泛化能力需要以樣本數(shù)量趨近無(wú)窮大來(lái)描述,對(duì)于有限訓(xùn)練樣本集的高光譜影像分類時(shí),會(huì)遇到“維數(shù)災(zāi)難”現(xiàn)象。高光譜影像降維通常采用線性特征提取方法,這也可能會(huì)降低樣本的可分性。模糊分類是針對(duì)不確定性的“軟”分類器,是高光譜影像分類的一個(gè)重要趨勢(shì),它以模糊集合論作為基礎(chǔ),有別于普通集合論中地物歸屬的絕對(duì)化,在分析地物的隸屬關(guān)系時(shí),一般需要按照某種數(shù)學(xué)模型計(jì)算它對(duì)于所有地物類別的隸屬度,然后根據(jù)隸屬度的大小,確定其歸屬。
[0006]目前,許多學(xué)者對(duì)基于支持向量機(jī)(Support Vector Machine, SVM)的高光譜影像分類進(jìn)行了研究。SVM基于統(tǒng)計(jì)學(xué)習(xí)理論的結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則,通過(guò)最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)和置信范圍提高算法的泛化能力。SVM的數(shù)學(xué)模型表示為
N
[0007]j(x; w) = V.H; χ.Xz.) + m(I)
/=I
[0008]核函數(shù)K(x, X1)是定義在訓(xùn)練樣本點(diǎn)的基函數(shù),N為基函數(shù)個(gè)數(shù),W0為參數(shù)。
[0009]SVM能夠有效避免過(guò)學(xué)習(xí)現(xiàn)象,具有良好的泛化能力,但它存在著明顯的不足,主要表現(xiàn)在:①基函數(shù)個(gè)數(shù)基本上隨訓(xùn)練樣本集規(guī)模成線性增長(zhǎng),模型稀疏性有限;②預(yù)測(cè)結(jié)果不具有統(tǒng)計(jì)意義,無(wú)法獲取預(yù)測(cè)結(jié)果的不確定性;③核函數(shù)參數(shù)和規(guī)則化系數(shù)需要通過(guò)交叉驗(yàn)證等方法確定,增加了模型訓(xùn)練的計(jì)算量;④核函數(shù)必須滿足Mercer條件。[0010]核方法在SVM中得到成功應(yīng)用以后,人們開(kāi)始利用核函數(shù)將經(jīng)典的線性分析方法推廣到一般情況的研究,被成為繼經(jīng)典統(tǒng)計(jì)線性分析、神經(jīng)網(wǎng)絡(luò)與決策樹(shù)非線性分析之后的第三次模式分析方法的變革。支持向量機(jī)、稀疏核主成份分析等也引起了人們研究“稀疏”學(xué)習(xí)模型的興趣。
[0011]稀疏學(xué)習(xí)模型具有的一般形式為:
[0012]
【權(quán)利要求】
1.一種基于相關(guān)相量機(jī)的高光譜影像模糊分類方法,其特征在于,包括: 確定訓(xùn)練樣本集,利用稀疏貝葉斯分類模型,選擇核函數(shù),建立相關(guān)向量機(jī)分類預(yù)測(cè)模型; 針對(duì)所述訓(xùn)練樣本集,采用一對(duì)一法構(gòu)造多類相關(guān)相量機(jī)分類器,通過(guò)交叉驗(yàn)證優(yōu)化分類器參數(shù); 利用所述多類相關(guān)向量機(jī)分類器對(duì)高光譜影像進(jìn)行模糊分類。
2.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述利用稀疏貝葉斯分類模型選擇核函數(shù)包括: 根據(jù)拉普拉斯逼近方法推斷模型參數(shù); 利用快速學(xué)習(xí)算法選擇基函數(shù); 選擇核函數(shù)及參數(shù)。
3.根據(jù)權(quán)利要求2所述的方法,其特征在于,所述模型參數(shù)推斷過(guò)程為: 首先初始化超參數(shù)向量;對(duì)于給定的向量,建立后驗(yàn)概率分布的高斯近似,從而獲取邊緣似然函數(shù)的近似分布;通過(guò)最大化邊緣似然函數(shù)來(lái)重新估計(jì)向量;重復(fù)這個(gè)過(guò)程直到收斂。
4.根據(jù)權(quán)利要求2所述的方法,其特征在于,所述基函數(shù)的選擇過(guò)程為: 初始化選擇I個(gè)基函數(shù)?\,并估計(jì)相應(yīng)權(quán)值W1 ; 設(shè)置基函數(shù)的超參數(shù)為合理數(shù)值,使其它所有超參數(shù)a]為無(wú)窮大,即模型中只有基函數(shù); 計(jì)算均值μ和方差Σ,同時(shí)計(jì)算出所有基函數(shù)對(duì)應(yīng)的Qi和Si ; 選擇候選的基函數(shù)fi。
5.根據(jù)權(quán)利要求2所述的方法,其特征在于,所述核函數(shù)選擇過(guò)程為: 首先收集和整理樣本,并將樣本特征的數(shù)值范圍進(jìn)行標(biāo)準(zhǔn)化;然后選擇或構(gòu)造核函數(shù),并利用核函數(shù)將樣本變換成為核矩陣,在特征空間中對(duì)核矩陣實(shí)施線性算法;最終得到輸入空間中的非線性模型。
6.根據(jù)權(quán)利要求1所述的方法,其特征在于,采用一對(duì)一法構(gòu)造多類相關(guān)相量機(jī)分類器包括: 在訓(xùn)練樣本集T中找出所有不同類別兩兩配對(duì)組成兩類相關(guān)相量機(jī)分類器,總共有p=k(k-1) /2個(gè),用屬于這兩個(gè)類別的訓(xùn)練樣本組成兩類問(wèn)題的訓(xùn)練樣本集T (i, j),然后求解兩類問(wèn)題,分別求得P個(gè)判別函數(shù)(χ); 分類時(shí),將輸入樣本X分別送到P個(gè)判別函數(shù)f(i」.)(χ),若f(i j (χ) =+1,判χ為i類,i類獲得一票,否則判為j類,j類獲得統(tǒng)計(jì)一票; k個(gè)類別在P個(gè)判別函數(shù)結(jié)果中的得票數(shù),票數(shù)最多的類別就是最終判定類別。
7.根據(jù)權(quán)利要求6所述的方法,其特征在于,在構(gòu)造多類相關(guān)相量機(jī)分類器之后還包括: 將兩兩配對(duì)后驗(yàn)概率轉(zhuǎn)化為屬于各類的模糊隸屬度,進(jìn)行地物屬性的判別。
8.一種基于相關(guān)相量機(jī)的高光譜影像模糊分類裝置,其特征在于,包括: 建模單元,用于確定訓(xùn)練樣本集,利用稀疏貝葉斯分類模型,選擇核函數(shù)并建立相關(guān)向量機(jī)分類預(yù)測(cè)模型;分類器構(gòu)造單元,用于針對(duì)所述訓(xùn)練樣本集,采用一對(duì)一法構(gòu)造多類相關(guān)相量機(jī)分類器,通過(guò)交叉驗(yàn)證優(yōu)化分類器參數(shù); 分類執(zhí)行單元,用于利用所述多類相關(guān)向量機(jī)分類器對(duì)高光譜影像進(jìn)行模糊分類。
9.根據(jù)權(quán)利要求8所述的裝置,其特征在于,所述建模單元進(jìn)一步包括: 模型參數(shù)推斷子單元,用于根據(jù)拉普拉斯逼近方法推斷模型參數(shù); 基函數(shù)選擇子單元,用于利用快速學(xué)習(xí)算法選擇基函數(shù); 核函數(shù)選擇子單元,用于選擇核函數(shù)及參數(shù)。
10.根據(jù)權(quán)利要求8所述的裝置,其特征在于,還包括: 模糊隸屬度求解單元,用于將兩兩配對(duì)后驗(yàn)概率轉(zhuǎn)化為屬于各類的模糊隸屬度,進(jìn)行地物屬性的 判別。
【文檔編號(hào)】G06K9/62GK103440493SQ201310060938
【公開(kāi)日】2013年12月11日 申請(qǐng)日期:2013年2月27日 優(yōu)先權(quán)日:2013年2月27日
【發(fā)明者】楊國(guó)鵬, 王晶, 龐怡杰, 陳濤, 余旭初, 周欣 申請(qǐng)人:中國(guó)人民解放軍空軍裝備研究院偵察情報(bào)裝備研究所