一種基于保局映射與主成分分析的圖像分類(lèi)方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明設(shè)及數(shù)字圖像領(lǐng)域，具體設(shè)及一種基于保局映射與主成分分析結(jié)合的圖像 分類(lèi)方法。
【背景技術(shù)】
[0002] 對(duì)于圖像的分類(lèi)問(wèn)題，由于圖像本身存在的維數(shù)高的問(wèn)題，通常需要對(duì)初步提取 到的圖像特征進(jìn)行降維處理。在本方法中，主要使用的是兩種降維方法；1、保局映射2、主 成分分析。保局映射是一種提取能夠保持圖像空間局部流形結(jié)構(gòu)的性質(zhì)的降維方法，主成 分分析法能夠使用較少的矩陣維度保持原始圖像最大限度的信息。兩者用于深度學(xué)習(xí)都是 屬于無(wú)監(jiān)督的降維方法。
[000引 1、主成分分析（PCA)
[0004] PCA是一種線性降維方法，它通過(guò)找出樣本空間變化較大的一些正交的坐標(biāo)方向， 可認(rèn)為就是樣本的主成分，然后將樣本投影到該些坐標(biāo)從而降維到一個(gè)線性子空間。
[000引假設(shè)有N個(gè)樣本Xi，i= 1，2，...，N，義,e化。，/ = 1，2，...，N，
是去 均值后的樣本列向量。
表示去均值后的所有樣本的協(xié)方差矩陣。
[0006] 則按照最大化投影后方差的原則，PCA的優(yōu)化目標(biāo)是：
[0007] maxw'^Sws.t.wV= (1)
[000引其中w表示投影方向，d表示降維后的樣本的維數(shù)。
[0009] 具體算法為；
[0010] (a)對(duì)樣本中每一個(gè)維度去均值。即
[0011] 化）求樣本的協(xié)方差矩陣。印
[0012] (C)對(duì)S作奇異值分解，求得它的特征值與特征向量，選取最大的前d個(gè)特征值所 對(duì)應(yīng)的特征向量作為新的樣本空間的基向量。
[0013] 2、保局映射（LocalityPreservingProjection,LPF〇
[0014] 保局映射的一個(gè)直接出發(fā)點(diǎn)是用于圖像的降維，直接考慮了圖像流形結(jié)構(gòu)，也就 是說(shuō)通過(guò)構(gòu)造一個(gè)圖像的近鄰圖作為圖像的流形結(jié)構(gòu)，該個(gè)流形結(jié)構(gòu)能夠保持圖像中的局 部特征。
[00巧]該里假設(shè)原始的樣本向量為X=[Xl，X2，...，x。]，x,e吸n，!? =l，2，..，H，降維后的向 量為Y= [y。72, . . .，y。]，e化''。LPP的目標(biāo)函數(shù)是；
[0016]
[0017] 其中是Xi的低維表示，而Su是一個(gè)相似性矩陣，其中的矩陣元素可W看做是流 形結(jié)構(gòu)中節(jié)點(diǎn)Xi和節(jié)點(diǎn)XJ的之間的權(quán)值。它的定義如下；
[0018]
[001引該里e>0足夠小，它決定了流形結(jié)構(gòu)中的的局部性質(zhì)，在實(shí)際應(yīng)用中我們?nèi)藶?的選用的是K順的構(gòu)造方法，使得每個(gè)圖像空間中的點(diǎn)都有K個(gè)鄰居點(diǎn)。
[0020] 進(jìn)一步地，（2)式的優(yōu)化問(wèn)題經(jīng)過(guò)等價(jià)的代數(shù)推導(dǎo)可變?yōu)椋?br>[0021]
[002引其中D"=E&,，是一個(gè)對(duì)角矩陣；L=D-S被成為拉普拉斯矩陣，W是投影向量。 通過(guò)求解如下廣義特征值問(wèn)題，可W得到W向量：
[0023]XLXW=AXDXV妨
[0024] 該里，我們選取的特征向量是前k個(gè)最小的特征值對(duì)應(yīng)的特征向量作為整個(gè)投影 矩陣Wup。
[0025] 該里要注意的是矩陣XDXT可能是奇異的，該是由于訓(xùn)練的樣本數(shù)小于圖像的維數(shù) 導(dǎo)致的，為了避免該個(gè)問(wèn)題，我們確保訓(xùn)練的樣本數(shù)大于等于圖像維數(shù)。事實(shí)上，在我們?cè)?個(gè)深度學(xué)習(xí)的框架中，我們輸入到LPP算法中的是一個(gè)方陣（協(xié)方差矩陣）。

【發(fā)明內(nèi)容】

[0026]為了克服現(xiàn)有技術(shù)中存在的不足，利用深度學(xué)習(xí)與流形學(xué)習(xí)在圖像分類(lèi)中的優(yōu) 勢(shì)，提高圖像分類(lèi)識(shí)別的準(zhǔn)確率與魯椿性，本發(fā)明提出了一種基于保局映射與主成分分析 的圖像分類(lèi)方法。
[0027]為實(shí)現(xiàn)上述目的，本發(fā)明采用的技術(shù)方案為：
[0028]-種基于保局映射與主成分分析的圖像分類(lèi)方法，包括W下步驟：
[002引步驟1 ;對(duì)N幅大小均為mXn像素的輸入圖像/f巧行預(yù)處理，得到輸入圖像特征 矩陣X，其中N、m、n為正整數(shù)，i= 1,2. ..，N;
[0030] 步驟2;建立一層或兩層的流形學(xué)習(xí)網(wǎng)絡(luò)，得到每一層網(wǎng)絡(luò)中訓(xùn)練圖像卷積所用 的濾波器，其中第一層的濾波器用保局映射降維方法構(gòu)造，如果有第二層網(wǎng)絡(luò)，第二層的 濾波器V2可選用主成分分析法或者繼續(xù)選用保局映射降維方法構(gòu)造，將輸入圖像片'與第 一層的濾波器進(jìn)行卷積，得到第一層輸出圖像4 =片"4巧；/ =i，2，...，Zi，其中Vii表示第 一層中的第1個(gè)濾波器，Li表示第一層的濾波器的個(gè)數(shù)；如果有第二層網(wǎng)絡(luò)，再將第一層輸 出圖像與第二層的濾波器V2進(jìn)行卷積，得到第二層輸出圖像〇,'=與*^3，/ = 1，2，~，4， 其中V/表示第二層中的第1個(gè)濾波器，L,表示第二層的濾波器的個(gè)數(shù)；得到的最終輸出圖 像為最后一層網(wǎng)絡(luò)的輸出圖像；
[0031]步驟3;建立流形學(xué)習(xí)網(wǎng)絡(luò)的輸出層；即將步驟2得到的最終輸出圖像進(jìn)行二值化 操作，并對(duì)二值化后的圖像分塊并統(tǒng)計(jì)每一塊圖像上的直方圖，將此直方圖作為特征向量 fi，i = 1,2. ,.,N；
[0032] 步驟4;將步驟4中最終得到的所有的特征向量輸入支持向量機(jī)分類(lèi)器進(jìn)行訓(xùn) 練；
[0033] 步驟5 ;用校驗(yàn)圖像集進(jìn)行校驗(yàn)，調(diào)整到最佳網(wǎng)絡(luò)參數(shù)；
[0034] 步驟6 ;對(duì)測(cè)試圖像進(jìn)行測(cè)試，統(tǒng)計(jì)分類(lèi)結(jié)果，計(jì)算識(shí)別率。
[00巧]進(jìn)一步地，步驟1中所述的預(yù)處理操作具體為：
[0036] 對(duì)于每一幅輸入圖像使用大小為kiXks像素的滑塊遍歷其每個(gè)像素，每個(gè)像素所 在的滑塊區(qū)域重新排列成一個(gè)列向量，其中ki，k,均為奇數(shù)，該樣每一幅圖像都能得到一個(gè) 行數(shù)為kik2,列數(shù)為m'n'的重采樣矩陣，其中
代表大小為kiXks像素的滑塊W 行間隔為bi進(jìn)行取樣所能得到的行數(shù)，
代表大小為kiXks像素的滑塊W列間隔 為b2進(jìn)行取樣所能得到的列數(shù)，b1，b2分別表示的是滑塊每次滑動(dòng)的行間隔和列間隔，默認(rèn) 設(shè)置都為 1;此采樣矩陣記為
[0037] 然后對(duì)采樣矩陣的每個(gè)元素都減去其行均值，得到去均值化重采樣矩陣 X=氏.1，交。，…，玄,,",,。']€吸^:<'"'"'，其中
[0038] 將N幅輸入圖像所得到的去均值化采樣矩陣放置在一起得到輸入圖像特征矩陣 乂=[疋，馬,...，文Vje化'-。
[0039] 進(jìn)一步地，步驟2所述的中使用保局映射降維方法得到第一層的濾波器的操作 具體為：
[0040] 首先，求出輸入圖像特征矩陣X的協(xié)方差矩陣
[0041] 其次，根據(jù)保局映射的算法求出保局映射中協(xié)方差矩陣C的投影向量矩陣 WipeRW-，Li表示第一層中濾波器的個(gè)數(shù)；
[0042] 再次將的PP中的第1個(gè)列向量重新排列成一個(gè)kiXk2的矩陣作為第一層第1個(gè)濾 波器V;第一層的濾波器^"1={巧，]=1，2，...，與}。
[0043] 進(jìn)一步地，采用兩層的流形學(xué)習(xí)網(wǎng)絡(luò)，所述步驟2中第二層選用主成分分析法構(gòu) 造第二層濾波器V2,其具體操作為：
[0044]首先，對(duì)于每一幅第一層輸出圖像/,<，再進(jìn)行步驟1所述的相同的預(yù)處理步 驟，得到第二層輸入特征矩陣F =護(hù)，F(xiàn)2，...，戶(hù)]6股'(心口"1'"'，其中護(hù)=巧書(shū)，…，巧]，而 f=氏.u，滅.u，…，yリ.m'n']e吸4lt^x'"v，/=]，2，…，4表示第i幅輸入圖像經(jīng)過(guò)第l個(gè)第一層濾波 器卷積后再進(jìn)行滑塊預(yù)處理后的輸入特征矩陣；滅,U表示在經(jīng)過(guò)第1個(gè)濾波器濾波后的第 i幅輸入圖像中第j列去均值化后的列向量；
[0045]然后，求出第二層輸入特征矩陣Y的協(xié)方差矩陣C'，并對(duì)其進(jìn)行主成分分析，求出 L2個(gè)主特征向量，將該些主特征向量分別重新排列成L2個(gè)kiXks的小矩陣，得到第二層的 濾波器乂2。
[0046] 進(jìn)一步地，采用兩層的流形學(xué)習(xí)網(wǎng)絡(luò)，所述步驟2中第二層繼續(xù)選用保局映射降 維法構(gòu)造第二層濾波器，則W第一層的輸出圖像//作為第二層的輸入圖像重復(fù)步驟1與步 驟2中的具體操作，得到第二層的濾波器V2。
[0047] 進(jìn)一步地，步驟3中所述的二值化具體操作為；對(duì)于每一幅輸入圖像if，經(jīng)過(guò)兩 層網(wǎng)絡(luò)后，都會(huì)產(chǎn)生出L1L2幅最終輸出圖像，每一幅最終輸出圖像的尺寸都是mXn;特別 地，對(duì)于第一層輸出的圖像/;，第二層網(wǎng)絡(luò)就會(huì)有L2幅輸出圖像壞，1 = 1，2,…，L2,將圖像 0/進(jìn)行二值化操作，即該像素點(diǎn)灰度值若大于零則重置為1，否則重置為0 ;之后將該L2幅 圖像對(duì)應(yīng)像素點(diǎn)的值加權(quán)求和，合并為一張圖像，即
其中函 數(shù)H( ?)表示二值化函數(shù)，表示將輸入矩陣的元素大于零的值重置