一種基于改進(jìn)型極速學(xué)習(xí)機(jī)的織物疵點(diǎn)分類方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及織物疵點(diǎn)分類技術(shù)領(lǐng)域，特別是涉及一種基于改進(jìn)型極速學(xué)習(xí)機(jī)的織 物疵點(diǎn)分類方法。
【背景技術(shù)】
[0002] ELM算法是在單隱層前饋神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上提出來的。單隱層前向祌經(jīng)網(wǎng)絡(luò)是一 類特殊的前向神經(jīng)網(wǎng)絡(luò)，只包含一個(gè)隱層的前向神經(jīng)網(wǎng)絡(luò)。著名萬有逼近定理表明，單隱層 前向神經(jīng)網(wǎng)絡(luò)可以以任意精度逼近給定連續(xù)函數(shù)。基于此理論保證，單隱層前向神經(jīng)網(wǎng)絡(luò) 無論在理論分析方面，還是工程應(yīng)用方面都得到廣泛研究。
[0003] 與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比，ELM存在很多的優(yōu)點(diǎn)：ELM算法學(xué)習(xí)速度快且泛化能力好， ELM算法是以提高單隱層前向型祌經(jīng)網(wǎng)絡(luò)（SLFN)訓(xùn)練速度及泛化能力為出發(fā)點(diǎn)而提出；傳 統(tǒng)的學(xué)習(xí)是基于梯度下降原理設(shè)計(jì)的，面臨學(xué)習(xí)速度緩慢，易陷入局部極小等問題，而ELM 基于最小二乘法的，通過一次矩陣運(yùn)算來確定網(wǎng)絡(luò)的參數(shù)，因而學(xué)習(xí)的速度快，目前已成功 應(yīng)用于大量回歸與分類問題。
[0004] 人工神經(jīng)網(wǎng)絡(luò)算法學(xué)習(xí)過程中，通常采用批處理學(xué)習(xí)和在線學(xué)習(xí)兩種模式。ELM采 用的是批處理學(xué)習(xí)模式，即所有的訓(xùn)練數(shù)據(jù)都處理完才添加到網(wǎng)絡(luò)中學(xué)習(xí)，并相應(yīng)的調(diào)整 一次權(quán)向量，這種學(xué)習(xí)方式處理大規(guī)模數(shù)據(jù)集和實(shí)時(shí)數(shù)據(jù)集時(shí)，并沒有體現(xiàn)出其實(shí)時(shí)性，學(xué) 習(xí)時(shí)間長且效果不理想。在線學(xué)習(xí)機(jī)0S-ELM采用的即是在線學(xué)習(xí)模式，數(shù)據(jù)到達(dá)時(shí)序列增 加到網(wǎng)絡(luò)中學(xué)習(xí)，并丟棄已學(xué)習(xí)的數(shù)據(jù)，不對其進(jìn)行重復(fù)學(xué)習(xí)，處理大規(guī)模數(shù)據(jù)集和實(shí)時(shí)數(shù) 據(jù)集時(shí)有很好的效果。
[0005] 另外網(wǎng)絡(luò)的結(jié)構(gòu)也是制約ELM實(shí)時(shí)性的主要因素。單隱層前向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中， 隱單元數(shù)量與網(wǎng)絡(luò)泛化能力有直接關(guān)系，過多或過少隱單元數(shù)都會(huì)使訓(xùn)練誤差較大且泛化 能力較差。因此，如何確定合適的隱單元數(shù)量以達(dá)到較理想的期望結(jié)果成為研究ELM算法 的核心問題。

【發(fā)明內(nèi)容】

[0006] 本發(fā)明所要解決的技術(shù)問題是提供一種基于改進(jìn)型極速學(xué)習(xí)機(jī)的織物疵點(diǎn)分類 方法，能夠?qū)Χ喾N平紋織物疵點(diǎn)圖像進(jìn)行疵點(diǎn)檢測。
[0007] 本發(fā)明解決其技術(shù)問題所采用的技術(shù)方案是：提供一種基于改進(jìn)型極速學(xué)習(xí)機(jī)的 織物疵點(diǎn)分類方法，包括以下步驟：
[0008] (1)將訓(xùn)練樣本的疵點(diǎn)圖像進(jìn)行預(yù)處理；
[0009] (2)構(gòu)造自適應(yīng)小波進(jìn)行分解檢測出織物瑕疵，并通過多特征融合的方法進(jìn)行特 征提取，獲得疵點(diǎn)特征；
[0010] (3)對疵點(diǎn)特征進(jìn)行分類，分類時(shí)，引入在線ELM算法，并對隱層節(jié)點(diǎn)進(jìn)行靈敏度 分析法的在線ELM剪枝處理。
[0011] 所述步驟（3)中對引入的在線ELM算法進(jìn)行正則化處理。
[0012] 所述步驟（3)中引入的在線ELM算法是根據(jù)隱層節(jié)點(diǎn)輸出及其對應(yīng)的輸出層權(quán)值 定義訓(xùn)練殘差相對于隱含層節(jié)點(diǎn)的靈敏度，據(jù)此對隱含層節(jié)點(diǎn)排序，并計(jì)算網(wǎng)絡(luò)規(guī)模適應(yīng) 度，保留指定數(shù)目的靈敏度高的隱層節(jié)點(diǎn)；被刪除節(jié)點(diǎn)的輸入層權(quán)值和閾值采用疊加的方 法平均分配給其他保留節(jié)點(diǎn)。
[0013] 所述步驟（1)的預(yù)處理包括同態(tài)濾波處理和直方圖均衡化處理。
[0014] 有益效果
[0015] 由于采用了上述的技術(shù)方案，本發(fā)明與現(xiàn)有技術(shù)相比，具有以下的優(yōu)點(diǎn)和積極效 果：本發(fā)明采用在線ELM算法，解決ELM在處理大塊數(shù)據(jù)時(shí)整體處理方式的不足；為了提高 算法的泛化能力，減小算法性能對隱層節(jié)點(diǎn)的依賴性，采用基于靈敏度分析對隱層節(jié)點(diǎn)進(jìn) 行剪枝處理；為了保證算法可以同時(shí)具有很好的結(jié)構(gòu)風(fēng)險(xiǎn)和經(jīng)驗(yàn)風(fēng)險(xiǎn)，對改進(jìn)的算法進(jìn)行 正則化處理，實(shí)現(xiàn)對織物疵點(diǎn)的實(shí)時(shí)精確檢測。
【附圖說明】
[0016] 圖1是SA0S-ELM預(yù)測結(jié)果圖；
[0017] 圖2是RSA0S-ELM預(yù)測結(jié)果圖。
【具體實(shí)施方式】
[0018] 下面結(jié)合具體實(shí)施例，進(jìn)一步闡述本發(fā)明。應(yīng)理解，這些實(shí)施例僅用于說明本發(fā)明 而不用于限制本發(fā)明的范圍。此外應(yīng)理解，在閱讀了本發(fā)明講授的內(nèi)容之后，本領(lǐng)域技術(shù)人 員可以對本發(fā)明作各種改動(dòng)或修改，這些等價(jià)形式同樣落于本申請所附權(quán)利要求書所限定 的范圍。
[0019] 為了驗(yàn)證本發(fā)明的有效性，本實(shí)施例對竹節(jié)、斷經(jīng)、油污、斷煒、缺煒、缺經(jīng)、吊經(jīng)、 煒縮8種平紋織物疵點(diǎn)圖像進(jìn)行疵點(diǎn)檢測。每種疵點(diǎn)有圖片50張，20張作為訓(xùn)練，30張作 為測試樣本，并與ELM、OS-ELM、SA0S-ELM進(jìn)行比較，對算法性能進(jìn)行驗(yàn)證。
[0020] 本實(shí)施例的具體步驟如下：
[0021] (1)圖像預(yù)處理。將訓(xùn)練樣本的疵點(diǎn)圖像進(jìn)行同態(tài)濾波、直方圖均衡化等處理；
[0022] (2)織物疵點(diǎn)檢測和提取。構(gòu)造自適應(yīng)小波進(jìn)行分解檢測出織物瑕疵，并通過多特 征融合的方法進(jìn)行特征提取，獲得疵點(diǎn)特征。
[0023] (3)分類器設(shè)計(jì)，對疵點(diǎn)特征進(jìn)行分類，分類時(shí)，引入在線ELM算法，并對隱層節(jié)點(diǎn) 進(jìn)行靈敏度分析法的在線ELM剪枝處理。
[0024] 其中，引入的在線ELM算法是根據(jù)隱層節(jié)點(diǎn)輸出及其對應(yīng)的輸出層權(quán)值定義訓(xùn)練 殘差相對于隱含層節(jié)點(diǎn)的靈敏度，據(jù)此對隱含層節(jié)點(diǎn)排序，并計(jì)算網(wǎng)絡(luò)規(guī)模適應(yīng)度，保留指 定數(shù)目的靈敏度高的隱層節(jié)點(diǎn)；被刪除節(jié)點(diǎn)的輸入層權(quán)值和閾值采用疊加的方法平均分配 給其他保留節(jié)點(diǎn)。
[0025] 具體如下：
[0026] 靈敏度網(wǎng)絡(luò)規(guī)模適應(yīng)度定義：
[0027] 令ki.j=g.j(X;)=i= 1，2, 3, · · ·，N，對比⑴式可知，
[0028] 其中：ω:表不輸入層權(quán)值；χ:表不輸入的樣本集，b表不隱層偏置；β^表不：第j 個(gè)隱含節(jié)點(diǎn)對應(yīng)的輸出層權(quán)值向量。
[0029] y；= ..+kLiPL (1)
[0030] 假設(shè)刪除節(jié)點(diǎn)j= 1，此時(shí)的網(wǎng)絡(luò)為：V=k2iβ2+k3iβ3+··· +kuβL(2)
[0031] 其中：h為第j個(gè)隱含節(jié)點(diǎn)對于第i個(gè)樣本輸出；β^表示：第j個(gè)隱含節(jié)點(diǎn)對應(yīng) 的輸出層權(quán)值向量。
[0032] 由式（1)和⑵可得殘差：
[0033] | |tft' i| | = | |kH β! | |= | kH|| | β!| | (3)
[0034] 由式（3)可見，對于第i個(gè)樣本，去掉第1個(gè)隱含層節(jié)點(diǎn)引起的網(wǎng)絡(luò)輸出誤差為節(jié) 點(diǎn)輸出的絕對值與相應(yīng)輸出層權(quán)值向量模的乘積。因此，定義學(xué)習(xí)殘差相對于第i個(gè)隱含 層節(jié)點(diǎn)的靈敏度為：
[0035]1 V'2：=1
[0036] 其中：N為訓(xùn)練樣本的個(gè)數(shù)，為第j個(gè)隱含節(jié)點(diǎn)對于第i個(gè)樣本的輸出，β為 第j個(gè)隱含節(jié)點(diǎn)對應(yīng)的輸出層權(quán)值向量。S,越大說明第j個(gè)節(jié)點(diǎn)對于學(xué)習(xí)殘差越重要，所 以由靈敏度可對隱含層的節(jié)點(diǎn)進(jìn)行排序：
[0037] S/ 彡S，2彡S3，DS，L (5)
[0038] 因?yàn)殡[含層節(jié)點(diǎn)刪除越多，學(xué)習(xí)殘差越大，刪除的隱含層節(jié)點(diǎn)越重要，學(xué)習(xí)殘差 越大，所以網(wǎng)絡(luò)規(guī)模適應(yīng)度（MSA)可由靈敏度定義為：
[0039]
(6)
[0040] Μκ越大，網(wǎng)絡(luò)規(guī)模越大，學(xué)習(xí)殘差越小，因此與學(xué)習(xí)樣本相匹配的網(wǎng)絡(luò)規(guī)?？捎删W(wǎng) 絡(luò)規(guī)模適應(yīng)度定義為：
[0041 ]M=min{k|Mk^γ, 1kL} (7)
[0042] 其中，γ(0<γ< 1)為網(wǎng)絡(luò)規(guī)模適應(yīng)度閾值，M為網(wǎng)絡(luò)保留隱含層節(jié)點(diǎn)數(shù)量，L為 網(wǎng)絡(luò)隱層節(jié)點(diǎn)個(gè)數(shù)，L-M為網(wǎng)絡(luò)中冗余節(jié)點(diǎn)個(gè)數(shù)。關(guān)于γ的選擇，問題的依賴性比較強(qiáng)，但 是由于ELM算的性能對隱含層節(jié)點(diǎn)的個(gè)數(shù)不是非常敏感，所以γ的選擇不需要非常精確， 可以由增減試湊的方式給予確定。為了防止樣本信息因節(jié)點(diǎn)被刪除而消失，被保留節(jié)點(diǎn)的 輸入權(quán)值需要進(jìn)一步更新。
[0043] 靈敏度權(quán)值的更新：
[0044] 根據(jù)靈敏度&將L個(gè)隱層節(jié)點(diǎn)進(jìn)行排序如下：
[0045] >S；, > ... >S% > &