基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明屬于自動(dòng)控制、信息技術(shù)和先進(jìn)制造領(lǐng)域，具體涉及針對(duì)難以建立機(jī)理模 型且已有大量歷史生產(chǎn)數(shù)據(jù)的復(fù)雜工業(yè)生產(chǎn)過(guò)程的一種基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī) (ELM)的區(qū)間型指標(biāo)預(yù)報(bào)方法。
【背景技術(shù)】
[0002] 生產(chǎn)指標(biāo)預(yù)報(bào)是生產(chǎn)過(guò)程操作優(yōu)化和動(dòng)態(tài)調(diào)度中所涉及的關(guān)鍵技術(shù)之一，但在鋼 鐵、微電子等行業(yè)實(shí)際復(fù)雜生產(chǎn)過(guò)程中，生產(chǎn)數(shù)據(jù)往往含有各種不確定性，基于神經(jīng)網(wǎng)絡(luò)、 支撐向量機(jī)等常規(guī)預(yù)測(cè)模型給出的指標(biāo)預(yù)報(bào)值與指標(biāo)的實(shí)際測(cè)量值往往存在較大偏差，從 而影響了操作優(yōu)化和動(dòng)態(tài)調(diào)度效果，采用區(qū)間型指標(biāo)預(yù)報(bào)方法是解決上述指標(biāo)預(yù)報(bào)難題的 有效途徑之一。

【發(fā)明內(nèi)容】

[0003] 本發(fā)明針對(duì)難以建立機(jī)理模型且已有大量歷史生產(chǎn)數(shù)據(jù)的復(fù)雜生產(chǎn)過(guò)程，提出一 種基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)（ELM)的區(qū)間型指標(biāo)預(yù)報(bào)方法。本發(fā)明針對(duì)復(fù)雜生產(chǎn)過(guò)程 不確定性特點(diǎn)，采用區(qū)間數(shù)來(lái)描述生產(chǎn)指標(biāo)，利用復(fù)雜生產(chǎn)過(guò)程中的實(shí)際運(yùn)行數(shù)據(jù)，采用非 對(duì)稱高斯分布貝葉斯和ELM方法對(duì)區(qū)間型指標(biāo)進(jìn)行建模，并通過(guò)對(duì)一對(duì)互為倒數(shù)的權(quán)值進(jìn) 行自適應(yīng)調(diào)整獲得上邊界模型和下邊界模型，作為生產(chǎn)指標(biāo)的預(yù)報(bào)區(qū)間。上述區(qū)間型指標(biāo) 預(yù)報(bào)方法可對(duì)實(shí)際生產(chǎn)過(guò)程中的生產(chǎn)指標(biāo)進(jìn)行預(yù)報(bào)，并用于指導(dǎo)生產(chǎn)過(guò)程的操作優(yōu)化與動(dòng) 態(tài)調(diào)度。
[0004] 一種基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)（ELM)的區(qū)間型指標(biāo)預(yù)報(bào)方法，其特征在于， 所述方法是依次按如下步驟實(shí)現(xiàn)的：
[0005]步驟（1):數(shù)據(jù)采集與預(yù)處理
[0006] 利用數(shù)據(jù)采集系統(tǒng)從實(shí)際工業(yè)生產(chǎn)過(guò)程進(jìn)行數(shù)據(jù)采集，并將上述數(shù)據(jù)處理成如下 訓(xùn)練數(shù)據(jù)：
【主權(quán)項(xiàng)】
1.基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)建模方法，其特征在于，所述方法是依 次按如下步驟實(shí)現(xiàn)的： 步驟（1):數(shù)據(jù)采集與預(yù)處理 利用數(shù)據(jù)采集系統(tǒng)從實(shí)際工業(yè)生產(chǎn)過(guò)程進(jìn)行數(shù)據(jù)采集，并將上述數(shù)據(jù)處理成如下訓(xùn)練 數(shù)據(jù)：
Xi - (x Jj Xijn) 其中，xjP t汾別為第i個(gè)訓(xùn)練樣本的輸入和輸出，N為訓(xùn)練數(shù)據(jù)樣本的個(gè)數(shù)，η為輸 入變量的維數(shù)； 步驟⑵：構(gòu)造基于非對(duì)稱高斯分布貝葉斯的雙ELM模型 步驟（2. 1):將ELM模型可表示成如下形式： t = h (X) β + ε 其中，h(x)為ELM的隱層節(jié)點(diǎn)函數(shù)，β為輸出層權(quán)重，ε為模型誤差； 步驟（2.2) :ELM模型的輸出可假設(shè)為如下非對(duì)稱高斯分布：
其中，b為非對(duì)稱高斯分布的方差參數(shù)，w為非對(duì)稱高斯分布的權(quán)重； 步驟（2. 3):訓(xùn)練數(shù)據(jù)的似然函數(shù)可寫成：
其中，氏和t i分別為滿足t < h β的樣本集的隱層輸出矩陣和輸出向量，H 2和12分別 為滿足的樣本集的隱層輸出矩陣和輸出向量； 步驟（2.4):對(duì)輸出權(quán)值β使用高斯先驗(yàn)分布，即
其中，M是隱層節(jié)點(diǎn)數(shù)，a和β k是高斯分布的參數(shù)； 步驟（2.5):使用一對(duì)互為倒數(shù)權(quán)值（w，l/w)，記為（Wl，w2)，并對(duì)其進(jìn)行適當(dāng)?shù)恼{(diào)整，能 得到基于非對(duì)稱高斯分布貝葉斯的雙ELM :
p (t I a2, b2) =I p (t I β 2, b2, w2)p ( β 21 a2) (1β 2 步驟（3):基于非對(duì)稱高斯分布貝葉斯的雙ELM模型的初始化 步驟（3. I) :ELM模型的初始化 選定輸入層神經(jīng)節(jié)點(diǎn)個(gè)數(shù)與訓(xùn)練樣本維數(shù)η相同，輸出神經(jīng)節(jié)點(diǎn)個(gè)數(shù)為1，單隱層極限 學(xué)習(xí)機(jī)的隱層節(jié)點(diǎn)數(shù)M ; 隱層節(jié)點(diǎn)的激勵(lì)函數(shù)h(x，〇1，Γι)可采用高斯函數(shù)/Sigmoid函數(shù)/正弦函數(shù)/三角基 函數(shù)/Hard Limit函數(shù)； 根據(jù)最初的N個(gè)樣本練極限學(xué)習(xí)機(jī)，隨機(jī)確定每個(gè)隱層節(jié)點(diǎn)激勵(lì)函數(shù)的參 數(shù)〇1和^，1 = 1，2，L M，運(yùn)用普通的極限學(xué)習(xí)機(jī)計(jì)算初始的隱層輸出矩陣H和輸出層連接 矩陣的初始值.￠,其中，
步驟（3.2):權(quán)重（WpW2)的自適應(yīng)調(diào)整算法的初始化 初始化權(quán)重w = W1= w 2= 1，設(shè)定預(yù)測(cè)區(qū)間Cl tMine;d= 0,設(shè)定權(quán)重調(diào)整單位值為δ w =0. 05,設(shè)定權(quán)重的最小值Wmin= 0. 001，設(shè)定權(quán)重的學(xué)習(xí)率為rw= 1，設(shè)定權(quán)重的停止準(zhǔn) 則 ε w= 〇· 00001 ; 步驟（4):權(quán)重^的貝葉斯ELM模型的參數(shù)學(xué)習(xí)： 步驟（4.1):使用貝葉斯公式，后驗(yàn)分布P(P1It)能用如下表示：
其中，Hui和t u分別為ε < 0的訓(xùn)練樣本對(duì)應(yīng)的隱層輸出矩陣和輸出值，H 1>2和t 2分別為ε > 0的訓(xùn)練樣本對(duì)應(yīng)的隱層輸出矩陣和輸出值，H1= [Hui5H1J, t = [Lyt1, 2]； 步驟（4.2):使用貝葉斯公式，邊緣似然函數(shù)p Ulapb1)可表示如下： 其中，
步驟（4. 5):重復(fù)步驟（4. I)、步驟（4. 2)和步驟（4. 3)，直到&1和b i收斂； 步驟（5):權(quán)重《2的貝葉斯ELM模型的參數(shù)學(xué)習(xí)： 本步驟與步驟（4)類似，這里直接給出結(jié)論； 步驟（5. 1):使用如下公式計(jì)算ELM模型的輸出權(quán)值，
其中，UP 12>1分別為ε < O的訓(xùn)練樣本對(duì)應(yīng)的隱層輸出矩陣和輸出值，UP 12, 2分別為ε > O的訓(xùn)練樣本對(duì)應(yīng)的隱層輸出矩陣和輸出值，H2= [H2,1;H2,2]，t = [t2,1;t2, 2]； 步驟（5. 2):分別使用如下公式計(jì)算&2和b 2 其中，
步驟（5. 3):重復(fù)步驟（5. 1)和步驟（5. 2)，直到&2和b 2收斂； 步驟（6):權(quán)重（Wl，W2)的自適應(yīng)調(diào)整 步驟￠. 1):計(jì)算上界模型和下界模型的預(yù)測(cè)區(qū)間平均值：
步驟（6. 2):計(jì)算預(yù)測(cè)區(qū)間平均值與區(qū)間目標(biāo)值的差： CIerr Cl expected ^^trained 步驟（6.3):根據(jù)區(qū)間模型的預(yù)測(cè)區(qū)間平均值與區(qū)間目標(biāo)值的差，使用如下方式進(jìn)行 權(quán)重調(diào)整 Wnew= w-CI errX (w-wmin) X δ w W1-W , w2- 1/w 步驟（7):重復(fù)步驟（4)、步驟（5)和步驟（6)，直到CU滿足停止條件； 步驟（8):在上述模型參數(shù)學(xué)習(xí)完成的基礎(chǔ)上，使用如下方式進(jìn)行區(qū)間型指標(biāo)預(yù)測(cè)，假 設(shè)輸入變量為X，
其中，tjP 12分別為區(qū)間型指標(biāo)預(yù)測(cè)值的下界和上界。
2.本發(fā)明根據(jù)前面的基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法，并根據(jù)精 煉爐鋼水溫度預(yù)報(bào)實(shí)際問(wèn)題，進(jìn)一步提出了基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的精煉爐鋼水溫 度區(qū)間預(yù)報(bào)方法；該方法將實(shí)際精煉爐鋼水溫度在每?jī)纱螠囟葴y(cè)量之間的前一次鋼水測(cè)量 溫度、鋼包狀況、加熱檔位、加熱時(shí)間、處理間隔時(shí)間、吹氬流量、包壁溫度、煙氣溫度、煙氣 流量和環(huán)境溫度等作為模型輸入訓(xùn)練數(shù)據(jù)，將后一次測(cè)量溫度值作為模型輸出訓(xùn)練數(shù)據(jù)， 并對(duì)基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)模型進(jìn)行訓(xùn)練，所得訓(xùn)練好的模型即 可用于鋼水溫度的預(yù)報(bào)；所述方法是在計(jì)算機(jī)上依次按以下步驟實(shí)現(xiàn)： 步驟（1):采集每爐鋼水每?jī)纱螠囟葴y(cè)量之間的數(shù)據(jù)，在每組數(shù)據(jù)中，將前一次鋼水測(cè) 量溫度、鋼包狀況、加熱檔位、加熱時(shí)間、處理間隔時(shí)間、吹氬流量、包壁溫度、煙氣溫度、煙 氣流量和環(huán)境溫度等作為模型輸入訓(xùn)練數(shù)據(jù)，將后一次鋼水測(cè)量溫度作為模型輸出數(shù)據(jù)； 步驟（2):選定輸入層神經(jīng)節(jié)點(diǎn)個(gè)數(shù)，輸出神經(jīng)節(jié)點(diǎn)個(gè)數(shù)，單隱層極限學(xué)習(xí)機(jī)的隱層節(jié) 點(diǎn)數(shù)，隱層節(jié)點(diǎn)的激勵(lì)函數(shù)，非對(duì)稱權(quán)重，區(qū)間目標(biāo)值； 步驟（3):采用權(quán)利要求1中的基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法， 用步驟（2)采集的數(shù)據(jù)進(jìn)行訓(xùn)練，從而得到精煉爐鋼水溫度預(yù)報(bào)模型。
3.本發(fā)明根據(jù)前面的基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法，并根據(jù) 微電子化學(xué)機(jī)械研磨工序晶圓片研磨厚度預(yù)報(bào)實(shí)際問(wèn)題，進(jìn)一步提出了基于貝葉斯網(wǎng)絡(luò)和 極限學(xué)習(xí)機(jī)的化學(xué)機(jī)械研磨厚度區(qū)間預(yù)報(bào)方法；該方法將實(shí)際微電子化學(xué)機(jī)械研磨工序?qū)?每個(gè)晶圓片的研磨時(shí)間以及研磨設(shè)備檢驗(yàn)標(biāo)準(zhǔn)值為模型輸入訓(xùn)練數(shù)據(jù)，將晶圓片研磨厚度 作為模型輸出訓(xùn)練數(shù)據(jù)，并對(duì)基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)模型進(jìn)行訓(xùn) 練，所得訓(xùn)練好的模型即可用于研磨厚度的區(qū)間預(yù)報(bào)。所述方法是在計(jì)算機(jī)上依次按以下 步驟實(shí)現(xiàn)： 步驟（1):采集每個(gè)晶圓片的研磨時(shí)間、研磨厚度、所屬產(chǎn)品品種，以及研磨設(shè)備檢驗(yàn) 標(biāo)準(zhǔn)值信息，并按所屬產(chǎn)品品種信息將數(shù)據(jù)進(jìn)行分組，在每組數(shù)據(jù)中，將研磨時(shí)間、研磨設(shè) 備檢驗(yàn)標(biāo)準(zhǔn)值作為模型輸入數(shù)據(jù)，將研磨厚度作為模型輸出數(shù)據(jù)； 步驟（2):選定輸入層神經(jīng)節(jié)點(diǎn)個(gè)數(shù)，輸出神經(jīng)節(jié)點(diǎn)個(gè)數(shù)，單隱層極限學(xué)習(xí)機(jī)的隱層節(jié) 點(diǎn)數(shù)，隱層節(jié)點(diǎn)的激勵(lì)函數(shù)，非對(duì)稱權(quán)重，區(qū)間目標(biāo)值； 步驟（3):采用權(quán)利要求1中的基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法， 用步驟（2)采集的數(shù)據(jù)進(jìn)行訓(xùn)練，從而得到微電子化學(xué)機(jī)械研磨厚度預(yù)報(bào)模型。
【專利摘要】基于貝葉斯網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)的區(qū)間型指標(biāo)預(yù)報(bào)方法，屬于自動(dòng)控制、信息技術(shù)和先進(jìn)制造領(lǐng)域，具體涉及非對(duì)稱高斯分布貝葉斯ELM模型參數(shù)的學(xué)習(xí)及非對(duì)稱權(quán)重的自適應(yīng)調(diào)整。其特征在于包括以下步驟：針對(duì)復(fù)雜生產(chǎn)過(guò)程不確定性特點(diǎn)，采用區(qū)間數(shù)來(lái)描述生產(chǎn)指標(biāo)，將非對(duì)稱高斯分布作為ELM模型中的輸出分布，獲得帶權(quán)重貝葉斯ELM模型，并利用復(fù)雜生產(chǎn)過(guò)程中的實(shí)際運(yùn)行數(shù)據(jù)，在經(jīng)驗(yàn)貝葉斯框架下對(duì)上述貝葉斯ELM模型的參數(shù)進(jìn)行學(xué)習(xí)。在此基礎(chǔ)上，采用自適應(yīng)調(diào)整方法學(xué)習(xí)一對(duì)互為倒數(shù)的權(quán)重，最終獲得區(qū)間型指標(biāo)的預(yù)報(bào)值。上述區(qū)間型指標(biāo)預(yù)報(bào)方法可對(duì)實(shí)際生產(chǎn)過(guò)程中的生產(chǎn)指標(biāo)進(jìn)行預(yù)報(bào)，并用于指導(dǎo)生產(chǎn)過(guò)程的操作優(yōu)化與動(dòng)態(tài)調(diào)度。
【IPC分類】G06Q10-04, G06F17-30
【公開號(hào)】CN104537033
【申請(qǐng)?zhí)枴緾N201410805036
【發(fā)明人】劉民, 寧克鋒, 董明宇, 吳澄
【申請(qǐng)人】清華大學(xué)
【公開日】2015年4月22日
【申請(qǐng)日】2014年12月23日