一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法和預(yù)測裝置制造方法
【專利摘要】本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法和預(yù)測裝置，涉及通信服務(wù)網(wǎng)絡(luò)【技術(shù)領(lǐng)域】，能夠有效地提升ESN網(wǎng)絡(luò)的預(yù)測性能，提高預(yù)測速度和預(yù)測精度。其方法為：通過建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng)元動態(tài)池，從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)訓(xùn)練集對預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型，通過預(yù)測輸入數(shù)據(jù)對訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)。本發(fā)明實施例用于非線性混沌時間序列數(shù)據(jù)的預(yù)測。
【專利說明】一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法和預(yù)測裝置

【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及通信服務(wù)網(wǎng)絡(luò)【技術(shù)領(lǐng)域】，尤其涉及一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法和預(yù) 測裝置。

【背景技術(shù)】
[0002] 使用神經(jīng)網(wǎng)絡(luò)對非線性系統(tǒng)進行預(yù)測，具有良好的效果，并得到廣泛應(yīng)用。ESN (Echo State Network，回聲狀態(tài)神經(jīng)網(wǎng)絡(luò)）是一種新型的循環(huán)網(wǎng)絡(luò)結(jié)構(gòu)與循環(huán)網(wǎng)絡(luò)學(xué)習(xí)方 法。ESN具有大規(guī)模的內(nèi)部神經(jīng)元，使得該ESN具備良好的短期記憶能力，在混沌時間序列 的預(yù)測任務(wù)中，比傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)要好很多。
[0003] 在使用ESN回聲狀態(tài)網(wǎng)絡(luò)對非線性系統(tǒng)的預(yù)測中，傳統(tǒng)的ESN回聲狀態(tài)網(wǎng)絡(luò)中的 預(yù)測速度比較慢，預(yù)測精度不能達到要求。


【發(fā)明內(nèi)容】

[0004] 本發(fā)明的實施例提供一種回聲狀態(tài)網(wǎng)路的預(yù)測方法和預(yù)測裝置，能夠有效地提升 ESN網(wǎng)絡(luò)的預(yù)測性能，提高預(yù)測速度和預(yù)測精度。
[0005] 為達到上述目的，本發(fā)明的實施例采用如下技術(shù)方案：
[0006] 第一方面，提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法，包括：
[0007] 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合 神經(jīng)元動態(tài)池；
[0008] 從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述訓(xùn)練集對所述預(yù)測模型進行預(yù)測訓(xùn)練，獲取 訓(xùn)練完成后的預(yù)測模型；
[0009] 通過預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測 輸出數(shù)據(jù)。
[0010] 結(jié)合第一方面，在第一種可能實現(xiàn)的方式中，所述建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型， 所述預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng)元動態(tài)池包括：
[0011] 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型包括輸入層、中間層和輸出層；
[0012] 所述中間層的神經(jīng)元相互連接形成所述動態(tài)池，所述動態(tài)池為混合神經(jīng)元動態(tài) 池，所述混合神經(jīng)元動態(tài)池中所述小波神經(jīng)元的數(shù)量與所述混合神經(jīng)元動態(tài)池中神經(jīng)元總 數(shù)量的比例值為預(yù)設(shè)比例值。
[0013] 其中，所述動態(tài)池中的神經(jīng)元為環(huán)形連接拓撲結(jié)構(gòu)，所述環(huán)形連接拓撲結(jié)構(gòu)中 所述小波神經(jīng)元與除所述小波神經(jīng)元之外的普通神經(jīng)元交替連接，所述小波神經(jīng)元為 Sigmoid型小波神經(jīng)元。
[0014] 結(jié)合第一方面的第一種可能實現(xiàn)的方式，在第二種可能實現(xiàn)的方式中，所述從輸 入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述訓(xùn)練集對所述預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的 預(yù)測模型包括：
[0015] 按照時間順序，獲取預(yù)設(shè)數(shù)量個單位時間內(nèi)對所述輸入數(shù)據(jù)進行采樣得到的所述 訓(xùn)練集；
[0016] 在對所述回聲狀態(tài)網(wǎng)絡(luò)進行初始化后，將所述訓(xùn)練集作為動態(tài)池神經(jīng)元狀態(tài)更新 公式的輸入數(shù)據(jù)，獲取動態(tài)池神經(jīng)元狀態(tài)值；
[0017] 根據(jù)所述動態(tài)池神經(jīng)元狀態(tài)值獲取所述輸入層神經(jīng)元、所述中間層神經(jīng)元和所述 輸出層神經(jīng)元的聯(lián)合狀態(tài)矩陣；
[0018] 將所述聯(lián)合狀態(tài)矩陣和教師數(shù)據(jù)作為輸出權(quán)重矩陣公式的輸入獲取輸出權(quán)重矩 陣。
[0019] 結(jié)合第一方面的第二種可能實現(xiàn)的方式，在第三種可能實現(xiàn)的方式中，所述通過 預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)包 括：
[0020] 將已選定數(shù)據(jù)作為數(shù)據(jù)預(yù)測公式的預(yù)測輸入數(shù)據(jù)，根據(jù)所述預(yù)測輸入數(shù)據(jù)和所述 數(shù)據(jù)預(yù)測公式對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測；
[0021] 獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)。
[0022] 結(jié)合第一方面的第三種可能實現(xiàn)的方式，在第四種可能實現(xiàn)的方式中，所述動態(tài) 池神經(jīng)元狀態(tài)更新公式包括：
[0023] X (n+1) =f (ffinu (η+1) +Wx (n) +ffbacky (η))
[0024] 其中，u(n+l)為所述訓(xùn)練集輸入數(shù)據(jù)，χ(η)為更新前的動態(tài)池神經(jīng)元狀態(tài)值， χ(η+1)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，y (η)為所述訓(xùn)練集輸出數(shù)據(jù)，Win為輸入權(quán)重矩 陣，W為動態(tài)池的內(nèi)部權(quán)重矩陣，η為非負整數(shù)；
[0025] 所述輸出權(quán)重矩陣公式包括：
[0026] 其中，（Wtjut) tZiT1T,其中，Wwt為所述輸出權(quán)重矩陣，M為所述聯(lián)合狀態(tài)矩陣，T為根 據(jù)所述訓(xùn)練集得到的教師數(shù)據(jù)矩陣。
[0027] 所述數(shù)據(jù)預(yù)測公式包括：
[0028] y (n+1) =fout (Wout (u (n+1), x (n+1), y (n)))
[0029] 其中，u(n+l)為所述預(yù)測輸入數(shù)據(jù)，y(n)為預(yù)測輸出數(shù)據(jù)，y(n+l)為下一單位時 間的預(yù)測輸出數(shù)據(jù)，x(n+l)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，W rat為所述輸出權(quán)重矩陣。
[0030] 第二方面，提供一種預(yù)測裝置，包括：
[0031] 建立單元，用于建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型的動態(tài)池為包括小 波神經(jīng)元的混合神經(jīng)元動態(tài)池；
[0032] 訓(xùn)練單元，用于從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述訓(xùn)練集對所述預(yù)測模型進行 預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型；
[0033] 預(yù)測單元，用于通過預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù) 測過程中的預(yù)測輸出數(shù)據(jù)。
[0034] 結(jié)合第二方面，在第一種可能實現(xiàn)的方式中，所述建立單元具體用于：
[0035] 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型包括輸入層、中間層和輸出層；
[0036] 所述中間層的神經(jīng)元相互連接形成所述動態(tài)池，所述動態(tài)池為混合神經(jīng)元動態(tài) 池，所述混合神經(jīng)元動態(tài)池中所述小波神經(jīng)元的數(shù)量與所述混合神經(jīng)元動態(tài)池中神經(jīng)元總 數(shù)量的比例值為預(yù)設(shè)比例值。
[0037] 其中，所述動態(tài)池中的神經(jīng)元為環(huán)形連接拓撲結(jié)構(gòu)，所述環(huán)形連接拓撲結(jié)構(gòu)中 所述小波神經(jīng)元與除所述小波神經(jīng)元之外的普通神經(jīng)元交替連接，所述小波神經(jīng)元為 Sigmoid型小波神經(jīng)元。
[0038] 結(jié)合第二方面的第一種可能實現(xiàn)的方式，在第二種可能實現(xiàn)的方式中，所述訓(xùn)練 單元包括：
[0039] 采樣子單元，用于按照時間順序，獲取預(yù)設(shè)數(shù)量個單位時間內(nèi)對所述輸入數(shù)據(jù)進 行采樣得到的所述訓(xùn)練集；
[0040] 第一獲取子單元，用于在對所述回聲狀態(tài)網(wǎng)絡(luò)進行初始化后，將所述訓(xùn)練集作為 動態(tài)池神經(jīng)元狀態(tài)更新公式的輸入數(shù)據(jù)，獲取動態(tài)池神經(jīng)元狀態(tài)值；
[0041] 第二獲取子單元，用于根據(jù)所述動態(tài)池神經(jīng)元狀態(tài)值獲取所述輸入層神經(jīng)元、所 述中間層神經(jīng)元和所述輸出層神經(jīng)元的聯(lián)合狀態(tài)矩陣；
[0042] 第三獲取子單元，用于將所述聯(lián)合狀態(tài)矩陣和教師數(shù)據(jù)作為輸出權(quán)重矩陣公式的 輸入獲取輸出權(quán)重矩陣。
[0043] 結(jié)合第二方面的第二種可能實現(xiàn)的方式，在第三種可能實現(xiàn)的方式中，所述預(yù)測 單元用于：
[0044] 將已選定數(shù)據(jù)作為數(shù)據(jù)預(yù)測公式的預(yù)測輸入數(shù)據(jù)，根據(jù)所述預(yù)測輸入數(shù)據(jù)和所述 數(shù)據(jù)預(yù)測公式對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測；
[0045] 獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)。
[0046] 結(jié)合第二方面的第三種可能實現(xiàn)的方式，在第四種可能實現(xiàn)的方式中，所述動態(tài) 池神經(jīng)元狀態(tài)更新公式包括：
[0047] X (n+1) =f (ffinu (η+1) +Wx (n) +ffbacky (η))
[0048] 其中，u(n+l)為所述訓(xùn)練集輸入數(shù)據(jù)，χ(η)為更新前的動態(tài)池神經(jīng)元狀態(tài)值， χ(η+1)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，y (η)為所述訓(xùn)練集輸出數(shù)據(jù)，Win為輸入權(quán)重矩 陣，W為動態(tài)池的內(nèi)部權(quán)重矩陣，η為非負整數(shù)；
[0049] 所述輸出權(quán)重矩陣公式包括：
[0050] 其中，（Wtjut) tZiT1T,其中，Wwt為所述輸出權(quán)重矩陣，M為所述聯(lián)合狀態(tài)矩陣，T為根 據(jù)所述訓(xùn)練集得到的教師數(shù)據(jù)矩陣。
[0051] 所述數(shù)據(jù)預(yù)測公式包括：
[0052] y (n+1) =fout (Wout (u (n+1), x (n+1), y (n)))
[0053] 其中，u(n+l)為所述預(yù)測輸入數(shù)據(jù)，y(n)為預(yù)測輸出數(shù)據(jù)，y(n+l)為下一單位時 間的預(yù)測輸出數(shù)據(jù)，x(n+l)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，W rat為所述輸出權(quán)重矩陣。
[0054] 本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法和預(yù)測裝置，通過建立回聲狀態(tài) 網(wǎng)絡(luò)的預(yù)測模型，預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng)元動態(tài)池，從輸入數(shù)據(jù) 中獲取訓(xùn)練集，根據(jù)訓(xùn)練集對預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型，通過預(yù) 測輸入數(shù)據(jù)對訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)，能夠有效 地提升ESN網(wǎng)絡(luò)的預(yù)測性能，提高預(yù)測速度和預(yù)測精度。

【專利附圖】

【附圖說明】
[0055] 為了更清楚地說明本發(fā)明實施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對實施例或現(xiàn) 有技術(shù)描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本 發(fā)明的一些實施例，對于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動的前提下，還可以 根據(jù)這些附圖獲得其他的附圖。
[0056] 圖1為本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法流程示意圖；
[0057] 圖2為本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法流程示意圖；
[0058] 圖3為本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的動態(tài)池神經(jīng)元環(huán)形拓撲結(jié)構(gòu)圖；
[0059] 圖4為本發(fā)明實施例提供的一種預(yù)測裝置結(jié)構(gòu)示意圖；
[0060] 圖5為本發(fā)明實施例提供的一種預(yù)測裝置結(jié)構(gòu)示意圖。

【具體實施方式】
[0061] 下面將結(jié)合本發(fā)明實施例中的附圖，對本發(fā)明實施例中的技術(shù)方案進行清楚、完 整地描述，顯然，所描述的實施例僅僅是本發(fā)明一部分實施例，而不是全部的實施例。基于 本發(fā)明中的實施例，本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動前提下所獲得的所有其他 實施例，都屬于本發(fā)明保護的范圍。
[0062] 本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法，如圖1所示，包括：
[0063] 101、預(yù)測裝置建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，預(yù)測模型的動態(tài)池為包括小波神經(jīng) 元的混合神經(jīng)元動態(tài)池。
[0064] 示例性的，該預(yù)測裝置可以為電腦等用戶設(shè)備。該預(yù)測裝置包括輸入層、中間層和 輸出層。其中，輸入層由若干輸入神經(jīng)兀組成，中間層由若干中間神經(jīng)兀組成，輸出層由若 干輸出神經(jīng)元組成。
[0065] 這里的神經(jīng)元也可以理解為單元，也即輸入層由輸入單元組成，中間層由中間單 元組成，輸出層由輸出單元組成。
[0066] 其中，中間層內(nèi)部的神經(jīng)元相互連接形成動態(tài)池。本實施例中的動態(tài)池為混合神 經(jīng)元動態(tài)池，該混合神經(jīng)元動態(tài)池包括小波神經(jīng)元和除小波神經(jīng)元以為的普通神經(jīng)元組 成。這里的小波神經(jīng)元可以為Sigmoid型小波神經(jīng)元。
[0067] 102、預(yù)測裝置從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)訓(xùn)練集對預(yù)測模型進行預(yù)測訓(xùn)練， 獲取訓(xùn)練完成后的預(yù)測模型。
[0068] 示例性的，該訓(xùn)練集可以提取網(wǎng)絡(luò)中心節(jié)點IP(Internet Protocol,互聯(lián)網(wǎng)協(xié)議） 數(shù)據(jù)包。
[0069] 103、預(yù)測裝置通過預(yù)測輸入數(shù)據(jù)對訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程 中的預(yù)測輸出數(shù)據(jù)。
[0070] 本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法，通過建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測 模型，預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng)元動態(tài)池，從輸入數(shù)據(jù)中獲取訓(xùn)練 集，根據(jù)訓(xùn)練集對預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型，通過預(yù)測輸入數(shù)據(jù) 對訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)，能夠有效地提升ESN 網(wǎng)絡(luò)的預(yù)測性能，提高預(yù)測速度和預(yù)測精度。
[0071] 本發(fā)明實施例提供一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法，如圖2所示，包括：
[0072] 201、預(yù)測裝置建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，預(yù)測模型的動態(tài)池為包括小波神經(jīng) 元的混合神經(jīng)元動態(tài)池。
[0073] 示例性的，ESN (Echo State Network，回聲狀態(tài)網(wǎng)絡(luò)）的主要應(yīng)用領(lǐng)域可以為時 序預(yù)測、逆模式、時序分類、非線性控制、圖像處理等，是一種新型的人工神經(jīng)網(wǎng)絡(luò)。其具有 大規(guī)模的內(nèi)部神經(jīng)元，使得它具備良好的短期記憶能力。
[0074] 其中，該ESN的預(yù)測模型包括輸入層、中間層和輸出層。輸入層有輸入神經(jīng)元組 成，作為該ESN網(wǎng)絡(luò)的輸入，若輸入層有K個輸入神經(jīng)元，則該ESN網(wǎng)絡(luò)的輸入維度為K ;輸 出層由輸出神經(jīng)元組成，用于輸出ESN網(wǎng)絡(luò)的預(yù)測結(jié)果，若輸出層的輸出神經(jīng)元為L個，則 該ESN網(wǎng)絡(luò)的輸出維度為L ;中間層由中間神經(jīng)元組成，若中間層由N個中間神經(jīng)元，輸入 層與中間層神經(jīng)元相互連接構(gòu)成K*N的輸入權(quán)重矩陣Win，全部三層與輸出層神經(jīng)元相互連 接組成（K+N+L)*L的輸出權(quán)重矩陣W tjut，輸出層與中間層神經(jīng)元相互連接組成（L*N)反饋權(quán) 重矩陣Wbadt。中間層的中間神經(jīng)元相互連接構(gòu)成N*N的中間層內(nèi)部權(quán)重矩陣W，即中間層神 經(jīng)元相互連接形成動態(tài)池。
[0075] 具體的，Win、Wbadt和W都是固定不變的，這里的動態(tài)池為混合神經(jīng)元動態(tài)池，混合神 經(jīng)元動態(tài)池中小波神經(jīng)元的數(shù)量與混合神經(jīng)元動態(tài)池中神經(jīng)元總數(shù)量的比例值為預(yù)設(shè)比 例值。其中，小波神經(jīng)元為Sigmoid型小波神經(jīng)元，將小波神經(jīng)元替換中間層神經(jīng)元的部分 神經(jīng)元，也即混合神經(jīng)元動態(tài)池由小波神經(jīng)元和除小波神經(jīng)元以外的普通神經(jīng)元組成。其 中，小波神經(jīng)元可以為中間層神經(jīng)元總數(shù)量的40%?60%，例如一般取小波神經(jīng)元占中間層 神經(jīng)元總數(shù)量的50%。
[0076] 具體的，該Sigmoid型小波神經(jīng)元的激活函數(shù)可以采用如下函數(shù)：

【權(quán)利要求】
1. 一種回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測方法，其特征在于，包括： 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng) 元動態(tài)池； 從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述訓(xùn)練集對所述預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練 完成后的預(yù)測t旲型； 通過預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出 數(shù)據(jù)。
2. 根據(jù)權(quán)利要求1所述的方法，其特征在于，所述建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述 預(yù)測模型的動態(tài)池為包括小波神經(jīng)元的混合神經(jīng)元動態(tài)池包括： 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型包括輸入層、中間層和輸出層； 所述中間層的神經(jīng)元相互連接形成所述動態(tài)池，所述動態(tài)池為混合神經(jīng)元動態(tài)池，所 述混合神經(jīng)元動態(tài)池中所述小波神經(jīng)元的數(shù)量與所述混合神經(jīng)元動態(tài)池中神經(jīng)元總數(shù)量 的比例值為預(yù)設(shè)比例值； 其中，所述動態(tài)池中的神經(jīng)元為環(huán)形連接拓撲結(jié)構(gòu)，所述環(huán)形連接拓撲結(jié)構(gòu)中所述小 波神經(jīng)元與除所述小波神經(jīng)元之外的普通神經(jīng)元交替連接，所述小波神經(jīng)元為Sigmoid型 小波神經(jīng)元。
3. 根據(jù)權(quán)利要求2所述的方法，其特征在于，所述從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述 訓(xùn)練集對所述預(yù)測模型進行預(yù)測訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型包括： 按照時間順序，獲取預(yù)設(shè)數(shù)量個單位時間內(nèi)對所述輸入數(shù)據(jù)進行采樣得到的所述訓(xùn)練 集； 在對所述回聲狀態(tài)網(wǎng)絡(luò)進行初始化后，將所述訓(xùn)練集作為動態(tài)池神經(jīng)元狀態(tài)更新公式 的輸入數(shù)據(jù)，獲取動態(tài)池神經(jīng)元狀態(tài)值； 根據(jù)所述動態(tài)池神經(jīng)元狀態(tài)值獲取所述輸入層神經(jīng)元、所述中間層神經(jīng)元和所述輸出 層神經(jīng)元的聯(lián)合狀態(tài)矩陣； 將所述聯(lián)合狀態(tài)矩陣和教師數(shù)據(jù)作為輸出權(quán)重矩陣公式的輸入獲取輸出權(quán)重矩陣。
4. 根據(jù)權(quán)利要求3所述的方法，其特征在于，所述通過預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成 的預(yù)測模型進行預(yù)測，獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)包括： 將已選定數(shù)據(jù)作為數(shù)據(jù)預(yù)測公式的預(yù)測輸入數(shù)據(jù)，根據(jù)所述預(yù)測輸入數(shù)據(jù)和所述數(shù)據(jù) 預(yù)測公式對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測； 獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)。
5. 根據(jù)權(quán)利要求4所述的方法，其特征在于，所述動態(tài)池神經(jīng)元狀態(tài)更新公式包括： x (n+1) =f (ffinu (n+1) +ffx (n) +ffbacky (n)) 其中，u(n+l)為所述訓(xùn)練集輸入數(shù)據(jù)，x(n)為更新前的動態(tài)池神經(jīng)元狀態(tài)值，x(n+l) 為更新后的動態(tài)池神經(jīng)元狀態(tài)值，y(n)為所述訓(xùn)練集輸出數(shù)據(jù)，Win為輸入權(quán)重矩陣，W為動 態(tài)池的內(nèi)部權(quán)重矩陣，n為非負整數(shù)； 所述輸出權(quán)重矩陣公式包括： 其中，（W^) yM^T，其中，Wwt為所述輸出權(quán)重矩陣，M為所述聯(lián)合狀態(tài)矩陣，T為根據(jù)所 述訓(xùn)練集得到的教師數(shù)據(jù)矩陣； 所述數(shù)據(jù)預(yù)測公式包括： y (n+1) =fout (ffout (u (n+1), x (n+1), y (n))) 其中，u(n+l)為所述預(yù)測輸入數(shù)據(jù)，y(n)為預(yù)測輸出數(shù)據(jù)，y(n+l)為下一單位時間的 預(yù)測輸出數(shù)據(jù)，x(n+1)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，為所述輸出權(quán)重矩陣。
6. -種預(yù)測裝置，其特征在于，包括： 建立單元，用于建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型的動態(tài)池為包括小波神 經(jīng)元的混合神經(jīng)元動態(tài)池； 訓(xùn)練單元，用于從輸入數(shù)據(jù)中獲取訓(xùn)練集，根據(jù)所述訓(xùn)練集對所述預(yù)測模型進行預(yù)測 訓(xùn)練，獲取訓(xùn)練完成后的預(yù)測模型； 預(yù)測單元，用于通過預(yù)測輸入數(shù)據(jù)對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測，獲取預(yù)測過 程中的預(yù)測輸出數(shù)據(jù)。
7. 根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述建立單元具體用于： 建立回聲狀態(tài)網(wǎng)絡(luò)的預(yù)測模型，所述預(yù)測模型包括輸入層、中間層和輸出層； 所述中間層的神經(jīng)元相互連接形成所述動態(tài)池，所述動態(tài)池為混合神經(jīng)元動態(tài)池，所 述混合神經(jīng)元動態(tài)池中所述小波神經(jīng)元的數(shù)量與所述混合神經(jīng)元動態(tài)池中神經(jīng)元總數(shù)量 的比例值為預(yù)設(shè)比例值； 其中，所述動態(tài)池中的神經(jīng)元為環(huán)形連接拓撲結(jié)構(gòu)，所述環(huán)形連接拓撲結(jié)構(gòu)中所述小 波神經(jīng)元與除所述小波神經(jīng)元之外的普通神經(jīng)元交替連接，所述小波神經(jīng)元為Sigmoid型 小波神經(jīng)元。
8. 根據(jù)權(quán)利要求7所述的裝置，其特征在于，所述訓(xùn)練單元包括： 采樣子單元，用于按照時間順序，獲取預(yù)設(shè)數(shù)量個單位時間內(nèi)對所述輸入數(shù)據(jù)進行采 樣得到的所述訓(xùn)練集； 第一獲取子單元，用于在對所述回聲狀態(tài)網(wǎng)絡(luò)進行初始化后，將所述訓(xùn)練集作為動態(tài) 池神經(jīng)元狀態(tài)更新公式的輸入數(shù)據(jù)，獲取動態(tài)池神經(jīng)元狀態(tài)值； 第二獲取子單元，用于根據(jù)所述動態(tài)池神經(jīng)元狀態(tài)值獲取所述輸入層神經(jīng)元、所述中 間層神經(jīng)元和所述輸出層神經(jīng)元的聯(lián)合狀態(tài)矩陣； 第三獲取子單元，用于將所述聯(lián)合狀態(tài)矩陣和教師數(shù)據(jù)作為輸出權(quán)重矩陣公式的輸入 獲取輸出權(quán)重矩陣。
9. 根據(jù)權(quán)利要求8所述的裝置，其特征在于，所述預(yù)測單元用于： 將已選定數(shù)據(jù)作為數(shù)據(jù)預(yù)測公式的預(yù)測輸入數(shù)據(jù)，根據(jù)所述預(yù)測輸入數(shù)據(jù)和所述數(shù)據(jù) 預(yù)測公式對所述訓(xùn)練完成的預(yù)測模型進行預(yù)測； 獲取預(yù)測過程中的預(yù)測輸出數(shù)據(jù)。
10. 根據(jù)權(quán)利要求9所述的裝置，其特征在于，所述動態(tài)池神經(jīng)元狀態(tài)更新公式包括： x (n+1) =f (ffinu (n+1) +ffx (n) +ffbacky (n)) 其中，u(n+l)為所述訓(xùn)練集輸入數(shù)據(jù)，x(n)為更新前的動態(tài)池神經(jīng)元狀態(tài)值，x(n+l) 為更新后的動態(tài)池神經(jīng)元狀態(tài)值，y(n)為所述訓(xùn)練集輸出數(shù)據(jù)，Win為輸入權(quán)重矩陣，W為動 態(tài)池的內(nèi)部權(quán)重矩陣，n為非負整數(shù)； 所述輸出權(quán)重矩陣公式包括： 其中，（W^) yM^T，其中，Wwt為所述輸出權(quán)重矩陣，M為所述聯(lián)合狀態(tài)矩陣，T為根據(jù)所 述訓(xùn)練集得到的教師數(shù)據(jù)矩陣； 所述數(shù)據(jù)預(yù)測公式包括： y (n+1) =fout (ffout (u (n+1), x (n+1), y (n))) 其中，u(n+l)為所述預(yù)測輸入數(shù)據(jù)，y(n)為預(yù)測輸出數(shù)據(jù)，y(n+l)為下一單位時間的 預(yù)測輸出數(shù)據(jù)，x(n+1)為更新后的動態(tài)池神經(jīng)元狀態(tài)值，為所述輸出權(quán)重矩陣。
【文檔編號】G06N3/02GK104424507SQ201310379811
【公開日】2015年3月18日 申請日期:2013年8月28日 優(yōu)先權(quán)日:2013年8月28日
【發(fā)明者】楊鳳琴 申請人:楊鳳琴