本站小編為你精心準備了網絡規劃論文：神經網絡的估量規劃與運用參考范文，愿這些范文能點燃您思維的火花，激發您的寫作靈感。歡迎深入閱讀并收藏。

作者：肖紅李盼池單位：東北石油大學計算機與信息技術學院

為了充分模擬生物神經元的時間累積效果，以便提高傳統神經網絡的逼近能力，本文提出一種基于序列輸入的神經網絡模型(sequenceinput-basedneuralnetworks,SINN)，該模型的每個輸入樣本為多維離散序列，可表述為一個矩陣。基于L-M算法設計了該模型的學習算法。以太陽黑子數年均值預測為例，仿真結果表明，當輸入節點數和序列長度比較接近時，該模型的逼近和預測能力明顯優于普通神經網絡。

基于序列輸入的神經網絡模型

1基于序列輸入的神經元模型

對于n×q矩陣式樣本，普通神經元將每一列視為單個樣本，而將整個矩陣視為q個n維樣本。為實現對矩陣式樣本的整體映射，本文提出序列神經元模型，如圖1所示。

2基于序列輸入的神經網絡模型

本文提出的序列輸入神經網絡模型為三層結構，隱層為序列神經元，輸出層為普通神經元，如圖3所示，圖中g為sigmoid函數。

基于序列輸入的神經網絡算法

1算法原理

令輸入層n個節點，隱層p個節點，輸出層m個節點。給定L個學習樣本，其中第l(l=1,2,,L)個樣本可表示為若逼近誤差小于等于預先設定的限定誤差，或迭代步數帶到預先設定的最大步數，則算法終止。

2實施方案

Step1模型初始化。包括：序列長度、各層節點數，各層權值的迭代初值，限定誤差E，限定步數G。置當前代數g=1。Step2按式(4-5)計算各層輸出，按式(6-15)調整網絡權值。Step3按式(16)計算逼近誤差maxE，若E>Emax或g<G，則g=g+1轉Step2，否則轉Step4。Step4保存各層權值，停機。

仿真對比

1Mackey-Glass時間序列逼近

本節以Mackey-Glass數據逼近作為仿真對象，并與普通三層ANN對比，驗證SINN的優越性。Mackey-Glass序列樣本可由下式產生為使對比公平，兩種算法采用相同的網絡結構，且均采用L-M算法調整權值。由上式生成序列仿真方案為用前面的m個數據，預測緊鄰其后的1個(即第m+1個)數據。因此兩種模型的輸出層均只有一個節點。為使對比充分，兩種模型隱層均取5,10,,20個節點。樣本歸一化后的限定誤差取0.05，限定步數取100。兩種模型的初始權值均在(-1,1)中隨機選取，L-M算法的控制參數=0.05tµ。ANN隱層和輸出層采用Sigmoid函數。

根據仿真方案，我們取預測長度m=24。令SINN輸入節點為n，序列長度為q，顯然，q反映在時間上的積累。為考察SINN的性能，即考察當n和q滿足什么關系時，SINN的性能最佳，我們將SINN輸入節點n和序列長度q分別取為表1所示的8種情況，顯然ANN的輸入節點只有m=24一種情形。為便于對比，首先定義收斂的概念。算法終止后，若逼近誤差小于限定誤差，稱算法收斂。

對于輸入節點和隱層節點的每種組合，分別用兩種模型仿真10次，并記錄每種模型的平均逼近誤差、平均迭代步數、平均收斂次數作為評價指標。仿真結果表明，SINN3_8、SIQNN4_6、SIQNN6_4、SIQNN8_3這四種SINN的逼近能力明顯優于ANN。兩種模型的訓練結果對比如圖4-6所示。

2太陽黑子數年均值預測

太陽黑子是太陽活動中最基本、最明顯的活動現象。太陽黑子產生的帶電離子，可以破壞地球高空的電離層，使大氣發生異常，還會干擾地球磁場，從而使電訊中斷，因此研究太陽黑子的變換規律有著重要的現實意義。本節利用觀測數據，采用SINN建立太陽黑子的預測模型，并通過與ANN和PNN對比，驗證SINN的優越性。

2.1構造樣本數據

本實驗采用太陽黑子的年度平均值序列作為仿真對象，從1749年至2007年，共計259個數據。該數據呈現高度非線性，致使常規預測模型很難湊效。其分布特征如圖7所示。樣本數據的構造方法是：用連續24年的數據預測其后1年的太陽黑子數。例如用1749-1773年數據預測1774年的太陽黑子數，以此類推。用1749-1948共200年的數據構造訓練樣本集，完成模型訓練。用余下的59個樣本作為測試集，以檢驗模型的預測能力。

2.2模型參數設置

本仿真將SINN與采用L-M算法的ANN和PNN對比。隱層均分別取10,11,,25個節點。根據上節結果，我們僅考察SINN3_8、SINN4_6、SINN6_4、SINN8_3四種模型。限定誤差取0.05，限定步數取1000。PNN輸入輸出均為一個節點，正交基采用24個Fourier基函數。

4.2.3訓練結果對比

對于隱層節點的每種取值，分別用ANN、PNN和四種SINN訓練10次，并統計平均逼近誤差、平均迭代步數、收斂次數，作為評價指標。訓練結果對比如圖8-10所示。

2.4預測結果對比

下面考察SINN和PNN、ANN的預測性能對比。以隱層20個節點為例，將ANN、PNN和4種SINN分別用訓練集訓練10次，每次訓練之后，不論是否收斂，立即用測試集預測，然后統計最大誤差maxE、誤差均值avgE、誤差方差varE這三項指標的10次預測平均值，對比結果如表2所示，以SINN4_6為例，對比曲線如圖11所示。

3對仿真結果的分析

綜合以上兩個仿真結果可知，當輸入節點n和序列長q比較接近時，SINN的逼近及預測能力明顯好于PNN和ANN。對此可作如下分析。SINN直接接收離散序列，通過兩次映射將輸入序列循環地映射為隱層序列神經元的輸出，由于序列神經元采用了更多可調的權值，所以SINN有更強的逼近能力。從SINN算法可以看出，輸入節點可以視為模式記憶的寬度，而序列長度可以視為模式記憶的深度，當寬度和深度適當匹配時，SINN呈現出明顯優于PNN和ANN的性能。對于PNN由于只能以深度方式獲取樣本信息，加之正交基展開帶來的截斷誤差，必然導致逼近能力下降。對于ANN，由于只能接收幾何點式的向量輸入，即只能以寬度方式而不能以深度方式獲取樣本信息，因此在ANN的信息處理過程中，不可避免地存在樣本信息的丟失，從而使逼近能力受到影響。

結論

本文提出了一種基于序列輸入的神經網絡模型及算法。仿真結果揭示出，該模型可以使SINN從寬度和深度兩方面高效的獲取樣本信息，當輸入節點和序列長度比較接近時可明顯提高其逼近和泛化能力。