時(shí)間：2022-12-14 13:20:18
序論：在您撰寫神經(jīng)網(wǎng)絡(luò)論文時(shí)，參考他人的優(yōu)秀作品可以開闊視野，小編為您整理的7篇范文，希望這些建議能夠激發(fā)您的創(chuàng)作熱情，引導(dǎo)您走向新的創(chuàng)作高度。
EL檢測(cè)原理與檢測(cè)系統(tǒng)在文獻(xiàn)［1］中有詳細(xì)的描述。本文采用該文獻(xiàn)中的方法對(duì)太陽能電池片的EL圖像進(jìn)行采集。圖1(a)、(b)、(c)分別表示由CCD采集的一塊大小為125bits×125bits的虛焊缺陷圖像、微裂缺陷圖像和斷指缺陷圖像。圖1(d)是無缺陷太陽能電池組圖像，它包含36(6×6)塊大小為125bits×125bits的太陽能電池片圖像。本文提出融合主成分分析(PCA)改進(jìn)反向傳播神經(jīng)網(wǎng)絡(luò)(BPNN)方法和徑向基神經(jīng)網(wǎng)絡(luò)(RBFNN)方法對(duì)太陽能電池缺陷電致發(fā)光圖像進(jìn)行處理，主要包括圖像采集、PCA特征提取降維、神經(jīng)網(wǎng)絡(luò)分類訓(xùn)練、預(yù)測(cè)輸出等部分，如圖2所示。
1．1PCA處理輸入數(shù)據(jù)當(dāng)BPNN和RBFNN的輸入是太陽能電池板缺陷圖像集時(shí)，圖像是以向量的形式表示。向量維數(shù)太大將不利于網(wǎng)絡(luò)的計(jì)算。我們采用主成分分量分析(PCA)算法［15］來提取該向量的主要特征分量，既不損失重要信息又能減少網(wǎng)絡(luò)的計(jì)算量。PCA是基于協(xié)方差矩陣將樣本數(shù)據(jù)投影到一個(gè)新的空間中，那么表示該樣本數(shù)據(jù)就只需要該樣本數(shù)據(jù)最大的一個(gè)線性無關(guān)組的特征值對(duì)應(yīng)的空間坐標(biāo)即可。將特征值從大到小排列，取較大特征值對(duì)應(yīng)的分量就稱為主成分分量。通過這種由高維數(shù)據(jù)空間向低維數(shù)據(jù)空間投影的方法，可以將原始的高維數(shù)據(jù)壓縮到低維。假設(shè)數(shù)據(jù)矩陣Xn×p由樣本圖像組成，n是樣本數(shù)，p是樣本圖像的大小。若Xn×p的每一行代表一幅樣本圖像，則Xn×p的PCA降維矩陣求解步驟如下。
1．2創(chuàng)建BPNN模型和RBFNN模型太陽能電池缺陷種類很多，不同缺陷類型圖像具有不同特征。對(duì)太陽能電池缺陷圖像求其主成分分量作為BPNN的輸入，缺陷的分類作為輸出，輸入層有k個(gè)神經(jīng)元(降維后主成分分量個(gè)數(shù))，輸出層有1個(gè)神經(jīng)元(缺陷的分類向量)。隱層的節(jié)點(diǎn)數(shù)可以憑經(jīng)驗(yàn)多次實(shí)驗(yàn)確定，也可以設(shè)計(jì)一個(gè)隱含層數(shù)目可變的BPNN。通過誤差對(duì)比，選擇在給定對(duì)比次數(shù)內(nèi)誤差最小所對(duì)應(yīng)的隱含層神經(jīng)元數(shù)目，從而確定BPNN的結(jié)構(gòu)。一般來說，3層BPNN就能以任意的精度逼近任意的連續(xù)函數(shù)［16］。本論文選擇3層BPNN，結(jié)構(gòu)為k－m－1，m為隱含層節(jié)點(diǎn)數(shù)。為了使網(wǎng)絡(luò)訓(xùn)練時(shí)不發(fā)生“過擬合”現(xiàn)象，設(shè)計(jì)合理BPNN模型的過程是一個(gè)不斷調(diào)整參數(shù)對(duì)比結(jié)果的過程。確定BPNN結(jié)構(gòu)后，就可以對(duì)該網(wǎng)絡(luò)進(jìn)行訓(xùn)練。訓(xùn)練函數(shù)采用Levenberg-Marquardt函數(shù)，隱含層神經(jīng)元傳遞函數(shù)為S型正切函數(shù)tansig，輸出層神經(jīng)元函數(shù)為純線性函數(shù)purelin。調(diào)用格式:net=newff(Y，T，［m，1］，{‘tansig’，‘purelin’}，‘train-lm’);Y為神經(jīng)網(wǎng)絡(luò)的輸入矩陣向量(PCA降維后的矩陣向量)，T為神經(jīng)網(wǎng)絡(luò)的輸出矩陣向量。Matlab自帶4種主要的函數(shù)來設(shè)計(jì)RBFNN:newrbe，newrb，newgrnn，newpnn。本文用相同的訓(xùn)練樣本集和測(cè)試樣本集創(chuàng)建和測(cè)試了這4種網(wǎng)絡(luò)，其中，用newgrnn創(chuàng)建的網(wǎng)絡(luò)識(shí)別率最高，因此選用廣義回歸神經(jīng)網(wǎng)絡(luò)newgrnn來創(chuàng)建RBFNN:(1)隱含層徑向基神經(jīng)元層數(shù)目等于輸入樣本數(shù)，其權(quán)值等于輸入矩陣向量的轉(zhuǎn)置。(2)輸出層線性神經(jīng)元層，以隱含層神經(jīng)元的輸出作為該層的輸入，權(quán)值為輸出矩陣向量T，無閾值向量。調(diào)用格式:net=newgrnn(Y，T，Spread);Y為神經(jīng)網(wǎng)絡(luò)的輸入矩陣向量(PCA降維后的矩陣向量)，T為神經(jīng)網(wǎng)絡(luò)的輸出矩陣向量，Spread為徑向基函數(shù)的擴(kuò)展速度。
1．3太陽能電池缺陷的檢測(cè)算法(1)數(shù)據(jù)映射。取每種類型缺陷圖像的60%和40%分別作為BPNN和RBFNN的訓(xùn)練樣本集和測(cè)試樣本集。將樣本集中每張圖片變成矩陣中的一列，形成一個(gè)矩陣，采用2．1節(jié)中的方法對(duì)該矩陣進(jìn)行PCA降維后的矩陣作為BPNN和RBFNN的輸入。將虛焊、微裂、斷指和無缺陷4種不同類型圖像分別標(biāo)記為1，2，3，4，作為網(wǎng)絡(luò)期望輸出T。(2)數(shù)據(jù)歸一化。將輸入輸出矩陣向量歸一化為［－1，1］，利于神經(jīng)網(wǎng)絡(luò)的計(jì)算。(3)分別調(diào)用2．2節(jié)中創(chuàng)建的BPNN和RBFNN，設(shè)置網(wǎng)絡(luò)參數(shù)，利用訓(xùn)練樣本集先對(duì)網(wǎng)絡(luò)訓(xùn)練，然后將訓(xùn)練好的網(wǎng)絡(luò)對(duì)測(cè)試樣本集進(jìn)行仿真，并對(duì)仿真結(jié)果進(jìn)行反歸一化。(4)最后將仿真預(yù)測(cè)輸出分別和圖像1，2，3，4比較，差值的絕對(duì)值小于閾值0．5認(rèn)為預(yù)測(cè)正確。閾值是根據(jù)網(wǎng)絡(luò)的期望輸出選擇的，以能正確區(qū)分不同缺陷類型為宜。識(shí)別率定義為正確識(shí)別的數(shù)量和樣本數(shù)的比值。
2實(shí)驗(yàn)內(nèi)容與結(jié)果分析
為了驗(yàn)證本文方法的有效性，我們通過CCD圖像采集系統(tǒng)采集了1000張?zhí)柲茈姵匕錏L圖片，包括250張?zhí)摵笜颖尽?50張微裂樣本、250張斷指樣本、250張無缺陷樣本，大小為125bits×125bits。我們利用圖片組成的樣本數(shù)據(jù)集進(jìn)行了大量的實(shí)驗(yàn)，將每種類型缺陷圖像的60%和40%分別作為BPNN和RBFNN的訓(xùn)練樣本集和測(cè)試樣本集。算法測(cè)試硬件平臺(tái)為Inteli5750、主頻2．66GHz的CPU，4G內(nèi)存的PC機(jī)，編譯環(huán)境為Mat-labR2012b。由于樣本圖像數(shù)據(jù)較大，需采用2．1節(jié)中的PCA算法進(jìn)行降維處理。對(duì)樣本圖像集降維后，得到神經(jīng)網(wǎng)絡(luò)的輸入矩陣。但是，隨著樣本數(shù)的增加，占有主要信息的主成分維數(shù)也在增加。因此，分別采用占有主要信息60%～90%的圖像作為BPNN的輸入，對(duì)應(yīng)的降維后的主成分維數(shù)k為BPNN輸入層節(jié)點(diǎn)數(shù)。由于BPNN的結(jié)果每次都不同，所以運(yùn)行50次，保存識(shí)別率最高的網(wǎng)絡(luò)。圖3是在不同樣本集數(shù)下的PCA-BPNN的最高識(shí)別率。其中，樣本數(shù)n=1000時(shí)的PCA-BPNN識(shí)別率如表1所示。同時(shí)網(wǎng)絡(luò)參數(shù)設(shè)置也列在表1中。隱含層中的最佳節(jié)點(diǎn)數(shù)是采用經(jīng)驗(yàn)公式所得［17］。從圖3和表1中可以看出，當(dāng)維數(shù)降至20維(占主要信息70%)、總樣本數(shù)為1000(測(cè)試樣本400)時(shí)，4種類型總的最高識(shí)別率為93．5%。在相同的訓(xùn)練樣本集和測(cè)試樣本集上，采用與BPNN同樣的輸入和輸出，在不同樣本集數(shù)下，PCA-RBFNN的最高識(shí)別率如圖4所示。其中，樣本數(shù)n=1000時(shí)的PCA-RBFNN識(shí)別率如表2所示。參數(shù)Spread的設(shè)置也列在表2中，首先設(shè)定Spread為1，然后以10倍的間隔速度遞減。從圖4和表2中可以看出，樣本數(shù)為1000(測(cè)試樣本400)時(shí)，PCA維數(shù)降到15(占主要信息65%)，總的最高識(shí)別率為96．25%。兩種網(wǎng)絡(luò)的測(cè)試樣本集最高識(shí)別率對(duì)比分別如圖5和表3所示。圖5(a)、(b)分別為采用PCA-BPNN與PCA-RBFNN方法時(shí)測(cè)試樣本集中的4種缺陷樣本圖像的期望值與預(yù)測(cè)值。表3列出了兩種方法的具體識(shí)別結(jié)果。從表3可以看出，兩種方法對(duì)虛焊缺陷識(shí)別率均較高，分別為99%和100%;微裂缺陷識(shí)別率較低，分別為89%和92%。這是因?yàn)樘摵溉毕菝娣e較大，顏色較深具有顯著特點(diǎn);而微裂缺陷面積較小，與背景對(duì)比不強(qiáng)烈，導(dǎo)致錯(cuò)誤分類。采用本文提出的BPNN和RBFNN方法處理一幅750×750大小的圖像大約分別需要1．8s和0．1s，PCA降維的時(shí)間大約為0．02s。將上述兩種方法與FCM［18］及ICA［3］方法進(jìn)行比較，結(jié)果如表4所示?？梢钥闯觯琑BFNN方法具有較高的識(shí)別率和較短的計(jì)算時(shí)間，更適合于在線檢測(cè)。
3結(jié)論
[關(guān)鍵詞]軟件項(xiàng)目風(fēng)險(xiǎn)管理神經(jīng)網(wǎng)絡(luò)粗集
本篇論文的中心是基于粗集的人工神經(jīng)網(wǎng)絡(luò)(ANN)技術(shù)的高風(fēng)險(xiǎn)識(shí)別，這樣在制定開發(fā)計(jì)劃中，最大的減少風(fēng)險(xiǎn)發(fā)生的概率，形成對(duì)高風(fēng)險(xiǎn)的管理。
一、模型結(jié)構(gòu)的建立
本文基于粗集的BP神經(jīng)網(wǎng)絡(luò)的風(fēng)險(xiǎn)分析模型,對(duì)項(xiàng)目的風(fēng)險(xiǎn)進(jìn)行評(píng)估,為項(xiàng)目進(jìn)行中的風(fēng)險(xiǎn)管理提供決策支持。在這個(gè)模型中主要是粗糙集預(yù)處理神經(jīng)網(wǎng)絡(luò)系統(tǒng)，即用RS理論對(duì)ANN輸入端的樣本約簡，尋找屬性間關(guān)系，約簡掉與決策無關(guān)的屬性。簡化輸入信息的表達(dá)空間維數(shù)，簡化ANN結(jié)構(gòu)。本論文在此理論基礎(chǔ)上，建立一種風(fēng)險(xiǎn)評(píng)估的模型結(jié)構(gòu)。這個(gè)模型由三部分組成即：風(fēng)險(xiǎn)辨識(shí)單元庫、神經(jīng)網(wǎng)絡(luò)單元、風(fēng)險(xiǎn)預(yù)警單元。
1.風(fēng)險(xiǎn)辨識(shí)單元庫。由三個(gè)部分功能組成：歷史數(shù)據(jù)的輸入，屬性約簡和初始化數(shù)據(jù).這里用戶需提供歷史的項(xiàng)目風(fēng)險(xiǎn)系數(shù)。所謂項(xiàng)目風(fēng)險(xiǎn)系數(shù),是在項(xiàng)目評(píng)價(jià)中根據(jù)各種客觀定量指標(biāo)加權(quán)推算出的一種評(píng)價(jià)項(xiàng)目風(fēng)險(xiǎn)程度的客觀指標(biāo)。計(jì)算的方法:根據(jù)項(xiàng)目完成時(shí)間、項(xiàng)目費(fèi)用和效益投入比三個(gè)客觀指標(biāo),結(jié)合項(xiàng)目對(duì)各種資源的要求,確定三個(gè)指標(biāo)的權(quán)值。項(xiàng)目風(fēng)險(xiǎn)系數(shù)可以表述成:r=f(w1,w2,w3,T,T/T0,S/S0,U/U0),R<1；式中:r為風(fēng)險(xiǎn)系數(shù);T、T0分別為實(shí)際時(shí)間和計(jì)劃時(shí)間;S、S0分別為實(shí)際費(fèi)用和計(jì)劃費(fèi)用;U、U0分別為實(shí)際效能和預(yù)計(jì)效能;w1、w2、w3分別是時(shí)間、費(fèi)用和效能的加權(quán)系數(shù),而且應(yīng)滿足w1+w2+w3=1的條件。
2.神經(jīng)網(wǎng)絡(luò)單元。完成風(fēng)險(xiǎn)辨識(shí)單元的輸入后,神經(jīng)網(wǎng)絡(luò)單元需要先載入經(jīng)初始化的核心風(fēng)險(xiǎn)因素的歷史數(shù)據(jù),進(jìn)行網(wǎng)絡(luò)中權(quán)值的訓(xùn)練,可以得到輸入層與隱含層、隱含層與輸出層之間的權(quán)值和閥值。
(1)選取核心特征數(shù)據(jù)作為輸入，模式對(duì)xp=[xp1,xp2,.,xpn]T,dp(網(wǎng)絡(luò)期望輸出)提供給網(wǎng)絡(luò)。用輸入模式xp,連接權(quán)系數(shù)wij及閾值hj計(jì)算各隱含單元的輸出。
m
Ypj=1/{1+exp[-(∑wijxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,
i=1
(2)用隱含層輸出ypj,連接權(quán)系數(shù)wij及閾值h計(jì)算輸出單元的輸出
m
Yp=1/{1+exp[-(∑wjxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,
i=1
Yp=[y1,y2,……,yn]T
(3)比較已知輸出與計(jì)算輸出,計(jì)算下一次的隱含各層和輸出層之間新的連接權(quán)值及輸出神經(jīng)元閾值。
wj(k+1)=wj(k)+η(k)σpσpj+α[wj(k)-wj(k-1)]
h(k+1)=h(k)+η(k)σp+α[h(k)-h(k-1)]
η(k)=η0(1-t/(T+M))
η0是初始步長;t是學(xué)習(xí)次數(shù);T是總的迭代次數(shù);M是一個(gè)正數(shù),α∈(0,1)是動(dòng)量系數(shù)。σp是一個(gè)與偏差有關(guān)的值,對(duì)輸出結(jié)點(diǎn)來說；σp=yp(1-yp)(dp-yp)；對(duì)隱結(jié)點(diǎn)來說,因其輸出無法比較,所以經(jīng)過反向推算；σpj=ypj(1-ypj)(ypwj)
(4)用σpj、xpj、wij和h計(jì)算下一次的輸入層和隱含層之間新的連接權(quán)值及隱含神經(jīng)元閾值。wij(k+1)=wij(k)+η(t)σpjxpi+α[wij(k)-wij(k-1)]
3.風(fēng)險(xiǎn)預(yù)警單元
根據(jù)風(fēng)險(xiǎn)評(píng)價(jià)系數(shù)的取值,可以將項(xiàng)目的風(fēng)險(xiǎn)狀況分為若干個(gè)區(qū)間。本文提出的劃分方法是按照5個(gè)區(qū)間來劃分的:
r<0.2項(xiàng)目的風(fēng)險(xiǎn)很低,損失發(fā)生的概率或者額度很小;
0.2≤r<0.4項(xiàng)目的風(fēng)險(xiǎn)較低,但仍存在一定風(fēng)險(xiǎn);
0.4≤r<0.6項(xiàng)目的風(fēng)險(xiǎn)處于中等水平,有出現(xiàn)重大損失的可能;
0.6≤r<0.8項(xiàng)目的風(fēng)險(xiǎn)較大,必須加強(qiáng)風(fēng)險(xiǎn)管理,采取避險(xiǎn)措施;
0.8≤r<1項(xiàng)目的風(fēng)險(xiǎn)極大,重大損失出現(xiàn)的概率很高,建議重新考慮對(duì)于項(xiàng)目的投資決策。
總之，有許多因素影響著項(xiàng)目風(fēng)險(xiǎn)的各個(gè)對(duì)象，我們使用了用戶評(píng)級(jí)的方式，從風(fēng)險(xiǎn)評(píng)估單元中獲得評(píng)價(jià)系數(shù)五個(gè)等級(jí)。給出各風(fēng)險(xiǎn)指標(biāo)的評(píng)價(jià)系數(shù)，衡量相關(guān)風(fēng)險(xiǎn)的大小。系數(shù)越低，項(xiàng)目風(fēng)險(xiǎn)越低；反之，系數(shù)越高，項(xiàng)目風(fēng)險(xiǎn)越高。
二、實(shí)證：以軟件開發(fā)風(fēng)險(xiǎn)因素為主要依據(jù)
這里我們從影響項(xiàng)目風(fēng)險(xiǎn)諸多因素中，經(jīng)項(xiàng)目風(fēng)險(xiǎn)系數(shù)計(jì)算，作出決策表，利用粗集約簡，抽取出最核心的特征屬性(中間大量復(fù)雜的計(jì)算過程省略)?？偣渤槿〕隽鶄€(gè)主要的指標(biāo)(PersonnelManagement/Training，Schedule，ProductControl，Safety，ProjectOrganization，Communication)確定了6個(gè)輸入神經(jīng)元，根據(jù)需求網(wǎng)絡(luò)隱含層神經(jīng)元選為13個(gè)，一個(gè)取值在0到1的輸出三層神經(jīng)元的BP網(wǎng)絡(luò)結(jié)構(gòu)。將前十個(gè)季度的指標(biāo)數(shù)據(jù)作為訓(xùn)練樣本數(shù)據(jù)，對(duì)這些訓(xùn)練樣本進(jìn)行數(shù)值化和歸一化處理，給定學(xué)習(xí)率η=0.0001，動(dòng)量因子α=0.01，非線性函數(shù)參數(shù)β=1.05，誤差閉值ε=0.01，經(jīng)過多次迭代學(xué)習(xí)后訓(xùn)練次數(shù)N＝1800網(wǎng)絡(luò)趨于收斂，以確定神經(jīng)網(wǎng)絡(luò)的權(quán)值。最后將后二個(gè)季度的指標(biāo)數(shù)據(jù)作為測(cè)試數(shù)據(jù)，輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中，利用神經(jīng)網(wǎng)絡(luò)系統(tǒng)進(jìn)行識(shí)別和分類，以判斷軟件是否會(huì)發(fā)生危機(jī)。實(shí)驗(yàn)結(jié)果表明，使用神經(jīng)網(wǎng)絡(luò)方法進(jìn)行風(fēng)險(xiǎn)預(yù)警工作是有效的，運(yùn)用神經(jīng)網(wǎng)絡(luò)方法對(duì)后二個(gè)季度的指標(biāo)數(shù)據(jù)進(jìn)行處理和計(jì)算，最后神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出值為r=0.57和r=0.77，該軟件開發(fā)風(fēng)險(xiǎn)處于中等和較大狀態(tài)，與用專家效績?cè)u(píng)價(jià)方法評(píng)價(jià)出的結(jié)果基本吻合。
參考文獻(xiàn)：
[1]王國胤“Rough:集理論與知識(shí)獲取”[M].西安交通大學(xué)出版社，2001
在水利及土木工程中經(jīng)常會(huì)遇到地形面，地形面是典型的空間自由曲面，地形面在給出時(shí)，往往只給出一些反映地形、地貌特征的離散點(diǎn)，而無法給出描述地形面的曲面方程。然而有時(shí)需要對(duì)地形面進(jìn)行描述，或者當(dāng)給出的地形面的點(diǎn)不完整時(shí)，需要插補(bǔ)出合理的點(diǎn)。以往大多用最小二乘法或其它曲面擬合方法如三次參數(shù)樣條曲面、Bezier曲面或非均勻有理B樣條曲面等，這些擬合方法的缺點(diǎn)是：型值點(diǎn)一旦給定，就不能更改，否則必須重新構(gòu)造表達(dá)函數(shù)；在構(gòu)造曲線曲率變化較大或型值點(diǎn)奇異時(shí)，容易產(chǎn)生畸變，有時(shí)需要人為干預(yù)；此外，這些方法對(duì)數(shù)據(jù)格式都有要求。
神經(jīng)網(wǎng)絡(luò)技術(shù)借用基于人類智能（如學(xué)習(xí)和自適應(yīng)）的模型、模糊技術(shù)方法，利用人類的模糊思想來求解問題，在許多領(lǐng)域優(yōu)于傳統(tǒng)技術(shù)。用神經(jīng)網(wǎng)絡(luò)進(jìn)行地形面構(gòu)造，只要測(cè)量有限個(gè)點(diǎn)（可以是無序的），不需要其它更多的地形面信息和曲面知識(shí)，當(dāng)?shù)匦蚊鎻?fù)雜或者是測(cè)量數(shù)據(jù)不完整時(shí)，用神經(jīng)網(wǎng)絡(luò)方法更具優(yōu)勢(shì)，而且還可以自動(dòng)處理型值點(diǎn)奇異情況。
本文提出用BP神經(jīng)網(wǎng)絡(luò)結(jié)合模擬退火算法進(jìn)行地形面的曲面構(gòu)造。
2模型與算法的選擇
為了對(duì)地形面進(jìn)行曲面構(gòu)造，首先要有一些用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練的初始樣本點(diǎn)，對(duì)所建立的神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)訓(xùn)練，學(xué)習(xí)訓(xùn)練的本質(zhì)就是通過改變網(wǎng)絡(luò)神經(jīng)元之間的連接權(quán)值，使網(wǎng)絡(luò)能將樣本集的內(nèi)涵以聯(lián)結(jié)權(quán)矩陣的方式存儲(chǔ)起來，從而具有完成某些特殊任務(wù)的能力。權(quán)值的改變依據(jù)是樣本點(diǎn)訓(xùn)練時(shí)產(chǎn)生的實(shí)際輸出和期望輸出間的誤差，按一定方式來調(diào)整網(wǎng)絡(luò)權(quán)值，使誤差逐漸減少，當(dāng)誤差降到給定的范圍內(nèi)，就可認(rèn)為學(xué)習(xí)結(jié)束，學(xué)習(xí)結(jié)束后，神經(jīng)網(wǎng)絡(luò)模型就可用于地形面的構(gòu)造。
BP網(wǎng)是一種單向傳播的多層前向網(wǎng)絡(luò)。網(wǎng)絡(luò)除輸入輸出節(jié)點(diǎn)外，還有一層或多層的隱層節(jié)點(diǎn)，同層節(jié)點(diǎn)中沒有任何耦合。輸入信號(hào)從輸入層節(jié)點(diǎn)依次傳過各隱層節(jié)點(diǎn)，然后傳到輸出節(jié)點(diǎn)，每一層節(jié)點(diǎn)的輸出只影響下一層節(jié)點(diǎn)的輸出。其節(jié)點(diǎn)單元傳遞函數(shù)通常為Sigmoid型。BP算法使神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中一種廣泛采用的學(xué)習(xí)算法，具有簡單、有效、易于實(shí)現(xiàn)等優(yōu)點(diǎn)。但因?yàn)锽P算法是一種非線性優(yōu)化方法，因此有可能會(huì)陷入局部極小點(diǎn)，無法得到預(yù)期結(jié)果，為解決BP算法的這一缺點(diǎn)，本文將模擬退火算法結(jié)合到BP算法中。
模擬退火算法是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中另一種被廣泛采用的一種學(xué)習(xí)算法。它的基本出發(fā)點(diǎn)就是金屬的退火過程和一般組合優(yōu)化問題之間的相似性。在金屬熱加工過程中，要想使固體金屬達(dá)到低能態(tài)的晶格，需要將金屬升溫熔化，使其達(dá)到高能態(tài)，然后逐步降溫，使其凝固。若在凝固點(diǎn)附近，溫度降速足夠慢，則金屬一定可以形成最低能態(tài)。對(duì)優(yōu)化問題來說，它也有類似的過程，它的解空間中的每一個(gè)點(diǎn)都代表一個(gè)解，每個(gè)解都有自己的目標(biāo)函數(shù)，優(yōu)化實(shí)際上就是在解空間中尋找目標(biāo)函數(shù)使其達(dá)到最小或最大解。
（如果將網(wǎng)絡(luò)的訓(xùn)練看成是讓網(wǎng)絡(luò)尋找最低能量狀態(tài)的過程，取網(wǎng)絡(luò)的目標(biāo)函數(shù)為它的能量函數(shù)，再定義一個(gè)初值較大的數(shù)為人工溫度T。同時(shí)，在網(wǎng)絡(luò)的這個(gè)訓(xùn)練過程中，依據(jù)網(wǎng)絡(luò)的能量和溫度來決定聯(lián)結(jié)權(quán)的調(diào)整量（稱為步長）。這種做法與金屬的退火過程非常相似，所以被稱為模擬退火算法。）
模擬退火算法用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練的基本思想是，神經(jīng)網(wǎng)絡(luò)的連接權(quán)值W可看作物體體系內(nèi)的微觀狀態(tài)，網(wǎng)絡(luò)實(shí)際輸出和期望輸出的誤差e可看作物體的內(nèi)能，對(duì)網(wǎng)絡(luò)訓(xùn)練的目的就是找到恰當(dāng)?shù)臓顟B(tài)W使其內(nèi)能e最小，因此設(shè)置一個(gè)參數(shù)T來類比退火溫度，然后在溫度T下計(jì)算當(dāng)前神經(jīng)網(wǎng)絡(luò)的e與上次訓(xùn)練的e的差e，按概率exp(-e/T)來接受訓(xùn)練權(quán)值，減小溫度T，這樣重復(fù)多次，只要T下降足夠慢，且T0，則網(wǎng)絡(luò)一定會(huì)穩(wěn)定在最小的狀態(tài)。
模擬退火算法雖然可以達(dá)到全局最優(yōu)，但需要較長時(shí)間，BP算法采用梯度下降方式使收斂速度相對(duì)較快。為取長補(bǔ)短，我們將兩種算法結(jié)合起來，采用BP算法的梯度快速下降方式，同時(shí)利用模擬退火算法技術(shù)按概率隨機(jī)接受一個(gè)不成功的訓(xùn)練結(jié)果，使梯度快速下降過程產(chǎn)生一些隨機(jī)噪聲擾動(dòng)，從而既保證了網(wǎng)絡(luò)訓(xùn)練的快速度下降，又保證了訓(xùn)練結(jié)果的最優(yōu)性。
3網(wǎng)絡(luò)結(jié)構(gòu)與學(xué)習(xí)算法
3.1網(wǎng)絡(luò)結(jié)構(gòu)
如何選擇網(wǎng)絡(luò)的隱層數(shù)和節(jié)點(diǎn)數(shù)，還沒有確切的方法和理論，通常憑經(jīng)驗(yàn)和實(shí)驗(yàn)選取。本文采用的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示，輸入層兩個(gè)節(jié)點(diǎn)，分別輸入點(diǎn)的x坐標(biāo)和y坐標(biāo)；兩層隱層，每層10個(gè)節(jié)點(diǎn)，輸出層一個(gè)節(jié)點(diǎn)，輸出點(diǎn)的z坐標(biāo)。
3.2學(xué)習(xí)算法
學(xué)習(xí)算法的具體過程如下：
其中Out_node為輸出神經(jīng)元集合.
4計(jì)算實(shí)例
為了檢驗(yàn)本文算法的有效性,我們用本文算法對(duì)黃河下游河灘地形面進(jìn)行曲面構(gòu)造,地形面數(shù)據(jù)按截面給出,我們用奇數(shù)截面上的點(diǎn)為學(xué)習(xí)樣本,偶數(shù)截面上的點(diǎn)用于檢驗(yàn)本算法的精度.表1給出了測(cè)量值z(mì)1與本文算法計(jì)算結(jié)果z2,z2為本算法經(jīng)過大約3500次迭代的結(jié)果.由這些數(shù)據(jù)可以看出，本文算法計(jì)算出的值與測(cè)量值的誤差大約在0.02左右.完全可以滿足實(shí)際工程要求的精度.
5結(jié)語
用神經(jīng)網(wǎng)絡(luò)進(jìn)行地形面的曲面構(gòu)造,不必求出曲面的方程,只需知道有限個(gè)點(diǎn)即可,而且這些點(diǎn)可以是散亂點(diǎn).與傳統(tǒng)方法相比,神經(jīng)網(wǎng)絡(luò)方法具有很強(qiáng)的靈活性.
本文將BP算法和模擬退火算法結(jié)合起來,解決了BP算法容易陷入局部極小的致命缺點(diǎn).但仍然沒有解決BP算法收斂速度慢的缺點(diǎn).
NEURALNETWORKMETHODTOCONSTRUCTTERRAINSURFACE
LiuXue-mei1,2,DondWen-sheng1,2,ZhangShu-sheng1
(1NorthweasternPolytechnicalUniversity，ShanxiXiAn710072)
(2NorthChinaInstituteofWaterConservancyandHydroelectricPower,HenanZhengzhou450045)
Abstract
Thispaperpresentsanartificialneuralnetworkapproachtosolvetheproblemofterrainsurfaceconstruction.ThismethodtakesadvantageoftheglobalminimumpropertyofSimulatedProcedureonthebasisofBPalgorithm,thuscanjumpoutofthelocalminimumandconvergetotheglobalminimum..ThismethodwerevalidatedbysimulatingbottomlandterrainofYellowRiver.
Keywords:terrainsurface;freeformsurface;neuralnetwork;BPalgorithm;simulatedannealing
參考文獻(xiàn)
[1]王鎧，張彩明.重建自由曲面的神經(jīng)網(wǎng)絡(luò)算法[J].計(jì)算機(jī)輔助設(shè)計(jì)與圖形學(xué)學(xué)報(bào)，1998，10（3）：193-199
1．1BP神經(jīng)網(wǎng)絡(luò)簡介神經(jīng)網(wǎng)絡(luò)由大量簡單的單元構(gòu)成的非線性系統(tǒng)，具有非線性映射能力，不需要精確的數(shù)學(xué)模型，擅長從輸入輸出數(shù)據(jù)中學(xué)習(xí)有用知識(shí)［7］。神經(jīng)元是神經(jīng)網(wǎng)絡(luò)基本單元。神經(jīng)元模型如圖1所示。由連接權(quán)、加法器和非線性激活函數(shù)這3種元素組成。1986年，Rumelhart及其研究小組在Nature雜志上發(fā)表誤差反向傳播(errorback-propagation)算法［8］，并將該算法用于神經(jīng)網(wǎng)絡(luò)的研究，使之成為迄今為止最著名的多層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法———BP算法［9］。由該算法訓(xùn)練的網(wǎng)絡(luò)，稱為BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)是一種正向的、各層相互連接的網(wǎng)絡(luò)。輸入信號(hào)首先經(jīng)過輸入層傳遞給各隱含層節(jié)點(diǎn)，經(jīng)過激發(fā)函數(shù)，將隱含層節(jié)點(diǎn)的輸出傳遞到輸出節(jié)點(diǎn)，最后經(jīng)過再經(jīng)過激發(fā)函數(shù)后才給出輸出結(jié)果，若輸出層的輸出和期望輸出之間的誤差達(dá)不到要求，則轉(zhuǎn)入反方向傳播，將誤差信號(hào)沿原來的連接通路返回，通過修個(gè)神經(jīng)網(wǎng)絡(luò)各層的權(quán)值，使過程的輸出和神經(jīng)網(wǎng)絡(luò)的輸出之間的誤差信號(hào)達(dá)到期望值為止［10］。
1．2電池SOC的定義動(dòng)力電池的剩余電量，是指電池在當(dāng)前時(shí)刻，達(dá)到放電截止電壓前可以使用的電量。目前，國內(nèi)外普遍采用荷電狀態(tài)來表征電池的剩余容量［11］。電池的荷電狀態(tài)(SOC)是電池的剩余電量與電池的額定電量的比值。
1．3影響電池SOC的因素動(dòng)力電池是一個(gè)非線性系統(tǒng)，其中電池的荷電狀態(tài)受到很多種因素的影響，主要包括電池的充/放電倍率、自放電、環(huán)境溫度以及電池的工作狀態(tài)等因素。(1)電池的充/放電倍率電池的放電電流的大小，會(huì)影響電池的容量。在其他條件相同的情況下，電池的放電容量會(huì)隨著放電倍率的增加而降低［12］。(2)自放電自放電又稱荷電保持能力，指在一定的條件下，當(dāng)電池處于開路狀態(tài)時(shí)，電池對(duì)電量的儲(chǔ)存能力。電池在自放電的作用下，SOC值會(huì)隨著存儲(chǔ)時(shí)間的增加而減小。(3)溫度首先，鋰離子電池正常工作的溫度有一定的要求。動(dòng)力電池的使用環(huán)境溫度發(fā)生變化時(shí)，電池的可用容量也會(huì)隨之發(fā)生變化。在溫度較低時(shí)，電池活性較低，電池可用容量降低;當(dāng)溫度升高時(shí)，電池活性增強(qiáng)，可用容量也隨之增多。因此，在預(yù)估電池的荷電狀態(tài)時(shí)，需要考慮到電池的溫度的影響。
2神經(jīng)網(wǎng)絡(luò)SOC估計(jì)器設(shè)計(jì)
2．1實(shí)驗(yàn)數(shù)據(jù)的獲取本研究的實(shí)驗(yàn)數(shù)據(jù)是在ADVISOR2002汽車仿真軟件上仿真得到的。ADVISOR(AdvancedVehicleSim-ulator，高級(jí)車輛仿真器)是由美國可再生能源實(shí)驗(yàn)室，在Matlab/Simulink軟件環(huán)境下開發(fā)的高級(jí)車輛仿真軟件［13］。該軟件的界面友好、源代碼完全開放，目前已經(jīng)在世界范圍內(nèi)廣泛使用。ADVISOR采用了前向、后向相結(jié)合的混合仿真方法。后向仿真方法是在假設(shè)車輛能滿足道路循環(huán)的請(qǐng)求行駛軌跡(包括汽車行駛速度、道路坡度和汽車動(dòng)態(tài)質(zhì)量)的前提下，計(jì)算汽車中各個(gè)部件性能的仿真方法，前向仿真是根據(jù)駕駛員行為調(diào)節(jié)部件，使得車輛各部件跟隨路面循環(huán)工況［14］。本研究在ADVISOR軟件搭建了某國產(chǎn)電動(dòng)汽車的仿真平臺(tái)。整車的主要技術(shù)參數(shù)如表1所示［15-16］。模擬行駛程序使用的測(cè)試路程是ECE工況、UDDS工況和HWFET工況混合行駛工況，其速度與時(shí)間關(guān)系曲線如圖2所示。ECE工況、UDDS工況和HWFET工況均被廣泛應(yīng)用于電動(dòng)汽車性能測(cè)試。其中ECE工況為歐洲經(jīng)濟(jì)委員會(huì)汽車法規(guī)規(guī)定的汽車測(cè)試循環(huán)工況。ECE工況是用來測(cè)試車輛在城市低速道路下車輛的循環(huán)工況。其循環(huán)時(shí)間為195s，車輛行駛的路程為0．99km，最高車速為50km/h。UDDS工況是美國環(huán)境保護(hù)署制訂的城市道路循環(huán)工況，用來測(cè)試車輛在城市道路下行駛的各種性能的循環(huán)工況。其循環(huán)時(shí)間為1367s，行駛路程為11．99km，最高車速為91．25km/h。HW-FET工況為美國環(huán)境保護(hù)署制訂的汽車在高速公路上的循環(huán)工況，用來測(cè)試汽車在高速道路上車輛行駛的循環(huán)工況，其循環(huán)時(shí)間為767s，行駛路程為1．51km，最高車速為96．4km/h。在搭建的仿真平臺(tái)上，本研究進(jìn)行了仿真，其中電動(dòng)汽車使用的電池為鋰電池。虛擬電動(dòng)汽車共行駛了2329s，行駛的距離為14．49km。對(duì)電動(dòng)汽車的電池的充放電電流、電池溫度和電池的SOC進(jìn)行采集，得到結(jié)果如圖3～5所示。
2．2數(shù)據(jù)預(yù)處理根據(jù)前文的分析，本研究的神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)選擇如下。本研究選擇動(dòng)力電池的充放電電流和電池的溫度作為動(dòng)力電池神經(jīng)網(wǎng)絡(luò)的輸入，電池的SOC作為神經(jīng)網(wǎng)絡(luò)的輸出。在對(duì)神經(jīng)網(wǎng)絡(luò)訓(xùn)練之前，對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行歸一化操作。歸一化操作可以避免各個(gè)因子之間的量級(jí)差異，加快BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練的收斂，減少計(jì)算難度。對(duì)數(shù)據(jù)進(jìn)行如下操作。
2．3動(dòng)力電池SOC神經(jīng)網(wǎng)絡(luò)的訓(xùn)練SOC估計(jì)是根據(jù)動(dòng)力電池的電流、溫度的數(shù)值得到電池的SOC數(shù)值。使用神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)估計(jì)器的目的是為了能夠逼近函數(shù)。本研究使用了BP神經(jīng)網(wǎng)絡(luò)模型來逼近動(dòng)力電池的電流、溫度和SOC之間的關(guān)系，其中BP神經(jīng)網(wǎng)絡(luò)的隱含層選擇tansig函數(shù)。學(xué)習(xí)算法使用基于數(shù)值最優(yōu)化理論的Levenberg-Marquardt算法作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法。
3實(shí)驗(yàn)驗(yàn)證及結(jié)果分析
為了驗(yàn)證模型的有效性，本研究采用了另外3種工況混合的行駛工況的實(shí)驗(yàn)數(shù)據(jù)作為測(cè)試樣本數(shù)據(jù)來驗(yàn)證本研究得到的神經(jīng)網(wǎng)絡(luò)模型。這3種工況分別是:普銳斯工況(Prius工況，該種工況用來測(cè)試豐田普銳斯混合動(dòng)力汽車的行駛工況)，CYC_Nuremberg_R36工況(該種工況用來測(cè)試德國紐倫堡市36路公共汽車線路工況)和CYC_US06工況(該種工況用來考察測(cè)試車輛在高速情況下的行駛狀況)。以上3種工況基本上能夠模擬出汽車在城市中行駛的加速、減速、低速和高速行駛的各種工況，測(cè)試混合工況如圖6所示。本研究對(duì)得到的測(cè)試數(shù)據(jù)同樣進(jìn)行歸一化處理。模型的輸入為電池的電流和溫度，模型的輸出為SOC值。最后，得到的電池SOC的實(shí)際值和經(jīng)過神經(jīng)網(wǎng)絡(luò)得到的SOC估計(jì)值如圖7所示。通過求神經(jīng)網(wǎng)絡(luò)模型的輸出值和真實(shí)值之間的誤差值，來評(píng)價(jià)本研究的神經(jīng)網(wǎng)絡(luò)模型的精度。其計(jì)算公式如下式所示。得到的神經(jīng)網(wǎng)模型的估計(jì)值與動(dòng)力電池SOC的真實(shí)值之間的誤差如圖8所示。通過圖8可以看出，神經(jīng)網(wǎng)絡(luò)估計(jì)器的估計(jì)值與電池SOC的真實(shí)值之間絕對(duì)誤差的最大值為4%左右，符合動(dòng)力電池對(duì)SOC預(yù)測(cè)的精度要求。
4結(jié)束語
[關(guān)鍵詞]MATLABBP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型數(shù)據(jù)歸一化
一、引言
自20世紀(jì)70年代初以來的30多年里,世界黃金價(jià)格出現(xiàn)了令人瞠目的劇烈變動(dòng)。20世紀(jì)70年代初,每盎司黃金價(jià)格僅為30多美元。80年代初,黃金暴漲到每盎司近700美元。本世紀(jì)初,黃金價(jià)格處于每盎司270美元左右,此后逐年攀升,到2006年5月12日達(dá)到了26年高點(diǎn),每盎司730美元,此后又暴跌,僅一個(gè)月時(shí)間內(nèi)就下跌了約160美元,跌幅高達(dá)21.9%。最近兩年，黃金價(jià)格一度沖高到每盎司900多美元。黃金價(jià)格起伏如此之大,本文根據(jù)國際黃金價(jià)格的影響因素，通過BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型來預(yù)測(cè)長期黃金價(jià)格。
二、影響因素
劉曙光和胡再勇證實(shí)將觀察期延長為1972年～2006年時(shí),則影響黃金價(jià)格的主要因素?cái)U(kuò)展至包含道瓊斯指數(shù)、美國消費(fèi)者價(jià)格指數(shù)、美元名義有效匯率、美國聯(lián)邦基金利率和世界黃金儲(chǔ)備5個(gè)因素。本文利用此觀點(diǎn)，根據(jù)1972年～2006年各因素的值來建立神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型。
三、模型構(gòu)建
1.模型選擇：BP網(wǎng)絡(luò)具有理論上能逼近任意非線性函數(shù)的能力，將輸入模式映射到輸出模式，只需用已知的模式訓(xùn)練網(wǎng)絡(luò)，通過學(xué)習(xí)，網(wǎng)絡(luò)就有了這種映射能力。2.樣本數(shù)據(jù)歸一化：在訓(xùn)練前，對(duì)數(shù)據(jù)進(jìn)行歸一化處理，把輸入向量和輸出向量的取值范圍都?xì)w一到[0，1]。
3.BP網(wǎng)絡(luò)設(shè)計(jì)：采用單隱層的BP網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)，由于輸入樣本為5維的輸入向量，因此輸入層一共有5個(gè)神經(jīng)元，中間層取20個(gè)神經(jīng)元，輸出層一個(gè)神經(jīng)元（即黃金價(jià)格），網(wǎng)絡(luò)為5*20*1的結(jié)構(gòu)。中間層的傳遞函數(shù)為S型正切函數(shù)，輸出層為S型對(duì)數(shù)函數(shù)。中間層的神經(jīng)元個(gè)數(shù)很難確定，測(cè)試時(shí)分別對(duì)12，15，20個(gè)數(shù)進(jìn)行測(cè)試，尋找誤差最小的。
4.網(wǎng)絡(luò)訓(xùn)練:訓(xùn)練次數(shù)epochs5000,訓(xùn)練目標(biāo)goal0.001
對(duì)30個(gè)樣本數(shù)據(jù)進(jìn)行訓(xùn)練，經(jīng)過1818次的訓(xùn)練，目標(biāo)誤差達(dá)到要求，如圖2所示：神經(jīng)元個(gè)數(shù)為20個(gè)時(shí)誤差最小，此時(shí)網(wǎng)絡(luò)的仿真結(jié)果如圖3所示，預(yù)測(cè)精度80%以上，效果滿意。
四、結(jié)論
在對(duì)1976年～2006年的影響國際黃金價(jià)格的五種因素的數(shù)據(jù)進(jìn)行歸一化處理后，用MATLAB建立的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型進(jìn)行預(yù)測(cè)，達(dá)到了很好的效果。
國際黃金的長期價(jià)格受到許多因素的影響，本文只是對(duì)道瓊斯工業(yè)指數(shù)等影響因素諸如分析，來預(yù)測(cè)長期的國際金價(jià)。還有其他因素，如國際油價(jià)，局部政治因素等，如果考慮進(jìn)去，預(yù)測(cè)精度會(huì)進(jìn)一步提高。
參考文獻(xiàn)：
1.1概率性神經(jīng)網(wǎng)絡(luò)（PNN）
地震屬性和測(cè)井?dāng)?shù)據(jù)的關(guān)系，并不一定是線性的，利用概率性神經(jīng)網(wǎng)絡(luò)的方法彌補(bǔ)井和地震間的非線性關(guān)系。概率性神經(jīng)網(wǎng)絡(luò)（PNN）類似于多維屬性空間上的克里金，采用了局部化的作用函數(shù)，具有最佳逼近特性，且沒有局部極小值。每個(gè)輸出點(diǎn)把新點(diǎn)處的新屬性組與已知的培訓(xùn)例子中的屬性進(jìn)行比較來確定的，得到的預(yù)測(cè)值是培訓(xùn)目標(biāo)值的加權(quán)組合。概率神經(jīng)網(wǎng)絡(luò)方法具有高度的容錯(cuò)性，即使某個(gè)井旁道地震參數(shù)或某個(gè)網(wǎng)絡(luò)連接有缺陷，也可以通過聯(lián)想得到全部或大部分信息。因此，用概率神經(jīng)網(wǎng)絡(luò)建立地震屬性和測(cè)井特征屬性之間的映射關(guān)系可靠性高。概率神經(jīng)網(wǎng)絡(luò)方法還具有動(dòng)態(tài)適應(yīng)性，當(dāng)?shù)刭|(zhì)巖性類別變化或地震參數(shù)修改時(shí)，網(wǎng)絡(luò)可自動(dòng)適應(yīng)新的變量，調(diào)整權(quán)系數(shù)，直到收斂。對(duì)于受巖性控制的儲(chǔ)層，概率神經(jīng)網(wǎng)絡(luò)是描述其地震屬性參數(shù)與巖性參數(shù)關(guān)系的有效方法。概率神經(jīng)網(wǎng)絡(luò)是由多測(cè)井和多地震屬性參數(shù)組成的網(wǎng)絡(luò)。首先,將由測(cè)井曲線和井旁地震道提取的特征參數(shù)按照地質(zhì)巖性參數(shù)分成若干類;然后,通過非線性數(shù)學(xué)模型的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)系統(tǒng),由輸入矢量產(chǎn)生輸出矢量,并把這個(gè)輸出矢量與目標(biāo)矢量進(jìn)行平方意義下的誤差對(duì)比;再以共軛迭代梯度下降法作權(quán)的調(diào)整,以減少輸出矢量與目標(biāo)矢量的差異,直到兩者沒有差異訓(xùn)練才結(jié)束。對(duì)于給定的培訓(xùn)數(shù)據(jù)，PNN程序假設(shè)測(cè)井值和每一輸出端的新測(cè)井值為線性組合，新數(shù)據(jù)樣點(diǎn)值用屬性值X表示可寫。這里σ是PNN使用的高斯權(quán)重函數(shù)的關(guān)鍵參數(shù)，來控制高斯函數(shù)的寬度。式（2）和式（3）是概率神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的基本原理，訓(xùn)練神經(jīng)網(wǎng)絡(luò)的過程實(shí)際上就是求解最優(yōu)平滑因子的過程。
1.2交互驗(yàn)證增加屬性類似于多項(xiàng)式擬合增加高階項(xiàng)，增加多項(xiàng)式高階將會(huì)使預(yù)測(cè)誤差總是變小，但屬性的個(gè)數(shù)絕不是越多越好。隨著屬性個(gè)數(shù)的增多，對(duì)預(yù)測(cè)的結(jié)果的影響越來越小，會(huì)明顯削弱未參與神經(jīng)網(wǎng)絡(luò)訓(xùn)練的那些點(diǎn)的預(yù)測(cè)能力，甚至造成預(yù)測(cè)誤差反而增大,這種現(xiàn)象稱為過度匹配。而且參與運(yùn)算的屬性過多，也會(huì)影響到運(yùn)算速度，因此通過計(jì)算驗(yàn)證誤差來確定最佳的屬性個(gè)數(shù)，防止過度匹配，該過程就稱為交叉驗(yàn)證。通過蘊(yùn)藏井誤差分析的方法，驗(yàn)證出現(xiàn)擬合過度的情況。求取遞歸系數(shù)時(shí)，選取一口井作為驗(yàn)證井，不參與運(yùn)算。利用擬合出的關(guān)系，得到驗(yàn)證井的誤差值。以此類推，得到每一口井的誤差值，以參與運(yùn)算井的平均誤差作為參考標(biāo)準(zhǔn)，來檢驗(yàn)屬性組合個(gè)數(shù)是否出現(xiàn)擬合過度的情況。
2應(yīng)用實(shí)例分析
研究區(qū)內(nèi)油氣富集區(qū)主要為巖性控制，目的層段厚度70m左右，地震剖面上大約50ms，含油砂體主要發(fā)育在wellA，wellC附近，向周圍變化較快。針對(duì)目標(biāo)層T41-T43之間進(jìn)行井曲線交匯和巖性統(tǒng)計(jì)。wellA，wellC主要是含油砂巖，wellB、D、F主要是泥質(zhì)砂巖、煤層，巖性差別很大。但從速度、密度曲線交匯圖版（圖1）來看，曲線交匯統(tǒng)計(jì)重疊較大，很難區(qū)分含油砂巖和泥質(zhì)砂巖。wellA、wellB對(duì)應(yīng)層位巖性明顯不同，在地震剖面也體現(xiàn)同樣的反射特征。因此基于測(cè)井和地震模型為基礎(chǔ)的常規(guī)疊后波阻抗反演很難準(zhǔn)確識(shí)別這套含油砂巖。而更能反映巖性特征的GR曲線，則對(duì)這套砂體較為敏感，明顯地區(qū)分出了這套含油砂巖（如圖3所示）。因此我們采用本文介紹的神經(jīng)網(wǎng)絡(luò)技術(shù)，在常規(guī)波阻抗反演的基礎(chǔ)上，預(yù)測(cè)GR曲線特征體。經(jīng)過分析，把GR值65~75區(qū)間巖性賦值為含油砂巖，從而把這套儲(chǔ)層有效的區(qū)分出來，在此基礎(chǔ)上進(jìn)一步計(jì)算砂巖厚度（圖4）。
3結(jié)論
由于數(shù)據(jù)的獲取難度較大，因此本文借用了相關(guān)文章的數(shù)據(jù)[4]，選取了湖南省十一個(gè)省市的數(shù)據(jù)作為研究的樣本，為了確保輸入數(shù)據(jù)（包括訓(xùn)練以及將來要預(yù)測(cè)的數(shù)據(jù)）在比較接近的范圍里，我們需要對(duì)數(shù)據(jù)進(jìn)行歸一化處理。本文的數(shù)據(jù)主要包括輸入數(shù)據(jù)和期望輸出數(shù)據(jù)，輸入數(shù)據(jù)主要是湖南省十一個(gè)市的電子政務(wù)指標(biāo)數(shù)據(jù)，包括16個(gè)輸入維度，輸出的是對(duì)電子政務(wù)系統(tǒng)的評(píng)價(jià)結(jié)果，主要包括：好、較好、一般、較差、差五個(gè)結(jié)果。利用下面的線性函數(shù)轉(zhuǎn)換方法完成數(shù)據(jù)的歸一化。公式中的P為歸一化處理后的數(shù)據(jù)，P1為原始數(shù)據(jù)，P1min為原始數(shù)據(jù)中的最小值，P1max為原始數(shù)據(jù)中的最大值。通常情況下，用于測(cè)試的輸入數(shù)據(jù)所對(duì)應(yīng)的輸出數(shù)據(jù)不是量化數(shù)據(jù)，比如本文中所提到的好、較好、一般、較差、差五個(gè)結(jié)果。因此本文的輸出數(shù)據(jù)主要使用的是專家評(píng)價(jià)得出的分?jǐn)?shù)，來對(duì)電子政務(wù)績效做出評(píng)價(jià)，分?jǐn)?shù)評(píng)價(jià)結(jié)果的對(duì)應(yīng)關(guān)系為：1-3為差，3-5為較差，5-7為一般，7-9為較好，9以上為好。經(jīng)過歸一化處理過的指標(biāo)數(shù)據(jù)和通過專家評(píng)價(jià)得出的評(píng)價(jià)結(jié)果如表2所示。
2輸入層、輸出層及隱層節(jié)點(diǎn)的設(shè)計(jì)
由于一個(gè)三層的前向網(wǎng)絡(luò)具有以任意精度逼近任意一個(gè)非線性函數(shù)的能力，因此，只需構(gòu)造一個(gè)輸入層、一個(gè)隱層和一個(gè)輸出層的3層神經(jīng)網(wǎng)絡(luò)。本文中的電子政務(wù)績效評(píng)價(jià)指標(biāo)體系共包括成本效益、服務(wù)對(duì)象、內(nèi)部運(yùn)營及學(xué)習(xí)與發(fā)展四個(gè)指標(biāo)維度，然后又將其細(xì)分成16項(xiàng)三級(jí)指標(biāo)，也就是說神經(jīng)網(wǎng)絡(luò)輸入層的維度為16，即輸入層神經(jīng)元個(gè)數(shù)Pn=16。輸出層輸出的結(jié)果是我們對(duì)電子政務(wù)系統(tǒng)的評(píng)價(jià)，而我們把評(píng)價(jià)結(jié)果好、較好、一般、較差、差作為網(wǎng)絡(luò)的唯一輸出，因此，輸出層神經(jīng)元個(gè)數(shù)為r=1。1988年Cybenko[11]大量的研究表明在三層神經(jīng)網(wǎng)絡(luò)中一個(gè)隱藏層就可以實(shí)現(xiàn)任意分類的問題，以任何精度來實(shí)現(xiàn)任意非線性的輸入和輸出的映射。本文將隱藏層設(shè)置為一層。隱藏層節(jié)點(diǎn)的選擇也是一個(gè)復(fù)雜的問題，如果隱層節(jié)點(diǎn)數(shù)比較少的話，則有可能導(dǎo)致網(wǎng)絡(luò)訓(xùn)練者性能很差；如果選擇較多的隱層節(jié)點(diǎn)數(shù)，雖然能夠降低系統(tǒng)誤差，但是會(huì)使網(wǎng)絡(luò)訓(xùn)練的時(shí)間增加，而且也極易使訓(xùn)練陷入局部極小點(diǎn)而得不到最優(yōu)點(diǎn)，最終會(huì)導(dǎo)致訓(xùn)練出現(xiàn)“過擬合”的現(xiàn)象。其中n為輸入層節(jié)點(diǎn)數(shù)，m為輸出層節(jié)點(diǎn)數(shù)，a為1~10之間的常數(shù)。
3基于BP神經(jīng)網(wǎng)絡(luò)的電子政務(wù)績效評(píng)價(jià)模型的設(shè)計(jì)
利用BP神經(jīng)網(wǎng)絡(luò)對(duì)電子政務(wù)績效進(jìn)行評(píng)價(jià)的主要步驟有：第一步：根據(jù)電子政務(wù)發(fā)展過程中的相關(guān)影響因素，選取合適的電子政務(wù)績效評(píng)價(jià)的指標(biāo)數(shù)據(jù)，利用相關(guān)的算法對(duì)指標(biāo)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理[5]，將處理后的指標(biāo)數(shù)據(jù)x1，x2，x3，⋯，xn作為輸入BP神經(jīng)網(wǎng)絡(luò)的輸入值。第二步：在輸入層輸入數(shù)據(jù)以后，數(shù)據(jù)會(huì)在神經(jīng)網(wǎng)絡(luò)中正向傳播，數(shù)據(jù)在隱藏層進(jìn)行一層一層的處理，然后會(huì)把處理后的數(shù)據(jù)傳向輸出層，輸出層得到的數(shù)據(jù)就是實(shí)際的輸出值Y。第三步：當(dāng)輸出層得到實(shí)際的輸出值以后，會(huì)和期望值進(jìn)行比較，如果輸出值和期望值不相等，那么會(huì)根據(jù)相關(guān)的公式計(jì)算出誤差，然后把誤差信號(hào)按照原來的路徑進(jìn)行反向的傳播，通過不斷的循環(huán)的傳播來調(diào)整隱藏層神經(jīng)元的權(quán)重，從而使誤差越來越小。第四步：不斷的重復(fù)前面的第二步和第三步，一直到誤差可以小到某個(gè)閾值，然后停止訓(xùn)練和學(xué)習(xí)，只有選擇的樣本足夠多時(shí)，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練才更精確，輸入的樣本數(shù)據(jù)不同，得到的輸出向量也會(huì)不同，當(dāng)所有的數(shù)據(jù)樣本的數(shù)據(jù)值和期望值誤差最小的時(shí)候，綜合評(píng)價(jià)結(jié)果更為接近，神經(jīng)網(wǎng)絡(luò)的權(quán)重值Wij就是BP神經(jīng)網(wǎng)絡(luò)通過訓(xùn)練和自適應(yīng)的學(xué)習(xí)得到的一個(gè)內(nèi)部的表示。對(duì)選取的樣本進(jìn)行訓(xùn)練以后，我們就可以利用BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練模型對(duì)電子政務(wù)績效進(jìn)行評(píng)價(jià)，而且可以對(duì)大規(guī)模的電子政務(wù)進(jìn)行績效評(píng)價(jià)，因?yàn)樯窠?jīng)網(wǎng)絡(luò)具有一定魯棒性[6]，那么會(huì)導(dǎo)致出現(xiàn)主觀綜合評(píng)價(jià)值在一定的程度會(huì)與實(shí)際值存在少量偏差，但是這個(gè)偏差不會(huì)影響評(píng)價(jià)結(jié)果。
4應(yīng)用粒子群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)模型
1995年兩位美國學(xué)者對(duì)鳥群的群體遷徙和覓食的過程進(jìn)行了模擬，從而提出了一種智能的優(yōu)化算法-粒子群優(yōu)化算法[7]（ParticleSwarmOptimization，PSO），隨著近年來粒子群算法的不斷應(yīng)用，已經(jīng)逐漸成為一種新的優(yōu)化算法。粒子相繼兩次位置的改變?nèi)Q于粒子當(dāng)前位置相對(duì)于其歷史最佳位置和群體歷史最佳位置的變化。因此，若把網(wǎng)絡(luò)的權(quán)值看作是PSO算法中粒子的位置，則在網(wǎng)絡(luò)訓(xùn)練過程中，相繼兩次權(quán)值的改變可視作粒子的位置的改變。因而類比公式3，網(wǎng)絡(luò)的權(quán)值改變量計(jì)算公式。
5實(shí)例分析
