導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)遺傳算法，這就需要搜集整理更多的資料和文獻(xiàn)，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞： 遺傳算法；神經(jīng)網(wǎng)絡(luò)算法；電力變壓器故障；收斂速度；收斂精度；BP神經(jīng)網(wǎng)絡(luò)；IGA-BP算法；權(quán)值和閥值；動(dòng)量因子；編碼

中圖分類號(hào)：TP39 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671－7597（2012）0220180－01

1 介紹

神經(jīng)網(wǎng)絡(luò)是一個(gè)復(fù)雜的網(wǎng)絡(luò)系統(tǒng)，它通過模擬人腦的神經(jīng)工作過程來處置信息，可以實(shí)現(xiàn)并行處理和非線性變換。該網(wǎng)絡(luò)有很強(qiáng)的自學(xué)能力，自適應(yīng)能力，良好的容錯(cuò)性與聯(lián)想記憶和同時(shí)處理等功能。在所有種類的神經(jīng)網(wǎng)絡(luò)算法中，BP算法是一種典型的算法，并且他解決了多層次前饋型神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問題，并已得到廣泛應(yīng)用。但是，傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)算法很容易陷入激增并且只是局部最優(yōu)，而且其收斂速度慢。相反，用遺傳算法來尋找全局最優(yōu)的能力是很強(qiáng)的。遺傳算法是從自然進(jìn)化論中發(fā)展而來的，它是一類有效的并行全局搜索算法。它有很好的魯棒性，并已成功應(yīng)用于解決全局優(yōu)化問題。如果神經(jīng)網(wǎng)絡(luò)是按照優(yōu)化和遺傳算法設(shè)計(jì)的，該算法不僅易于實(shí)現(xiàn)全局最優(yōu)，而且很容易提高神經(jīng)網(wǎng)絡(luò)的性能。許多學(xué)者在這方面都有很不錯(cuò)的成果。

然而，大多數(shù)現(xiàn)有的神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法優(yōu)化的目標(biāo)是在結(jié)構(gòu)，初始權(quán)重和閥值方面，而忽視訓(xùn)練比率和動(dòng)量因子。事實(shí)上，當(dāng)設(shè)計(jì)一個(gè)神經(jīng)網(wǎng)絡(luò)時(shí)，初始權(quán)重和閥值是隨機(jī)產(chǎn)生的，而訓(xùn)練比率和動(dòng)量因子以及網(wǎng)絡(luò)的結(jié)構(gòu)通常是由人們的經(jīng)驗(yàn)獲得的。這些因素都影響了網(wǎng)絡(luò)的訓(xùn)練速度和神經(jīng)網(wǎng)絡(luò)的直接處理能力。只有全面的優(yōu)化這些參數(shù)，才能使得網(wǎng)絡(luò)整體性能得以改善。因此，本文提出基于高性能遺傳算法的徹底進(jìn)化神經(jīng)網(wǎng)絡(luò)的BP算法。該算法可用于建立診斷電力變壓器和電源變壓器的模型，而該模型是基于神經(jīng)網(wǎng)絡(luò)的。

2 遺傳算法和它的改進(jìn)

遺傳算法是一種隨機(jī)全局搜索算法，他通過模擬自然進(jìn)化和自然選擇過程中的遺留生物來解決復(fù)雜問題。在遺傳算法中，問題空間由代碼空間來替換，性能評(píng)價(jià)的標(biāo)準(zhǔn)是合適的函數(shù)，進(jìn)化的基礎(chǔ)是代碼個(gè)數(shù)，由許多不同基因個(gè)體的代碼來確定選擇和遺傳機(jī)制。一個(gè)重復(fù)的過程由該方法來形成。許多不同的個(gè)體是通過不斷演變的基因和代碼位鏈的一些重要基因的隨機(jī)組合產(chǎn)生的，由此不斷地最優(yōu)化和逐步實(shí)現(xiàn)問題的最終解決?？紤]到遺傳算法的低收斂速度和低精度等的局限，本文提出了一些改進(jìn)的遺傳算法。

2.1 選擇算法的改進(jìn)

通過競(jìng)爭(zhēng)性遺傳算法在兩代之間選擇出優(yōu)良個(gè)體，基因個(gè)體分為男性和女性。排列方式?jīng)Q定了所有男性和所有父代女性及其下一代。然后選擇前者的N/2的男性優(yōu)秀個(gè)體分別與女性個(gè)體結(jié)合形成新的人口規(guī)模N。將這n個(gè)個(gè)體放入配對(duì)區(qū)，他們將分別互相配對(duì)。這樣，不僅可以保證交叉操作的個(gè)體的有效配對(duì)，而且可以保留每個(gè)優(yōu)秀個(gè)體的特征，可以淘汰不好的個(gè)體。因此將不會(huì)失去好的基因和特征。他將有利于盡快找到一種全局最優(yōu)的算法。

2.2 增加一種幫助操作

為了加強(qiáng)算法的能力，以跳出局部最優(yōu)并提高收斂速度，一種用來改善遺傳算法的幫助操作被提出，通過幫助的可能性來增加幫助的個(gè)體。幫助操作位于選擇操作之后，在匹配操作之前。它的程序如下：

1：i=1；

2：定義一個(gè)實(shí)數(shù)r，使得0≤r≤1，如果r≤Ph，執(zhí)行3，否則跳轉(zhuǎn)到6

3：j=1；

4：如果 =0，則令 =1；但是如果由于執(zhí)行該操作產(chǎn)生 個(gè)體的自適應(yīng)性，則保持 =0；

5：j++，如果j＞n，執(zhí)行6，否則跳轉(zhuǎn)到4；

6：i++，如果i＞n，執(zhí)行7，否則跳轉(zhuǎn)到2；

7：停止。

其中，Ph表示幫助可能性，表示的是i個(gè)體，表示i個(gè)體的j位，n表示編碼無性別長(zhǎng)度，N代表群體大小。

2.3 匹配方法改進(jìn)

在本文的算法中，相同性別的個(gè)體不進(jìn)行。即雄性只能與雌性。而且，為了獲得個(gè)體們較好的排列順序，用這樣的算法操作來實(shí)現(xiàn)，即按照依次優(yōu)劣排序的雌體與用同樣排序的雄體進(jìn)行。這樣有利與遺傳算法加快尋找全局最優(yōu)的速度，增強(qiáng)了全局收斂性。

為了避免近親繁殖，不同性別的個(gè)體還需要檢查它們的區(qū)別，如果兩個(gè)個(gè)體是相同的或者區(qū)別他們相對(duì)應(yīng)的二進(jìn)制碼值為一，他們不能進(jìn)行而且必須將它們進(jìn)行修正，比如，最高碼值的個(gè)體與最低碼值的個(gè)體必須修正為最高碼值和最高碼值的個(gè)體的。因此，可以保證遠(yuǎn)血緣個(gè)體之間的，從而提高遺傳算法的效率。

3 基于改進(jìn)遺傳算法的BP神經(jīng)網(wǎng)絡(luò)的徹底進(jìn)化（IGA-BP算法）

3.1 BP神經(jīng)網(wǎng)絡(luò)算法的規(guī)則

從結(jié)構(gòu)的角度來看，BP神經(jīng)網(wǎng)絡(luò)屬于前饋型神經(jīng)網(wǎng)絡(luò)，它由輸入層，輸出層和一些隱層組成，相鄰層之間由節(jié)點(diǎn)連接，而同一層不需要節(jié)點(diǎn)連接。典型的BP神經(jīng)網(wǎng)絡(luò)是由輸入層，輸出層和隱層這三層組成的，這是最常用的BP神經(jīng)網(wǎng)絡(luò)。

在BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過程中，用到的是誤差反向傳播。它的簡(jiǎn)稱是BP算法。BP算法是一種輔助訓(xùn)練算法，他實(shí)際上是一種通過梯度下降法來找到最優(yōu)解的靜態(tài)算法。權(quán)值w（n）僅僅是隨時(shí)間梯度下降的方法來進(jìn)行修正的，而并不是考前們的經(jīng)驗(yàn)獲得。由于在訓(xùn)練的過程的頻繁沖擊或陷入局部最小，因此收斂速度很慢，為了避免這一點(diǎn)，我們?cè)黾恿艘粋€(gè)動(dòng)量因子。這個(gè)方法也就是增加一個(gè)與原來變量和目前變量以及權(quán)值和閥值相匹配的數(shù)據(jù)項(xiàng)，新的權(quán)值和閥值是通過反向傳播來產(chǎn)生的。新增加的權(quán)值和閥值的動(dòng)量因子由以下方式來進(jìn)行調(diào)節(jié)：

其中k表示訓(xùn)練時(shí)間，表示訓(xùn)練率，mc表示動(dòng)量因子，和mc由個(gè)人經(jīng)驗(yàn)來確定。

3.2 IGA-BP的基本思想

首先，改進(jìn)的遺傳算法是用來全面解決和設(shè)計(jì)結(jié)構(gòu)，初始權(quán)值和閥值，

訓(xùn)練率和神經(jīng)網(wǎng)絡(luò)的動(dòng)量因子的，并且在解決空間問題的過程中，更好的尋找到空間。因此BP算法是在小范圍內(nèi)尋找到最優(yōu)解。

3.3 編碼方法

所有神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，權(quán)值和閥值，訓(xùn)練率以及動(dòng)量因子都需要被認(rèn)作是一系列染色體，通過二進(jìn)制來將其編碼。每個(gè)個(gè)體的編碼都包含六個(gè)部分，第一部分時(shí)權(quán)值編碼，第二部分是閥值的二進(jìn)制碼，第三部分是節(jié)點(diǎn)之間連接狀況的編碼，第四部分是訓(xùn)練率的編碼，第五部分是動(dòng)量因子的編碼，第六部分是個(gè)體性別的編碼，其值為0或1，表1表示個(gè)體編碼的結(jié)構(gòu)：

假設(shè)權(quán)值，閥值，訓(xùn)練率以及動(dòng)量因子的參數(shù)值之間的關(guān)系可有以下式子來表示：

其中，bin表示N位特征字符；表示權(quán)值，閥值，訓(xùn)練率動(dòng)量因子的變化范圍：

表示網(wǎng)絡(luò)的實(shí)際輸出，表示網(wǎng)絡(luò)的理想輸出，表示實(shí)際輸出與理想輸出之間的誤差。

參考文獻(xiàn)：

[1]Rumehart D E, Hintion G E, Willams R J. Leaming Intemal representations by error propagation in parallel distributed processing [M]. Gambridgef :MIT Press,1986: 318-362.

[2]Yao X,Liu Y.Anew evolutionary system for evolving artificial networks[J].IEEE Transactions on Neural Networks,1997,8(3):694-713.

[3]Sietsma J, Dow R J F, Creating artificial neural networks that generalize[J].Neural Networks,1991,4 (1):67-79.

[4]Ash T.Dynamic node creation in back propagation networks[J].

Connection Science, 1989,1(4):365-375.

[5]梁化樓、戴貴亮，人工神經(jīng)網(wǎng)絡(luò)與遺傳算法的結(jié)合：進(jìn)展及展望[J].電子學(xué)報(bào)，1995，23（10）：194-200.

[6]陳志軍，基于改進(jìn)型遺傳算法的前饋神經(jīng)網(wǎng)絡(luò)優(yōu)化設(shè)計(jì)[J].計(jì)算機(jī)工程，2002（4）：120-121.

篇2

[關(guān)鍵詞] 小生境遺傳算法 神經(jīng)網(wǎng)絡(luò) 股票 預(yù)測(cè)

一、引言

股票和股票市場(chǎng)對(duì)國(guó)家企業(yè)的經(jīng)濟(jì)發(fā)展起到了積極的作用，如可以為投資者開拓投資渠道，增強(qiáng)投資的流動(dòng)性和靈活性等。但股票價(jià)格的形成機(jī)制是頗為復(fù)雜的，股票價(jià)格既受到多種因素，諸如:政治，經(jīng)濟(jì)，市場(chǎng)因素的影響，亦受技術(shù)和投資者行為因素的影響，個(gè)別因素的波動(dòng)作用都可能會(huì)影響到股票價(jià)格的劇烈波動(dòng)。因此，股票價(jià)格和各影響因素之間很難直接建立明確的函數(shù)關(guān)系表達(dá)式。針對(duì)這一情況，將可有效處理非線性問題的神經(jīng)網(wǎng)絡(luò)引入到股票價(jià)格的預(yù)測(cè)中來，但神經(jīng)網(wǎng)絡(luò)收斂慢,易陷入局部極小點(diǎn)，出現(xiàn)振蕩，魯棒性差。所以有的學(xué)者用遺傳算法(ga)來優(yōu)化神經(jīng)網(wǎng)絡(luò)，這種神經(jīng)網(wǎng)絡(luò)可能獲得個(gè)別的甚至局部的最優(yōu)解,即ga早熟現(xiàn)象。本文引進(jìn)能較有效地保持種群多樣性的小生境遺傳算法(nga),采用nga優(yōu)化與用ga優(yōu)化的bp網(wǎng)絡(luò)權(quán)值進(jìn)行對(duì)比,證實(shí)了nga的判別準(zhǔn)確性和尋優(yōu)能力。

二、小生境遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)

1.bp神經(jīng)網(wǎng)絡(luò)

反向傳播(bp)算法又稱為誤差逆?zhèn)鞑バＵ椒?，它?974年p.werbos(哈佛大學(xué))提出的。133229.CoMbp算法用來訓(xùn)練多層前饋神經(jīng)網(wǎng)絡(luò),屬于監(jiān)督學(xué)習(xí)算法。bp網(wǎng)絡(luò)具有結(jié)構(gòu)清晰，易實(shí)現(xiàn)，計(jì)算功能強(qiáng)大等特點(diǎn)。因而是目前最常見，使用最廣泛的一種神經(jīng)網(wǎng)絡(luò)。但是在實(shí)際應(yīng)用中，傳統(tǒng)的bp算法存在以下問題:收斂速度慢;若加快收斂速度易產(chǎn)生振蕩；存在局部極小和平臺(tái)問題;泛化能力差;隱節(jié)點(diǎn)數(shù)和初始值的選取缺乏理論指導(dǎo);未考慮樣本選擇對(duì)系統(tǒng)學(xué)習(xí)的影響等。所以很多學(xué)者提出許多改進(jìn)的方法，用小生境遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的神經(jīng)網(wǎng)絡(luò)來預(yù)測(cè)股票價(jià)格。

2.小生境遺傳算法

小生境遺傳算法(iche genetical gorihm)的基本思想是:首先比較任意兩個(gè)個(gè)體間的距離與給定值的大小，若該距離小于給定值，則比較其適應(yīng)值大小。對(duì)適應(yīng)值較小的個(gè)體施加一個(gè)較強(qiáng)的懲罰，極大地降低其適應(yīng)值。也就是說，在距離l內(nèi)將只有一個(gè)優(yōu)良個(gè)體，從而既維護(hù)了群體的多樣性，又使得各個(gè)體之間保持一定的距離，并使得個(gè)體能夠在整個(gè)約束空間中分散開來。

3.神經(jīng)網(wǎng)絡(luò)連接權(quán)的優(yōu)化

用小生境遺傳算法可以優(yōu)化神經(jīng)網(wǎng)絡(luò)連接權(quán)，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)習(xí)規(guī)則等，這里我們對(duì)神經(jīng)網(wǎng)絡(luò)的連接權(quán)進(jìn)行優(yōu)化，具體步驟如下：

（1）隨機(jī)產(chǎn)生一組權(quán)值分布，采用某種編碼方案對(duì)該組中的每個(gè)權(quán)值(或閾值)進(jìn)行編碼，進(jìn)而構(gòu)造出一個(gè)碼串(每個(gè)碼串代表網(wǎng)絡(luò)的一種權(quán)值分布)，在網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)規(guī)則已確定的前提下,該碼串就對(duì)應(yīng)一個(gè)權(quán)值和閾值取特定值的一個(gè)神經(jīng)網(wǎng)絡(luò)。

（2)對(duì)所產(chǎn)生的神經(jīng)網(wǎng)絡(luò)計(jì)算它的誤差函數(shù)，從而確定其適應(yīng)度函數(shù)值，誤差越大,則適應(yīng)度越小。

（3)選擇若干適應(yīng)度函數(shù)值最大的個(gè)體,直接遺傳給下一代。

（4)利用交叉和變異等遺傳操作算子對(duì)當(dāng)前一代群體進(jìn)行處理，產(chǎn)生下一代群體。

（5)重復(fù)（2）（3）（4），使初始確定的一組權(quán)值分布得到不斷地進(jìn)化,直到訓(xùn)練目標(biāo)得到滿足為止。

這種由小生境遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法也可以稱做混和訓(xùn)練法。將基于小生境遺傳算法的遺傳進(jìn)化方法和基于梯度下降的反傳訓(xùn)練相結(jié)合,這種訓(xùn)練方法吸取兩種方法的各自特點(diǎn)，所以收斂速度快。

三、股票價(jià)格預(yù)測(cè)仿真

根據(jù)經(jīng)驗(yàn)選取輸入預(yù)測(cè)日前四天開盤價(jià)、收盤價(jià)歸一化后做為作為輸入量，輸出為第五天收盤價(jià)歸一化數(shù)值。所以，本文采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為(8,5,1),即網(wǎng)絡(luò)的輸入層6個(gè)節(jié)點(diǎn),隱含層9個(gè)節(jié)點(diǎn),輸出層1個(gè)節(jié)點(diǎn)。本文選擇了“xdg 新梅（600732）”從2006年3月14日到2006年7月1日數(shù)據(jù)進(jìn)行了仿真。利用matlab6.5編程，取70組訓(xùn)練樣本和30組測(cè)試樣本。如圖（1）表示用遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行優(yōu)化時(shí)，誤差曲線變化;從圖中可以看出，小生境遺傳算法收斂速度要快;圖（2）表示股票預(yù)測(cè)值和實(shí)際值比較，從圖中可以看出，遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值的模型進(jìn)行股票價(jià)格的預(yù)測(cè)，都能預(yù)測(cè)出股票走向趨勢(shì)，但是，后者的預(yù)測(cè)精度顯然要比前者高。

四、結(jié)束語

股票市場(chǎng)的不確定因素太多，股票的價(jià)格更是多種因素影響的集合體，是典型的非線性動(dòng)力學(xué)問題。股票價(jià)格的中長(zhǎng)期準(zhǔn)確預(yù)測(cè)很難。本文建立了用小生境遺傳算來優(yōu)化神經(jīng)網(wǎng)絡(luò)模型來預(yù)測(cè)股票價(jià)格，結(jié)果表明，這種方法比單用遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)收斂速度快，預(yù)測(cè)精度高。對(duì)于股票價(jià)格預(yù)測(cè)具有較好的應(yīng)用價(jià)值。

參考文獻(xiàn):

[1]龍建成李小平:基于神經(jīng)網(wǎng)絡(luò)的股票市場(chǎng)趨勢(shì)預(yù)測(cè)[j].西安電子科技大學(xué)學(xué)報(bào)(自然科學(xué)版.2005.3（32）:460-463

[2]王波張鳳玲:神經(jīng)網(wǎng)絡(luò)與時(shí)間序列模型在股票預(yù)測(cè)中的比較[j].第27卷第6期武漢理工大學(xué)學(xué)報(bào)·信息與管理工程版.2005.9（27）:69-72

篇3

關(guān)鍵詞：模糊神經(jīng)網(wǎng)絡(luò)；BFGS算法；混合遺傳算法；收斂性

中圖分類號(hào)：TP312 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：16727800（2013）002005203

0 引言

對(duì)于模糊系統(tǒng)的識(shí)別應(yīng)用，尤其是對(duì)模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)的識(shí)別問題一直困擾著許多研究學(xué)者?，F(xiàn)有方法識(shí)別結(jié)果也很不令人滿意，識(shí)別效率低下、耗時(shí)、可靠性差。例如，近年來用來識(shí)別模糊神經(jīng)網(wǎng)絡(luò)的方法主要包括傳統(tǒng)BP算法和GA等。傳統(tǒng)BP算法雖然具有較快的收斂速度，但不能避免陷入局部極小值的情況，得到非最優(yōu)解且計(jì)算量大；利用GA能夠得到較簡(jiǎn)潔的模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，但其識(shí)別率較差、收斂速度慢。

考慮到基本遺傳算法全局收斂性強(qiáng)而局部搜索性差，而一些經(jīng)典優(yōu)化算法的局部收斂性強(qiáng)、計(jì)算精度高，不少學(xué)者相繼嘗試將經(jīng)典優(yōu)化算法引入遺傳算法，并取得了較好的效果。在如今各個(gè)領(lǐng)域廣泛應(yīng)用模糊神經(jīng)網(wǎng)絡(luò)理論與技術(shù)的大背景下，筆者提出一種精度高、識(shí)別率好的新方法――基于BFGS （BroydenFletcherGoldfarbShanno）的混合遺傳算法的識(shí)別方法，并且通過仿真結(jié)果證明了其對(duì)模糊神經(jīng)網(wǎng)絡(luò)識(shí)別應(yīng)用的高效性和準(zhǔn)確性。

1 模糊神經(jīng)網(wǎng)絡(luò)概念及理論

1.1 模糊集與隸屬度

定義1 設(shè)U為論域，一個(gè)定義在U上的模糊集合由隸屬函數(shù)μf：U＼[0，1＼]來表征，這里的μf（u）表示u∈U在模糊集合K上的隸屬程度。

定義2 設(shè)A和B是U上的兩個(gè)模糊集合，則對(duì)所有的u∈U，A和B的交集是定義在U上的一個(gè)模糊集合，其隸屬函數(shù)定義如下：μA∩B（u）=min{μA（u），μB（u）}

（1） A和B是并集，是定義在U上的一個(gè)模糊集合，其隸屬函數(shù)定義如下：μA∪B（u）=max{μA（u），μB（u）}

（2） 對(duì)所有的u∈U，A的補(bǔ)集A是定義在U上的一個(gè)模糊集合，其隸屬函數(shù)定義如下：μA=1-μA（u）

（3） 定義3 輸入論域URn上的模糊集合與輸出論域VR上的模糊集合，按照這個(gè)規(guī)則形式：R（l）：if is fl1 ，…，xn is fln then y is yl對(duì)應(yīng)起來的規(guī)則構(gòu)成為模糊“if-then”規(guī)則。其中fli和yl均為模糊集合。x=（x1，x2，…，xn）T∈U ，y∈V，x和y分別為輸入和輸出語言變量，l=1，2，…，M。其中，yl為系統(tǒng)根據(jù)此條規(guī)則得到的輸出。

1.2 模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)理論分析

模糊神經(jīng)網(wǎng)絡(luò)是一種特殊的四層前饋網(wǎng)絡(luò)，通過對(duì)非線性基函數(shù)的非線性組合實(shí)現(xiàn)輸入到輸出的映射關(guān)系。它的網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

從圖1中可以清楚地看出，第一層為輸入層；第二層為隸屬度生成層，其作用為產(chǎn)生每個(gè)輸入變量對(duì)所屬的模糊子集的隸屬度，并且一般在隸屬度生成層中的隸屬度函數(shù)使用高斯型函數(shù)exp-x-αβ2；第三層為推理層；第四層為輸出層。圖1中的ω表示第二層節(jié)點(diǎn)與第三次節(jié)點(diǎn)之間的鏈接關(guān)系，可以用一個(gè)矩陣來表示。這樣我們可以將圖1模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)輸入與輸出關(guān)系表示為：y=∑Mi=1yi∏Nj=1μij（xj）∑Mi=1∏Nj=1μij（xj）

（4） 如果現(xiàn)在要對(duì)這一系統(tǒng)進(jìn)行識(shí)別，首先必須識(shí)別出此系統(tǒng)的前提參數(shù)α、β，結(jié)構(gòu)參數(shù)ω和結(jié)論參數(shù)yi，其中的ω元素取值為0和1，分別表示節(jié)點(diǎn)相連和不相連?，F(xiàn)階段對(duì)于這類模糊神經(jīng)網(wǎng)絡(luò)的識(shí)別方法一般是基于BP算法和GA優(yōu)化算法。但這兩種算法都存在計(jì)算耗時(shí)、收斂速度慢、識(shí)別精度低等問題。因此，考慮使用一種改進(jìn)的遺傳算法來進(jìn)行系統(tǒng)模式識(shí)別，即基于BFGS的混合遺傳算法。

2 基于BFGS的混合遺傳算法

在經(jīng)典最優(yōu)化方法中，若綜合考察收斂速度、計(jì)算量、適用范圍等算法性能，擬牛頓法是最出色的。在擬牛頓法中，又以DFP算法和BFGS算法最為著名。

BFGS算法計(jì)算步驟為：

（1）給定初始點(diǎn)x0，精度ξ，取H0=I，k=0；

（2）計(jì)算梯度gk-1=f（xk-1），若gk-1

Δxk-1（Δxk-1）T（Δxk-1）TΔgk-1 求出Hk-1，令pk-1=-Hk-1gk-1，由一維搜索求步長(zhǎng)tk-1；

（3）令xk=xk-1+tk-1pk-1，k=k+1，轉(zhuǎn)（2）。

BFGS公式不僅計(jì)算精度高，而且具有很好的數(shù)值穩(wěn)定性。

本文提出將BFGS算法融入遺傳算法，取長(zhǎng)補(bǔ)短?；贐FGS的混合遺傳算法（GA/BFGS）的流程如下：

（1）選取合適的群體大小Psiz、個(gè)體編碼長(zhǎng)度l、進(jìn)化代數(shù)T、交叉概率Pc、變異概率Pm等參數(shù)，隨機(jī)生成M個(gè)個(gè)體作為初始群體P（t），t=1；

（2）解碼并進(jìn)行選擇（selection）運(yùn)算；

（3）交叉（crossover）運(yùn)算；

（4）變異（mutation）運(yùn)算，產(chǎn)生新一代群體P（t+1）；

（5）按下列方式確定是否跳轉(zhuǎn)BFGS算法：①計(jì)算目標(biāo)函數(shù)的梯度及范數(shù)f（xt-1）和f（xt-1）；若目標(biāo)函數(shù)為離散型，則用差商替代之；②若梯度或差商范數(shù)小于預(yù)先設(shè)定的閾值ξ，則轉(zhuǎn)（6），否則轉(zhuǎn)（2）；

（6）用BFGS算法進(jìn)行優(yōu)化；

（7）輸出最優(yōu)解和最優(yōu)值。

基于BFGS的混合遺傳算法的流程如圖2所示。

3 BFGS混合遺傳算法在模糊神經(jīng)網(wǎng)絡(luò)識(shí)別中的實(shí)現(xiàn)3.1 參數(shù)范圍的確定

確定待編碼參數(shù)的變化范圍是使用遺傳算法程序中的關(guān)鍵一步，有利于參數(shù)的編碼和解碼。對(duì)于模糊神經(jīng)網(wǎng)絡(luò)機(jī)構(gòu)中的每一個(gè)輸入變量xi，可以用如下方法確定其所屬模糊子集的隸屬函數(shù)參數(shù)的變化范圍?，F(xiàn)在就輸入x1，來確定對(duì)應(yīng)參數(shù)變化范圍，由于其模糊劃分?jǐn)?shù)為M，可以首先對(duì)下列公式的隸屬函數(shù)參數(shù)賦初值：α1＼[1＼]=x1min+|x1max- x1min|/2M

（5）

α1＼[i+1＼]=α1＼[i＼]+|x1max- x1min|/M

（6）

φ1（i）=（α1（i+1）- α1（i））/2

（7）

β1＼[i＼]=|α1（i）-φ1（i）|/ln2

（8）

β1（M）=|α1（M）-φ1（M-1）|/ln2

（9） 其中i=1，2，…，M-1。

由此，可以確定α1＼[i＼]的變化范圍為：

＼[xmin，α1（1）+φ1（1）＼]；＼[α1（2）-φ1（2），α1（2）+φ1（2）＼]；…；

＼[α1（M-1）-φ1（M-1），α1（M-1）+φ1（M-1）＼]；＼[α1（M）-φ1（M），xmax＼]

β1＼[i＼]≥0變化范圍為：＼[0，λ?β1（1）＼]；＼[0， ?λβ2（2）＼]；…；＼[0，?λβ1（M）＼]

其中，λ>1用來控制β1＼[i＼]的變化范圍。同理，可以確定其它輸入?yún)?shù)的變化范圍。

下面再對(duì)結(jié)論參數(shù)yi的變化范圍進(jìn)行控制：yi∈＼[ε?ymin，ε?ymax＼]其中，ε>1用來控制yi的變化范圍。

3.2 編碼方案的確定

我們按圖3所示的方案進(jìn)行二進(jìn)制編碼，αi（j）、βi（j）和yi都采用k位，其結(jié)構(gòu)參數(shù)W采用N?MN位。由于αi（j）、βi（j）和yi均采用了k位二進(jìn)制編碼，則它共有2k種狀態(tài)。具體編碼流程見圖3。

又由于在前面我們已經(jīng)確定了αi（j）、βi（j）和yi的變化范圍，所以對(duì)于編碼所處的第t（t=0，1，2， …，2k-1）種情形，它們所對(duì)應(yīng)的值為：αi（j）|t=αi（j）-βi（j）+t?φi（j）2k-1

（10）

βi（j） |t=t?λβi（j）2k

（11）

yi|t=ε?ymin+t?ε?（ymax- ymin）2k

（12） 有了上面一系列的編碼解碼方案，下面就可以進(jìn)行算法實(shí)現(xiàn)部分。

3.3 算法實(shí)現(xiàn)

Step1 初始化運(yùn)算

設(shè)置進(jìn)化代數(shù)計(jì)數(shù)器t0，設(shè)置最大進(jìn)化代數(shù)為T（足夠大），設(shè)置初始種群規(guī)模Psiz=200，并隨機(jī)生成各個(gè)體作為初始群體P（t）。

Step2 選擇運(yùn)算

先將每個(gè)個(gè)體解碼成對(duì)應(yīng)的網(wǎng)絡(luò)參數(shù)，并定義每個(gè)個(gè)體的適應(yīng)度函數(shù)：Fi=f-∑lk=1|Y（k）-yi（k）|2

（13） 其中，Y（k）為對(duì)應(yīng)于第k個(gè)樣本的期望值；yi（k）為第i個(gè)個(gè)體對(duì)應(yīng)網(wǎng)絡(luò)在輸入為第k個(gè)樣本時(shí)的網(wǎng)絡(luò)實(shí)際輸出值；f為適當(dāng)定義的足夠大的正數(shù)，這樣就可以得到每個(gè)個(gè)體的適應(yīng)度函數(shù)值Fi，然后將每個(gè)個(gè)體以概率pi=Fi∑Psizi=1Fi進(jìn)行選擇復(fù)制。

Step3 交叉運(yùn)算

將交叉算子作用于選擇群體。即將選擇群體中的每個(gè)個(gè)體兩兩配對(duì)，并按照事先確定的交叉概率Pc選擇交叉點(diǎn)進(jìn)行交叉操作。

Step4 變異運(yùn)算

將變異算子作用于交叉后的群體。即按照事先確定的變異概率Pm隨機(jī)選擇（（MN+2?N?M）?k+N?MN）?Psiz?Pm位進(jìn)行突變，這樣就產(chǎn)生了新一代群體。

Step5 判定條件

若f（xt-1）

Step6 BFGS運(yùn)算

用BFGS算法進(jìn)行優(yōu)化，最后輸出最優(yōu)解。

4 仿真分析

這里取一個(gè)經(jīng)典的識(shí)別系統(tǒng)：y=（1+x0.51+x-12+x-1.53）2

（15） 我們規(guī)定輸入x1，x2，x3的取值區(qū)間均為＼[1，8＼]，在此區(qū)間內(nèi)產(chǎn)生130個(gè)數(shù)據(jù)對(duì)，其中65個(gè)用于訓(xùn)練數(shù)據(jù)對(duì)，65個(gè)用于測(cè)試數(shù)據(jù)對(duì)，并取每個(gè)變量在其論域上劃分兩個(gè)模糊子集。規(guī)定交叉概率Pc=0.96，變異概率Pm=0.004。αi（j）、βi（j）和yi采用了8位二進(jìn)制編碼，這樣每個(gè)個(gè)體的編碼長(zhǎng)度就為184。進(jìn)化1 000代后得到的系統(tǒng)參數(shù)和識(shí)別測(cè)試數(shù)據(jù)精度見表1。

從圖4中可以很清楚地看出，在模糊神經(jīng)網(wǎng)絡(luò)的識(shí)別應(yīng)用中，剛開始算法由于受到訓(xùn)練數(shù)據(jù)的干擾，識(shí)別效果都不是很理想。但GA/BFGS比GA識(shí)別速度快，且隨著進(jìn)化代數(shù)遞增，GA/BFGS識(shí)別精度更趨于實(shí)際測(cè)試數(shù)據(jù)最優(yōu)值65。這表明GA/BFGS在繼承了傳統(tǒng)遺傳算法全局收斂性強(qiáng)這一優(yōu)點(diǎn)的基礎(chǔ)上，局部收斂性和收斂速度都得到了較好的提升，這主要得益于BFGS算法的加入。

5 結(jié)語

為了提高模糊神經(jīng)網(wǎng)絡(luò)的識(shí)別率和精確度，本文利用BFGS和GA混合的算法進(jìn)行識(shí)別應(yīng)用與仿真。從仿真結(jié)果來看，其識(shí)別效果較好，且混合算法對(duì)模糊神經(jīng)網(wǎng)絡(luò)具有一定的辨識(shí)能力。與其它識(shí)別算法相比，基于BFGS的混合遺傳算法具有收斂速度快、識(shí)別精度高等特點(diǎn)，是一種應(yīng)用于模糊神經(jīng)網(wǎng)絡(luò)識(shí)別的有效方法。

參考文獻(xiàn)：

＼[1＼] M.M. Gupta and G.K. Knopf， Fuzzy neural network approach to control systems[C]. Uncertainty Modeling and Analysis，1990.

＼[2＼] T. Yamakawa. Pattern recognition hardware system employing a fuzzy neuron[C]. Fuzzy Logic，1990.

篇4

摘 要 遺傳算法具有很強(qiáng)的全局搜索能力，但是容易造成未成熟的收斂，而徑向基函數(shù)RBF神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)在于采用全局收斂的線性優(yōu)化算法，唯一最佳逼近點(diǎn)唯一，二者結(jié)合的應(yīng)用能彌補(bǔ)各自的缺陷。兩種方法結(jié)合應(yīng)用到核電廠安全管理評(píng)價(jià)領(lǐng)域，建立基于遺傳算法和RBF神經(jīng)網(wǎng)絡(luò)的核電廠安全管理評(píng)價(jià)模型，對(duì)核電廠安全管理存在的風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)，有助于核電廠安全管理人員及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)，采取應(yīng)對(duì)措施，對(duì)于降低核電廠安全管理風(fēng)險(xiǎn)，確保人民群眾生命財(cái)產(chǎn)安全和社會(huì)環(huán)境安全都具有極其重要的現(xiàn)實(shí)意義。

關(guān)鍵詞 遺傳算法 神經(jīng)網(wǎng)絡(luò) 核電廠 安全管理評(píng)價(jià)

核電廠的安全管理評(píng)價(jià)是對(duì)核電廠的安全管理現(xiàn)狀進(jìn)行的評(píng)價(jià)分析?？茖W(xué)合理準(zhǔn)確的評(píng)價(jià)可以對(duì)核電廠的日常安全管理提供指導(dǎo)，為科學(xué)的開展安全管理提升提供參考。

利用遺傳算法對(duì)RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，保證了并行處理規(guī)模較大信息的能力，發(fā)揮了概括、聯(lián)想、類比、推理等綜合處理數(shù)據(jù)的能力。因此常被用來處理復(fù)雜問題，并做出科學(xué)的預(yù)測(cè)。建立基于遺傳算法和RBF神經(jīng)網(wǎng)絡(luò)的核電廠安全管理評(píng)價(jià)模型，既確保了對(duì)大規(guī)模數(shù)據(jù)的處理能力，又提升了安全管理評(píng)價(jià)的科學(xué)化水平，對(duì)于準(zhǔn)確掌握核電廠安全管理現(xiàn)狀，提升核電廠日常管理水平，有效保障企業(yè)員工的生命安全、國(guó)家財(cái)產(chǎn)安全和生態(tài)環(huán)境安全具有重要意義。

一、遺傳算法和RBF神經(jīng)網(wǎng)路原理

遺傳算法于1975年，由美國(guó)的J.Holland教授提出。該隨機(jī)化搜索方法借鑒了自然進(jìn)化法則，即優(yōu)勝劣汰、適者生存的遺傳機(jī)制。該方法直接對(duì)結(jié)構(gòu)對(duì)象進(jìn)行操作；選用概率化的尋優(yōu)方法，自動(dòng)獲取和指導(dǎo)優(yōu)化的搜索范圍。但該方法在實(shí)際應(yīng)用中也存在部分局限性：因借鑒了優(yōu)勝劣汰、適者生存的遺傳機(jī)制，所以如果出現(xiàn)優(yōu)勢(shì)個(gè)體（局部最優(yōu)解）時(shí)，就造成了過早收斂現(xiàn)象，也就無法搜索產(chǎn)生全局最優(yōu)解；其次在經(jīng)過多次重組演化后，容易丟失上一代的的基因片段，即同樣造成無法得到全局最優(yōu)值；再次傳統(tǒng)的遺傳算法通過雜交變異的手段，確定搜索空間，導(dǎo)致相似模式的數(shù)據(jù)種群占據(jù)優(yōu)勢(shì)，同樣無法產(chǎn)生全局最優(yōu)解。

RBF神經(jīng)網(wǎng)絡(luò)是一種前饋式神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)結(jié)構(gòu)分為三部分：輸入層、隱含層、輸出層。它依據(jù)輸入層少數(shù)的神經(jīng)元（基礎(chǔ)數(shù)據(jù)），利用隱含層（高效徑向基函數(shù)），決定神經(jīng)網(wǎng)絡(luò)的輸出層（預(yù)測(cè)數(shù)據(jù)）。隱含層（高效徑向基函數(shù)），實(shí)際是通過利用高斯函數(shù)，執(zhí)行固定的非線性操作指令，即將輸入層（基礎(chǔ)數(shù)據(jù)）映射到一個(gè)新的空間，通過輸出層節(jié)點(diǎn)線性加權(quán)組合，輸出形成結(jié)果。

輸出函數(shù)為：

為隱含層神經(jīng)元的輸出， 為權(quán)值，二者的乘積累加和即為RBF神經(jīng)網(wǎng)絡(luò)的輸出。輸入層、隱含層相互連接，其中隱含層為一系列同一類型的徑向基函數(shù)（高斯函數(shù)）[3]。RBF神經(jīng)網(wǎng)絡(luò)由高斯函數(shù)表示為：

其中，Ci代表了基函數(shù)的中心， 代表了函數(shù)的寬度參數(shù)。從上述公式中可以看出：高斯函數(shù)的徑向范圍與 函數(shù)的寬度參數(shù)成反比。在實(shí)際計(jì)算中，函數(shù)寬度參數(shù) 的確定一般采用自適應(yīng)梯度下降法確定，而確定Ci 、 、w的取值也就確定了為隱含層神經(jīng)元的輸出 。

二、對(duì)RBF神經(jīng)網(wǎng)路原理的優(yōu)化

依據(jù)生物神經(jīng)網(wǎng)絡(luò)的機(jī)理建立基于RBF神經(jīng)網(wǎng)絡(luò)安全管理評(píng)價(jià)模型，通過在不同網(wǎng)絡(luò)傳遞環(huán)節(jié)選取恰當(dāng)?shù)乃惴▽?duì)模型進(jìn)行優(yōu)化改進(jìn)，以此得到安全管理評(píng)價(jià)的優(yōu)化模型。但是在應(yīng)用過程中RBF神經(jīng)網(wǎng)絡(luò)關(guān)鍵函數(shù)基函數(shù)中心值、網(wǎng)絡(luò)權(quán)值等難以得到最優(yōu)解，因此選擇遺傳算法，利用其優(yōu)勢(shì)對(duì)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行優(yōu)化完善。

（一）最優(yōu)基函數(shù)中心值的確定

應(yīng)用遺傳算法進(jìn)行數(shù)據(jù)編碼。將學(xué)習(xí)樣本進(jìn)行編號(hào)：1，2，3，……，N，進(jìn)而從樣本中隨機(jī)選擇M個(gè)數(shù)據(jù)為一組中心矢量作為種群中的一個(gè)個(gè)體進(jìn)行編碼。如下所示，以第i個(gè)染色體為例，神經(jīng)網(wǎng)絡(luò)的m應(yīng)度函數(shù) 為期望輸出 和實(shí)際輸出 之差的絕對(duì)值累加和的倒數(shù)：

從上一代中任意選取兩個(gè)母體進(jìn)行交叉以此獲得兩個(gè)子個(gè)體，再將兩個(gè)子個(gè)體以一定的概率進(jìn)行變異，染色體其他位的編號(hào)值用1，2，3，……，N，中任意值以一定的變異概率替換。將母體與子體進(jìn)行比較從中選擇優(yōu)勢(shì)個(gè)體即完成一次進(jìn)化。以此方式循環(huán)迭代，直到個(gè)體達(dá)到給定最大代數(shù)或滿足給定的精度，此時(shí)個(gè)體則為最優(yōu)基函數(shù)中心值。

（二）最優(yōu)權(quán)值w的確定

權(quán)值的優(yōu)化是一個(gè)長(zhǎng)期復(fù)雜的過程，實(shí)數(shù)編碼值能夠較好地反應(yīng)現(xiàn)實(shí)情況，用一個(gè)數(shù)碼代表一個(gè)染色體，一個(gè)染色體則代表一個(gè)X值；群體初始化，根據(jù)遺傳算法的搜索范圍將權(quán)值以 分布隨機(jī)確定（-0.8，0.4，0.65，0.5）；選取適應(yīng)度函數(shù)，將輸出樣本的平方作為適應(yīng)度函數(shù)：

根據(jù)遺傳操作原理，采用染色體交叉變異，選擇交叉的概率Pn、變異的概率Pm。

U11=（-0.8，0.4，0.65，0.5），U21=（0.3，0.7，0.6，-0.8），交叉：U21=（-0.8，0.4，0.6，0.5）變異：U22=（-0.8，0.4，0.5，0.5）

三、安全管理評(píng)價(jià)模型的建立

依據(jù)核電廠安全管理評(píng)價(jià)指標(biāo)，建立基于遺傳算法和RBF神經(jīng)網(wǎng)絡(luò)的核電廠安全管理評(píng)價(jià)模型。其實(shí)現(xiàn)流程如圖所示：

四、結(jié)語

本文建立基于遺傳算法和RBF神經(jīng)網(wǎng)絡(luò)的核電廠安全管理評(píng)價(jià)模型，對(duì)核電廠安全管理存在的風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)，有助于核電廠安全管理人員及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)，采取應(yīng)對(duì)措施，切實(shí)降低了核電廠安全管理風(fēng)險(xiǎn)，并為核電廠科學(xué)管理，安全管理提升提供參考和技術(shù)支持。

參考文獻(xiàn)：

[1] 郭贊.基于遺傳算法和RBF神經(jīng)網(wǎng)絡(luò)的鈾尾礦庫(kù)安全預(yù)警模型[J].綠色科技，2015.3：243-245.

[2] 魏艷強(qiáng).基于RBF神經(jīng)網(wǎng)絡(luò)的公路貨運(yùn)量預(yù)測(cè)方法研究[J].天津理工大學(xué)學(xué)報(bào)，2008.2（1）：17-20.

[3] 徐杰.基于遺傳算法的RBF神經(jīng)網(wǎng)絡(luò)優(yōu)化及應(yīng)用[J].信息技術(shù)，2011（5）：165-168.

篇5

Abstract： The artificial neural network has a strong nonlinear mapping ability， has been applied to various fields such as pattern recognition， intelligent control， image processing and time series etc.， in this paper， the heuristic improvement of BP algorithm was proposed aimed at the deficiencies of BP algorithms， and a common type of improvement was introduced aimed at the main drawback of the genetic algorithm through analysis and research on genetic neural network model and its algorithm.

關(guān)鍵詞： BP算法；神經(jīng)網(wǎng)絡(luò)；遺傳算法；改進(jìn)

Key words： BP algorithm；neural network；genetic algorithm；improvement

中圖分類號(hào)：TP39 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1006-4311（2012）34-0209-02

1 BP神經(jīng)網(wǎng)絡(luò)

1.1 BP神經(jīng)網(wǎng)絡(luò)概述 在神經(jīng)網(wǎng)絡(luò)模式識(shí)別系統(tǒng)中，應(yīng)用最廣泛的要算是BP網(wǎng)絡(luò)，它是基于誤差反向傳播算法的一種具有非線性連續(xù)轉(zhuǎn)移函數(shù)的多層前饋網(wǎng)絡(luò)。由于多層前饋網(wǎng)絡(luò)的訓(xùn)練經(jīng)常采用誤差反向傳播算法，人們常把多層前饋網(wǎng)絡(luò)直接稱為BP網(wǎng)絡(luò)。

BP算法可以小結(jié)為以下三個(gè)步驟：

①通過網(wǎng)絡(luò)輸入反向傳播：

a0=p

am+1=fm+1（Wm+1am+bm+1），m=0，1，…，M-1

a=aM

②通過網(wǎng)絡(luò)將敏感性反向傳播：

sm=Fm（nm）（Wm+1）Tsm+1，m=M-1，…，2，1

③使用近似均方誤差的BP算法更新權(quán)值和偏置值：

Wm（k+1）=Wm（k）-αsm（am-1）T

bm（k+1）=bm（k）-αsm

1.2 BP神經(jīng)網(wǎng)絡(luò)存在的問題 盡管BP網(wǎng)絡(luò)有很多顯著的優(yōu)點(diǎn)，但也存在著一定的局限性。其主要問題如下：

①隨著訓(xùn)練樣本維數(shù)的增大，使收斂速度緩慢，從而降低學(xué)習(xí)效率。

②從數(shù)學(xué)角度上看BP算法是一種梯度最速下降法，這就可能出現(xiàn)局部極小值的問題，而得不到全局最優(yōu)。

③網(wǎng)絡(luò)中隱節(jié)點(diǎn)個(gè)數(shù)的選取缺乏理論指導(dǎo)，尚無明確的定義。

由于BP神經(jīng)網(wǎng)絡(luò)存在局部性，因此利用BP網(wǎng)絡(luò)進(jìn)行模式識(shí)別時(shí)，所得網(wǎng)絡(luò)模型的參數(shù)容易陷入局部極小，因此需要對(duì)BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小的缺陷進(jìn)行改進(jìn)。

2 遺傳算法

2.1 遺傳算法概述 遺傳算法（Genetic Algorithm——GA）正是以達(dá)爾文的自然進(jìn)化論與遺傳變異理論為基礎(chǔ)的求解復(fù)雜全局優(yōu)化問題的仿生型算法。該算法摒棄了傳統(tǒng)的搜索方式，模擬自然界生物進(jìn)化的過程，采用人工進(jìn)化的方式對(duì)目標(biāo)函數(shù)空間進(jìn)行隨機(jī)導(dǎo)向優(yōu)化搜索。遺傳算法求解問題的基本思想是：從問題的解出發(fā)的，將問題的一些可行解進(jìn)行編碼，這些已編碼的解即被當(dāng)做種群中的個(gè)體，每個(gè)個(gè)體實(shí)際上是染色體帶有特征的實(shí)體；個(gè)體對(duì)環(huán)境適應(yīng)能力的評(píng)價(jià)函數(shù)就是問題的目標(biāo)函數(shù)；模擬遺傳學(xué)中的雜交、變異、復(fù)制來設(shè)計(jì)遺傳算子，用優(yōu)勝劣汰的自然選擇法則來指導(dǎo)學(xué)習(xí)和確定搜索方向；對(duì)由個(gè)體組成的中卻進(jìn)行演化，利用遺傳算子來產(chǎn)生具有更高平均適應(yīng)值和更好個(gè)體的種群，經(jīng)過若干代后，選出適應(yīng)能力最好的個(gè)體，它就是問題的最優(yōu)解或滿意解[1]。

2.2 遺傳算法的缺陷及改進(jìn) 遺傳算法作為一種通用性好、魯棒性強(qiáng)的新型優(yōu)化搜索算法，為求解很多困難的問題打開了局面，但是在實(shí)際應(yīng)用中，存在著：①早熟問題；②局部搜索能力差；③控制參數(shù)難以確定缺陷。

針對(duì)上述問題，目前已經(jīng)提出的一些改進(jìn)方法，概括起來主要有如下幾種類型：

①改進(jìn)遺傳算法的使用技術(shù)或者組成成分，如選用適合問題特性的編碼技術(shù)、優(yōu)化控制參數(shù)等。

②采用混合遺傳算法，即融合一些優(yōu)化方法來提高遺傳算法運(yùn)行效率。如將遺傳算法和模擬退火算法、爬山法等方法結(jié)合的混合遺傳算法。

③采用非標(biāo)準(zhǔn)的遺傳操作算子，如記憶算子、頂端增強(qiáng)算子等。

④采用動(dòng)態(tài)自適應(yīng)技術(shù)，在遺傳過程中自適應(yīng)的調(diào)整控制參數(shù)和編碼精度，在保持種群多樣性的同時(shí)保證遺傳算法的收斂。

⑤采用并行遺傳算法。

3 BP算法與遺傳算法的結(jié)合

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是基于梯度下降法的，由于該算法搜索速度緩慢以及對(duì)初始值的依賴，導(dǎo)致存在局部最小值問題。而遺傳算法作為一種具有較強(qiáng)全局搜索能力的算法，其搜索能夠遍及整個(gè)尋優(yōu)空間，因此容易接近全局最優(yōu)解；且遺傳算法有很強(qiáng)的魯棒性，不要求目標(biāo)函數(shù)連續(xù)可微，甚至不要求目標(biāo)函數(shù)具有顯函數(shù)形式，只要求問題可以計(jì)算[2]。因此將擅長(zhǎng)全局搜索的遺傳算法和具有很強(qiáng)局部尋優(yōu)能力的BP算法結(jié)合起來，可以避免局部極小值問題并提高收斂速度，很快獲得全局最優(yōu)解。本文利用改進(jìn)的遺傳算法對(duì)BP神經(jīng)網(wǎng)絡(luò)同時(shí)進(jìn)行權(quán)值和閾值的同步學(xué)習(xí)優(yōu)化，提高算法的收斂速度和收斂精度，構(gòu)造了一個(gè)能夠獲得待求問題滿意解的三層GA-BP神經(jīng)網(wǎng)絡(luò)。

3.1 GA-BP神經(jīng)網(wǎng)絡(luò)的模型 GA-BP神經(jīng)網(wǎng)絡(luò)的基本構(gòu)造思想就是先通過遺傳算法在解空間中搜索到一個(gè)較優(yōu)的網(wǎng)絡(luò)形式，再利用BP算法在這個(gè)較優(yōu)的解空間內(nèi)定位最優(yōu)解或滿意解[3]；具體地說就是先通過遺傳算法對(duì)最佳的網(wǎng)絡(luò)權(quán)值和閾值做快速的全局性搜索，當(dāng)群體收斂至全局最優(yōu)解附近區(qū)域時(shí)，以群體中的最優(yōu)個(gè)體作為BP算法的初始點(diǎn)，利用BP算法進(jìn)行進(jìn)一步的局部搜索，同步學(xué)習(xí)網(wǎng)絡(luò)的權(quán)值和閾值。當(dāng)幾代內(nèi)遺傳算法進(jìn)化的目標(biāo)函數(shù)不再減小或目標(biāo)函數(shù)小于預(yù)設(shè)值時(shí)，表示兩種算法需要進(jìn)行切換。由于在實(shí)際應(yīng)用中，求得的網(wǎng)絡(luò)目標(biāo)誤差函數(shù)往往為人們預(yù)先設(shè)定的一個(gè)滿意值，因此利用這種GA-BP順序?qū)?yōu)的方法是切實(shí)可行的。

3.2 BP算法與GA-BP算法的仿真比較 利用傳統(tǒng)的BP算法及本文提出的GA-BP算法分別對(duì)兩種算法的時(shí)間收斂曲線進(jìn)行對(duì)比研究，考慮故障診斷問題。應(yīng)用樣本訓(xùn)練后的節(jié)點(diǎn)連接權(quán)值，向網(wǎng)絡(luò)輸入待診斷的樣本征兆參數(shù)，計(jì)算得出網(wǎng)絡(luò)的實(shí)際輸出值，根據(jù)輸出值的大小，從而確定故障的類別。

BP算法與GA-BP算法的訓(xùn)練誤差曲線如圖1和圖2所示。

GA-BP算法訓(xùn)練后的總誤差為0.000417。通過兩個(gè)實(shí)驗(yàn)時(shí)間訓(xùn)練曲線可以得出，基于GA-BP算法的神經(jīng)網(wǎng)絡(luò)能夠有效地實(shí)現(xiàn)故障預(yù)測(cè)數(shù)據(jù)的訓(xùn)練，具有較快的學(xué)習(xí)速度及一定適用性。

4 總結(jié)

本文針對(duì)BP算法訓(xùn)練多層前饋網(wǎng)絡(luò)模式識(shí)別系統(tǒng)的缺陷，提出了結(jié)合遺傳算法的BP改進(jìn)算法——GA-BP算法，并建立了對(duì)應(yīng)的模式識(shí)別系統(tǒng)模型。然后利用該模型對(duì)實(shí)際的問題進(jìn)行了模式分類訓(xùn)練和測(cè)試，測(cè)試結(jié)果表明GA-BP算法有效克服了網(wǎng)絡(luò)訓(xùn)練時(shí)容易陷入局部極小值，導(dǎo)致網(wǎng)絡(luò)訓(xùn)練失敗的不足。

參考文獻(xiàn)：

[1]楊南達(dá)，李世平.遺傳算法研究[J].兵工自動(dòng)化，2008，27（9）：60～62.

篇6

【關(guān)鍵詞】工程估算;神經(jīng)網(wǎng)絡(luò);遺傳算法

一、引言

工程項(xiàng)目建設(shè)前期，詳細(xì)的項(xiàng)目信息尚未明確，工程造價(jià)具有較大模糊性。由于人工神經(jīng)網(wǎng)絡(luò)具有準(zhǔn)確性高、非線性處理能力強(qiáng)等優(yōu)點(diǎn)，已被許多學(xué)者應(yīng)用到工程估算領(lǐng)域。但傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)收斂速度慢、易陷入局部極小，而采用遺傳神經(jīng)網(wǎng)絡(luò)建立的工程估算模型，則可以利用遺傳算法全局快速尋優(yōu)的優(yōu)勢(shì)，有效解決上述問題。

二、模型介紹

1、 BP神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)是人工智能研究的一種方法，具有較強(qiáng)的非線性映射能力。其拓?fù)浣Y(jié)構(gòu)具有多層感知器結(jié)構(gòu)，包括輸入、輸出層和若干個(gè)隱層。網(wǎng)絡(luò)輸入信息先通過輸入層節(jié)點(diǎn)，向前傳播到隱層節(jié)點(diǎn)，經(jīng)過計(jì)算節(jié)點(diǎn)的激活函數(shù)后，將各個(gè)計(jì)算節(jié)點(diǎn)的輸出信息傳播到輸出節(jié)點(diǎn)，最后得到最終輸出結(jié)果。

所謂BP算法，即反向誤差傳遞法，主要分為向前傳播階段和向后傳播階段。在向前傳播階段中，信息從輸入層經(jīng)過逐層的變換，傳送到輸出層。而后向傳播階段即根據(jù)期望輸出計(jì)算反向誤差，對(duì)權(quán)值進(jìn)行修正，如果誤差小于給定值或迭代次數(shù)超過設(shè)定值結(jié)束學(xué)習(xí)。BP神經(jīng)網(wǎng)絡(luò)具有優(yōu)化計(jì)算能力，它可以在已知的約束條件下，尋找一組參數(shù)組合，使該組合確定的目標(biāo)函數(shù)達(dá)到最小。但BP神經(jīng)網(wǎng)路尋優(yōu)的過程受初始點(diǎn)的選擇影響，初始點(diǎn)如果靠近局部最優(yōu)點(diǎn)而非全局最優(yōu)點(diǎn)，就無法得到正確的結(jié)果，這也是其無法得到全局最優(yōu)解的一個(gè)原因[1]。

2 、遺傳算法

遺傳算法（GA）是借鑒生物界自然選擇和群體進(jìn)化機(jī)制形成的一種全局尋優(yōu)算法。在GA中， 將問題空間中的決策變量通過一定編碼方法表示成遺傳空間的一個(gè)個(gè)體，它是一個(gè)基因型串結(jié)構(gòu)數(shù)據(jù);同時(shí)，將目標(biāo)函數(shù)值轉(zhuǎn)換成適應(yīng)值，用以評(píng)價(jià)個(gè)體的優(yōu)劣，并作為遺傳操作的依據(jù)。遺傳操作主要包括三個(gè)算子：選擇、交叉和變異。選擇算子用來實(shí)施適者生存的原則，即把當(dāng)前群體中的個(gè)體按與適應(yīng)值成比例的概率復(fù)制到新的群體中， 構(gòu)成池;交叉算子是從池中的個(gè)體隨機(jī)配對(duì)， 然后將兩兩配對(duì)的個(gè)體按特定方式相互交換部分基因;變異是對(duì)個(gè)體的某些基因值按某一較小概率進(jìn)行改變。從產(chǎn)生新個(gè)體的能力方面來說， 交叉算子是產(chǎn)生新個(gè)體的主要方法， 它決定了GA的全局搜索能力，而變異算子只是產(chǎn)生新個(gè)體的輔助方法， 但也必不可少， 因?yàn)樗鼪Q定了GA的局部搜索能力。交叉和變異相配合，共同完成對(duì)搜索空間的全局和局部搜索[2]。

3 遺傳神經(jīng)算法

考慮到GA的全局搜索能力，采用GA對(duì)BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值進(jìn)行優(yōu)化。算法基本步驟如下[3]：

1）設(shè)定種群規(guī)模。隨機(jī)生成設(shè)定規(guī)模的個(gè)體的初始種群，給定一個(gè)數(shù)據(jù)選定范圍， 采用線性插值函數(shù)生成種群中個(gè)體的一個(gè)實(shí)數(shù)向量作為GA的一個(gè)染色體;

2）確定個(gè)體的評(píng)價(jià)函數(shù)。給定一個(gè)BP神經(jīng)網(wǎng)絡(luò)進(jìn)化參數(shù)，將步驟（1）中得到的染色體對(duì)BP 神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值進(jìn)行賦值，輸入訓(xùn)練樣本進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練，達(dá)到設(shè)定的精度得到網(wǎng)絡(luò)訓(xùn)練輸出值，以訓(xùn)練誤差平方和作為種群中個(gè)體的適應(yīng)值;

3）選擇操作。基于適應(yīng)值比例的選擇策略對(duì)每一代種群中的染色體進(jìn)行選擇，選擇概率為適應(yīng)值與所有適應(yīng)值之和的比值;

4）交叉操作。對(duì)群體進(jìn)行隨機(jī)配對(duì)，并隨機(jī)設(shè)置交叉點(diǎn)位置，相互交換配對(duì)染色體之間的部分基因;

5）變異操作。隨機(jī)產(chǎn)生變異點(diǎn)位置，依照某一概率將變異點(diǎn)的原有基因值取反;

6）將GA得到的最優(yōu)個(gè)體分解為BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，BP 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型經(jīng)訓(xùn)練后， 輸出預(yù)測(cè)值。

三、應(yīng)用實(shí)例

為驗(yàn)證本算法在工程估算領(lǐng)域的有效性，特選取上海市建筑建材業(yè)市場(chǎng)管理總站的十個(gè)建筑項(xiàng)目的工程特征信息及造價(jià)指標(biāo)進(jìn)行分析。工程特征選取的是影響造價(jià)指標(biāo)的七個(gè)關(guān)鍵因素，造價(jià)指標(biāo)選取單方造價(jià)。具體數(shù)據(jù)如下表。

表一工程特征及造價(jià)指標(biāo)表

地點(diǎn)

結(jié)構(gòu)類型

建筑面積（m2）

建筑高度（m）

抗震烈度

建設(shè)年份

單方造價(jià)（元/m2）

1

1

7141

22.3

7

2009

4988.4

3

2

8580

39.2

6

2010

3115.3

2

2

2748

16.3

7

2010

2385.4

3

2

7675

22.8

7

2011

2750.5

1

1

18070

51.0

7

2007

2880.5

2

2

30489

53.7

7

2008

3773.0

1

1

65697

99.6

7

2008

2934.2

1

3

49900

76.7

7

2009

7396.4

3

1

51428

65.1

7

2010

3014.6

1

3

110577

208.0

7

2010

8124.8

其中地點(diǎn)分三類：內(nèi)環(huán)（1）、外環(huán)（2）、外環(huán)外（3）;結(jié)構(gòu)類型分三類：框剪（1）、框架（2）、鋼框架-鋼筋混凝土核心筒（3）。

10個(gè)項(xiàng)目樣本中選7個(gè)作為學(xué)習(xí)樣本，3個(gè)作為預(yù)測(cè)檢驗(yàn)樣本。采用Matlab軟件分別構(gòu)建一般神經(jīng)網(wǎng)絡(luò)和遺傳神經(jīng)網(wǎng)絡(luò)模型，測(cè)試樣本進(jìn)行預(yù)測(cè)的結(jié)果如下：

表2 造價(jià)指標(biāo)預(yù)測(cè)結(jié)果與誤差分析

檢驗(yàn)樣本

實(shí)際值

BP神經(jīng)網(wǎng)絡(luò)

遺傳神經(jīng)網(wǎng)絡(luò)

預(yù)測(cè)值

相對(duì)誤差%

預(yù)測(cè)值

相對(duì)誤差%

1

7396.4

8563.5

15.8

7920.0

7.1

2

3014.6

3353.2

11.2

3289.6

9.1

3

8124.8

7146.6

-12.0

7561.7

-7.0

平均相對(duì)誤差

13.0%

7.7%

通過實(shí)驗(yàn)結(jié)果可以發(fā)現(xiàn)一般神經(jīng)網(wǎng)絡(luò)和遺傳神經(jīng)網(wǎng)絡(luò)兩個(gè)模型均能滿足項(xiàng)目估算階段20%的準(zhǔn)確率要求，但相較而言，遺傳神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)精度要高于一般神經(jīng)網(wǎng)絡(luò)模型。此外，通過對(duì)比收斂過程（收斂過程圖略）發(fā)現(xiàn)，后者收斂速度更快。因此遺傳神經(jīng)網(wǎng)絡(luò)無論從全局搜索能力和收斂速度上都優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，更能滿足工程估算指標(biāo)預(yù)測(cè)的實(shí)際需要。

四、結(jié)論

針對(duì)BP神經(jīng)網(wǎng)絡(luò)在局部極小缺陷和收斂速度慢的問題，采用遺傳算法進(jìn)行改進(jìn)，通過GA優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值，實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)的全局快速尋優(yōu)，彌補(bǔ)了神經(jīng)網(wǎng)絡(luò)固有的缺陷。經(jīng)兩模型預(yù)測(cè)結(jié)果進(jìn)行對(duì)比，驗(yàn)證了遺傳神經(jīng)網(wǎng)絡(luò)具有更好的非線性擬合能力和更準(zhǔn)確的預(yù)測(cè)能力。

參考文獻(xiàn)：

[1]任謝楠.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化研究及MATLAB仿真[D].天津師范大學(xué)，2014.

篇7

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò)；Adaboost算法；遺傳算法

中圖分類號(hào)：F832.332文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1008-2670(2012)02-0012-08

收稿日期：2011-12-11

基金項(xiàng)目：國(guó)家社科基金資助項(xiàng)目“企業(yè)金融衍生業(yè)務(wù)風(fēng)險(xiǎn)測(cè)度及管控研究”（10BGJ054）。

作者簡(jiǎn)介：宿玉海(1964-)，男，山東濰坊人，經(jīng)濟(jì)學(xué)博士，山東財(cái)經(jīng)大學(xué)金融學(xué)院教授，研究方向：國(guó)際金融；彭雷(1986-)，男，山東濰坊人，山東財(cái)經(jīng)大學(xué)金融學(xué)院碩士研究生，研究方向：國(guó)際金融；郭勝川（1990-），男，山東安丘人，山東大學(xué)數(shù)學(xué)學(xué)院學(xué)生。

一、引言

商業(yè)銀行的信用風(fēng)險(xiǎn)管理一直是人們關(guān)注的焦點(diǎn)，在引入工程方法進(jìn)行信用風(fēng)險(xiǎn)的度量后，BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型以其較強(qiáng)的逼近非線性函數(shù)的優(yōu)勢(shì)從眾多方法中脫穎而出，其對(duì)于歷史數(shù)據(jù)的模擬仿真和預(yù)測(cè)能力也顯示出了獨(dú)特的優(yōu)勢(shì)。但是，BP神經(jīng)網(wǎng)絡(luò)信用模型在處理較為復(fù)雜的財(cái)務(wù)數(shù)據(jù)時(shí)，對(duì)于數(shù)據(jù)指標(biāo)在模型中獲得的權(quán)值沒有一個(gè)明確的標(biāo)準(zhǔn)，而是特別依賴于對(duì)于歷史數(shù)據(jù)指標(biāo)的選擇，使得模型對(duì)于新樣本的考察缺乏一個(gè)有效的動(dòng)態(tài)權(quán)值變動(dòng)，這就造成了模型在使用過程中的困難。

隨著BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)管理模型應(yīng)用的增多，許多學(xué)者逐漸認(rèn)識(shí)到BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型在處理財(cái)務(wù)數(shù)據(jù)時(shí)存在的問題，采取一系列的措施對(duì)BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型進(jìn)行了改進(jìn)，特別是對(duì)于權(quán)值設(shè)定的改進(jìn)做了大量的工作。Back等［1］建議將遺傳算法與神經(jīng)網(wǎng)絡(luò)結(jié)合起來協(xié)同工作，但沒有實(shí)際討論引入遺傳算法后帶來的實(shí)際效果；Piramuthu等［2］采用符號(hào)特征樣本的技術(shù)處理輸入數(shù)據(jù)取得了較為明顯的效果，但是符號(hào)特征樣本技術(shù)則存在較為主觀的人為因素影響。國(guó)內(nèi)學(xué)者在引進(jìn)神經(jīng)網(wǎng)絡(luò)以后，也為神經(jīng)網(wǎng)絡(luò)模型的優(yōu)化進(jìn)行了卓有成效的努力。如許佳娜、西寶［3］采用層次分析法對(duì)神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)，以及郭英見、吳沖［4］采用DS證據(jù)理論將神經(jīng)網(wǎng)絡(luò)和SVM的輸出結(jié)果進(jìn)行的融合，都在一定程度上增強(qiáng)了神經(jīng)網(wǎng)絡(luò)模型的判別準(zhǔn)確率，但他們?cè)谏窠?jīng)網(wǎng)絡(luò)的權(quán)值修改上仍然沒有找到很好的設(shè)定規(guī)則。

可以看出，許多學(xué)者在神經(jīng)網(wǎng)絡(luò)良好的泛化能力和模式識(shí)別能力上達(dá)成了共識(shí)，但對(duì)于神經(jīng)網(wǎng)絡(luò)中占有重要地位的連接權(quán)值的修正，沒有給出一個(gè)較為恰當(dāng)?shù)臉?biāo)準(zhǔn)。本文在探討改進(jìn)這一問題時(shí)，將遺傳算法與Adaboost算法分別引入到BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型中，通過兩種模型對(duì)于相同的訓(xùn)練樣本和預(yù)測(cè)樣本的考察分析，比較兩種方法的優(yōu)劣，從而為BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型的改進(jìn)提供一定的參考。

本文結(jié)構(gòu)安排如下：第一部分為引言；第二部分介紹BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型并評(píng)價(jià)其缺陷；第三部分使用Adaboost算法以及遺傳算法對(duì)BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型進(jìn)行算法尋優(yōu)；第四部分則通過Matlab的模擬進(jìn)行實(shí)證分析并比較實(shí)證結(jié)果；第五部分根據(jù)實(shí)證分析的結(jié)果得出相應(yīng)的結(jié)論并探討商業(yè)銀行在應(yīng)用過程中應(yīng)注意的問題。

二、現(xiàn)有BP神經(jīng)網(wǎng)絡(luò)信用風(fēng)險(xiǎn)模型介紹

篇8

關(guān)鍵詞: 隧道; 遺傳算法; BP網(wǎng)絡(luò); 施工監(jiān)控; 監(jiān)測(cè)

中圖分類號(hào): TU7文獻(xiàn)標(biāo)識(shí)碼: A文章編號(hào): 1009-8631(2010)03-0079-02

智能計(jì)算理論也稱為軟計(jì)算(Soft Computing),是新發(fā)展起來的一門十分活躍和具有挑戰(zhàn)性的領(lǐng)域,其主要研究對(duì)象可以歸納為:神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊邏輯、概率理論、混沌理論等。軟計(jì)算與傳統(tǒng)的“硬計(jì)算”有本質(zhì)的不同,其目的在于適應(yīng)現(xiàn)實(shí)世界普遍的不精確性,其指導(dǎo)原則是開拓對(duì)不精確性、不確定性和部分真實(shí)性的容忍,以達(dá)到可處理性、魯棒性、低成本性求解,土木工程面對(duì)的是工程巖土體,具有很大的隨機(jī)性、模糊性、信息不完整,因而土木工程特別是特長(zhǎng)隧道的許多問題通常具有復(fù)雜性、動(dòng)態(tài)性和不可重復(fù)的高度非線性特點(diǎn),問題涉及的變量多,且有噪聲,傳統(tǒng)分析方法常常面臨著困難,而智能計(jì)算在處理這些問題方面具有優(yōu)勢(shì)。

一、BP神經(jīng)網(wǎng)絡(luò)模型及遺傳算法[1, 2]

BP神經(jīng)網(wǎng)絡(luò)作為智能計(jì)算的一個(gè)重要組成部分,神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的非線性映射和自適應(yīng)訓(xùn)練功能,特別是BP 網(wǎng)絡(luò)近年來廣泛應(yīng)用于預(yù)測(cè)評(píng)估、模式識(shí)別等領(lǐng)域并取得良好效果。

BP網(wǎng)絡(luò)模型處理信息的基本原理是:輸入Xi通過隱層節(jié)點(diǎn)作用于輸出節(jié)點(diǎn),經(jīng)過非線形映射,產(chǎn)生輸出Yk,網(wǎng)絡(luò)訓(xùn)練樣本包括輸入向量X和期望輸出量t,網(wǎng)絡(luò)輸出值Y與期望輸出值t之間的偏差,通過調(diào)整輸入節(jié)點(diǎn)與隱層節(jié)點(diǎn)的聯(lián)接強(qiáng)度取值Wij和隱層節(jié)點(diǎn)與輸出節(jié)點(diǎn)之間的聯(lián)接強(qiáng)度Tjk以及閾值,使誤差沿梯度方向下降,經(jīng)過反復(fù)訓(xùn)練,確定與最小誤差相對(duì)應(yīng)的網(wǎng)絡(luò)參數(shù)(權(quán)值和閾值),訓(xùn)練即停止。經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)即能對(duì)類似樣本的輸入信息,自行處理輸出誤差最小的經(jīng)過非線形映射的信息。當(dāng)隱層神經(jīng)元足夠多時(shí),這種結(jié)構(gòu)可以保證網(wǎng)絡(luò)以任意精度逼近任意的非線性函數(shù)。

遺傳算法(genetic algorithm)是一種模擬自然進(jìn)化過程搜索最優(yōu)解的方法,具有群體尋優(yōu)的增強(qiáng)式學(xué)習(xí)能力及全局性、并行性、快速性和自適應(yīng)性。遺傳算法的出現(xiàn)使神經(jīng)網(wǎng)絡(luò)的訓(xùn)練有了一個(gè)嶄新的面貌,目標(biāo)函數(shù)既不要求連續(xù),也不要求可導(dǎo),僅要求該問題可計(jì)算,而且它的搜索遍及整個(gè)解空間,容易得到全局最優(yōu)解。可利用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。

(一)BP神經(jīng)網(wǎng)絡(luò)模型的確定

1. 輸入和輸出神經(jīng)元的確定?？衫枚喾N方法對(duì)神經(jīng)網(wǎng)絡(luò)的輸入?yún)?shù)進(jìn)行分析,確定無相關(guān)性或相關(guān)性較弱的輸入?yún)?shù)(節(jié)點(diǎn)),使之盡可能得少,以降低網(wǎng)絡(luò)復(fù)雜度,減少網(wǎng)絡(luò)訓(xùn)練時(shí)間。

2. 隱層單元的數(shù)量對(duì)網(wǎng)絡(luò)影響較大,選擇隱含層的單元數(shù)是神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)最困難的部分之一。若隱層單元數(shù)過少,則網(wǎng)絡(luò)的泛化能力較差;若隱層單元數(shù)過多,又使得訓(xùn)練時(shí)間增加,訓(xùn)練誤差也不一定最佳。隱層單元數(shù)的選取目前尚無公認(rèn)的理論來指導(dǎo),一般采用試算法和經(jīng)驗(yàn)性的公式來確定。最佳層隱節(jié)點(diǎn)數(shù)L可參考下面經(jīng)驗(yàn)公式計(jì)算[1],本文用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

其中m為輸入節(jié)點(diǎn)數(shù);n為輸出節(jié)點(diǎn)數(shù);c介于1～10的常數(shù)。Berk和Hajela建議[3]:隱含層單元數(shù)應(yīng)在(k+i)/2與k+i之間隨機(jī)選取。其中k為輸入單元個(gè)數(shù);i為輸出單元個(gè)數(shù)。

3. 選擇訓(xùn)練樣本,訓(xùn)練神經(jīng)網(wǎng)絡(luò)。

對(duì)系統(tǒng)的輸入輸出數(shù)據(jù)進(jìn)行歸一化處理,作為訓(xùn)練樣本,訓(xùn)練網(wǎng)絡(luò)系統(tǒng)。訓(xùn)練樣本應(yīng)盡可能地反映各種狀態(tài)。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程,即根據(jù)訓(xùn)練樣本,對(duì)網(wǎng)絡(luò)的聯(lián)接權(quán)值和誤差進(jìn)行反復(fù)修正的過程。

4. 確定傳遞函數(shù),一般選擇非線形S型函數(shù)等。

二、應(yīng)用實(shí)例

工程概況:橫山特長(zhǎng)隧道位于陜北黃土高原梁峁區(qū),溝壑縱橫、地形起伏、沖溝發(fā)育。隧道起迄里程為DK333+265～DK344+713,全線長(zhǎng)11448m,設(shè)計(jì)為雙線隧道。隧道最大埋深為283.68m,主洞開挖面積最大177.4m2,最小120.53m2,隧道通過的圍巖主要為新黃土、老黃土、泥巖、砂巖以及砂泥巖互層。

工程地質(zhì)特點(diǎn),目前主要以泥巖、砂巖以及砂泥巖互層為主,層理較發(fā)育,基巖裂隙水,部分段落滲水呈泉眼股狀流出、拱部滴水呈線。洞內(nèi)砂巖呈黃褐色薄～厚層狀與泥巖不等厚互層,細(xì)粒砂狀結(jié)構(gòu),泥質(zhì)膠結(jié);泥巖呈灰黑色,泥質(zhì)結(jié)構(gòu),含煤線或薄煤層,自穩(wěn)能力差,強(qiáng)度較低,遇水易軟化,薄層泥巖或薄層砂巖出現(xiàn)在洞室起拱線以上時(shí)容易產(chǎn)生掉頂、滑層、剝落、塌方等現(xiàn)象。

從以上可以看出,橫山隧道地質(zhì)情況復(fù)雜。在開挖之前的原始土體處于平衡穩(wěn)定的彈性階段。由于開挖成洞后圍巖原有各質(zhì)點(diǎn)間的應(yīng)力平衡狀態(tài),受到擾動(dòng)破壞,應(yīng)力軌跡發(fā)生變化,產(chǎn)生相對(duì)位移與調(diào)整。巖性軟弱、地質(zhì)構(gòu)造發(fā)育、巖性風(fēng)化及地下水作用,使隧道開挖后,原有的應(yīng)力場(chǎng)平衡狀態(tài)遭到破壞,引發(fā)應(yīng)力重分布;若再迭加其它不利因素,例如不利結(jié)構(gòu)面組合、膨脹、崩解等物理化學(xué)作用,將出現(xiàn)塌方。所以必須強(qiáng)化施工過程中的監(jiān)測(cè)。圍巖變形時(shí)間序列數(shù)據(jù)中蘊(yùn)含著系統(tǒng)演化的信息。在施工條件、施工方法不變的情況下,利用神經(jīng)網(wǎng)絡(luò)較強(qiáng)的非線性映射能力,對(duì)隧道實(shí)測(cè)位移變形值直接建模,以獲得高度復(fù)雜和非線性的內(nèi)在變形規(guī)律。本文采用上述遺傳算法來優(yōu)化神經(jīng)網(wǎng)絡(luò),稱為遺傳神經(jīng)網(wǎng)絡(luò),利用MATLAB7自帶的神經(jīng)網(wǎng)絡(luò)工具箱和英國(guó)Sheffield大學(xué)的遺傳算法工具箱,結(jié)合橫山特長(zhǎng)隧道施工的實(shí)例進(jìn)行研究。

(一)頂拱下沉的遺傳神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)步驟

1. 樣本的處理

樣本的處理,一般隧道施工頂拱下沉變形有這樣的特點(diǎn):前期部分位移值變化較大,后期位移值變化較小。據(jù)此,筆者將數(shù)據(jù)轉(zhuǎn)換到(0.1,0.9)區(qū)間。

1. 訓(xùn)練及測(cè)試樣本

本文所采用數(shù)據(jù)為2007年10月11日至10月30日時(shí)間段,DK333+610斷面,開挖的頂拱下沉位移監(jiān)測(cè)數(shù)據(jù),開挖時(shí)即埋設(shè)監(jiān)測(cè)點(diǎn)進(jìn)行監(jiān)測(cè)。監(jiān)測(cè)期內(nèi)施工穩(wěn)步進(jìn)行,循環(huán)周期穩(wěn)定,位移預(yù)測(cè)受意外因素干擾少,有利于直接以實(shí)測(cè)位移建模的可靠性。本文用前15天的相對(duì)位移值作為訓(xùn)練樣本,見表一,用后四天的監(jiān)測(cè)值作為測(cè)試樣本,見表二。

(二)預(yù)測(cè)結(jié)果及誤差分析

從測(cè)試樣本的結(jié)果來看,其誤差比較小,是相當(dāng)成功的,最大的誤差僅為1.15%,這在工廠上已經(jīng)是相當(dāng)不錯(cuò),但這只是一個(gè)斷面的拱頂沉降的預(yù)測(cè)。

三、結(jié)語

本文利用遺傳算法的全局搜索特性,對(duì)變形預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行最優(yōu)搜索,從而獲得具有最優(yōu)預(yù)測(cè)效果的遺傳神經(jīng)網(wǎng)絡(luò)。采用遺傳神經(jīng)網(wǎng)絡(luò)對(duì)隧洞施工頂拱變形的動(dòng)態(tài)過程進(jìn)行預(yù)測(cè),解決了在常規(guī)采用的回歸曲線預(yù)測(cè)法效果誤差較大的問題,解決了在神經(jīng)網(wǎng)絡(luò)構(gòu)建中根據(jù)經(jīng)驗(yàn)公式和試算法確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)參數(shù)的困難,從而減少結(jié)構(gòu)選擇的盲目性。從以上數(shù)據(jù)表明遺傳神經(jīng)網(wǎng)絡(luò)具有更佳的預(yù)測(cè)效果,對(duì)于圍巖變形監(jiān)測(cè)中異常情況可提前預(yù)報(bào),提高預(yù)測(cè)的準(zhǔn)確性,從而為變更設(shè)計(jì)、調(diào)整支護(hù)參數(shù)、調(diào)整施工工藝贏得寶貴的時(shí)間。

不足之處及后續(xù)要進(jìn)行的工作,隧道是個(gè)三維空間結(jié)構(gòu),目前的施工監(jiān)測(cè)的斷面還屬于二維空間的范疇,尚有許多工作要做;另外隧道地質(zhì)情況復(fù)雜,各個(gè)斷面上的地質(zhì)條件有許多的差異,智能計(jì)算或神經(jīng)網(wǎng)絡(luò)的解決方案還有許多不足之處,尚需不然改進(jìn)完善。

參考文獻(xiàn):

[1] 飛思科技產(chǎn)品研發(fā)中心.神經(jīng)網(wǎng)絡(luò)理論與MATLAB7實(shí)現(xiàn)[M].北京:電子工業(yè)出版社,2005.

篇9

關(guān)鍵詞：生物滴濾塔 BP神經(jīng)網(wǎng)絡(luò)辨識(shí) Levenberg-Marquardt算法 遺傳進(jìn)化訓(xùn)練

中圖分類號(hào)：TP 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2013）08-0050-02

1 引言

污水處理設(shè)施排放出含有惡臭污染物的有害廢氣，是造成大氣惡臭的主要揮發(fā)源之一，與傳統(tǒng)的理化法相比，生物處理技術(shù)凈化效率高，無二次污染，投資及運(yùn)行成本低。

為了提高凈化效率，需要建立對(duì)象的數(shù)學(xué)模型來分析各參數(shù)對(duì)凈化效率的影響，文獻(xiàn)1結(jié)合氣-液兩相流理論建立了生物滴濾塔的機(jī)理模型。本文利用生物滴濾塔裝置降解低有機(jī)廢氣（以甲苯為例）的數(shù)據(jù)，建立對(duì)象的BP神經(jīng)網(wǎng)絡(luò)模型。并針對(duì)BP網(wǎng)絡(luò)存在的問題，引入了Levenberg-Marquardt（LM）算法及遺傳進(jìn)化算法進(jìn)行改進(jìn)，實(shí)驗(yàn)表明此神經(jīng)網(wǎng)絡(luò)可以很好的模擬生物滴濾塔處理低濃度有機(jī)廢氣過程。

2 生物滴濾塔廢氣處理過程的神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)的基本單位是神經(jīng)元，作用函數(shù)為，則每個(gè)神經(jīng)元的輸入輸出關(guān)系為：

式中，是第k層第j個(gè)神經(jīng)元的輸出，是第k-1層第i個(gè)神經(jīng)元連接到第k層第j個(gè)神經(jīng)元的權(quán)值，為第k層第j個(gè)神經(jīng)元的閾值，N為每層神經(jīng)元的個(gè)數(shù)。

誤差與信號(hào)反向，從后向前傳播，在反向傳播中修改神經(jīng)元的閾值和權(quán)值。若采用BP算法訓(xùn)練網(wǎng)絡(luò)，其迭代公式可表示為：

其中，代表當(dāng)前的權(quán)值和閾值，代表迭代產(chǎn)生的下一次權(quán)值和閾值，η為學(xué)習(xí)速率，為當(dāng)前誤差函數(shù)的梯度。

對(duì)于生物滴濾塔來說，影響廢氣降解效率的主要因素為：培養(yǎng)液（循環(huán)液）流量、進(jìn)口廢氣流量、pH值，把這3個(gè)影響因子作為輸入，出口廢氣降解率作為輸出，因此生物滴濾塔裝置可以看成一個(gè)三輸入單輸出的非線性動(dòng)態(tài)系統(tǒng)，網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1。

輸入層3個(gè)節(jié)點(diǎn)，輸出層1個(gè)節(jié)點(diǎn)，多次實(shí)驗(yàn)確定的節(jié)點(diǎn)數(shù)為9個(gè)時(shí)訓(xùn)練效果最佳。隱層的作用函數(shù)?。海惠敵鰧拥淖饔煤瘮?shù)?。?。輸入樣本分別為：進(jìn)口廢氣流量（Qg（m3/h）），甲苯濃度為：（800mg/m3）、培養(yǎng)液流量（QL（L/h））、塔內(nèi)pH值；輸出樣本是甲苯降解效率。參數(shù)數(shù)據(jù)樣本都是在實(shí)驗(yàn)穩(wěn)態(tài)時(shí)測(cè)得。輸入輸出結(jié)果進(jìn)行歸一處理后，都處于[-1，1]范圍，為保障網(wǎng)絡(luò)的穩(wěn)定性，學(xué)習(xí)速率取為0.05，期望誤差為0.001，訓(xùn)練結(jié)果如圖1。

由上圖看出，常規(guī)BP算法，訓(xùn)練速度較慢，遠(yuǎn)大于期望的0.001，這樣的速度沒有實(shí)用價(jià)值。其改進(jìn)算法分為兩類，第一類是基于最優(yōu)化理論的訓(xùn)練算法，Levenberg-MarquardtBP（LMBP）算法就是其中成功的改進(jìn)算法，第二類啟發(fā)性學(xué)習(xí)算法，包括彈性BP訓(xùn)練法，可變學(xué)習(xí)速率的梯度下降法等。

3 BP網(wǎng)絡(luò)的優(yōu)化訓(xùn)練算法

遺傳算法通過模擬自然環(huán)境中的進(jìn)化和遺傳過稱，形成一種全局自適應(yīng)優(yōu)化概率搜索算法。利用遺傳算法優(yōu)化BP網(wǎng)絡(luò)的初始權(quán)重，可以在大范圍內(nèi)進(jìn)行權(quán)重取值，提高峰值的映度。

遺傳算法中最優(yōu)解是模仿生物的進(jìn)化過程，通過染色體之間的變異和交叉完成。染色體組成種群，遺傳算子作用在種群，從而獲得新一代種群。算法優(yōu)化對(duì)象是染色體，變異、交叉、選擇是遺傳算法中常用的的法則2。

（1）變異：對(duì)種群中的個(gè)體，以一定變異概率將某個(gè)或某些基因值修改為等位基因。

（2）交叉：將種群內(nèi)的個(gè)體搭配成對(duì)，以某個(gè)交叉概率交換它們的染色體。

（3）選擇：根據(jù)個(gè)體的適應(yīng)度，按一定規(guī)則，從第t代種群中選擇個(gè)體遺傳到下一代。

基于遺傳算法的神經(jīng)網(wǎng)絡(luò)優(yōu)化訓(xùn)練分成兩個(gè)步驟：

（1）采用遺傳算法優(yōu)化BP網(wǎng)絡(luò)初始權(quán)值，遺傳算法訓(xùn)練BP網(wǎng)絡(luò)的流程如圖3。

（2）把（1）中得的權(quán)值作為初始權(quán)值，利用前面的LMBP算法修改網(wǎng)絡(luò)權(quán)值。

4 實(shí)驗(yàn)仿真結(jié)果

用實(shí)驗(yàn)所得的數(shù)據(jù)對(duì)網(wǎng)絡(luò)模型訓(xùn)練的結(jié)果如圖4，圖中將期望誤差從0.001降到0.0001時(shí)，BP算法在設(shè)定迭代步數(shù)內(nèi)達(dá)不到期望性能。如果訓(xùn)練初始點(diǎn)選取合適，LMBP算法能可以很快找到全局最優(yōu)解，一旦初始點(diǎn)選不好，會(huì)使網(wǎng)絡(luò)陷入局部極小點(diǎn)。引入遺傳算法可以很好的解決此問題，使收斂率達(dá)到100%，對(duì)學(xué)習(xí)速率又不會(huì)有太大影響。

用實(shí)驗(yàn)所得的穩(wěn)態(tài)數(shù)據(jù)做輸入樣本，塔內(nèi)pH保持定為7，進(jìn)氣口廢氣流量為0.8m3/h，廢氣濃度為800mg/m3，培養(yǎng)液流量變化范圍20L/h～70L/h，三種訓(xùn)練算法得到的網(wǎng)絡(luò)輸出如圖5所示。

5 結(jié)語

LMBP算法收斂速度快，但容易陷入局部極小點(diǎn)。遺傳算法能夠使網(wǎng)絡(luò)訓(xùn)練時(shí)跳出局部極小，通過用遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)優(yōu)化，既保證學(xué)習(xí)的速率，又能避免陷入局部極小點(diǎn)。實(shí)驗(yàn)結(jié)果表明GA-MBP算法收斂能力強(qiáng)，效果好。利用實(shí)驗(yàn)數(shù)據(jù)樣本驗(yàn)證此算法得到的網(wǎng)絡(luò)模型，與期望實(shí)驗(yàn)數(shù)據(jù)的比較發(fā)現(xiàn)，在生物膜滴濾塔廢氣處理過程中，采用神經(jīng)網(wǎng)絡(luò)模型比采用數(shù)學(xué)公式描述的數(shù)學(xué)模型仿真結(jié)果更好。

參考文獻(xiàn)

[1]廖強(qiáng)，陳蓉，朱峋.生物膜滴濾床降解低濃度有機(jī)廢氣的理論模型[J].中國(guó)科學(xué)，2003.5，33（5）：435-442.

[2]喻宗全，喻晗.神經(jīng)網(wǎng)絡(luò)控制[M].西安：西安電子科技大學(xué)出版社，2009.1.

[3]呂柏權(quán)，李天鐸.一種具有全局最優(yōu)的神經(jīng)網(wǎng)絡(luò)BP算法[J].清華大學(xué)學(xué)報(bào)（自然科學(xué)版），1997，37（2）：32-34.

[4]Fei Han，Qing Hua Ling，De Shuang Huang. Modified constrained learning algorithms incorporating additional functional constraints into neural networks [J].Information Sciences， 2008（178）： 907–919.

篇10

關(guān)鍵詞:數(shù)據(jù)挖掘；機(jī)械學(xué)習(xí)；學(xué)習(xí)算法；應(yīng)用探討

信息管理技術(shù)在各大企業(yè)中數(shù)據(jù)管理技術(shù)也被廣泛利用,數(shù)據(jù)管理技術(shù)的廣泛運(yùn)用有利于企業(yè)內(nèi)部職能部門之間的溝通聯(lián)絡(luò)。但是在使用的過程中還是有些不足之處,數(shù)據(jù)信息越來越多,這就會(huì)使數(shù)據(jù)分析具有一定的復(fù)雜性。

1完善GA-BP神經(jīng)網(wǎng)絡(luò)模型

本文就在傳統(tǒng)的遺傳算法的基礎(chǔ)上提出了一種新的改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)模型。這種神經(jīng)網(wǎng)絡(luò)模型對(duì)傳統(tǒng)的這種神經(jīng)網(wǎng)絡(luò)模型在遺傳算法的染色體結(jié)構(gòu)和遺傳算子兩個(gè)方面進(jìn)行了相關(guān)的優(yōu)化,然后在進(jìn)行BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)改進(jìn)的時(shí)候,采用了自適應(yīng)交叉和變異概率,下面就對(duì)改進(jìn)的過程進(jìn)行了簡(jiǎn)要的分析說明。(1)設(shè)計(jì)染色體結(jié)構(gòu)?？刂苹蚝蛥?shù)基因是上文所描述的新型染色體基因結(jié)構(gòu)的兩個(gè)表現(xiàn)形式,這種神經(jīng)網(wǎng)絡(luò)模型對(duì)傳統(tǒng)的遺傳算法的染色體結(jié)構(gòu)和遺傳算子進(jìn)行了優(yōu)化,從而對(duì)對(duì)BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)進(jìn)行改進(jìn)。控制基因?qū)P神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)的改進(jìn)主要是對(duì)BP神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)數(shù)優(yōu)化。另一種結(jié)構(gòu)參數(shù)基因?qū)P神經(jīng)網(wǎng)絡(luò)的連接權(quán)值和閾值進(jìn)行優(yōu)化[2]。(2)對(duì)適應(yīng)度函數(shù)進(jìn)行設(shè)計(jì),具體過程如下:在上述函數(shù)中,訓(xùn)練樣本個(gè)數(shù)用n表示;訓(xùn)練數(shù)據(jù)的均方根誤差用∫rmse表示,誤差一般在0～1之間。(3)選擇算子。從提出的被改進(jìn)的遺傳算法上來看,在進(jìn)行型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法在實(shí)現(xiàn)算子選取改進(jìn)以常規(guī)適應(yīng)值比例算法的時(shí)候經(jīng)常采用最優(yōu)個(gè)體保留方法,這樣做會(huì)引發(fā)局部最小值等問題。(4)交叉、變異算子。采用單點(diǎn)交叉和基本變異算子是上文中提出的控制基因是改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的上層所采用的。下層參數(shù)基因所采用的是整體算數(shù)交叉和非一致變異算子。(5)自適應(yīng)交叉、變異概率。上文中提出的改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的方式,在進(jìn)行優(yōu)化的時(shí)候可以對(duì)設(shè)計(jì)自適應(yīng)交叉、變異概率,以此對(duì)遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)神經(jīng)算法的機(jī)構(gòu)和初始權(quán)重進(jìn)行平衡優(yōu)化。對(duì)設(shè)計(jì)分析的簡(jiǎn)要過如下,自適應(yīng)交叉概率可以表示為∫avr表示種群的平均適應(yīng)值,∫min表示種群的最小適應(yīng)值,k1,k2通常在1.0上。上文中提出的改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的過程的主要幾個(gè)步驟可以分為以下幾點(diǎn):(1)對(duì)相關(guān)的數(shù)據(jù)進(jìn)行及時(shí)的統(tǒng)一優(yōu)化處理。訓(xùn)練樣本數(shù)據(jù)和測(cè)試樣本數(shù)據(jù)是數(shù)據(jù)優(yōu)化處理之后可分為的種類。(2)在對(duì)改進(jìn)型遺傳算法模型的基本參數(shù)進(jìn)行設(shè)計(jì)的時(shí)候,可以用G來表示最大化代數(shù),在設(shè)定的時(shí)候要考慮隱含層節(jié)點(diǎn)數(shù)對(duì)種群的規(guī)模N的有關(guān)規(guī)定。(3)在對(duì)種群上層個(gè)體進(jìn)行優(yōu)化的時(shí)候采用采用二進(jìn)制編碼,種群下層種群個(gè)體進(jìn)行優(yōu)化采用實(shí)數(shù)編碼。(4)在確定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)的時(shí)候,可以采用對(duì)種群各個(gè)個(gè)體解碼的形式進(jìn)行。(5)對(duì)種群中適很好的個(gè)體,采用遺傳操作的形式。(6)獲得新的子群,可以對(duì)種群中的遺傳個(gè)體使用自適應(yīng)概率進(jìn)行交叉、變異操作。(7)對(duì)BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)隱含層節(jié)點(diǎn)、權(quán)值以及閾值等結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化改進(jìn),進(jìn)行不斷的創(chuàng)新的過程就是對(duì)上下層的子群個(gè)體解碼的優(yōu)化。(8)進(jìn)行(5)循環(huán)的要求有兩個(gè),就是在迭代步數(shù)達(dá)到了設(shè)定的最大值執(zhí)行(5)循環(huán),在最大個(gè)體適應(yīng)度值滿足要求的時(shí)候,也要進(jìn)行(5)循環(huán)過程。(9)在確定最佳的BP神經(jīng)網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)、閾值和連接權(quán)值等參數(shù)的時(shí)候,采用對(duì)適應(yīng)值最佳的個(gè)體進(jìn)行解碼的形式。

2機(jī)械學(xué)習(xí)算法實(shí)例

下面就舉出有關(guān)的例子對(duì)上文所提出的優(yōu)化過程進(jìn)行簡(jiǎn)要分析,下文所采用的實(shí)例是煤礦空壓機(jī)的故障診斷系統(tǒng),然后對(duì)改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行有效的探索研究。(1)首先應(yīng)該做好相應(yīng)的準(zhǔn)備工作,閱讀相關(guān)的空壓機(jī)的說明書,例如使用說明書和故障說明書等。在使用空壓機(jī)的時(shí)候,還應(yīng)該對(duì)使用過程中的經(jīng)驗(yàn)進(jìn)行積累,在使用結(jié)束后再對(duì)相關(guān)經(jīng)驗(yàn)進(jìn)行分析總結(jié),空壓機(jī)的故障類型以及故障是怎么來的,在進(jìn)行數(shù)據(jù)整理的時(shí)候都要進(jìn)行分析研究,及時(shí)的發(fā)現(xiàn)問題所在。煤礦空壓機(jī)的故障診斷系統(tǒng)就是本文所采用的實(shí)例。通過相應(yīng)的實(shí)驗(yàn)數(shù)據(jù)分析,煤礦空壓機(jī)呈現(xiàn)出5種工作狀態(tài),用符號(hào)Y1-Y5表示,以此作為神經(jīng)網(wǎng)絡(luò)故障診斷模型的輸出。Y1-Y5所表示的內(nèi)容如下:Y1表示煤礦空壓機(jī)正常的工作狀態(tài);Y2表示煤礦空壓機(jī)冷卻水系統(tǒng)出現(xiàn)故障的工作狀態(tài);Y3表示煤礦空壓機(jī)體統(tǒng)出現(xiàn)故障的工作狀態(tài);Y4表示煤礦空壓機(jī)軸承出現(xiàn)故障的工作狀態(tài);Y5表示煤礦空壓機(jī)電路系統(tǒng)出現(xiàn)故障的工作狀態(tài)。如果出現(xiàn)以上故障,根據(jù)相關(guān)的經(jīng)驗(yàn)以及故障的了解,故障的表現(xiàn)形式可以分為10種,用符號(hào)X1-X10表示,即為神經(jīng)網(wǎng)絡(luò)故障診斷模型的輸入。X1-X10分別表示:X1表示煤礦空壓機(jī)排氣量過低;X2表示空壓機(jī)排氣壓力不足;X3表示空壓機(jī)排氣溫度超限;X4表示空壓機(jī)冷卻水溫度超限;X5表示空壓機(jī)冷卻水壓力不足;X6表示空壓機(jī)主機(jī)轉(zhuǎn)速低限;X7表示空壓機(jī)振動(dòng)超限;X8表示空壓機(jī)系統(tǒng)油溫超限;X9表示空壓機(jī)油壓力不足;X10表示軸承溫度超限。(2)空壓機(jī)經(jīng)過數(shù)據(jù)挖掘之后的故障診斷分析。通過對(duì)空壓機(jī)可能出現(xiàn)的故障進(jìn)行分析,為了看出新的神經(jīng)網(wǎng)絡(luò)的良好的性能,采用傳統(tǒng)的遺傳神經(jīng)網(wǎng)絡(luò)算法建立了煤礦空壓機(jī)故障針對(duì)系統(tǒng),在進(jìn)行網(wǎng)絡(luò)訓(xùn)練的時(shí)候應(yīng)該采用相同的訓(xùn)練數(shù)據(jù)樣本,在測(cè)試的時(shí)候也應(yīng)該采用相同的測(cè)試數(shù)據(jù)樣本。通過相應(yīng)的實(shí)驗(yàn)可以看出,在經(jīng)過569次迭代后改進(jìn)型GA-BP神經(jīng)網(wǎng)絡(luò)算法就使得誤差達(dá)到了設(shè)定范圍內(nèi),但是如果采用傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法就沒有那么好的效果,只有在進(jìn)行2779次迭代才使得誤差滿足要求。由此可以看出,優(yōu)化改進(jìn)后的BP神經(jīng)網(wǎng)絡(luò)算法在各個(gè)方面上都有很好的效果,特別是網(wǎng)絡(luò)的訓(xùn)練速度、收斂速度和收斂精度方面。改進(jìn)型GA-BP神經(jīng)網(wǎng)絡(luò)算法在個(gè)方面都有比傳統(tǒng)的算法要好。為了能夠更加明顯的看出效果,下面采用100組數(shù)據(jù)進(jìn)行研究分析。從測(cè)試的結(jié)果可以看出,87.5%是傳統(tǒng)的P神經(jīng)網(wǎng)絡(luò)的診斷正確率,診斷時(shí)間為564s,輸出值存在一定的不穩(wěn)定性,而上文中所提到的優(yōu)化改進(jìn)后的GA-BP神經(jīng)網(wǎng)絡(luò)的診斷正確率為98.2%,診斷時(shí)間為246s,輸出值相對(duì)穩(wěn)定,從這數(shù)據(jù)可以看出,改進(jìn)后的效果明顯比傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)算法要好的多。改進(jìn)后的BP神經(jīng)網(wǎng)絡(luò)算法的錯(cuò)誤率比較低,檢測(cè)的準(zhǔn)確率和速度都有提高,工作性能也有所提高。

3結(jié)語

在社會(huì)的不斷發(fā)展進(jìn)步的過程中,數(shù)據(jù)挖掘技術(shù)也在不斷的創(chuàng)新,在社會(huì)中的運(yùn)用也越來越廣泛,發(fā)展速度也越來越快。本文就在傳統(tǒng)的遺傳算法的基礎(chǔ)上提出了一種新的改進(jìn)型遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)模型。這種神經(jīng)網(wǎng)絡(luò)模型對(duì)傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型在遺傳算法的染色體結(jié)構(gòu)和遺傳算子兩個(gè)方面進(jìn)行了相關(guān)的優(yōu)化,然后在進(jìn)行BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)改進(jìn)的時(shí)候,采用了自適應(yīng)交叉和變異概率,這樣有利于各種數(shù)據(jù)的處理。

作者:馮琬婷 單位:遼寧省大連市遼寧師范大學(xué)

參考文獻(xiàn)