導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)初始化方法，這就需要搜集整理更多的資料和文獻(xiàn)，歡迎閱讀由公文云整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞：矢量量化；自組織特征映射神經(jīng)網(wǎng)絡(luò)；圖像壓縮；主元分析

中圖分類號(hào)：TP183文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1009-3044(2008)36-2731-02

The Vector Quantization Based on PCA/SOFM Hybrid Neural Network

HUNG Cui-cui, ZHANG Jian

(Liaoning University of Technology Electronic and Information Engineering College, Jinzhou 121001, China)

Abstract: In order to improve the two main shortcomings of the Kohonen's self-organizing feature map(SOFM) that are high computation complexity and poor codebook quality, the author proposes a vector quantization algorithm based on PCA/SOFM hybrid neural network in this paper. Descend the dimension of imported vectors by using the principal component analysis (PCA) linear neural network. And then, use SOFM neural network to vector quantization. By modifying the learning-rate parameter, topology field weight and initial codebook of the SOFM neural network to optimize network. Simulation results demonstrate that the image compression algorithm can shorten the time and improve the performance of codebook.

Key words: Vector quantization(VQ); Self-organizing feature map neural network (SOFM); image compression; Principle component analysis(PCA)

1 引言

矢量量化[1,2]技術(shù)是一種利用圖像數(shù)據(jù)空間相關(guān)性的高效有損壓縮方法，它具有壓縮比大，編碼速度快等優(yōu)點(diǎn)，目前己廣泛用于信號(hào)識(shí)別、語音編碼、圖像壓縮等領(lǐng)域中。矢量量化優(yōu)越性的體現(xiàn)離不開性能良好的碼書，因而，矢量量化的關(guān)鍵是如何設(shè)計(jì)一個(gè)最佳碼書，使得用該碼書中的碼字表征輸入矢量空間分布時(shí)所引起的量化平均失真最小。近年幾來，許多學(xué)者將SOFM神經(jīng)網(wǎng)絡(luò)應(yīng)用于碼書的設(shè)計(jì)[3]。但SOFM算法存在收斂速度慢、計(jì)算量大等缺點(diǎn)。陸哲明和孫圣和針對(duì)SOFM基本算法的計(jì)算量大采用了快速搜索算法，為了提高碼書性能對(duì)SOFM基本算法的權(quán)值調(diào)整方法作了一些改進(jìn)[4]。目前越來越多的研究人員把目光投向?qū)⑹噶苛炕c其他的編碼方法相結(jié)合[5]。例如，矢量量化與小波變換結(jié)合的算法[6]，分形變換與矢量量化相結(jié)合的算法[7]。PCA是一種有效的圖像變換編碼算法，它能夠提取圖像數(shù)據(jù)的主特征分量，因此能夠降低圖像輸入數(shù)據(jù)維數(shù)。SOFM算法用于圖像矢量量化則具有不易受初始碼書的影響，同時(shí)能夠保持圖像數(shù)據(jù)的拓?fù)浣Y(jié)構(gòu)等優(yōu)點(diǎn)。為此本文將兩者結(jié)合，提出了PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)圖像混合編碼算法。先用PCA對(duì)圖像進(jìn)行降維處理，再用SOFM神經(jīng)網(wǎng)絡(luò)進(jìn)行碼書設(shè)計(jì)。本文還對(duì)碼書的初始化的選擇問題和神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)參數(shù)進(jìn)行研究。實(shí)驗(yàn)表明，該算法不但大大降低了計(jì)算量，而且提高了碼書的性能。

2 PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)的算法

盡管SOFM神經(jīng)網(wǎng)絡(luò)比起LBG算法有很大優(yōu)勢(shì)，但SOFM算法仍然存在收斂速度慢。計(jì)算量大等缺點(diǎn)。因此本文將PCA與SOFM神經(jīng)網(wǎng)絡(luò)相結(jié)合，提出了PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)。PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示，先用PCA線性神經(jīng)網(wǎng)絡(luò)對(duì)輸入矢量降維處理，從而使得壓縮圖像達(dá)到最小失真。然后用SOFM神經(jīng)網(wǎng)絡(luò)進(jìn)行碼書設(shè)計(jì)， PCA線性神經(jīng)網(wǎng)絡(luò)采用Sanger提出的廣義Hebb算法[8]。

2.1 基本PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)算法

1) PCA網(wǎng)絡(luò)權(quán)值Wpi,j和SOFM網(wǎng)絡(luò)權(quán)值初始化；

2) PCA網(wǎng)絡(luò)輸出矢量Yp(t)：

(1)

N為PCA神經(jīng)網(wǎng)絡(luò)輸入矢量Xp的維數(shù)。

3) Wpi,j網(wǎng)絡(luò)權(quán)值調(diào)整：

(2)

4) 重復(fù)步驟(2)至(3)，直至算法收斂。輸出矢量Ypi(t)，并將此作為SOFM的輸入Xi(t)；

5) 計(jì)算矢量Xi(t)與權(quán)值矢量Wi,j(t)的距離：

(3)

6) 選擇具有最小距離的輸出節(jié)點(diǎn)，j*作為獲勝節(jié)點(diǎn)，即：

(4)

7) Wij(t) 網(wǎng)絡(luò)權(quán)值調(diào)整：

(5)

8) 重復(fù)步驟(5)至(7)，直至算法收斂。

9) 取輸入訓(xùn)練矢量集的下一個(gè)輸入矢量，回到步驟(2)反復(fù)進(jìn)行，直到足夠的學(xué)習(xí)次數(shù)或滿足規(guī)定的終止條件為止。

10) 保存所有權(quán)值Wij的值，即設(shè)計(jì)碼書。

2.2 PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)的初始化和改進(jìn)

在PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)算法中網(wǎng)絡(luò)的初始化、鄰域函數(shù)和學(xué)習(xí)率函數(shù)非常重要，它直接影響到網(wǎng)絡(luò)的收斂速度和碼書的性能。本文要對(duì)這幾個(gè)參數(shù)進(jìn)行優(yōu)化以提高壓縮速度和壓縮性能。本文采用一種改進(jìn)的隨機(jī)選取法，使空間分配均勻，不會(huì)出現(xiàn)碼字空間分的過細(xì)或過粗的現(xiàn)象。首先，按k維矢量所有元素中最重要的單個(gè)元素(即k維歐氏空間中最敏感的方向)大小排序；然后按順序每隔n個(gè)矢量取一個(gè)矢量作為初始碼書的一個(gè)碼字，完成碼書的初始化（n=訓(xùn)練序列中矢量的總數(shù)/碼書的大?。?/p>

由SOFM基本算法可知，權(quán)矢量Wi(t+1)的更新實(shí)質(zhì)上是權(quán)矢量Wit和訓(xùn)練矢量Xi(t)的加權(quán)和。其中學(xué)習(xí)率因子和鄰域函數(shù)非常重要，它們決定算法的收斂速度。下面推導(dǎo)最優(yōu)的學(xué)習(xí)率因子α(t)。由式（5）得：

(6)

可以總結(jié)得：

(7)

令多項(xiàng)式的各項(xiàng)相等可得到最優(yōu)學(xué)習(xí)率因子：

(8)

其鄰域函數(shù)取為：

(9)

式中，hcc典型地取為0.8。T為最大迭代次數(shù)，初始值σ0和最終值σT典型地取為0.8和0.1。

3 實(shí)驗(yàn)結(jié)果

為了驗(yàn)證算法的有效性，本文把基本SOFM編碼算法、基本PCA/SOFM混合神經(jīng)網(wǎng)絡(luò)編碼算法和改進(jìn)PCA/SOFM算法分別用于圖像的壓縮編碼。本文采用的是512×512像素，256級(jí)灰度的Lena圖像用于訓(xùn)練圖像進(jìn)行碼書設(shè)計(jì)。首先將圖像分為4×4子塊，然后將每一小塊的16個(gè)像素灰度值作一個(gè)訓(xùn)練矢量，送入PCA線性神經(jīng)網(wǎng)絡(luò)。PCA線性神經(jīng)網(wǎng)絡(luò)輸出節(jié)點(diǎn)為8維PCA變換系數(shù)矢量，同時(shí)將它作為SOFM神經(jīng)網(wǎng)絡(luò)的輸入矢量，用于進(jìn)行碼本設(shè)計(jì)。進(jìn)過多次實(shí)驗(yàn)，取其平均值作為實(shí)驗(yàn)結(jié)果，圖3給出了各種算法在相同壓縮比的情況下恢復(fù)圖像的對(duì)比。表1給出了各算法編碼后的尖峰信噪比PSNR和碼書設(shè)計(jì)時(shí)間的比較。

從測(cè)試的結(jié)果可以看出改進(jìn)PCA/SOFM算法優(yōu)于基本SOFM算法和基本PCA/SOFM算法，該算法縮短了碼書設(shè)計(jì)的時(shí)間，圖像的恢復(fù)質(zhì)量有所提高，取得了令人滿意的結(jié)果。從而證明本文提出的算法是一種行之有效的方法。

4 結(jié)束語

篇2

關(guān)鍵詞：CT圖像；圖像重建；BP神經(jīng)網(wǎng)絡(luò)

1 引言

圖像重建是光學(xué)CT 技術(shù)的核心內(nèi)容。在CT應(yīng)用中，先是已知待測(cè)圖像在幾個(gè)方向上的投影，然后由這些投影數(shù)據(jù)重建出該圖像。常用的算法主要有代數(shù)迭代法（ART）、濾波反投影（FBP）、最大熵法等。這些算法在投影數(shù)據(jù)比較多的情況下重建結(jié)果還比較理想，但在投影方向受限（如4～5個(gè)）的情況下，重建精度就很低[1，2]。

針對(duì)稀疏視角不完全投影圖像重建的特點(diǎn)和難點(diǎn)，本文利用神經(jīng)網(wǎng)絡(luò)具有處理高維高度非線性和不確定問題的優(yōu)勢(shì)，提出了一種基于神經(jīng)網(wǎng)絡(luò)的圖像重建方法。該方法充分利用神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的自適應(yīng)學(xué)習(xí)和聯(lián)想綜合能力，故而可以實(shí)現(xiàn)所需的由已知投影值的視角區(qū)域到未知視角區(qū)域的彌補(bǔ)[3]，并且選用最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和有效的學(xué)習(xí)樣本，從而在有限的條件下更有效地重建出高質(zhì)量的圖像。

2 基于BP神經(jīng)網(wǎng)絡(luò)的圖像重建

2.1 BP網(wǎng)絡(luò)模型及權(quán)值初始化

在各類神經(jīng)網(wǎng)絡(luò)中，BP神經(jīng)網(wǎng)絡(luò)是一種算法成熟且易于實(shí)現(xiàn)的網(wǎng)絡(luò)類型。本文選用三層神經(jīng)網(wǎng)絡(luò)，即包含輸入層、隱含層和輸出層。

其中，輸入層和輸出層分別對(duì)應(yīng)原始圖像和重建圖像的投影數(shù)據(jù)，神經(jīng)元的個(gè)數(shù)為投影數(shù)據(jù)的個(gè)數(shù)。隱含層代表重建圖像，神經(jīng)元的個(gè)數(shù)為重建圖像像素的個(gè)數(shù)[4]。在網(wǎng)絡(luò)訓(xùn)練過程中，輸入層至隱含層的權(quán)值W隨誤差的反向傳播不斷調(diào)整，隱含層至輸出層的權(quán)值M在網(wǎng)絡(luò)訓(xùn)練前事先初始化，并保持不變。根據(jù)CT圖像重建理論，隱含層和輸出層神經(jīng)元之間的權(quán)值即為第i條投影射線穿過第j個(gè)像素的長(zhǎng)度ri，j，故權(quán)值矩陣M即為投影系數(shù)矩陣R。筆者采用文獻(xiàn)[5]新方法求取投影系數(shù)矩陣，從而確定權(quán)值矩陣M。

2.2 BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)

篇3

關(guān)鍵詞：仿生算法；神經(jīng)網(wǎng)絡(luò)；遺傳算法

中圖分類號(hào)：TP183文獻(xiàn)標(biāo)識(shí)碼：Adoi: 10.3969/j.issn.1003-6970.2011.03.017

An Improved Algorithm of Bionic Research and Analysis

Yue Tong-sen, Wang Da-hai

(XinXiang Vocational and Technical Collage, Xinxiang 453000,Henan,China)

【Abstract】In this paper the bionic algorithm of neural network and genetic algorithm were analyzed and summarized, aimed at slow speed of neural network training, recognition efficiency low, and genetic algorithm the optimum choice premature convergence problem, combined with neural network method and genetic algorithms of their respective characteristics, puts forward the improved algorithm.Without the destruction of single neurons based on input weights, adopt data pretreatment methods to reduce the number of input layers, so as to improve the ability of evolutionary learning.

【Key words】Bionic algorithm; Neural network; Genetic algorithm

0引言

人工神經(jīng)網(wǎng)絡(luò)[1]和遺傳算法[2]是仿生算法[3]的典型方法，它們的優(yōu)化問題一直是眾多研究者所倍為關(guān)注的研究熱點(diǎn)之一。在人工神經(jīng)網(wǎng)絡(luò)和遺傳算法結(jié)構(gòu)的研究中發(fā)現(xiàn)，人工神經(jīng)網(wǎng)絡(luò)具有很好的模式分類的特性，遺傳算法有很好的動(dòng)態(tài)變更權(quán)值的特性，基于此，本文提出了一種改進(jìn)的基于人工神經(jīng)網(wǎng)絡(luò)和遺傳算法的算法。本章的改進(jìn)算法，就是對(duì)人工神經(jīng)網(wǎng)絡(luò)和遺傳算法進(jìn)行了變換，增強(qiáng)了對(duì)輸入權(quán)值的變化速度，并提出用減少輸入層個(gè)數(shù)的方法是加快神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的有效方法，取得了良好的實(shí)驗(yàn)效果。

1神經(jīng)網(wǎng)絡(luò)和遺傳算法的特究點(diǎn)

1.1神經(jīng)網(wǎng)絡(luò)和遺傳算法的不同點(diǎn)

1．神經(jīng)網(wǎng)絡(luò)是多層感知機(jī)，而遺傳算法是單層感知機(jī)。神經(jīng)網(wǎng)絡(luò)是由輸入層，隱含層和輸出層夠成，但遺傳算法的基因組是一個(gè)數(shù)組，不管基因的長(zhǎng)度有多長(zhǎng)，其結(jié)構(gòu)仍然是一個(gè)單層感知機(jī)。

2． 神經(jīng)網(wǎng)絡(luò)的隱含神經(jīng)元個(gè)數(shù)是不確定的，而輸出層和輸入層的個(gè)數(shù)是可以確定的。我們希望輸入層的個(gè)數(shù)用新的方法得到降低，這樣神經(jīng)網(wǎng)絡(luò)的訓(xùn)練速度就可以提高。同時(shí)對(duì)于隱含層的層數(shù)，一般情況設(shè)為1。每層的神經(jīng)元個(gè)數(shù)也并不是越多越好，是要根據(jù)問題的情況而變動(dòng)的。但神經(jīng)網(wǎng)絡(luò)的隱含層是不確定的，而且隱含層的個(gè)數(shù)也是不確定的。對(duì)于遺傳算法，它的二進(jìn)制的長(zhǎng)度是可以確定的，但是交叉和變異的比例是變動(dòng)的。對(duì)于單點(diǎn)交叉比例，我們可以設(shè)定為黃金分割點(diǎn)。雖然設(shè)定為黃金分割點(diǎn)作為單點(diǎn)交叉比例沒有用數(shù)學(xué)方法嚴(yán)格的證明，但是，大量的實(shí)驗(yàn)表明，選擇黃金分割點(diǎn)往往可以得到較好的結(jié)果。對(duì)于變異比例，沒有交好的方法確定，只能設(shè)計(jì)交互式的實(shí)驗(yàn)來調(diào)試決定。

3．權(quán)值的更新方式不一樣。神經(jīng)網(wǎng)絡(luò)的權(quán)值的更新方式是時(shí)時(shí)的，而遺傳算法權(quán)值的更新方式是批量的。

4．兩者應(yīng)用的范圍不一樣。神經(jīng)網(wǎng)絡(luò)主要應(yīng)用于模式匹配，錯(cuò)誤診斷，監(jiān)視病人的狀態(tài)，特征提取，數(shù)據(jù)過濾。而遺傳算法主要應(yīng)用在計(jì)算機(jī)輔助設(shè)計(jì)，日程安排，經(jīng)濟(jì)學(xué)的投資研究等。

1.2神經(jīng)網(wǎng)絡(luò)和遺傳算法的相同點(diǎn)

1．有教師的學(xué)習(xí)。神經(jīng)網(wǎng)絡(luò)的輸出是有目標(biāo)的，當(dāng)然是確定的。同時(shí)對(duì)于遺傳算法的目標(biāo)也是確定的。所以兩者都是有目標(biāo)的，也就是有教師的學(xué)習(xí)。

2．隨機(jī)近似優(yōu)化過程。神經(jīng)網(wǎng)絡(luò)中，如果把網(wǎng)絡(luò)的權(quán)值初始化為接近于0的值，那么在早期的梯度下降步驟中，網(wǎng)絡(luò)將表現(xiàn)為一個(gè)非常平滑的函數(shù)，近似為輸入的線性函數(shù)，這是因?yàn)閟igmoid函數(shù)本身在權(quán)值靠近0時(shí)接近線性。同樣，遺傳算法的初始個(gè)體都是隨機(jī)產(chǎn)生的，它的交叉和變異都是一個(gè)不斷近似的過程。

3．并行化。神經(jīng)網(wǎng)絡(luò)的每個(gè)神經(jīng)元是獨(dú)立的，如果把每個(gè)神經(jīng)元分配一個(gè)處理器，那么就可以采用并行的方式。同樣，遺傳算法很自然地適合并行實(shí)現(xiàn)，有粗粒度并行方法和細(xì)粒度并行方法。有粗粒度并行方法就是把群體細(xì)分成相對(duì)獨(dú)立的個(gè)體群，稱為類屬，然后為每個(gè)類屬分配一個(gè)不同的計(jì)算節(jié)點(diǎn)，在每個(gè)節(jié)點(diǎn)進(jìn)行標(biāo)準(zhǔn)的GA搜索。細(xì)粒度并行方法就是給每個(gè)個(gè)體分配一個(gè)處理器，然后相鄰的個(gè)體間發(fā)生重組。

2算法的研究及改進(jìn)

結(jié)合人工神經(jīng)網(wǎng)絡(luò)和遺傳算法的研究的本質(zhì)，通過兩種算法結(jié)合的研究及改進(jìn)，提高算法的收斂速度，從大量的數(shù)據(jù)中模擬生物的特性來完成特定的任務(wù)和解決問題的方法和方向。由于遺傳算法是單層感知機(jī)，而神經(jīng)網(wǎng)絡(luò)是多層感知機(jī)，所以可以從多層感知機(jī)的多層性，我們想象為遺傳算法是單層感知機(jī)作為神經(jīng)網(wǎng)絡(luò)是多層感知機(jī)的輸入層。這樣，我們就可以采用遺傳算法的動(dòng)態(tài)變更權(quán)值的特性來對(duì)神經(jīng)網(wǎng)絡(luò)輸入層有效性的遺傳和變異。這種算法適合與沒有輸入，只有輸出的應(yīng)用，就像無人駕駛技術(shù)中控制行駛的速度和方向的控制一樣。基本的框架如圖1：

圖1結(jié)合人工神經(jīng)網(wǎng)絡(luò)和遺傳算法的框圖

Fig.1 Combined with artificial neural network and genetic algorithm diagram

最上面的是智能體，神經(jīng)網(wǎng)絡(luò)的輸出來控制智能體，控制中心將神經(jīng)網(wǎng)絡(luò)的權(quán)值用遺傳算法的初始體來提供。

2.1遺傳算法的基因作為神經(jīng)網(wǎng)絡(luò)的權(quán)值變量

遺傳算法的基因的初始化必須要滿足神經(jīng)網(wǎng)絡(luò)的輸入要求，一般遺傳算法的基因都是0，1編碼。但是為了達(dá)到神經(jīng)網(wǎng)絡(luò)的輸入要求，是要在（-1，+1）之間隨機(jī)產(chǎn)生。

2.2遺傳傳算法中雜交點(diǎn)選擇

遺傳算法中，一般都是采用隨機(jī)平均變異[4][5]的方式，但是如果輸入是由遺傳算法的基因提供的話，為了保證在變異的時(shí)候，采用標(biāo)記變異的方法。我們可以首先根據(jù)圖2的神經(jīng)網(wǎng)絡(luò)來考慮：

圖2遺傳算法作為人工神經(jīng)網(wǎng)絡(luò)和的權(quán)值圖

Fig.2 Genetic algorithm as artificial neural network and the weights of figure

很顯然，（0.3,-0.8,-0.2）是神經(jīng)元1的權(quán)值 ；(0.6,0.1,-0.1)是神經(jīng)元2的的權(quán)值；(0.4,0.5) 神經(jīng)元3的權(quán)值。為了在遺傳算法中的雜交過程中，不破壞每個(gè)神經(jīng)元的權(quán)值個(gè)數(shù)，特意標(biāo)記（3，6）所在的箭頭。

2.3引入神經(jīng)網(wǎng)絡(luò)輸入層的數(shù)據(jù)預(yù)處理

神經(jīng)網(wǎng)絡(luò)的計(jì)算問題是神經(jīng)網(wǎng)絡(luò)應(yīng)用中最為關(guān)鍵的問題。如何提高網(wǎng)絡(luò)的訓(xùn)練速度是算法研究的重點(diǎn)。我們?cè)谒伎紗栴}的時(shí)候，總是希望問題越簡(jiǎn)單越容易解決。同樣，我們也可以通過對(duì)數(shù)據(jù)的預(yù)處理，來降低問題的難度。

為了減少輸入層的個(gè)數(shù)，我們可以先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理。預(yù)處理的方法為如下流程：

（1）.計(jì)算機(jī)器人前進(jìn)方向Position(x,y)和目標(biāo)的所在的位置Location(x,y)。

（2）.歸一化Position(x,y) 和Location(x,y)。

（3）.用點(diǎn)乘的計(jì)算公式計(jì)算兩者點(diǎn)乘。

（4）.用符號(hào)重載的方式計(jì)算是順時(shí)針還是相反。

（5）.計(jì)算角度=第3步的結(jié)果*第4步的結(jié)果。

3實(shí)驗(yàn)結(jié)果及分析

3.1實(shí)驗(yàn)框架

將本算法應(yīng)用于掃雪機(jī)器人的智能控制中，設(shè)計(jì)的主要模塊：

3.1.1神經(jīng)網(wǎng)絡(luò)部分的設(shè)計(jì)

神經(jīng)網(wǎng)絡(luò)的輸入由四個(gè)變量組成：掃雪機(jī)器人方向向量（由兩個(gè)變量組成，即在X和Y的分量），發(fā)現(xiàn)目標(biāo)，即雪的向量（由兩個(gè)變量組成，即在X和Y的分量）。神經(jīng)網(wǎng)絡(luò)的隱含層由一層組成，而且由10個(gè)神經(jīng)元。神經(jīng)網(wǎng)絡(luò)的輸出由兩個(gè)變量組成，V1和V2，分別作用在機(jī)器人的左輪和右輪上。神經(jīng)網(wǎng)絡(luò)的響應(yīng)函數(shù)采用SIGMOD。

3.1.2遺傳算法部分的設(shè)計(jì)

遺傳算法的初始化是為神經(jīng)網(wǎng)絡(luò)提供權(quán)值，所以是由[-1，1]隨機(jī)數(shù)產(chǎn)生。遺傳算法的變異是采用隨機(jī)變量的變異，選擇采用輪轉(zhuǎn)法。

3.1.3掃雪機(jī)器人

掃雪機(jī)器人用神經(jīng)網(wǎng)絡(luò)來控制，當(dāng)找到目標(biāo)后，它的適值就加一。這樣就隨著發(fā)現(xiàn)目標(biāo)越多，它的適值就越大。學(xué)習(xí)能力是通過不斷的學(xué)習(xí)后，它的適值就會(huì)加強(qiáng)。如果直接采用機(jī)器人前進(jìn)方向和目標(biāo)的所在的位置，那么神經(jīng)網(wǎng)絡(luò)的輸入為四個(gè)變量。

3.2結(jié)果與分析

如果直接采用機(jī)器人前進(jìn)方向和目標(biāo)的所在的位置，那么神經(jīng)網(wǎng)絡(luò)的輸入為四個(gè)變量。通過對(duì)掃雪機(jī)器人的學(xué)習(xí)過程，沒有進(jìn)行預(yù)處理的數(shù)據(jù)，即四個(gè)變量輸入神經(jīng)網(wǎng)絡(luò)后的參數(shù)設(shè)定：神經(jīng)網(wǎng)絡(luò)的輸入為4，神經(jīng)元為6個(gè)，輸出個(gè)數(shù)為2個(gè)，如圖3所示：

圖3網(wǎng)絡(luò)的參數(shù)設(shè)定圖

Fig.3 Network parameters set figure

我們?cè)O(shè)定初始的適值為0，如果發(fā)現(xiàn)一個(gè)目標(biāo)后，它所對(duì)應(yīng)的適值就加上1，這樣經(jīng)過50次的進(jìn)化后，沒有進(jìn)行數(shù)據(jù)預(yù)處理的最大值是25，平均值是10.1333。如表1所示：

將50次的統(tǒng)計(jì)結(jié)果用柱狀圖進(jìn)行對(duì)比,如圖4所示。

圖4進(jìn)化50代后的加入數(shù)據(jù)預(yù)處理和沒有加入預(yù)處理的對(duì)比圖

Fig.4 After 50 generation data preprocessing and did not join joined the pretreatment of contrast diagram

為了減少輸入層的個(gè)數(shù)，我們可以先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理下面，用統(tǒng)計(jì)的方法對(duì)數(shù)據(jù)進(jìn)行的結(jié)果分析，如表2所示。

將進(jìn)化100代后，對(duì)比兩者的對(duì)比柱狀圖如圖5所示。

圖5進(jìn)化50代后的加入數(shù)據(jù)預(yù)處理和沒有加入預(yù)處理的對(duì)比圖

Fig.5 After 50 generation data preprocessing and did not join joined the pretreatment of contrast diagram

實(shí)驗(yàn)結(jié)果表明，為了減少輸入層的個(gè)數(shù)，先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理。通過對(duì)掃雪機(jī)器人的過程的數(shù)據(jù)分析進(jìn)行分析，數(shù)據(jù)預(yù)處理后的智能進(jìn)化學(xué)習(xí)能力相對(duì)于原始數(shù)據(jù)的智能進(jìn)化學(xué)習(xí)能力有明顯的提高。

4結(jié)束語

本文提出了基于神經(jīng)網(wǎng)絡(luò)和遺傳算法結(jié)合的改進(jìn)算法，對(duì)于遺傳算法的變異操作進(jìn)行改進(jìn)，不會(huì)破壞單個(gè)神經(jīng)元的輸入權(quán)值的基礎(chǔ)上，采用數(shù)據(jù)預(yù)處理的方法來減少輸入層的個(gè)數(shù)，從而提高進(jìn)化學(xué)習(xí)的能力。從實(shí)驗(yàn)數(shù)據(jù)中可以看到，本章提出的改進(jìn)算法加快了學(xué)習(xí)速度，達(dá)到了提高智能學(xué)習(xí)的預(yù)期

目的。

參考文獻(xiàn)

[1] 喬俊飛，韓桂紅．神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)動(dòng)態(tài)優(yōu)化設(shè)計(jì)的分析與展望[J].控制理論與應(yīng)用，2010,3(13):350-357.

[2] 葛繼科，邱玉輝,吳春明，等．遺傳算法研究綜述[J].計(jì)算機(jī)應(yīng)用研究,2008,10(9):2911-2916.

[3] 丁建立，陳增強(qiáng)，袁著祉．智能仿生算法及其網(wǎng)絡(luò)優(yōu)化中的應(yīng)用研究進(jìn)展[J].計(jì)算機(jī)工程與應(yīng)用，2003,12(3):10-15

[4] 鞏敦衛(wèi)，等．交互式遺傳算法原來及其應(yīng)用[M].北京:國(guó)防工業(yè)出版社,2007.

篇4

關(guān)鍵詞：信用風(fēng)險(xiǎn)預(yù)警； 模糊神經(jīng)網(wǎng)絡(luò)； 模因算法； 粗糙集

中圖分類號(hào)：TP301.6 文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：2095-2163（2013）06-0010-05

0引言

近年來，人工神經(jīng)網(wǎng)絡(luò)已廣泛應(yīng)用于信用風(fēng)險(xiǎn)預(yù)警等金融風(fēng)險(xiǎn)管理領(lǐng)域，研究表明神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)準(zhǔn)確性優(yōu)于統(tǒng)計(jì)判別分析等傳統(tǒng)預(yù)警方法，但其中的“黑箱”操作等缺陷卻也導(dǎo)致了神經(jīng)網(wǎng)絡(luò)在信用風(fēng)險(xiǎn)管理領(lǐng)域的應(yīng)用遭到多方質(zhì)疑[1-2]。源自模糊理論與神經(jīng)網(wǎng)絡(luò)相融合的模糊神經(jīng)網(wǎng)絡(luò)（Fuzzy Neural Network，F(xiàn)NN）提高了網(wǎng)絡(luò)的透明性、啟發(fā)性及魯棒性，在一定程度上克服了神經(jīng)網(wǎng)絡(luò)的“黑箱操作”，然而FNN也存在“維數(shù)災(zāi)難”、結(jié)構(gòu)復(fù)雜、學(xué)習(xí)算法冗長(zhǎng)、局部早熟等問題，由此也限制了其在金融風(fēng)險(xiǎn)管理領(lǐng)域中的應(yīng)用[3]。據(jù)此，本文試圖在對(duì)模因算法（Memetic Algorithms，MA）進(jìn)行改進(jìn)的基礎(chǔ)上，結(jié)合粗糙集（Rough Set，RS）和模糊神經(jīng)網(wǎng)絡(luò)提出一種模因進(jìn)化型粗糙模糊神經(jīng)網(wǎng)絡(luò)（MA-RSFNN）模型，旨在利用模因算法進(jìn)行模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)，發(fā)揮模因算法的全局優(yōu)化能力，消減網(wǎng)絡(luò)陷入局部早熟的可能性，使網(wǎng)絡(luò)具有進(jìn)化和學(xué)習(xí)的雙重智能，同時(shí)借助粗糙集知識(shí)約簡(jiǎn)精煉訓(xùn)練集、降低輸入維度，避免“維數(shù)災(zāi)難”現(xiàn)象。

1模因算法

模因算法（Memetic Algorithms，MA）由Moscato和Norman等人于1992年提出，是一種超啟發(fā)式全局搜索混合算法，主要思想源自道金斯的文化進(jìn)化思想和達(dá)爾文的自然進(jìn)化法則[4]。其原理是在全局搜索策略中有機(jī)集成局域搜索策略，利用局部搜索策略的局部尋優(yōu)能力提高算法的性能和收斂速度。相關(guān)研究表明模因算法在搜索過程中兼顧深度和廣度，不僅有較強(qiáng)的全局尋優(yōu)能力，同時(shí)算法收斂速度快，在許多問題上的求解獲得了比遺傳算法收斂速度更快[6-9]。

經(jīng)典的模因算法通常采用遺傳算法作為全局搜索策略，因此算法流程與遺傳算法類似。根據(jù)文獻(xiàn)[5]，模因算法的流程如圖1所示。

2模因算法改進(jìn)

模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)是一個(gè)連續(xù)函數(shù)優(yōu)化過程，以遺傳算法為基礎(chǔ)的模因算法能有效求解組合優(yōu)化問題，但對(duì)連續(xù)空間問題的求解則效率不高。粒子群算法是一種源自對(duì)鳥類等生物群體覓食行為進(jìn)行模仿的實(shí)編碼優(yōu)化算法，其概念簡(jiǎn)單、結(jié)構(gòu)簡(jiǎn)潔，是求解實(shí)編碼優(yōu)化問題的有力工具。本文提出一種以粒子群算法為全局搜索策略，BP算法為局部搜索策略的改進(jìn)型模因算法，以期設(shè)計(jì)出一種高效的模糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。

粒子群算法（Particle Swarm Optimization ，PSO）是一種基于群體智能的全局優(yōu)化算法，其靈感源自鳥群、蟻群等生物群體的覓食過程[10-11]。目前，具有概念簡(jiǎn)單、算法簡(jiǎn)潔、隱含并行及全局收斂等優(yōu)點(diǎn)的粒子群算法已廣泛應(yīng)用到?jīng)Q策分析、知識(shí)發(fā)現(xiàn)等領(lǐng)域[12-13]，并取得了豐碩研究成果。基本粒子群算法的數(shù)學(xué)描述如下[10]。

假設(shè)一顆微粒代表尋優(yōu)空間中的一個(gè)解，算法初始化時(shí)隨機(jī)生成一定數(shù)量的微粒構(gòu)成種群，而后通過不斷隨機(jī)有向迭代尋求問題最優(yōu)解。在迭代過程中，微粒通過跟蹤個(gè)體及種群歷史最優(yōu)值，按式（1）、（2）不斷調(diào)整個(gè)體的速度和位置以實(shí)現(xiàn)向最優(yōu)解靠攏。

其中，式（3）為速度vij的調(diào)整量；速度vij為位置xij的調(diào)整量；w∈[0.4，0.9]為慣性因子；c1=c2=2.0為學(xué)習(xí)因子； r（·）∈（0，1）為隨機(jī)數(shù)；pij和pg分別為個(gè)體及群體歷史最優(yōu)值。

2.2改進(jìn)型模因算法

改進(jìn)型模因算法基本流程如圖2所示。

3模因進(jìn)化型模糊神經(jīng)網(wǎng)絡(luò)

3.1網(wǎng)絡(luò)結(jié)構(gòu)

信用風(fēng)險(xiǎn)預(yù)警通常為多輸入單輸出的問題，參照文獻(xiàn)[14-15]設(shè)計(jì)的模糊神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如所圖3所示。

3.2網(wǎng)絡(luò)學(xué)習(xí)算法

（1）編碼。微粒的坐標(biāo)值代表了模糊神經(jīng)網(wǎng)絡(luò)的模糊參數(shù)與權(quán)值，其編碼如圖4所示。

其中，yi為實(shí)際輸出；yi為期望輸出，P為群體規(guī)模。

（3）算法步驟。學(xué)習(xí)算法的主要步驟如下：

步驟一：初始化。設(shè)置全局搜索策略和局部搜索策略的相關(guān)參數(shù)，隨機(jī)生成種群。

步驟二：BP算子。采用BP算法對(duì)每個(gè)個(gè)體進(jìn)行局部尋優(yōu)。

步驟三：算法終止判斷。如果算法滿足終止條件則跳轉(zhuǎn)步驟六，否則跳轉(zhuǎn)步驟四。

步驟四：PSO算子。①根據(jù)式（4）計(jì)算每個(gè)個(gè)體的適應(yīng)值；②個(gè)體及群體歷史最優(yōu)位置調(diào)整；③按式（1）調(diào)整微粒速度；④按式（2）調(diào)整微粒位置。

步驟五：BP算子。采用BP算法對(duì)每個(gè)個(gè)體進(jìn)行局部尋優(yōu)，產(chǎn)生新群體，跳轉(zhuǎn)步驟三。

步驟六：算法結(jié)束。

其中，算法終止條件：① MSE最大進(jìn)化代數(shù)。

BP算子的目標(biāo)函數(shù)為式（4）所示的適應(yīng)值函數(shù)，學(xué)習(xí)過程中，網(wǎng)絡(luò)參數(shù)與權(quán)值按以下數(shù)學(xué)公式作調(diào)整：

上述模因進(jìn)化型模糊神經(jīng)網(wǎng)絡(luò)采用模因算法對(duì)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)與訓(xùn)練，使得模型具備了學(xué)習(xí)與進(jìn)化的雙重智能，但該模型也存在一般模糊神經(jīng)網(wǎng)絡(luò)的“維數(shù)災(zāi)難”現(xiàn)象。為此，采用粗糙集知識(shí)約簡(jiǎn)對(duì)模型輸入數(shù)據(jù)進(jìn)行前置處理，簡(jiǎn)化訓(xùn)練集、減少輸入維數(shù)，從而降低網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜程度，避免“維數(shù)災(zāi)難”現(xiàn)象。前置處理的主要步驟如下：

（1）指標(biāo)初選和數(shù)據(jù)預(yù)處理

在考慮數(shù)據(jù)可獲取性的前提下初步建立預(yù)警指標(biāo)體系，指標(biāo)體系要求涵蓋各方面的信息，力圖從全方位、多層次反映信用風(fēng)險(xiǎn)特征。

數(shù)據(jù)預(yù)處理主要是根據(jù)指標(biāo)的特性，對(duì)連續(xù)型預(yù)警指標(biāo)的數(shù)據(jù)進(jìn)行離散化處理。數(shù)據(jù)離散化的原則是保持?jǐn)?shù)據(jù)集分類或決策能力不變的前提下盡可能壓縮數(shù)據(jù)。

（2）建立決策表

以指標(biāo)初選和數(shù)據(jù)預(yù)處理后的數(shù)據(jù)為基礎(chǔ)，建立如表1所示的決策表。

（3）知識(shí)約簡(jiǎn)

對(duì)建立的決策表進(jìn)行約簡(jiǎn)處理，得到條件屬性的相對(duì)約簡(jiǎn)，選取相對(duì)約簡(jiǎn)所代表的預(yù)警指標(biāo)組成指標(biāo)集作為模型的輸入指標(biāo)體系。

5模型在信用風(fēng)險(xiǎn)中的應(yīng)用

從商業(yè)銀行的角度看，信用風(fēng)險(xiǎn)是指借款人的違約而造成的損失可能性。本文從商業(yè)銀行的企業(yè)貸款違約方面研究模型在信用風(fēng)險(xiǎn)評(píng)估中的應(yīng)用，以檢驗(yàn)?zāi)Ｐ驮诮鹑陲L(fēng)險(xiǎn)管理領(lǐng)域中的應(yīng)用成效。

5.1指標(biāo)初選與數(shù)據(jù)采集

在研究國(guó)內(nèi)外相關(guān)成果的基礎(chǔ)上，參考相關(guān)商業(yè)銀行的企業(yè)績(jī)效評(píng)價(jià)指標(biāo)體系[16-19]，選擇涵蓋企業(yè)盈利能力、償債能力、成長(zhǎng)能力及營(yíng)運(yùn)能力等方面的共21個(gè)指標(biāo)構(gòu)成初選指標(biāo)集，如表2所示。

5.2粗糙集前置處理

（1）數(shù)據(jù)離散化與決策表的建立

采用等頻率劃分算法在保持?jǐn)?shù)據(jù)分類能力的前提下對(duì)數(shù)據(jù)進(jìn)行離散化處理，斷點(diǎn)集數(shù)k可通過試驗(yàn)獲得，一般取k=3。在數(shù)據(jù)離散化的基礎(chǔ)上，以初選指標(biāo)為條件屬性，屬性Bc（1：貸款違約公司，0：貸款正常公司）為決策屬性，建立信用風(fēng)險(xiǎn)預(yù)警的決策表，如表3所示。

（2）屬性約簡(jiǎn)

5.3模型訓(xùn)練學(xué)習(xí)

學(xué)習(xí)算法的相關(guān)參數(shù)初始化如下：

（1）模糊子集數(shù)設(shè)為3（代表高、中、低），則該模型為6-18-3-1結(jié)構(gòu)的模糊神經(jīng)網(wǎng)絡(luò)，輸出Y為企業(yè)違約信號(hào)（1：違約；0：不違約）。

（2）參數(shù)初始化。網(wǎng)絡(luò)的模糊參數(shù)及權(quán)值隨機(jī)初始化，隸屬中心∈[-1，1]，隸屬寬度∈（0，1]，耦合權(quán)值∈（-1，1）。

（3）模因算法的參數(shù)設(shè)置。PSO算子隨機(jī)生成規(guī)模M=30的種群，w=0.729， c1=c2=1.49，[Vup，Vdown]為[-1，1]，Vmax=0.3，BP算子的學(xué)習(xí)率η=0.005。

（4）訓(xùn)練終止條件：①適應(yīng)值10 000。

在Matlab7.0環(huán)境中，編程實(shí)現(xiàn)上述的模型與算法，采用訓(xùn)練數(shù)據(jù)集的150份數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練學(xué)習(xí)，訓(xùn)練過程誤差變化如圖5所示。經(jīng)過3 000多代的進(jìn)化，MSE達(dá)到了0.000 281。

采用測(cè)試集的數(shù)據(jù)對(duì)預(yù)警模型進(jìn)行仿真實(shí)驗(yàn)，表4匯總了三類模型的實(shí)驗(yàn)結(jié)果，從中可以看出MA-RSFNN模型的預(yù)測(cè)準(zhǔn)確率高達(dá)90%，相比BP神經(jīng)網(wǎng)絡(luò)及單純模糊神經(jīng)網(wǎng)絡(luò)均有了大幅度提高。無論是第一類錯(cuò)誤還是第二類錯(cuò)誤MA-RSFNN模型的表現(xiàn)都最好。

6結(jié)束語

模糊神經(jīng)網(wǎng)絡(luò)具有啟發(fā)性、透明性等特征，可處理模糊信息，能避免神經(jīng)網(wǎng)絡(luò)的“黑箱操作”，但其存在“維數(shù)災(zāi)難”現(xiàn)象、結(jié)構(gòu)復(fù)雜及收斂性差等缺陷。本文所提出的MA-RSFNN模型將模因算法和粗糙集理論融入模糊神經(jīng)網(wǎng)絡(luò)，發(fā)揮模因算法的全局搜索能力提升模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力，借助粗糙集知識(shí)約簡(jiǎn)的降維消冗能力對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行降維消冗處理，從而精簡(jiǎn)網(wǎng)絡(luò)結(jié)構(gòu)，避免網(wǎng)絡(luò)陷入“維數(shù)災(zāi)難”。應(yīng)用實(shí)例的結(jié)果表明了新模型的有效性，可望為金融風(fēng)險(xiǎn)管理提供一種新方法和新思路。

參考文獻(xiàn)：

[1]MIN J H， LEE Y C. Bankruptcy prediction using support vector machine with optimal choice of kernel function parameters[J]. Expert Systems with Applications， 2005， 28 ：603-614.

[2]BAHRAMMIRZAEE A. A comparative survey of artificial intelligence applications in finance： artificial neural networks， expert system and hybrid intelligent systems[J].Neural Comput & Applic，2010，19：1165-1195.

[3]HAMDANI T M， ALIMI A M， FAKHRI K. Enhancing the structure and parameters of the centers for BBF fuzzy neural network classifier construction based on data structure[A]// Proceedings of the International Joint Conference on Neural Networks[C]. Piscataway NJ： IEEE， 2008： 3174-3180.

[4]MOSCATO P. On evolution， search， optimization， genetic algorithms and martial arts： towards memetic algorithms[A]//Tech. Rep. Caltech Concurrent Computation Program [C]. Pasadena， California， USA， 1989： 1-67.

[5]NORA S，CHRISTIAN S， ANDREAS Z.A memetic clustering algorithm for the functional partition of genes based on the gene ontology[C]//Proc of the 2004 IEEE Symposium on Computational Intelligence in Bioinformatics and Computational Biology.San Diego，USA，2004：252-259.

[6]DAWKINS R. The selfish gene[M].UK：Oxford University Press，1976.

[7]MOSCATO P， NORMAN M G. A memetic approach for the traveling salesman problem-implementation of a computational ecology for com-binatorial optimization on message-passing systems[C]// Proceedings of the International Conference on Parallel Computing and Transport Applications. Amsterdam：IOS Press，1992： 177-186.

[8]RADCLIFFE N J， SURRY P D. Formal memetic algorithms[J]. Evolutionary Computing， 1994，865： 1-16.

[9]XU Xin，HE H G.A theoretical model and convergence analysis of memetic evolutionary algorithms[C]//Proc of Int Conf on Natural Computation.Changsha，2005：1035-1043.

[10]KENNEDY J. EBERHART R C. Particle swarm optimization [A]// Proceedings of IEEE， International Conference on Neural Networks [C]. Piscataway NJ：IEEE， 1995： 1942-1948.

[11]KENNEDY J. The particle swarm： social adaptation of knowledge [A]//Preceedings of Evolutionary Computation [C] ，Indianapolis： IEEE， 1997：303-308.

[12]EBERHART R C， SHI Y H. Particle swarm optimization： developments， applications and resources [A]//Proceedings of the IEEE Congress on Evolutionary Computation [C]. Piscataway， USA： IEEE Service Center， 2001：81-86.

[13]吳啟迪，汪鐳. 智能微粒群算法研究及應(yīng)用[M]. 南京：江蘇教育出版社，2005-04.

[14]AKAGI T， SUGENO M. Fuzzy identification of systems and its application to modeling and control[J]. IEEE Transactions on Systems， Man， and， Cybernetics， 1985，15（1）： 116-132.

[15]黃福員. 金融風(fēng)險(xiǎn)預(yù)警的MPSO-FNN模型構(gòu)建與應(yīng)用[J]. 計(jì)算機(jī)工程與應(yīng)用，2009，45（14）：210-212.

[16]ALTMAN E I， MARCO G， VARETTO F. Corporate distress diagnosis： comparisons using linear discriminant Ana analysis and neural networks[J]. Journal of Banking and Finance， 1994， 18： 505-529.

[17]李志輝， 李萌. 我國(guó)商業(yè)銀行信用風(fēng)險(xiǎn)識(shí)別模型及其實(shí)證研究[J]. 經(jīng)濟(jì)科學(xué)， 2005（5）： 61-71.

篇5

【關(guān)鍵詞】 圖像識(shí)別技術(shù) 神經(jīng)網(wǎng)絡(luò)識(shí)別

模式識(shí)別研究的目的是用機(jī)器來模擬人的各種識(shí)別能力―比如說模擬人的視覺與聽覺能力，因此圖像識(shí)別的目的是對(duì)文字、圖像、圖片、景物等模式信息加以處理和識(shí)別，以解決計(jì)算機(jī)與外部環(huán)境直接通信這一問題?？梢哉f，圖像識(shí)別的研究目標(biāo)是為機(jī)器配置視覺“器官”，讓機(jī)器具有視覺能力，以便直接接受外界的各種視覺信息。

一、圖像識(shí)別系統(tǒng)

一個(gè)圖像識(shí)別系統(tǒng)可分為四個(gè)主要部分：被識(shí)圖像、圖像信息獲取、圖像預(yù)處理、圖像特征提取、分類判決。

二、圖像識(shí)別方法

圖像識(shí)別的方法很多，可概括為統(tǒng)計(jì)（或決策理論）模式識(shí)別方法、句法（或結(jié)構(gòu)）模式識(shí)別方法、模糊模式識(shí)別方法以及神經(jīng)網(wǎng)絡(luò)識(shí)別方法。重點(diǎn)介紹神經(jīng)網(wǎng)絡(luò)識(shí)別方法。

2.1神經(jīng)網(wǎng)絡(luò)識(shí)別方法

2.1.1人工神經(jīng)網(wǎng)絡(luò)的組成

人工神經(jīng)網(wǎng)絡(luò)（簡(jiǎn)稱ANN）是由大量處理單元經(jīng)廣泛互連而組成的人工網(wǎng)絡(luò)，用來模擬腦神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能。而這些處理單元我們把它稱作人工神經(jīng)元。

2.1.2人工神經(jīng)網(wǎng)絡(luò)的輸出

2.1.3人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

人工神經(jīng)網(wǎng)絡(luò)中，各神經(jīng)元的不同連接方式就構(gòu)成了網(wǎng)絡(luò)的不同連接模型。常見的連接模型有：前向網(wǎng)絡(luò)、從輸入層到輸出層有反饋的網(wǎng)絡(luò)、層內(nèi)有互聯(lián)的網(wǎng)絡(luò)及互聯(lián)網(wǎng)絡(luò)。

2.1.4 學(xué)習(xí)算法

1）感知器模型及其算法

算法思想：首先把連接權(quán)和閾值初始化為較小的非零隨機(jī)數(shù)，然后把有n個(gè)連接權(quán)值的輸入送入網(wǎng)絡(luò)中，經(jīng)加權(quán)運(yùn)算處理后，得到一個(gè)輸出，如果輸出與所期望的有較大的差別，就對(duì)連接權(quán)值參數(shù)按照某種算法進(jìn)行自動(dòng)調(diào)整，經(jīng)過多次反復(fù)，直到所得到的輸出與所期望的輸出間的差別滿足要求為止。

2）反向傳播模型及其算法

反向傳播模型也稱B-P模型，是一種用于前向多層的反向傳播學(xué)習(xí)算法。

算法思想是：B-P算法的學(xué)習(xí)目的是對(duì)網(wǎng)絡(luò)的連接權(quán)值進(jìn)行調(diào)整，使得調(diào)整后的網(wǎng)絡(luò)對(duì)任一輸入都能得到所期望的輸出。學(xué)習(xí)過程包括正向傳播和反向傳播。正向傳播用于對(duì)前向網(wǎng)絡(luò)進(jìn)行計(jì)算，即對(duì)某一輸入信息，經(jīng)過網(wǎng)絡(luò)計(jì)算后求出它的輸出結(jié)果；反向傳播用于逐層傳遞誤差，修改神經(jīng)元之間的連接權(quán)值，使網(wǎng)絡(luò)最終得到的輸出能夠達(dá)到期望的誤差要求。

B-P算法的學(xué)習(xí)過程如下：

第一步：選擇一組訓(xùn)練樣例，每一個(gè)樣例由輸入信息和期望的輸出結(jié)果兩部分組成；第二步：從訓(xùn)練樣例集中取出一樣例，把輸入信息輸入到網(wǎng)絡(luò)中；第三步：分別計(jì)算經(jīng)神經(jīng)元處理后的各層節(jié)點(diǎn)的輸出；第四步：計(jì)算網(wǎng)絡(luò)的實(shí)際輸出和期望輸出的誤差；第五步：從輸出層反向計(jì)算到第一個(gè)隱層，并按照某種原則（能使誤差向減小方向發(fā)展），調(diào)整網(wǎng)絡(luò)中各神經(jīng)元的權(quán)值；第六步：對(duì)訓(xùn)練樣例集中的每一個(gè)樣例重復(fù)一到五的步驟，直到誤差達(dá)到要求時(shí)為止。

3）Hopfield模型及其學(xué)習(xí)算法

它是一種反饋型的神經(jīng)網(wǎng)絡(luò)，在反饋網(wǎng)絡(luò)中，網(wǎng)絡(luò)的輸出要反復(fù)地作為輸入再送入網(wǎng)絡(luò)中，使得網(wǎng)絡(luò)具有了動(dòng)態(tài)性，因此網(wǎng)絡(luò)的狀態(tài)在不斷的改變之中。

算法思想是：

（a） 設(shè)置互連權(quán)值

其中xis是s類樣例的第i個(gè)分量，它可以為1或0，樣例類別數(shù)為m，節(jié)點(diǎn)數(shù)為n。

（b） 未知類別樣本初始化。 Yi（0）=Xi 0≤i≤n-1

其中Yi（t）為節(jié)點(diǎn)I在t時(shí)刻的輸出，當(dāng)t=0時(shí)，Yi（0）就是節(jié)點(diǎn)I的初始值，Xi為輸入樣本的第I個(gè)分量。

（c） 迭代直到收斂

篇6

關(guān)鍵詞：人臉檢測(cè)；Adaboost算法；神經(jīng)網(wǎng)絡(luò)；樣本擴(kuò)張

中圖分類號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9599 （2012） 17-0000-02

0 引言

本文采用樣本擴(kuò)張策略使得樣本信息可以更全面的覆蓋人臉和非人臉信息，克服了原有算法在樣本選擇上的隨機(jī)性，加強(qiáng)了訓(xùn)練樣本的代表性，再利用Adaboost算法與神經(jīng)網(wǎng)絡(luò)串聯(lián)對(duì)人臉進(jìn)行檢測(cè)，從而降低了原有算法對(duì)人臉檢測(cè)的錯(cuò)檢和重復(fù)檢測(cè)率。

1 Adaboost算法的人臉檢測(cè)

1.1 Adaboost算法原理

Adaboost是一種迭代算法，其算法思想簡(jiǎn)單說就是把一組弱分類器通過多次迭代，調(diào)整正負(fù)樣本的權(quán)重，并把這些弱分類器按一定權(quán)重累加起來，最終得到所期望的強(qiáng)分類器。利用這個(gè)強(qiáng)分類器就可以對(duì)圖像進(jìn)行人臉檢測(cè)了。

具體算法：

每個(gè)樣本都賦予一個(gè)權(quán)重，T次迭代，每次迭代后，對(duì)分類錯(cuò)誤的樣本加大權(quán)重，使得下一次的迭代更加關(guān)注這些樣本。

輸入：（X1，Y1）， （X2，Y2），…（Xn，Yn）

Xi∈X， Yi∈Y={+1，-1}

初始化權(quán)值：D1（i）=1/n

For t=1，…，T

在Dt下訓(xùn)練，

得到弱的假設(shè)ht： X->{-1，+1}，

錯(cuò)誤率：Εt=ΣDt（i） [ht（Xi）≠Yi]

選擇αt=1/2 ln （ （1- Εt）/ Εt ），

更改權(quán)值：

if ht（Xi）≠Yi ， Dt+1（i）=Dt（i）* e αt /Zt

if ht（Xi）=Yi ， Dt+1（i）=Dt（i）* e -αt /Zt

輸出：H（X）=sign（ ∑αtht（X） ）

1.2 弱分類器的生成

為減少計(jì)算量和主要特征參數(shù)，本文采用主成分分析方法（PCA）得到弱分類器。PCA用于人臉識(shí)別，其實(shí)是假設(shè)所有的人臉都處于一個(gè)低維線性空間，而且不同的人臉在這個(gè)空間中具有可分性。其具體做法是由高維圖像空間經(jīng)K—L變換后得到的一組新的正交基，對(duì)這組正交基進(jìn)行一定的取舍，保留其中的一部分生成低維的人臉空間。

每一個(gè)PCA特征都對(duì)應(yīng)著一個(gè)弱分類器，每一個(gè)弱分類器都是根據(jù)它所對(duì)應(yīng)的特征的參數(shù)來定義的。利用上述特征的位置信息，對(duì)訓(xùn)練樣本進(jìn)行統(tǒng)計(jì)就可以得到對(duì)應(yīng)的特征參數(shù)。

1.3 測(cè)試環(huán)境和結(jié)果分析

影響本算法的因素：正負(fù)樣本的個(gè)數(shù)，循環(huán)次數(shù)i的大?。豢s放的大?。患?jí)聯(lián)結(jié)構(gòu)的級(jí)數(shù)；每一級(jí)中的循環(huán)次數(shù)；每一級(jí)中所選取的PCA提取特征的數(shù)目以及判斷為正人臉樣本的特征的個(gè)數(shù)。

本算法選取了 2000 個(gè)正樣本，2000 個(gè)負(fù)樣本。 實(shí)驗(yàn)環(huán)境：Pentium（R） 4 CPU 2.93GHz 1.00GB內(nèi)存。MATLAB：R2010b。測(cè)試結(jié)果如圖1

圖 1

由圖可看出，此算法在多人臉檢測(cè)情況下，有較高的錯(cuò)檢率和重復(fù)檢測(cè)率。

2 Adaboost算法與神經(jīng)網(wǎng)絡(luò)串聯(lián)檢測(cè)人臉

2.1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型，是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實(shí)際上是由大量簡(jiǎn)單元件相互連接而成的復(fù)雜網(wǎng)絡(luò)，具有高度的非線性，能夠進(jìn)行相關(guān)的邏輯操作和非線性關(guān)系實(shí)現(xiàn)的系統(tǒng)。

在現(xiàn)有神經(jīng)網(wǎng)絡(luò)中，BP網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、反饋網(wǎng)絡(luò)和LVQ網(wǎng)絡(luò)是目前使用較多的網(wǎng)絡(luò)，也是在模式識(shí)別領(lǐng)域應(yīng)用最廣泛的網(wǎng)絡(luò)。

LVQ網(wǎng)絡(luò)學(xué)習(xí)簡(jiǎn)單，速度相對(duì)來說較快，相同情況下與其他網(wǎng)絡(luò)相比可以實(shí)現(xiàn)更好的效果，因此本文采用了LVQ網(wǎng)絡(luò)在Adaboost的基礎(chǔ)之上進(jìn)行分類識(shí)別。

2.2 樣本擴(kuò)張和串聯(lián)檢測(cè)思路

Adaboost算法的效果與前期訓(xùn)練時(shí)若分類其的選取關(guān)系重大，而弱分類器的選取在一定程度上依賴于樣本集的選取，因而訓(xùn)練樣本集顯得十分重要。在Adaboost算法中，人臉和非人臉的選取比較重要隨機(jī)，不能很好的表達(dá)人臉和非人臉的信息。針對(duì)這一現(xiàn)象，采用樣本擴(kuò)張的策略，使擴(kuò)張后的訓(xùn)練樣本可以比較全面的覆蓋人臉和非人臉信息。

樣本擴(kuò)張的實(shí)現(xiàn)過程如下：1、用隨機(jī)選取的人臉和非人臉樣本構(gòu)成初始訓(xùn)練庫；2、利用該訓(xùn)練庫訓(xùn)練神經(jīng)網(wǎng)絡(luò)，再將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)對(duì)Adaboost分類器判斷為正樣本的圖片進(jìn)行進(jìn)一步判斷，如果神經(jīng)網(wǎng)絡(luò)判斷為負(fù)樣本，則將圖片加入初始訓(xùn)練庫，用神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，同時(shí)直接將Adaboost分類器判斷為負(fù)樣本的圖片加入初始訓(xùn)練庫中，用神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

因此，通過樣本擴(kuò)張形成的新訓(xùn)練庫更具有代表性，可以很好的涵蓋人臉和非人臉信息，再進(jìn)行Adaboost和神經(jīng)網(wǎng)絡(luò)串聯(lián)進(jìn)行判斷，可以得到很好的效果。

2.3 測(cè)試環(huán)境和結(jié)果分析

本算法選取了 2000 個(gè)正樣本，2000 個(gè)負(fù)樣本。 實(shí)驗(yàn)環(huán)境：Pentium（R） 4 CPU 2.93GHz 1.00GB內(nèi)存。MATLAB：R2010b。測(cè)試結(jié)果如圖3

圖 2

評(píng)價(jià)： 在adaboost加入神經(jīng)網(wǎng)絡(luò)串聯(lián)后，圖1與圖3相比，錯(cuò)誤和重復(fù)檢測(cè)消除了很多。實(shí)際運(yùn)行中，由于神經(jīng)網(wǎng)絡(luò)訓(xùn)練權(quán)值的隨機(jī)的初始化的影響，會(huì)造成圖片橫縱方向都每隔兩個(gè)點(diǎn)掃描檢測(cè)時(shí)可能會(huì)隨機(jī)多出1到2個(gè)錯(cuò)檢，或者就沒有錯(cuò)檢出現(xiàn)，這個(gè)是沒有辦法避免的，但是效果已經(jīng)相對(duì)來說提高了很多了。

3 兩種算法在給定測(cè)試樣本數(shù)目下識(shí)別率的比較

實(shí)驗(yàn)環(huán)境：Pentium（R） 4 CPU 2.93GHz 1G內(nèi)存

MATLAB：R2010b

說明：訓(xùn)練樣本如果為10，則表示正樣本為5，負(fù)樣本也為5，訓(xùn)練樣本如果為20，則表示正樣本為10，負(fù)樣本也為10，以此類推；每一次試驗(yàn)做30次取其均值

實(shí)驗(yàn)數(shù)據(jù)來源：mit人臉數(shù)據(jù)庫

結(jié)果分析：在測(cè)試樣本數(shù)目，循環(huán)次數(shù)以及PCA能量給定的情況下，采用Adaboost算法進(jìn)行試驗(yàn)，當(dāng)訓(xùn)練樣本數(shù)目較少時(shí)，識(shí)別率比較低；當(dāng)訓(xùn)練樣本數(shù)增加的時(shí)候，增大到一定的程度，識(shí)別率不會(huì)有所提高了，反而所需的時(shí)間增加了，因此當(dāng)選擇訓(xùn)練樣本的數(shù)目為20的時(shí)候，識(shí)別率有所提到，而且所用時(shí)間沒有明顯增大。

表2 改變循環(huán)次數(shù)T（Train Sample = 20， Test Sample = 500， PCA（98%），Adaboost算法）

結(jié)果分析：在測(cè)試樣本數(shù)目，訓(xùn)練樣本數(shù)目以及PCA能量給定的情況下，采用Adaboost算法進(jìn)行試驗(yàn)，當(dāng)循環(huán)次數(shù)較少的時(shí)候識(shí)別率比較低，當(dāng)循環(huán)次數(shù)增大到一定程度以后，再增加循環(huán)次數(shù)，識(shí)別率沒有明顯提升反而所需時(shí)間增加了，因此選擇循環(huán)次數(shù)為10次的時(shí)候技能有較高的識(shí)別率，所需時(shí)間沒有明顯增加。

在選擇了訓(xùn)練樣數(shù)目以及循環(huán)次數(shù)后，基本排除了這兩個(gè)因素對(duì)識(shí)別率的影響，進(jìn)行PCA能量的選擇來比較一下Adaboost算法與增加神經(jīng)網(wǎng)絡(luò)后的算法的識(shí)別率的大小。

由上表可以看出，Adaboost算法與神經(jīng)網(wǎng)絡(luò)串聯(lián)后的的算法具有很好的識(shí)別率。本次試驗(yàn)是在識(shí)別的基礎(chǔ)之上做的，針對(duì)的是給定數(shù)目的測(cè)試樣本，要是做到人臉檢測(cè)需要更多的訓(xùn)練樣本來提取人臉特征。

4 結(jié)論

本文提出的基于神經(jīng)網(wǎng)絡(luò)擴(kuò)張的adaboost人臉檢測(cè)算法在原有adaboost算法的基礎(chǔ)上加入了LVQ神經(jīng)網(wǎng)絡(luò)串聯(lián)，在經(jīng)過兩個(gè)算法的分類識(shí)別和樣本擴(kuò)張后，降低了原有算法的錯(cuò)檢率和重復(fù)檢測(cè)率，在給定測(cè)試樣本數(shù)的實(shí)驗(yàn)中，本文提出的方法要比原算法在識(shí)別率上有15%左右的提升。

參考文獻(xiàn)：

[1]李維維.基于膚色和AdaBoost算法的人臉檢測(cè)[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2012.

篇7

關(guān)鍵詞 神經(jīng)網(wǎng)絡(luò)模型；模糊綜合評(píng)價(jià)；權(quán)重；水質(zhì)評(píng)價(jià)

中圖分類號(hào)：X824 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671-7597（2014）07-0147-01

目前，水污染很嚴(yán)重，治理好水污染，改善環(huán)境，防止造成進(jìn)一步的污染，已經(jīng)成為了社會(huì)所研究的重點(diǎn)。因此，水質(zhì)的評(píng)價(jià)成為了一項(xiàng)重要的研究熱點(diǎn)，根據(jù)水質(zhì)的相關(guān)的指標(biāo)的特點(diǎn)，綜合分析得到水質(zhì)的狀況，能夠?yàn)檎扇『侠淼拇胧┨峁┮罁?jù)。目前，神經(jīng)網(wǎng)絡(luò)模型對(duì)水質(zhì)進(jìn)行評(píng)價(jià)已經(jīng)成為了熱點(diǎn)，神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)在于權(quán)重的確定方面，能夠合理的確定各個(gè)指標(biāo)的權(quán)重，但是在評(píng)價(jià)的模型上[1]，神經(jīng)網(wǎng)絡(luò)用的層層分析模型，沒有做夠好的進(jìn)行水質(zhì)的評(píng)價(jià)，本文在神經(jīng)網(wǎng)絡(luò)中融合模糊綜合評(píng)價(jià)模型，能夠很好的對(duì)水質(zhì)進(jìn)行評(píng)價(jià)。

1 神經(jīng)網(wǎng)絡(luò)理論

人工神經(jīng)網(wǎng)絡(luò)（AnificialNeural Nemorks，ANN）是通利用數(shù)學(xué)模型的方法進(jìn)行抽象和模擬，是一種模仿人腦結(jié)構(gòu)和它的功能的非線性的信息處理系統(tǒng)。它主要是大量的單元相互連接而組成的網(wǎng)絡(luò)結(jié)構(gòu)，來實(shí)現(xiàn)大腦的感知和學(xué)習(xí)功能。神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)可以分為前饋多層式網(wǎng)絡(luò)模型、反饋遞歸式網(wǎng)絡(luò)模型和隨機(jī)型網(wǎng)絡(luò)模型等。根據(jù)研究水質(zhì)問題多因素權(quán)重問題以及神經(jīng)網(wǎng)絡(luò)的相關(guān)理論，前饋多層式網(wǎng)絡(luò)中的反向傳播神經(jīng)網(wǎng)絡(luò)（BP神經(jīng)網(wǎng)絡(luò)）具有良好的持久性以及適時(shí)預(yù)報(bào)性，因此在本文的評(píng)價(jià)模型中，我們都采用BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)方式[2]。

前饋神經(jīng)網(wǎng)絡(luò)分為了神經(jīng)元分層排列，包含了輸入層、隱含層和輸出層三個(gè)層次結(jié)構(gòu)，每個(gè)層次的神經(jīng)元只能夠接收前一個(gè)層次的神經(jīng)元，層層對(duì)應(yīng)。這是一種比較強(qiáng)有力的學(xué)習(xí)系統(tǒng)，它的結(jié)構(gòu)相對(duì)而言較為簡(jiǎn)單，并且編程也比較容易，是一種靜態(tài)的非線性映射，通過簡(jiǎn)單的非線性處理進(jìn)行復(fù)合映射，能夠得到更加復(fù)雜的處理能力。這些前饋網(wǎng)絡(luò)學(xué)習(xí)，它們分類能力和模式識(shí)別的特點(diǎn)都要強(qiáng)于一般的反饋網(wǎng)絡(luò)。典型的前饋網(wǎng)絡(luò)有感知器網(wǎng)絡(luò)和BP網(wǎng)絡(luò)。水質(zhì)評(píng)價(jià)模型中，一般采用的都是BP神經(jīng)網(wǎng)絡(luò)，能夠很好的處理各個(gè)指標(biāo)之間的關(guān)系特點(diǎn)，做到很好的評(píng)價(jià)，但是需要一個(gè)更好的模型結(jié)合神經(jīng)網(wǎng)絡(luò)確定權(quán)重的特點(diǎn)進(jìn)行水質(zhì)評(píng)價(jià)，能夠收到更好的效果。

2 模糊綜合評(píng)價(jià)的基本理論

模糊數(shù)學(xué)是利用數(shù)學(xué)方法進(jìn)行研究與處理模糊現(xiàn)象的數(shù)學(xué)。模糊綜合評(píng)價(jià)作為一門新的評(píng)價(jià)科學(xué)，是典型數(shù)學(xué)、統(tǒng)計(jì)數(shù)學(xué)之后的發(fā)展起來的一門新的數(shù)學(xué)學(xué)科，可以處理很多之前數(shù)學(xué)無法解決的問題。開始具有爭(zhēng)議，經(jīng)過一段時(shí)間，開始迅速發(fā)展，而且涉及的應(yīng)用領(lǐng)域越來越廣泛，已經(jīng)遍及理、工、農(nóng)、醫(yī)及社會(huì)科學(xué)，充分體現(xiàn)了評(píng)價(jià)模型的優(yōu)越之處。

模糊綜合評(píng)價(jià)法是一種利用模糊數(shù)學(xué)為基礎(chǔ)的綜合評(píng)標(biāo)方法。綜合評(píng)價(jià)法利用模糊數(shù)學(xué)隸屬度理論和模糊變換原理，根據(jù)給出的評(píng)價(jià)標(biāo)準(zhǔn)與實(shí)測(cè)值，考慮到被評(píng)價(jià)事物的各個(gè)相關(guān)因素，對(duì)其進(jìn)行綜合評(píng)價(jià)。對(duì)于模糊綜合評(píng)價(jià)向量，即綜合隸屬度，可用如下公式：

A為輸入，代表參加評(píng)價(jià)因子的權(quán)重經(jīng)歸一化處理得到的一個(gè)1×n階矩陣；R為模糊變換裝置，是通過單因素評(píng)判得到的隸屬度向量，是一個(gè)n×m階的模糊關(guān)系矩陣；B為輸出，代表綜合評(píng)判結(jié)果，是一個(gè)1×m階矩陣[3]。

其中評(píng)價(jià)因子是m集合為：，分別為參與評(píng)價(jià)的n個(gè)評(píng)價(jià)因子。其中評(píng)價(jià)等級(jí)共m個(gè)等級(jí)，組成集合為：。

評(píng)判矩陣和隸屬度的式子為：

3 神經(jīng)網(wǎng)絡(luò)和模糊綜合評(píng)價(jià)結(jié)合算法

神經(jīng)網(wǎng)絡(luò)模型評(píng)價(jià)的精華在于權(quán)重的分析確定上，模糊綜合評(píng)價(jià)模型的優(yōu)點(diǎn)在于系統(tǒng)的評(píng)價(jià)模型，因此在評(píng)價(jià)的時(shí)候，只要將這兩者的優(yōu)點(diǎn)結(jié)合起來，就能夠得到很好的效果，因此設(shè)計(jì)了以下算法模型，能夠合理的對(duì)水質(zhì)進(jìn)行評(píng)價(jià)，為科學(xué)的采取污染防治措施提供依據(jù)。

Step1：網(wǎng)絡(luò)初始化。根據(jù)系統(tǒng)輸入輸出序列（X，Y）確定網(wǎng)絡(luò)輸入層節(jié)點(diǎn)數(shù)p、隱含輸入層節(jié)點(diǎn)數(shù)l，輸出層節(jié)點(diǎn)數(shù)q，初始化輸入層、隱含層和輸出層神經(jīng)元之間的連接權(quán)值α和β（α為初始權(quán)重，β為臨界值，均隨機(jī)設(shè)為較小的數(shù)）給定學(xué)習(xí)速率和神經(jīng)元[4][5]。

Step2：輸出計(jì)算。將已有的樣本數(shù)值加在網(wǎng)絡(luò)上，利用公式算出其輸出值：

Step3：調(diào)整權(quán)系數(shù)。根據(jù)網(wǎng)絡(luò)預(yù)測(cè)誤差，按已知輸出數(shù)據(jù)與上面算出的輸出數(shù)據(jù)之差，調(diào)整權(quán)重系數(shù)，其中調(diào)整量為：其中：因?yàn)殡[節(jié)點(diǎn)的輸出內(nèi)部抑制，利用反向推算可以得到：誤差值從輸出層反向推導(dǎo)得到。

Step4：對(duì)各層的權(quán)重系數(shù)進(jìn)行調(diào)整后，得到調(diào)整后的權(quán)

重為：

BP神經(jīng)網(wǎng)絡(luò)利用梯度下降算法，通過迭代運(yùn)算，不斷調(diào)整mij的數(shù)值，當(dāng)?shù)玫降妮敵稣`差小于所設(shè)定的閥值時(shí)，將認(rèn)為獲得的mijBP神經(jīng)網(wǎng)絡(luò)是合理的。而不斷迭代的方法相當(dāng)于對(duì)各類情況進(jìn)行調(diào)整，具有一定的學(xué)習(xí)記憶特征。

基金項(xiàng)目

國(guó)家自然科學(xué)基金青年基金（11201485）；徐州工程學(xué)院校青年項(xiàng)目（XKY2010201）。

參考文獻(xiàn)

[1]劉起霞，李清波，鄒劍峰.環(huán)境工程地質(zhì)[M].鄭州：黃河水利出版社，2001.

[2]孫會(huì)君，王新華.應(yīng)用人工神經(jīng)網(wǎng)絡(luò)確定評(píng)價(jià)指標(biāo)的權(quán)重[J].山東科技大學(xué)學(xué)報(bào)（自然科學(xué)版），2001，20（3）：84-86.

[3]萬金保，李媛媛.模糊綜合評(píng)價(jià)法在鄱陽湖水質(zhì)評(píng)價(jià)中的應(yīng)用[J].上海環(huán)境科學(xué)，2007，26（05）：215-218.

[4]金菊良，魏一鳴，丁晶.基于改進(jìn)層次分析法的模糊綜合評(píng)價(jià)模型[J].水利學(xué)報(bào)，2004（03）：65-70.

[5]郭慶春，何振芳，李力，等.BP人工神經(jīng)網(wǎng)絡(luò)模型在太湖水污染指標(biāo)預(yù)測(cè)中的應(yīng)用[J].南方農(nóng)業(yè)學(xué)報(bào)，2011，42（10）.

篇8

【關(guān)鍵詞】大學(xué)生身體素質(zhì)評(píng)估 遺傳算法 BP神經(jīng)網(wǎng)絡(luò) MATLAB計(jì)算程序

在校大學(xué)生是國(guó)家重要的人才后備力量，大學(xué)生的身體素質(zhì)培養(yǎng)和鍛煉是學(xué)校體育教學(xué)中關(guān)注的重點(diǎn)。對(duì)大學(xué)生身體素質(zhì)進(jìn)行科學(xué)、切實(shí)的評(píng)價(jià)可制訂更為有效的培養(yǎng)方案，幫助大學(xué)生提高其身體素質(zhì)。身體素質(zhì)評(píng)價(jià)就是將大學(xué)生的身體形態(tài)、生理機(jī)能及運(yùn)動(dòng)能力等方面的數(shù)據(jù)綜合起來進(jìn)行評(píng)價(jià)[1]。從以往的研究成果看，對(duì)大學(xué)生身體素質(zhì)評(píng)價(jià)集中于采用概率統(tǒng)計(jì)、多元回歸分析和神經(jīng)網(wǎng)絡(luò)[2]的方法。然而，概率統(tǒng)計(jì)僅得到整體評(píng)價(jià)結(jié)果，多元回歸分析預(yù)測(cè)精度較低，且兩者受樣本空間影響較大。為此，本文利用遺傳算法來訓(xùn)練初始網(wǎng)絡(luò)模型，再用BP算法來進(jìn)行精確求解，是對(duì)神經(jīng)網(wǎng)絡(luò)評(píng)估大學(xué)生身體素質(zhì)的進(jìn)一步優(yōu)化應(yīng)用。

基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)理論

通過把神經(jīng)網(wǎng)絡(luò)和遺傳算法合理、科學(xué)的結(jié)合，既能夠利用神經(jīng)網(wǎng)絡(luò)較強(qiáng)的學(xué)習(xí)能力，又發(fā)揮了遺傳算法全局尋優(yōu)的搜索功能。首先利用遺傳算法得到權(quán)值的較優(yōu)初始取值，訓(xùn)練網(wǎng)絡(luò)避免了局部極小，利用BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練次數(shù)和最終權(quán)值也相對(duì)穩(wěn)定，訓(xùn)練速度明顯加快，從而既節(jié)約了時(shí)間，又提高了預(yù)測(cè)結(jié)果的準(zhǔn)確性。

1.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

BP網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則采用最速下降法，利用遺傳算法根據(jù)訓(xùn)練目標(biāo)函數(shù)對(duì)網(wǎng)絡(luò)權(quán)值進(jìn)行迭代，找到最佳初始網(wǎng)絡(luò)權(quán)值。通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)權(quán)值，使網(wǎng)絡(luò)誤差平方和最小，該系統(tǒng)的網(wǎng)絡(luò)結(jié)構(gòu)，如圖1所示。先對(duì)大學(xué)生身體素質(zhì)的評(píng)估指標(biāo)進(jìn)行分類，抽取大學(xué)生身體素質(zhì)的特征指標(biāo)，并作為輸入信息送入由輸入層、中間層和輸出層組成的三層網(wǎng)絡(luò)模型進(jìn)行評(píng)估。經(jīng)過測(cè)試的網(wǎng)絡(luò)，成為穩(wěn)定的模式評(píng)估器，即可輸出評(píng)估結(jié)果[3，4]。

該模型的輸入層節(jié)點(diǎn)數(shù)為n，即大學(xué)生身體素質(zhì)評(píng)價(jià)指標(biāo)數(shù)，中間層節(jié)點(diǎn)數(shù)為 ，輸出層節(jié)點(diǎn)數(shù)為1，即身體素質(zhì)評(píng)估結(jié)果值，ωij和ωj為BP神經(jīng)網(wǎng)絡(luò)權(quán)值，初始化隱含層閾值為ɑ，輸出層閾值為b，由此可給定學(xué)習(xí)速率和神經(jīng)元激勵(lì)函數(shù)。從圖1可發(fā)現(xiàn)，BP神經(jīng)網(wǎng)絡(luò)可以看成一個(gè)非線性函數(shù)，網(wǎng)絡(luò)輸入值和輸出值分別為該函數(shù)的自變量和因變量。當(dāng)輸入層節(jié)點(diǎn)數(shù)為n，輸出層節(jié)點(diǎn)數(shù)為1時(shí)，BP神經(jīng)網(wǎng)絡(luò)就表達(dá)了從n個(gè)自變量到1個(gè)因變量的函數(shù)映射關(guān)系。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法

遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的核心是用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值，使優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)能夠更好地預(yù)測(cè)函數(shù)輸出，計(jì)算流程如圖2所示。

1.背景資料

根據(jù)本校某班2011年大學(xué)生身體素質(zhì)測(cè)評(píng)成績(jī)，從中選取30名學(xué)生的測(cè)試結(jié)果作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本和校驗(yàn)樣本。結(jié)合遺傳算法和BP神經(jīng)網(wǎng)絡(luò)算法，在大型數(shù)學(xué)計(jì)算軟件MATLAB中編程實(shí)現(xiàn)基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評(píng)估[4]。

2.計(jì)算結(jié)果與分析

遺傳算法優(yōu)化過程中最優(yōu)個(gè)體的適應(yīng)度變化（如圖3）。把最優(yōu)初始權(quán)值、閾值賦給神經(jīng)網(wǎng)絡(luò)，用訓(xùn)練數(shù)據(jù)訓(xùn)練100次后，得到基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)值。為了對(duì)比分析，也進(jìn)行了BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)分析（如圖4）。

從圖4可看出，采用BP神經(jīng)網(wǎng)絡(luò)及遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)兩種算法得到的預(yù)測(cè)結(jié)果，與專家判斷（實(shí)際值）基本一致。但基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)較BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度高。特別在輸入節(jié)點(diǎn)，即評(píng)價(jià)大學(xué)生身體素質(zhì)的指標(biāo)較多時(shí)，基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)效果要好一些。

結(jié) 論

1.本文提出了基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評(píng)價(jià)算法，并建立了相應(yīng)的網(wǎng)絡(luò)模型。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法不但具有神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近能力，而且應(yīng)用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值、閾值，可使優(yōu)化后的神經(jīng)網(wǎng)絡(luò)避免訓(xùn)練時(shí)間長(zhǎng)、易陷入局部極值的缺點(diǎn)。

3.結(jié)合實(shí)例，將基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評(píng)價(jià)算法，應(yīng)用于本校學(xué)生身體素質(zhì)評(píng)估。結(jié)果表明，該算法較BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度及效率高，可作為今后大學(xué)生身體素質(zhì)評(píng)價(jià)的一種新方法。

參考文獻(xiàn)：

[1]范正森，張明如，周瑞琪.大學(xué)生身體素質(zhì)綜合評(píng)價(jià)數(shù)學(xué)模型[J].武漢工業(yè)大學(xué)學(xué)報(bào)，2001，4：92-94.

[2]陳海英，郭巧.短跑運(yùn)動(dòng)能力的神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)方法[J].北京理工大學(xué)學(xué)報(bào)，2003，1：54-57.

[3]陳剛，何政偉，楊斌，楊洋.遺傳BP神經(jīng)網(wǎng)絡(luò)在泥石流危險(xiǎn)性評(píng)價(jià)中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用，2010，46（3）.

篇9

[關(guān)鍵詞]軟件項(xiàng)目風(fēng)險(xiǎn)管理神經(jīng)網(wǎng)絡(luò)粗集

本篇論文的中心是基于粗集的人工神經(jīng)網(wǎng)絡(luò)(ANN)技術(shù)的高風(fēng)險(xiǎn)識(shí)別，這樣在制定開發(fā)計(jì)劃中，最大的減少風(fēng)險(xiǎn)發(fā)生的概率，形成對(duì)高風(fēng)險(xiǎn)的管理。

一、模型結(jié)構(gòu)的建立

本文基于粗集的BP神經(jīng)網(wǎng)絡(luò)的風(fēng)險(xiǎn)分析模型,對(duì)項(xiàng)目的風(fēng)險(xiǎn)進(jìn)行評(píng)估,為項(xiàng)目進(jìn)行中的風(fēng)險(xiǎn)管理提供決策支持。在這個(gè)模型中主要是粗糙集預(yù)處理神經(jīng)網(wǎng)絡(luò)系統(tǒng)，即用RS理論對(duì)ANN輸入端的樣本約簡(jiǎn)，尋找屬性間關(guān)系，約簡(jiǎn)掉與決策無關(guān)的屬性。簡(jiǎn)化輸入信息的表達(dá)空間維數(shù)，簡(jiǎn)化ANN結(jié)構(gòu)。本論文在此理論基礎(chǔ)上，建立一種風(fēng)險(xiǎn)評(píng)估的模型結(jié)構(gòu)。這個(gè)模型由三部分組成即：風(fēng)險(xiǎn)辨識(shí)單元庫、神經(jīng)網(wǎng)絡(luò)單元、風(fēng)險(xiǎn)預(yù)警單元。

1.風(fēng)險(xiǎn)辨識(shí)單元庫。由三個(gè)部分功能組成：歷史數(shù)據(jù)的輸入，屬性約簡(jiǎn)和初始化數(shù)據(jù).這里用戶需提供歷史的項(xiàng)目風(fēng)險(xiǎn)系數(shù)。所謂項(xiàng)目風(fēng)險(xiǎn)系數(shù),是在項(xiàng)目評(píng)價(jià)中根據(jù)各種客觀定量指標(biāo)加權(quán)推算出的一種評(píng)價(jià)項(xiàng)目風(fēng)險(xiǎn)程度的客觀指標(biāo)。計(jì)算的方法:根據(jù)項(xiàng)目完成時(shí)間、項(xiàng)目費(fèi)用和效益投入比三個(gè)客觀指標(biāo),結(jié)合項(xiàng)目對(duì)各種資源的要求,確定三個(gè)指標(biāo)的權(quán)值。項(xiàng)目風(fēng)險(xiǎn)系數(shù)可以表述成:r=f(w1,w2,w3,T,T/T0,S/S0,U/U0),R<1；式中:r為風(fēng)險(xiǎn)系數(shù);T、T0分別為實(shí)際時(shí)間和計(jì)劃時(shí)間;S、S0分別為實(shí)際費(fèi)用和計(jì)劃費(fèi)用;U、U0分別為實(shí)際效能和預(yù)計(jì)效能;w1、w2、w3分別是時(shí)間、費(fèi)用和效能的加權(quán)系數(shù),而且應(yīng)滿足w1+w2+w3=1的條件。

2.神經(jīng)網(wǎng)絡(luò)單元。完成風(fēng)險(xiǎn)辨識(shí)單元的輸入后,神經(jīng)網(wǎng)絡(luò)單元需要先載入經(jīng)初始化的核心風(fēng)險(xiǎn)因素的歷史數(shù)據(jù),進(jìn)行網(wǎng)絡(luò)中權(quán)值的訓(xùn)練,可以得到輸入層與隱含層、隱含層與輸出層之間的權(quán)值和閥值。

(1)選取核心特征數(shù)據(jù)作為輸入，模式對(duì)xp=[xp1,xp2,.,xpn]T,dp(網(wǎng)絡(luò)期望輸出)提供給網(wǎng)絡(luò)。用輸入模式xp,連接權(quán)系數(shù)wij及閾值hj計(jì)算各隱含單元的輸出。

m

Ypj=1/{1+exp[-(∑wijxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,

i=1

(2)用隱含層輸出ypj,連接權(quán)系數(shù)wij及閾值h計(jì)算輸出單元的輸出

m

Yp=1/{1+exp[-(∑wjxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,

i=1

Yp=[y1,y2,……,yn]T

(3)比較已知輸出與計(jì)算輸出,計(jì)算下一次的隱含各層和輸出層之間新的連接權(quán)值及輸出神經(jīng)元閾值。

wj(k+1)=wj(k)+η(k)σpσpj+α[wj(k)-wj(k-1)]

h(k+1)=h(k)+η(k)σp+α[h(k)-h(k-1)]

η(k)=η0(1-t/(T+M))

η0是初始步長(zhǎng);t是學(xué)習(xí)次數(shù);T是總的迭代次數(shù);M是一個(gè)正數(shù),α∈(0,1)是動(dòng)量系數(shù)。σp是一個(gè)與偏差有關(guān)的值,對(duì)輸出結(jié)點(diǎn)來說；σp=yp(1-yp)(dp-yp)；對(duì)隱結(jié)點(diǎn)來說,因其輸出無法比較,所以經(jīng)過反向推算；σpj=ypj(1-ypj)(ypwj)(4)用σpj、xpj、wij和h計(jì)算下一次的輸入層和隱含層之間新的連接權(quán)值及隱含神經(jīng)元閾值。wij(k+1)=wij(k)+η(t)σpjxpi+α[wij(k)-wij(k-1)]

3.風(fēng)險(xiǎn)預(yù)警單元

根據(jù)風(fēng)險(xiǎn)評(píng)價(jià)系數(shù)的取值,可以將項(xiàng)目的風(fēng)險(xiǎn)狀況分為若干個(gè)區(qū)間。本文提出的劃分方法是按照5個(gè)區(qū)間來劃分的:

r<0.2項(xiàng)目的風(fēng)險(xiǎn)很低,損失發(fā)生的概率或者額度很小;

0.2≤r<0.4項(xiàng)目的風(fēng)險(xiǎn)較低,但仍存在一定風(fēng)險(xiǎn);

0.4≤r<0.6項(xiàng)目的風(fēng)險(xiǎn)處于中等水平,有出現(xiàn)重大損失的可能;

0.6≤r<0.8項(xiàng)目的風(fēng)險(xiǎn)較大,必須加強(qiáng)風(fēng)險(xiǎn)管理,采取避險(xiǎn)措施;

0.8≤r<1項(xiàng)目的風(fēng)險(xiǎn)極大,重大損失出現(xiàn)的概率很高,建議重新考慮對(duì)于項(xiàng)目的投資決策。

總之，有許多因素影響著項(xiàng)目風(fēng)險(xiǎn)的各個(gè)對(duì)象，我們使用了用戶評(píng)級(jí)的方式，從風(fēng)險(xiǎn)評(píng)估單元中獲得評(píng)價(jià)系數(shù)五個(gè)等級(jí)。給出各風(fēng)險(xiǎn)指標(biāo)的評(píng)價(jià)系數(shù)，衡量相關(guān)風(fēng)險(xiǎn)的大小。系數(shù)越低，項(xiàng)目風(fēng)險(xiǎn)越低；反之，系數(shù)越高，項(xiàng)目風(fēng)險(xiǎn)越高。

二、實(shí)證：以軟件開發(fā)風(fēng)險(xiǎn)因素為主要依據(jù)

這里我們從影響項(xiàng)目風(fēng)險(xiǎn)諸多因素中，經(jīng)項(xiàng)目風(fēng)險(xiǎn)系數(shù)計(jì)算，作出決策表，利用粗集約簡(jiǎn)，抽取出最核心的特征屬性(中間大量復(fù)雜的計(jì)算過程省略)?？偣渤槿〕隽鶄€(gè)主要的指標(biāo)(PersonnelManagement/Training，Schedule，ProductControl，Safety，ProjectOrganization，Communication)確定了6個(gè)輸入神經(jīng)元，根據(jù)需求網(wǎng)絡(luò)隱含層神經(jīng)元選為13個(gè)，一個(gè)取值在0到1的輸出三層神經(jīng)元的BP網(wǎng)絡(luò)結(jié)構(gòu)。將前十個(gè)季度的指標(biāo)數(shù)據(jù)作為訓(xùn)練樣本數(shù)據(jù)，對(duì)這些訓(xùn)練樣本進(jìn)行數(shù)值化和歸一化處理，給定學(xué)習(xí)率η=0.0001，動(dòng)量因子α=0.01，非線性函數(shù)參數(shù)β=1.05，誤差閉值ε=0.01，經(jīng)過多次迭代學(xué)習(xí)后訓(xùn)練次數(shù)N＝1800網(wǎng)絡(luò)趨于收斂，以確定神經(jīng)網(wǎng)絡(luò)的權(quán)值。最后將后二個(gè)季度的指標(biāo)數(shù)據(jù)作為測(cè)試數(shù)據(jù)，輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中，利用神經(jīng)網(wǎng)絡(luò)系統(tǒng)進(jìn)行識(shí)別和分類，以判斷軟件是否會(huì)發(fā)生危機(jī)。實(shí)驗(yàn)結(jié)果表明，使用神經(jīng)網(wǎng)絡(luò)方法進(jìn)行風(fēng)險(xiǎn)預(yù)警工作是有效的，運(yùn)用神經(jīng)網(wǎng)絡(luò)方法對(duì)后二個(gè)季度的指標(biāo)數(shù)據(jù)進(jìn)行處理和計(jì)算，最后神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出值為r=0.57和r=0.77，該軟件開發(fā)風(fēng)險(xiǎn)處于中等和較大狀態(tài)，與用專家效績(jī)?cè)u(píng)價(jià)方法評(píng)價(jià)出的結(jié)果基本吻合。

參考文獻(xiàn)：

[1]王國(guó)胤“Rough:集理論與知識(shí)獲取”[M].西安交通大學(xué)出版社，2001

篇10

關(guān)鍵詞 BP神經(jīng)網(wǎng)絡(luò);遺傳算法;教學(xué)質(zhì)量評(píng)價(jià)

中圖分類號(hào)TP18,G420 文獻(xiàn)標(biāo)識(shí)碼A 文章編號(hào) 1674-6708(2010)26-0184-01

1 基于遺傳算法的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法

1.1 GA-BP算法的概述

遺傳算法[1]從一組隨機(jī)產(chǎn)生的初始解(稱為群體)開始搜索過程,群體中的每個(gè)個(gè)體是問題的一個(gè)解,稱為染色體,這些染色體在后續(xù)迭代中不斷進(jìn)化,稱為遺傳。遺傳主要是通過選擇、交叉、變異、運(yùn)算生成下一代群體,就這樣經(jīng)過若干代進(jìn)化之后,算法收斂于最好的染色體,即為問題的最優(yōu)解。那么可以將遺傳算法引入BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,對(duì)權(quán)值的初始值進(jìn)行全局優(yōu)化,這樣可避免 BP神經(jīng)網(wǎng)絡(luò)陷入局部極小值,并提高其收斂速度[2,3]。

1.2 用遺傳算法學(xué)習(xí)和對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)值的優(yōu)化

為了方便理解,我們以基礎(chǔ)的三層BP神經(jīng)網(wǎng)絡(luò)來進(jìn)行說明。取WIHij為輸入層中第i個(gè)結(jié)點(diǎn)與隱含層第j個(gè)結(jié)點(diǎn)的連接權(quán)值;WHOji為隱含層中第j個(gè)結(jié)點(diǎn)與輸出層第i個(gè)結(jié)點(diǎn)的連接權(quán)值[4]。遺傳算法學(xué)習(xí)BP網(wǎng)絡(luò)的步驟如下:

1)初始化種群P,包括交叉規(guī)模、交叉概率pc、突變概率pm等,初始種群取60;

2)計(jì)算每一個(gè)個(gè)體評(píng)價(jià)函數(shù),并按權(quán)值將其排序。

3)以概率pc對(duì)個(gè)體Gi和Gi+1交叉操作產(chǎn)生新個(gè)體和無交叉操作的個(gè)體進(jìn)行直接復(fù)制;

4)利用概率pm突變產(chǎn)生Gj的新個(gè)體;

5)將新個(gè)體插入到種群P中,并計(jì)算新個(gè)體的評(píng)價(jià)函數(shù);

6)如果找到了滿意的個(gè)體,則結(jié)束,否則轉(zhuǎn)3)。

最后,將群體中的最優(yōu)個(gè)體解碼即可得到優(yōu)化后的網(wǎng)絡(luò)連接權(quán)系數(shù)。接下來則與神經(jīng)網(wǎng)絡(luò)的基本算法相同。

2 實(shí)例分析

算法效果測(cè)試

根據(jù)《正方教學(xué)管理系統(tǒng)教學(xué)質(zhì)量評(píng)價(jià)指標(biāo)》以及[5]中建立的評(píng)價(jià)指標(biāo)體系,我們選取10個(gè)二級(jí)指標(biāo)作為輸入神經(jīng)元,取輸入層的個(gè)數(shù)為10。而我們將教學(xué)質(zhì)量評(píng)價(jià)的等級(jí)分為3類:當(dāng)輸出為:{0,0,1}時(shí)為“優(yōu)秀”;當(dāng)輸入為{0,1,0}時(shí)為“良好”;當(dāng)輸入為{0,1,1}時(shí)為“良好”[6]。隱含層神經(jīng)元的個(gè)數(shù)6較為適宜。

用matlab進(jìn)行編程[2,7],經(jīng)過大約350代的搜索后其平均適應(yīng)度趨于穩(wěn)定,圖1為期網(wǎng)絡(luò)訓(xùn)練誤差變化曲線,經(jīng)過改進(jìn)的神經(jīng)網(wǎng)絡(luò)經(jīng)過9步迭代即可達(dá)到精度的要求,較之于基本的BP神經(jīng)網(wǎng)絡(luò)都有較大的改進(jìn)和提高。

回想結(jié)果TT為:

該結(jié)果基本接近實(shí)際的評(píng)價(jià)情況,其對(duì)應(yīng)的教師的評(píng)價(jià)為良好、優(yōu)秀、優(yōu)秀、一般、一般,可見其評(píng)價(jià)是比較準(zhǔn)確的。

從數(shù)據(jù)的結(jié)果上看,用GA訓(xùn)練的BP神經(jīng)網(wǎng)絡(luò)的權(quán)值可以得到滿意的結(jié)果,但因?yàn)楦倪M(jìn)后的算法會(huì)對(duì)大量的數(shù)據(jù)進(jìn)行編碼、解碼、交叉、變異等相關(guān)遺傳操作,所以,時(shí)間比普通BP算法的運(yùn)行時(shí)間要長(zhǎng)。

3 結(jié)論

將全局優(yōu)化算法GA引入BP 網(wǎng)絡(luò)訓(xùn)練的權(quán)值初始確定,充分發(fā)揮了遺傳算法的全局尋優(yōu)能力和 BP 算法的局部搜索優(yōu)勢(shì),形成了一種新的GA-BP算法。該算法能較好的避免BP算法陷入局部最小點(diǎn)、收斂速度慢的問題,是一種快速、可靠的方法。根據(jù)該算法建立了有效的教學(xué)質(zhì)量評(píng)價(jià)模型,檢驗(yàn)的結(jié)果表明該算法減少了誤差,完全可以滿足實(shí)際應(yīng)用的要求。

參考文獻(xiàn)

[1]史忠植.人工智能[M].北京:國(guó)防工業(yè)出版社,2007.

[2]田雨波.混合神經(jīng)網(wǎng)絡(luò)技術(shù)[M].北京:科學(xué)出版社,2009.

[3]盧宏,吳翠琴.BP神經(jīng)網(wǎng)絡(luò)的遺傳優(yōu)化及其應(yīng)用研究[J]. 江西理工大學(xué)學(xué)報(bào),2009,30(5):51-54.

[4]原清,賀新鋒,劉湘崇.遺傳算法和神經(jīng)網(wǎng)絡(luò)在導(dǎo)彈測(cè)試 設(shè)備故障診斷中的應(yīng)用研究[J].測(cè)試技術(shù)學(xué)報(bào),2002,16(21):702-706.

[5]彭志捌.模糊綜合評(píng)判在教學(xué)質(zhì)量評(píng)價(jià)中的應(yīng)用[J].高等 建筑教育學(xué)報(bào),2008,17(6):20-23.