bp神經網路有哪些優缺點

Ⅰ bp神經網路研究現狀

BP網路的誤差逆傳播演算法因有中間隱含層和相應的學習規則，使得它具有很
強的非線性映射能力，而且網路的中間層數、各層神經元個數及網路的學習系數
等參數可以根據實際情況設定，有很大的靈活性，且能夠識別含有雜訊的樣本，
經過學習能夠把樣本隱含的特徵和規則分布在神經網路的連接權上。總的說來，
BP網路的優點主要有：
(1)演算法推導清楚，學習精度較高；(2)經過訓練後的BP網路，運行速度很快，有
的可用於實時處理；(3)多層(至少三層)BP網路具有理論上逼近任意非線性連續
函數的能力，也就是說，可以使多層前饋神經網路學會任何可學習的東西，而信
息處理的大部分問題都能歸納為數學映射，通過選擇一定的非線性和連接強度調
節規律，BP網路就可解決任何一個信息處理的問題。目前，在手寫字體的識別、
語音識別、文本一語言轉換、圖像識別以及生物醫學信號處理方面已有實際的應
用。
同時BP演算法與其它演算法一樣，也存在自身的缺陷：
(1)由於該演算法採用誤差導數指導學習過程，在存在較多局部極小點的情況下容易陷入局部極小點，不能保證收斂到全局最小點：(2)存在學習速度與精度之間的矛盾，當學習速度較快時，學習過程容易產生振盪，難以得到精確結果，而當學習速度較慢時，雖然結果的精度較高，但學習周期太長：(3)演算法學習收斂速度慢；(4)網路學習記憶具有不穩定性，即當給一個訓練好的網路提供新的學習記憶模式時，將使已有的連接權值打亂，導致已記憶的學習模式的信息消失；(5)網路中間層(隱含層)的層數及它的單元數的選取無理論上的指導，而是根據經驗確定，因此網路的設計有時不一定是最佳的方案。

Ⅱ bp神經網路

BP（Back Propagation）網路是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆傳播演算法訓練的多層前饋網路，是目前應用最廣泛的神經網路模型之一。BP網路能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法，通過反向傳播來不斷調整網路的權值和閾值，使網路的誤差平方和最小。BP神經網路模型拓撲結構包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。
人工神經網路就是模擬人思維的第二種方式。這是一個非線性動力學系統，其特色在於信息的分布式存儲和並行協同處理。雖然單個神經元的結構極其簡單，功能有限，但大量神經元構成的網路系統所能實現的行為卻是極其豐富多彩的。

人工神經網路首先要以一定的學習准則進行學習，然後才能工作。現以人工神經網路對手寫「A」、「B」兩個字母的識別為例進行說明，規定當「A」輸入網路時，應該輸出「1」，而當輸入為「B」時，輸出為「0」。

所以網路學習的准則應該是：如果網路作出錯誤的的判決，則通過網路的學習，應使得網路減少下次犯同樣錯誤的可能性。首先，給網路的各連接權值賦予(0，1)區間內的隨機值，將「A」所對應的圖象模式輸入給網路，網路將輸入模式加權求和、與門限比較、再進行非線性運算，得到網路的輸出。在此情況下，網路輸出為「1」和「0」的概率各為50%，也就是說是完全隨機的。這時如果輸出為「1」(結果正確)，則使連接權值增大，以便使網路再次遇到「A」模式輸入時，仍然能作出正確的判斷。

如果輸出為「0」(即結果錯誤)，則把網路連接權值朝著減小綜合輸入加權值的方向調整，其目的在於使網路下次再遇到「A」模式輸入時，減小犯同樣錯誤的可能性。如此操作調整，當給網路輪番輸入若干個手寫字母「A」、「B」後，經過網路按以上學習方法進行若干次學習後，網路判斷的正確率將大大提高。這說明網路對這兩個模式的學習已經獲得了成功，它已將這兩個模式分布地記憶在網路的各個連接權值上。當網路再次遇到其中任何一個模式時，能夠作出迅速、准確的判斷和識別。一般說來，網路中所含的神經元個數越多，則它能記憶、識別的模式也就越多。

如圖所示拓撲結構的單隱層前饋網路，一般稱為三層前饋網或三層感知器，即：輸入層、中間層（也稱隱層）和輸出層。它的特點是：各層神經元僅與相鄰層神經元之間相互全連接，同層內神經元之間無連接，各層神經元之間無反饋連接，構成具有層次結構的前饋型神經網路系統。單計算層前饋神經網路只能求解線性可分問題，能夠求解非線性問題的網路必須是具有隱層的多層神經網路。
神經網路的研究內容相當廣泛，反映了多學科交叉技術領域的特點。主要的研究工作集中在以下幾個方面：

（1）生物原型研究。從生理學、心理學、解剖學、腦科學、病理學等生物科學方面研究神經細胞、神經網路、神經系統的生物原型結構及其功能機理。

（2）建立理論模型。根據生物原型的研究，建立神經元、神經網路的理論模型。其中包括概念模型、知識模型、物理化學模型、數學模型等。

（3）網路模型與演算法研究。在理論模型研究的基礎上構作具體的神經網路模型，以實現計算機模擬或准備製作硬體，包括網路學習演算法的研究。這方面的工作也稱為技術模型研究。

（4）人工神經網路應用系統。在網路模型與演算法研究的基礎上，利用人工神經網路組成實際的應用系統，例如，完成某種信號處理或模式識別的功能、構作專家系統、製成機器人等等。

縱觀當代新興科學技術的發展歷史，人類在征服宇宙空間、基本粒子，生命起源等科學技術領域的進程中歷經了崎嶇不平的道路。我們也會看到，探索人腦功能和神經網路的研究將伴隨著重重困難的克服而日新月異。
神經網路可以用作分類、聚類、預測等。神經網路需要有一定量的歷史數據，通過歷史數據的訓練，網路可以學習到數據中隱含的知識。在你的問題中，首先要找到某些問題的一些特徵，以及對應的評價數據，用這些數據來訓練神經網路。

雖然BP網路得到了廣泛的應用，但自身也存在一些缺陷和不足，主要包括以下幾個方面的問題。

首先，由於學習速率是固定的，因此網路的收斂速度慢，需要較長的訓練時間。對於一些復雜問題，BP演算法需要的訓練時間可能非常長，這主要是由於學習速率太小造成的，可採用變化的學習速率或自適應的學習速率加以改進。

其次，BP演算法可以使權值收斂到某個值，但並不保證其為誤差平面的全局最小值，這是因為採用梯度下降法可能產生一個局部最小值。對於這個問題，可以採用附加動量法來解決。

再次，網路隱含層的層數和單元數的選擇尚無理論上的指導，一般是根據經驗或者通過反復實驗確定。因此，網路往往存在很大的冗餘性，在一定程度上也增加了網路學習的負擔。

最後，網路的學習和記憶具有不穩定性。也就是說，如果增加了學習樣本，訓練好的網路就需要從頭開始訓練，對於以前的權值和閾值是沒有記憶的。但是可以將預測、分類或聚類做的比較好的權值保存。

Ⅲ 前饋神經網路、BP神經網路、卷積神經網路的區別與聯系

一、計算方法不同

1、前饋神經網路：一種最簡單的神經網路，各神經元分層排列。每個神經元只與前一層的神經元相連。接收前一層的輸出，並輸出給下一層．各層間沒有反饋。

2、BP神經網路：是一種按照誤差逆向傳播演算法訓練的多層前饋神經網路。

3、卷積神經網路：包含卷積計算且具有深度結構的前饋神經網路。

二、用途不同

1、前饋神經網路：主要應用包括感知器網路、BP網路和RBF網路。

2、BP神經網路：

（1）函數逼近：用輸入向量和相應的輸出向量訓練一個網路逼近一個函數；

（2）模式識別：用一個待定的輸出向量將它與輸入向量聯系起來；

（3）分類：把輸入向量所定義的合適方式進行分類；

（4）數據壓縮：減少輸出向量維數以便於傳輸或存儲。

3、卷積神經網路：可應用於圖像識別、物體識別等計算機視覺、自然語言處理、物理學和遙感科學等領域。

聯系：

BP神經網路和卷積神經網路都屬於前饋神經網路，三者都屬於人工神經網路。因此，三者原理和結構相同。

三、作用不同

1、前饋神經網路：結構簡單，應用廣泛，能夠以任意精度逼近任意連續函數及平方可積函數．而且可以精確實現任意有限訓練樣本集。

2、BP神經網路：具有很強的非線性映射能力和柔性的網路結構。網路的中間層數、各層的神經元個數可根據具體情況任意設定，並且隨著結構的差異其性能也有所不同。

3、卷積神經網路：具有表徵學習能力，能夠按其階層結構對輸入信息進行平移不變分類。

(3)bp神經網路有哪些優缺點擴展閱讀：

1、BP神經網路優劣勢

BP神經網路無論在網路理論還是在性能方面已比較成熟。其突出優點就是具有很強的非線性映射能力和柔性的網路結構。網路的中間層數、各層的神經元個數可根據具體情況任意設定，並且隨著結構的差異其性能也有所不同。但是BP神經網路也存在以下的一些主要缺陷。

①學習速度慢，即使是一個簡單的問題，一般也需要幾百次甚至上千次的學習才能收斂。

②容易陷入局部極小值。

③網路層數、神經元個數的選擇沒有相應的理論指導。

④網路推廣能力有限。

2、人工神經網路的特點和優越性，主要表現在以下三個方面

①具有自學習功能。例如實現圖像識別時，只在先把許多不同的圖像樣板和對應的應識別的結果輸入人工神經網路，網路就會通過自學習功能，慢慢學會識別類似的圖像。自學習功能對於預測有特別重要的意義。預期未來的人工神經網路計算機將為人類提供經濟預測、效益預測，其應用前途是很遠大的。

②具有聯想存儲功能。用人工神經網路的反饋網路就可以實現這種聯想。

③具有高速尋找優化解的能力。尋找一個復雜問題的優化解，往往需要很大的計算量，利用一個針對某問題而設計的反饋型人工神經網路，發揮計算機的高速運算能力，可能很快找到優化解。

Ⅳ bp神經網路的缺點

1)局部極小化問題：從數學角度看，傳統的BP神經網路為一種局部搜索的優化方法，它要解決的是一個復雜非線性化問題，網路的權值是通過沿局部改善的方向逐漸進行調整的，這樣會使演算法陷入局部極值，權值收斂到局部極小點，從而導致網路訓練失敗。加上BP神經網路對初始網路權重非常敏感，以不同的權重初始化網路，其往往會收斂於不同的局部極小，這也是很多學者每次訓練得到不同結果的根本原因。
2)BP神經網路演算法的收斂速度慢：由於BP神經網路演算法本質上為梯度下降法，它所要優化的目標函數是非常復雜的，因此，必然會出現「鋸齒形現象」，這使得BP演算法低效；又由於優化的目標函數很復雜，它必然會在神經元輸出接近0或1的情況下，出現一些平坦區，在這些區域內，權值誤差改變很小，使訓練過程幾乎停頓。
3)BP神經網路結構選擇不一：BP神經網路結構的選擇至今尚無一種統一而完整的理論指導，一般只能由經驗選定。網路結構選擇過大，訓練中效率不高，可能出現過擬合現象，造成網路性能低，容錯性下降，若選擇過小，則又會造成網路可能不收斂。而網路的結構直接影響網路的逼近能力及推廣性質。因此，應用中如何選擇合適的網路結構是一個重要的問題。
4)應用實例與網路規模的矛盾問題：BP神經網路難以解決應用問題的實例規模和網路規模間的矛盾問題，其涉及到網路容量的可能性與可行性的關系問題，即學習復雜性問題。
5)BP神經網路預測能力和訓練能力的矛盾問題：預測能力也稱泛化能力或者推廣能力，而訓練能力也稱逼近能力或者學習能力。一般情況下，訓練能力差時，預測能力也差。

Ⅳ 感知機、自適應線性網路、bp網路及hopfeild網路的主要區別。

感知機是最簡單的神經網路，只有輸入層和輸出層。
hopfeild網路是 節點兩兩連接的網路。
BP網路和徑向基神經網路結構都具有隱層；
BP網路和徑向基神經網路結構（GRBF）的區別

BP網路用於函數逼近時，權值的調節採用的是負梯度下降法，這種調節權值 的方法有它的局限性，既存在著收斂速度慢和局部極小等缺點。而徑向基神經網路在逼近能力、分類能力和學習速度等方面均優於BO網路。
從理論上講，RBF網路和BP網路一樣可近似任何的連續非線形函數，兩者的主要差別在於各使用不同的作用函數，BP網路中的隱層節點使用的是Sigmoid函數，其函數值在輸入空間中無限大的范圍內為非零值，而RBF網路的作用函數則是局部的。

Ⅵ 人工神經網路評價法

人工神經元是人工神經網路的基本處理單元，而人工智慧的一個重要組成部分又是人工神經網路。人工神經網路是模擬生物神經元系統的數學模型，接受信息主要是通過神經元來進行的。首先，人工神經元利用連接強度將產生的信號擴大；然後，接收到所有與之相連的神經元輸出的加權累積；最後，將神經元與加權總和一一比較，當比閾值大時，則激活人工神經元，信號被輸送至與它連接的上一層的神經元，反之則不行。

人工神經網路的一個重要模型就是反向傳播模型(Back-Propagation Model)(簡稱BP模型)。對於一個擁有n個輸入節點、m個輸出節點的反向傳播網路，可將輸入到輸出的關系看作n維空間到m維空間的映射。由於網路中含有大量非線性節點，所以可具有高度非線性。

(一)神經網路評價法的步驟

利用神經網路對復墾潛力進行評價的目的就是對某個指標的輸入產生一個預期的評價結果，在此過程中需要對網路的連接弧權值進行不斷的調整。

(1)初始化所有連接弧的權值。為了保證網路不會出現飽和及反常的情況，一般將其設置為較小的隨機數。

(2)在網路中輸入一組訓練數據，並對網路的輸出值進行計算。

(3)對期望值與輸出值之間的偏差進行計算，再從輸出層逆向計算到第一隱含層，調整各條弧的權值，使其往減少該偏差的方向發展。

(4)重復以上幾個步驟，對訓練集中的各組訓練數據反復計算，直至二者的偏差達到能夠被認可的程度為止。

(二)人工神經網路模型的建立

(1)確定輸入層個數。根據評價對象的實際情況，輸入層的個數就是所選擇的評價指標數。

(2)確定隱含層數。通常最為理想的神經網路只具有一個隱含層，輸入的信號能夠被隱含節點分離，然後組合成新的向量，其運算快速，可讓復雜的事物簡單化，減少不必要的麻煩。

(3)確定隱含層節點數。按照經驗公式：

災害損毀土地復墾

式中：j——隱含層的個數；

n——輸入層的個數；

m——輸出層的個數。

人工神經網路模型結構如圖5-2。

圖5-2人工神經網路結構圖(據周麗暉，2004)

(三)人工神經網路的計算

輸入被評價對象的指標信息(X₁，X₂，X₃，…，X_n)，計算實際輸出值Y_j。

災害損毀土地復墾

比較已知輸出與計算輸出，修改K層節點的權值和閾值。

災害損毀土地復墾

式中：w_ij——K-1層結點j的連接權值和閾值；

η——系數(0＜η＜1)；

X_i——結點i的輸出。

輸出結果：

C_j＝y_j(1-y_j)(d_j-y_j) (5-21)

式中：y_j——結點j的實際輸出值；

d_j——結點j的期望輸出值。因為無法對隱含結點的輸出進行比較，可推算出：

災害損毀土地復墾

式中：X_j——結點j的實際輸出值。

它是一個輪番代替的過程，每次的迭代都將W值調整，這樣經過反復更替，直到計算輸出值與期望輸出值的偏差在允許值范圍內才能停止。

利用人工神經網路法對復墾潛力進行評價，實際上就是將土地復墾影響評價因子與復墾潛力之間的映射關系建立起來。只要選擇的網路結構合適，利用人工神經網路函數的逼近性，就能無限接近上述映射關系，所以採用人工神經網路法進行災毀土地復墾潛力評價是適宜的。

(四)人工神經網路方法的優缺點

人工神經網路方法與其他方法相比具有如下優點：

(1)它是利用最優訓練原則進行重復計算，不停地調試神經網路結構，直至得到一個相對穩定的結果。所以，採取此方法進行復墾潛力評價可以消除很多人為主觀因素，保證了復墾潛力評價結果的真實性和客觀性。

(2)得到的評價結果誤差相對較小，通過反復迭代減少系統誤差，可滿足任何精度要求。

(3)動態性好，通過增加參比樣本的數量和隨著時間不斷推移，能夠實現動態追蹤比較和更深層次的學習。

(4)它以非線性函數為基礎，與復雜的非線性動態經濟系統更貼近，能夠更加真實、更為准確地反映出災毀土地復墾潛力，比傳統評價方法更適用。

但是人工神經網路也存在一定的不足：

(1)人工神經網路演算法是採取最優化演算法，通過迭代計算對連接各神經元之間的權值不斷地調整，直到達到全局最優化。但誤差曲面相當復雜，在計算過程中一不小心就會使神經網路陷入局部最小點。

(2)誤差通過輸出層逆向傳播，隱含層越多，逆向傳播偏差在接近輸入層時就越不準確，評價效率在一定程度上也受到影響，收斂速度不及時的情況就容易出現，從而造成個別區域的復墾潛力評價結果出現偏離。

Ⅶ bp神經網路對輸入數據和輸出數據有什麼要求

p神經網路的輸入數據越多越好，輸出數據需乎衫要反映網路的聯想記憶和預測能力。

BP網路能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法，通過反向傳播來不斷調整網路的權值和閾值，使網路的誤差平方和最小。

BP神經網路模型拓輪態撲結構包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。BP網路具有高度非線性和較強的泛化能力，但也存在收斂速度慢、迭代步數多、易於陷入局部極小和全局搜索能力差等缺點。

(7)bp神經網路有哪些優缺點擴展閱讀：

BP演算法主要思想是：輸入學習樣本，使用反向傳播演算法對網路的權值和偏差進行反復的調整訓練，使輸出的向量與期望向量盡可能地接近，當網路歲桐腔輸出層的誤差平方和小於指定的誤差時訓練完成，保存網路的權值和偏差。

1、初始化，隨機給定各連接權及閥值。

2、由給定的輸入輸出模式對計算隱層、輸出層各單元輸出

3、計算新的連接權及閥值，計算公式如下：

4、選取下一個輸入模式對返回第2步反復訓練直到網路設輸出誤差達到要求結束訓練。