Ⅰ 人工智慧神經網路論文
隨著科學技術的發展，人工神經網路技術得到了空前的發展，並且在諸多領域得到了廣泛的應用，為人工智慧化的發展提供了強大的動力。以下是我整理分享的人工智慧神經網路論文的相關資料，歡迎閱讀!
人工神經網路的發展及應用
摘要隨著科學技術的發展，人工神經網路技術得到了空前的發展，並且在諸多領域得到了廣泛的應用，為人工智慧化的發展提供了強大的動力。人工神經網路的發展經歷了不同的階段，是人工智慧的重要組成部分，並且在發展過程中形成了自身獨特的特點。文章對人工神經網路的發展歷程進行回顧，並對其在各個領域的應用情況進行探討。
關鍵詞人工神經網路;發展;應用
隨著科學技術的發展，各個行業和領域都在進行人工智慧化的研究工作，已經成為專家學者研究的熱點。人工神經網路就是在人工智慧基礎上發展而來的重要分支，對人工智慧的發展具有重要的促進作用。人工神經網路從形成之初發展至今，經歷了不同的發展階段，並且在經濟、生物、醫學等領域得到了廣泛的應用，解決了許多技術上的難題。
1人工神經網路概述
關於人工神經網路，到目前為止還沒有一個得到廣泛認可的統一定義，綜合各專家學者的觀點可以將人工神經網路簡單的概括為是模仿人腦的結構和功能的計算機信息處理系統[1]。人工神經網路具有自身的發展特性，其具有很強的並行結構以及並行處理的能力，在實時和動態控制時能夠起到很好的作用;人工神經網路具有非線性映射的特性，對處理非線性控制的問題時能給予一定的幫助;人工神經網路可以通過訓練掌握數據歸納和處理的能力，因此在數學模型等難以處理時對問題進行解決;人工神經網路的適應性和集成性很強，能夠適應不同規模的信息處理和大規模集成數據的處理與控制;人工神經網路不但在軟體技術上比較成熟，而且近年來在硬體方面也得到了較大發展，提高了人工神經網路系統的信息處理能力。
2人工神經網路的發展歷程
2.1 萌芽時期
在20世紀40年代，生物學家McCulloch與數學家Pitts共同發表文章，第一次提出了關於神經元的模型M-P模型，這一理論的提出為神經網路模型的研究和開發奠定了基礎，在此基礎上人工神經網路研究逐漸展開。1951年，心理學家Hebb提出了關於連接權數值強化的法則，為神經網路的學習功能開發進行了鋪墊。之後生物學家Eccles通過實驗證實了突觸的真實分流，為神經網路研究突觸的模擬功能提供了真實的模型基礎以及生物學的依據[2]。隨後，出現了能夠模擬行為以及條件反射的處理機和自適應線性網路模型，提高了人工神經網路的速度和精準度。這一系列研究成果的出現為人工神經網路的形成和發展提供了可能。
2.2 低谷時期
在人工神經網路形成的初期，人們只是熱衷於對它的研究，卻對其自身的局限進行了忽視。Minskyh和Papert通過多年對神經網路的研究，在1969年對之前所取得的研究成果提出了質疑，認為當前研究出的神經網路只合適處理比較簡單的線性問題，對於非線性問題以及多層網路問題卻無法解決。由於他們的質疑，使神經網路的發展進入了低谷時期，但是在這一時期，專家和學者也並沒有停止對神經網路的研究，針對他們的質疑也得出一些相應的研究成果。
2.3 復興時期
美國的物理學家Hopfield在1982年提出了新的神經網路模型，並通過實驗證明在滿足一定的條件時，神經網路是能夠達到穩定的狀態的。通過他的研究和帶動，眾多專家學者又重新開始了對人工神經網路方面的研究，推動了神經網路的再一次發展[3]。經過專家學者的不斷努力，提出了各種不同的人工神經網路的模型，神經網路理論研究不斷深化，新的理論和方法層出不窮，使神經網路的研究和應用進入了一個嶄新的時期。
2.4 穩步發展時期
隨著人工神經網路研究在世界范圍內的再次興起，我國也迎來了相關理論研究的熱潮，在人工神經網路和計算機技術方面取得了突破性的進展。到20世紀90年代時，國內對於神經網路領域的研究得到了進一步的完善和發展，而且能夠利用神經網路對非線性的系統控制問題進行解決，研究成果顯著。隨著各類人工神經網路的相關刊物的創建和相關學術會議的召開，我國人工神經網路的研究和應用條件逐步改善，得到了國際的關注。
隨著人工神經網路的穩步發展，逐漸建立了光學神經網路系統，利用光學的強大功能，提高了人工神經網路的學習能力和自適應能力。對非線性動態系統的控制問題，採取有效措施，提高超平面的光滑性，對其精度進行改進。之後有專家提出了關於人工神經網路的抽取演算法，雖然保證了精度，但也加大了消耗，在一定程度上降低了神經網路的效率，因此在此基礎上又提出了改進演算法FERNN。混沌神經網路的發展也得到了相應的進步，提高了神經網路的泛化能力。
3人工神經網路的應用
3.1 在信息領域中的應用
人工神經網路在信息領域中的應用主要體現在信息處理和模式識別兩個方面。由於科技的發展，當代信息處理工作越來越復雜，利用人工神經網路系統可以對人的思維進行模仿甚至是替代，面對問題自動診斷和解決，能夠輕松解決許多傳統方法無法解決的問題，在軍事信息處理中的應用極為廣泛[4]。模式識別是對事物表象的各種信息進行整理和分析，對事物進行辨別和解釋的一個過程，這樣對信息進行處理的過程與人類大腦的思維方式很相像。模式識別的方法可以分為兩種，一種是統計模式識別，還有一種是結構模式識別，在語音識別和指紋識別等方面得到了廣泛的應用。
3.2 在醫學領域的應用
人工神經網路對於非線性問題處理十分有效，而人體的構成和疾病形成的原因十分復雜，具有不可預測性，在生物信號的表現形式和變化規律上也很難掌握，信息檢測和分析等諸多方面都存在著復雜的非線性聯系，所以應用人工神經網路決解這些非線性問題具有特殊意義[5]。目前，在醫學領域中的應用涉及到理論和臨床的各個方面，最主要的是生物信號的檢測和自動分析以及專家系統等方面的應用。
3.3 在經濟領域中的應用
經濟領域中的商品價格、供需關系、風險系數等方面的信息構成也十分復雜且變幻莫測，人工神經網路可以對不完整的信息以及模糊不確定的信息進行簡單明了的處理，與傳統的經濟統計方法相比具有其無法比擬的優勢，數據分析的穩定性和可靠性更強。
3.4 在其他領域的應用
人工神經網路在控制領域、交通領域、心理學領域等方面都有很廣泛的應用，能夠對高難度的非線性問題進行處理，對交通運輸方面進行集成式的管理，以其高適應性和優秀的模擬性能解決了許多傳統方法無法解決的問題，促進了各個領域的快速發展。
4總結
隨著科技的發展，人工智慧系統將進入更加高級的發展階段，人工神經網路也將得到更快的發展和更加廣泛的應用。人工神經網路也許無法完全對人腦進行取代，但是其特有的非線性信息處理能力解決了許多人工無法解決的問題，在智能系統的各個領域中得到成功應用，今後的發展趨勢將向著更加智能和集成的方向發展。
參考文獻
[1]徐用懋，馮恩波.人工神經網路的發展及其在控制中的應用[J].化工進展，1993(5)：8-12，20.
[2]湯素麗，羅宇鋒.人工神經網路技術的發展與應用[J].電腦開發與應用，2009(10)：59-61.
[3]李會玲，柴秋燕.人工神經網路與神經網路控制的發展及展望[J].邢台職業技術學院學報，2009(5)：44-46.
[4]過效傑，祝彥知.人工神經網路的發展及其在岩土工程領域研究現狀[J].河南水利，2004(1)：22-23.
[5]崔永華.基於人工神經網路的河流匯流預報模型及應用研究[D].鄭州大學，2006.
下一頁分享更優秀的<<<人工智慧神經網路論文
Ⅱ 人工神經網路綜述
文章主要分為：
一、人工神經網路的概念；
二、人工神經網路的發展歷史；
三、人工神經網路的特點；
四、人工神經網路的結構。
。。
人工神經網路（Artificial Neural Network，ANN）簡稱神經網路(NN)，是基於生物學中神經網路的基本原理，在理解和抽象了人腦結構和外界刺激響應機制後，以網路拓撲知識為理論基礎，模擬人腦的神經系統對復雜信息的處理機制的一種數學模型。該模型以並行分布的處理能力、高容錯性、智能化和自學習等能力為特徵，將信息的加工和存儲結合在一起，以其獨特的知識表示方式和智能化的自適應學習能力，引起各學科領域的關注。它實際上是一個有大量簡單元件相互連接而成的復雜網路，具有高度的非線性，能夠進行復雜的邏輯操作和非線性關系實現的系統。
神經網路是一種運算模型，由大量的節點（或稱神經元）之間相互聯接構成。每個節點代表一種特定的輸出函數，稱為激活函數（activation function）。每兩個節點間的連接都代表一個對於通過該連接信號的加權值，稱之為權重（weight），神經網路就是通過這種方式來模擬人類的記憶。網路的輸出則取決於網路的結構、網路的連接方式、權重和激活函數。而網路自身通常都是對自然界某種演算法或者函數的逼近，也可能是對一種邏輯策略的表達。神經網路的構築理念是受到生物的神經網路運作啟發而產生的。人工神經網路則是把對生物神經網路的認識與數學統計模型相結合，藉助數學統計工具來實現。另一方面在人工智慧學的人工感知領域，我們通過數學統計學的方法，使神經網路能夠具備類似於人的決定能力和簡單的判斷能力，這種方法是對傳統邏輯學演算的進一步延伸。
人工神經網路中，神經元處理單元可表示不同的對象，例如特徵、字母、概念，或者一些有意義的抽象模式。網路中處理單元的類型分為三類：輸入單元、輸出單元和隱單元。輸入單元接受外部世界的信號與數據；輸出單元實現系統處理結果的輸出；隱單元是處在輸入和輸出單元之間，不能由系統外部觀察的單元。神經元間的連接權值反映了單元間的連接強度，信息的表示和處理體現在網路處理單元的連接關系中。人工神經網路是一種非程序化、適應性、大腦風格的信息處理，其本質是通過網路的變換和動力學行為得到一種並行分布式的信息處理功能，並在不同程度和層次上模仿人腦神經系統的信息處理功能。
神經網路，是一種應用類似於大腦神經突觸連接結構進行信息處理的數學模型，它是在人類對自身大腦組織結合和思維機制的認識理解基礎之上模擬出來的，它是根植於神經科學、數學、思維科學、人工智慧、統計學、物理學、計算機科學以及工程科學的一門技術。
在介紹神經網路的發展歷史之前，首先介紹一下神經網路的概念。神經網路主要是指一種仿造人腦設計的簡化的計算模型，這種模型中包含了大量的用於計算的神經元，這些神經元之間會通過一些帶有權重的連邊以一種層次化的方式組織在一起。每一層的神經元之間可以進行大規模的並行計算，層與層之間進行消息的傳遞。
下圖展示了整個神經網路的發展歷程：
神經網路的發展有悠久的歷史。其發展過程大致可以概括為如下4個階段。
(1)、M-P神經網路模型：20世紀40年代，人們就開始了對神經網路的研究。1943 年，美國心理學家麥克洛奇（Mcculloch）和數學家皮茲（Pitts）提出了M-P模型，此模型比較簡單，但是意義重大。在模型中，通過把神經元看作個功能邏輯器件來實現演算法，從此開創了神經網路模型的理論研究。
(2)、Hebb規則：1949 年，心理學家赫布（Hebb）出版了《The Organization of Behavior》（行為組織學），他在書中提出了突觸連接強度可變的假設。這個假設認為學習過程最終發生在神經元之間的突觸部位，突觸的連接強度隨之突觸前後神經元的活動而變化。這一假設發展成為後來神經網路中非常著名的Hebb規則。這一法則告訴人們，神經元之間突觸的聯系強度是可變的，這種可變性是學習和記憶的基礎。Hebb法則為構造有學習功能的神經網路模型奠定了基礎。
(3)、感知器模型：1957 年，羅森勃拉特（Rosenblatt）以M-P 模型為基礎，提出了感知器（Perceptron）模型。感知器模型具有現代神經網路的基本原則，並且它的結構非常符合神經生理學。這是一個具有連續可調權值矢量的MP神經網路模型，經過訓練可以達到對一定的輸入矢量模式進行分類和識別的目的，它雖然比較簡單，卻是第一個真正意義上的神經網路。Rosenblatt 證明了兩層感知器能夠對輸入進行分類，他還提出了帶隱層處理元件的三層感知器這一重要的研究方向。Rosenblatt 的神經網路模型包含了一些現代神經計算機的基本原理，從而形成神經網路方法和技術的重大突破。
(4)、ADALINE網路模型： 1959年，美國著名工程師威德羅（B.Widrow）和霍夫（M.Hoff）等人提出了自適應線性元件(Adaptive linear element，簡稱Adaline)和Widrow-Hoff學習規則（又稱最小均方差演算法或稱δ規則）的神經網路訓練方法，並將其應用於實際工程，成為第一個用於解決實際問題的人工神經網路，促進了神經網路的研究應用和發展。ADALINE網路模型是一種連續取值的自適應線性神經元網路模型，可以用於自適應系統。
人工智慧的創始人之一Minsky和Papert對以感知器為代表的網路系統的功能及局限性從數學上做了深入研究，於1969年發表了轟動一時《Perceptrons》一書，指出簡單的線性感知器的功能是有限的，它無法解決線性不可分的兩類樣本的分類問題，如簡單的線性感知器不可能實現「異或」的邏輯關系等。這一論斷給當時人工神經元網路的研究帶來沉重的打擊。開始了神經網路發展史上長達10年的低潮期。
(1)、自組織神經網路SOM模型：1972年，芬蘭的KohonenT.教授，提出了自組織神經網路SOM(Self-Organizing feature map)。後來的神經網路主要是根據KohonenT.的工作來實現的。SOM網路是一類無導師學習網路，主要用於模式識別﹑語音識別及分類問題。它採用一種「勝者為王」的競爭學習演算法，與先前提出的感知器有很大的不同，同時它的學習訓練方式是無指導訓練，是一種自組織網路。這種學習訓練方式往往是在不知道有哪些分類類型存在時，用作提取分類信息的一種訓練。
(2)、自適應共振理論ART：1976年，美國Grossberg教授提出了著名的自適應共振理論ART(Adaptive Resonance Theory)，其學習過程具有自組織和自穩定的特徵。
(1)、Hopfield模型：1982年，美國物理學家霍普菲爾德（Hopfield）提出了一種離散神經網路，即離散Hopfield網路，從而有力地推動了神經網路的研究。在網路中，它首次將李雅普諾夫（Lyapunov）函數引入其中，後來的研究學者也將Lyapunov函數稱為能量函數。證明了網路的穩定性。1984年，Hopfield 又提出了一種連續神經網路，將網路中神經元的激活函數由離散型改為連續型。1985 年，Hopfield和Tank利用Hopfield神經網路解決了著名的旅行推銷商問題（Travelling Salesman Problem）。Hopfield神經網路是一組非線性微分方程。Hopfield的模型不僅對人工神經網路信息存儲和提取功能進行了非線性數學概括，提出了動力方程和學習方程，還對網路演算法提供了重要公式和參數，使人工神經網路的構造和學習有了理論指導，在Hopfield模型的影響下，大量學者又激發起研究神經網路的熱情，積極投身於這一學術領域中。因為Hopfield 神經網路在眾多方面具有巨大潛力，所以人們對神經網路的研究十分地重視，更多的人開始了研究神經網路，極大地推動了神經網路的發展。
(2)、Boltzmann機模型：1983年，Kirkpatrick等人認識到模擬退火演算法可用於NP完全組合優化問題的求解，這種模擬高溫物體退火過程來找尋全局最優解的方法最早由Metropli等人1953年提出的。1984年，Hinton與年輕學者Sejnowski等合作提出了大規模並行網路學習機，並明確提出隱單元的概念，這種學習機後來被稱為Boltzmann機。
Hinton和Sejnowsky利用統計物理學的感念和方法，首次提出的多層網路的學習演算法，稱為Boltzmann 機模型。
(3)、BP神經網路模型：1986年，儒默哈特（D.E.Ru melhart）等人在多層神經網路模型的基礎上，提出了多層神經網路權值修正的反向傳播學習演算法----BP演算法（Error Back-Propagation），解決了多層前向神經網路的學習問題，證明了多層神經網路具有很強的學習能力，它可以完成許多學習任務，解決許多實際問題。
(4)、並行分布處理理論：1986年，由Rumelhart和McCkekkand主編的《Parallel Distributed Processing：Exploration in the Microstructures of Cognition》，該書中，他們建立了並行分布處理理論，主要致力於認知的微觀研究，同時對具有非線性連續轉移函數的多層前饋網路的誤差反向傳播演算法即BP演算法進行了詳盡的分析，解決了長期以來沒有權值調整有效演算法的難題。可以求解感知機所不能解決的問題，回答了《Perceptrons》一書中關於神經網路局限性的問題，從實踐上證實了人工神經網路有很強的運算能力。
(5)、細胞神經網路模型：1988年，Chua和Yang提出了細胞神經網路（CNN）模型，它是一個細胞自動機特性的大規模非線性計算機模擬系統。Kosko建立了雙向聯想存儲模型（BAM），它具有非監督學習能力。
(6)、Darwinism模型：Edelman提出的Darwinism模型在90年代初產生了很大的影響，他建立了一種神經網路系統理論。
(7)、1988年，Linsker對感知機網路提出了新的自組織理論，並在Shanon資訊理論的基礎上形成了最大互信息理論，從而點燃了基於NN的信息應用理論的光芒。
(8)、1988年，Broomhead和Lowe用徑向基函數(Radialbasis function, RBF)提出分層網路的設計方法，從而將NN的設計與數值分析和線性適應濾波相掛鉤。
(9)、1991年，Haken把協同引入神經網路，在他的理論框架中，他認為，認知過程是自發的，並斷言模式識別過程即是模式形成過程。
(10)、1994年，廖曉昕關於細胞神經網路的數學理論與基礎的提出，帶來了這個領域新的進展。通過拓廣神經網路的激活函數類，給出了更一般的時滯細胞神經網路(DCNN)、Hopfield神經網路（HNN）、雙向聯想記憶網路（BAM）模型。
(11)、90年代初，Vapnik等提出了支持向量機(Supportvector machines, SVM)和VC(Vapnik-Chervonenkis)維數的概念。
經過多年的發展，已有上百種的神經網路模型被提出。
深度學習(Deep Learning,DL)由Hinton等人於2006年提出，是機器學習的一個新領域。深度學習本質上是構建含有多隱層的機器學習架構模型，通過大規模數據進行訓練，得到大量更具代表性的特徵信息。深度學習演算法打破了傳統神經網路對層數的限制，可根據設計者需要選擇網路層數。
突觸是神經元之間相互連接的介面部分，即一個神經元的神經末梢與另一個神經元的樹突相接觸的交界面，位於神經元的神經末梢尾端。突觸是軸突的終端。
大腦可視作為1000多億神經元組成的神經網路。神經元的信息傳遞和處理是一種電化學活動．樹突由於電化學作用接受外界的刺激，通過胞體內的活動體現為軸突電位，當軸突電位達到一定的值則形成神經脈沖或動作電位；再通過軸突末梢傳遞給其它的神經元．從控制論的觀點來看；這一過程可以看作一個多輸入單輸出非線性系統的動態過程。
神經元的功能特性：（1）時空整合功能；（2）神經元的動態極化性；（3）興奮與抑制狀態；（4）結構的可塑性；（5）脈沖與電位信號的轉換；（6）突觸延期和不應期；（7）學習、遺忘和疲勞。
神經網路從兩個方面模擬大腦：
(1)、神經網路獲取的知識是從外界環境中學習得來的。
(2)、內部神經元的連接強度，即突觸權值，用於儲存獲取的知識。
神經網路系統由能夠處理人類大腦不同部分之間信息傳遞的由大量神經元連接形成的拓撲結構組成，依賴於這些龐大的神經元數目和它們之間的聯系，人類的大腦能夠收到輸入的信息的刺激由分布式並行處理的神經元相互連接進行非線性映射處理，從而實現復雜的信息處理和推理任務。
對於某個處理單元（神經元）來說，假設來自其他處理單元（神經元）i的信息為Xi，它們與本處理單元的互相作用強度即連接權值為Wi, i=0,1,…,n-1,處理單元的內部閾值為θ。那麼本處理單元（神經元）的輸入為：
，而處理單元的輸出為：
式中，xi為第i個元素的輸入，wi為第i個處理單元與本處理單元的互聯權重即神經元連接權值。f稱為激活函數或作用函數，它決定節點（神經元）的輸出。θ表示隱含層神經節點的閾值。
神經網路的主要工作是建立模型和確定權值，一般有前向型和反饋型兩種網路結構。通常神經網路的學習和訓練需要一組輸入數據和輸出數據對，選擇網路模型和傳遞、訓練函數後，神經網路計算得到輸出結果，根據實際輸出和期望輸出之間的誤差進行權值的修正，在網路進行判斷的時候就只有輸入數據而沒有預期的輸出結果。神經網路一個相當重要的能力是其網路能通過它的神經元權值和閾值的不斷調整從環境中進行學習，直到網路的輸出誤差達到預期的結果，就認為網路訓練結束。
對於這樣一種多輸入、單輸出的基本單元可以進一步從生物化學、電生物學、數學等方面給出描述其功能的模型。利用大量神經元相互連接組成的人工神經網路，將顯示出人腦的若干特徵，人工神經網路也具有初步的自適應與自組織能力。在學習或訓練過程中改變突觸權重wij值，以適應周圍環境的要求。同一網路因學習方式及內容不同可具有不同的功能。人工神經網路是一個具有學習能力的系統，可以發展知識，以至超過設計者原有的知識水平。通常，它的學習(或訓練)方式可分為兩種，一種是有監督(supervised)或稱有導師的學習，這時利用給定的樣本標准進行分類或模仿；另一種是無監督(unsupervised)學習或稱無導師學習，這時，只規定學習方式或某些規則，而具體的學習內容隨系統所處環境(即輸入信號情況)而異，系統可以自動發現環境特徵和規律性，具有更近似於人腦的功能。
在人工神經網路設計及應用研究中，通常需要考慮三個方面的內容，即神經元激活函數、神經元之間的連接形式和網路的學習(訓練)。