卷積神經網路醫學影像分析軟體

⑴ 如何通過人工神經網路實現圖像識別

人工神經網路（Artificial Neural Networks）（簡稱ANN）系統從20 世紀40 年代末誕生至今僅短短半個多世紀，但由於他具有信息的分布存儲、並行處理以及自學習能力等優點，已經在信息處理、模式識別、智能控制及系統建模等領域得到越來越廣泛的應用。尤其是基於誤差反向傳播（Error Back Propagation）演算法的多層前饋網路（Multiple-Layer Feedforward Network）(簡稱BP 網路)，可以以任意精度逼近任意的連續函數，所以廣泛應用於非線性建模、函數逼近、模式分類等方面。

目標識別是模式識別領域的一項傳統的課題，這是因為目標識別不是一個孤立的問題，而是模式識別領域中大多數課題都會遇到的基本問題，並且在不同的課題中，由於具體的條件不同，解決的方法也不盡相同，因而目標識別的研究仍具有理論和實踐意義。這里討論的是將要識別的目標物體用成像頭(紅外或可見光等)攝入後形成的圖像信號序列送入計算機，用神經網路識別圖像的問題。

一、BP 神經網路

BP 網路是採用Widrow-Hoff 學習演算法和非線性可微轉移函數的多層網路。一個典型的BP 網路採用的是梯度下降演算法，也就是Widrow-Hoff 演算法所規定的。backpropagation 就是指的為非線性多層網路計算梯度的方法。一個典型的BP 網路結構如圖所示。

六、總結

從上述的試驗中已經可以看出，採用神經網路識別是切實可行的，給出的例子只是簡單的數字識別實驗，要想在網路模式下識別復雜的目標圖像則需要降低網路規模，增加識別能力，原理是一樣的。

⑵ 卷積神經網路（CNN）基礎

在七月初七情人節，牛郎織女相見的一天，我終於學習了CNN（來自CS231n），感覺感觸良多，所以趕快記下來，別忘了，最後祝大家情人節快樂5555555.正題開始!

CNN一共有卷積層（CONV）、ReLU層（ReLU）、池化層（Pooling）、全連接層（FC（Full Connection））下面是各個層的詳細解釋。

卷積，尤其是圖像的卷積，需要一個濾波器，用濾波器對整個圖像進行遍歷，我們假設有一個32*32*3的原始圖像A，濾波器的尺寸為5*5*3，用w表示，濾波器中的數據就是CNN的參數的一部分，那麼在使用濾波器w對A進行濾波的話，可以用下面的式子表示：

其中x為原始圖像的5*5*3的一部分，b是偏置項置為1。在對A進行濾波之後，產生的是一個28*28*1的數據。那麼假設我們存在6個濾波器，這六個濾波器之間彼此是獨立的，也就是他們內部的數據是不同的且沒有相關性的。可以理解為一個濾波器查找整幅圖像的垂直邊緣，一個查找水平邊緣，一個查找紅色，一個查找黑色這樣。那麼我就可以產生6個28*28*1的數據，將它們組合到一起就可以產生28*28*6的數據，這就是卷積層主要做的工作。

CNN可以看作一系列的卷積層和ReLU層對原始數據結構進行處理的神經網路，處理的過程可以用下面這幅圖表示

特別要注意的是濾波器的深度一定要與上一層傳來的數據的深度相同，就像上圖的第二個卷積層在處理傳來的28*28*6的數據時要使用5*5*6的濾波器.

濾波器在圖像上不斷移動對圖像濾波，自然存在步長的問題，在上面我們舉的例子都是步長為1的情況，如果步長為3的話，32*32*3的圖像經過5*5*3的濾波器卷積得到的大小是（32-5）/3+1=10， 註：步長不能為2因為（32-5）/2+1=14.5是小數。

所以當圖像大小是N，濾波器尺寸為F時，步長S，那麼卷積後大小為（N-F）/S+1

我們從上面的圖中可以看到圖像的長和寬在逐漸的減小，在經過超過5層之後極可能只剩下1*1的空間尺度，這樣是十分不好的，而且也不利於我們接下來的計算，所以我們想讓卷積層處理完之後圖像在空間尺度上大小不變，所以我們引入了pad the border的操作。pad其實就是在圖像周圍補0，擴大圖像的尺寸，使得卷積後圖像大小不變。在CNN中，主要存在4個超參數，濾波器個數K，濾波器大小F，pad大小P和步長S，其中P是整數，當P=1時，對原始數據的操作如圖所示：

那麼在pad操作後卷積後的圖像大小為：（N-F+2*P）/S+1
而要想讓卷積層處理後圖像空間尺度不變，P的值可以設為P=（F-1）/2

卷積層輸入W ₁ *H ₁ *D ₁ 大小的數據，輸出W ₂ *H ₂ *D ₂ 的數據，此時的卷積層共有4個超參數：
K：濾波器個數
P：pad屬性值
S：濾波器每次移動的步長
F：濾波器尺寸
此時輸出的大小可以用輸入和超參計算得到：
W ₂ =（W ₁ -F+2P）/S+1
H ₂ =（H ₁ -F+2P）/S+1
D ₂ =D ₁

1*1的濾波器也是有意義的，它在深度方向做卷積，例如1*1*64的濾波器對56*56*64的數據卷積得到56*56的數據

F通常是奇數，這樣可以綜合考慮上下左右四個方向的數據。

卷積層從神經元的角度看待可以有兩個性質： 參數共享和局域連接 。對待一個濾波器，例如5*5*3的一個濾波器，對32*32*3的數據卷積得到28*28的數據，可以看作存在28*28個神經元，每個對原圖像5*5*3的區域進行計算，這28*28個神經元由於使用同一個濾波器，所以參數相同，我們稱這一特性為 參數共享 。

針對不同的濾波器，我們可以看到他們會看到同一區域的圖像，相當於在深度方向存在多個神經元，他們看著相同區域叫做 局域連接

參數共享減少了參數的數量，防止了過擬合
局域連接為查找不同特徵更豐富的表現圖像提供了可能。
卷積就像是對原圖像的另一種表達。

激活函數，對於每一個維度經過ReLU函數輸出即可。不改變數據的空間尺度。

通過pad操作，輸出圖像在控制項上並沒有變化，但是深度發生了變化，越來越龐大的數據給計算帶來了困難，也出現了冗餘的特徵，所以需要進行池化操作，池化不改變深度，只改變長寬，主要有最大值和均值兩種方法，一般的池化濾波器大小F為2步長為2，對於最大值池化可以用下面的圖像清晰的表示：

卷積層輸入W ₁ *H ₁ *D ₁ 大小的數據，輸出W ₂ *H ₂ *D ₂ 的數據，此時的卷積層共有2個超參數：
S：濾波器每次移動的步長
F：濾波器尺寸
此時輸出的大小可以用輸入和超參計算得到：
W ₂ =（W ₁ -F）/S+1
H ₂ =（H ₁ -F）/S+1
D ₂ =D ₁

將最後一層（CONV、ReLU或Pool）處理後的數據輸入全連接層，對於W ₂ *H ₂ *D ₂ 數據，我們將其展成1*1*W ₂ *H ₂ *D ₂ 大小的數據，輸入層共有W ₂ *H ₂ *D ₂ 個神經元，最後根據問題確定輸出層的規模，輸出層可以用softmax表示。也就是說，全連接層就是一個常見的BP神經網路。而這個網路也是參數最多的部分，是接下來想要去掉的部分。完整的神經網路可以用下面的圖表示：

[(CONV-ReLU)*N-POOL?]*M-(FC-RELU)*K,SoftMax

1.更小的濾波器與更深的網路
2.只有CONV層而去掉池化與全鏈接

最早的CNN，用於識別郵編，結構為：
CONV-POOL-CONV-POOL-CONV-FC
濾波器大小5*5，步長為1，池化層2*2，步長為2

2012年由於GPU技術所限，原始AlexNet為兩個GPU分開計算，這里介紹合起來的結構。

輸入圖像為227*227*3

1.首次使用ReLU
2.使用Norm layers，現在已經拋棄，因為效果不大
3.數據經過預處理（例如大小變化，顏色變化等）
4.失活比率0.5
5.batch size 128
6.SGD Momentum 參數0.9（SGD和Momentum見我的其他文章）
7.學習速率 0.01，准確率不在提升時減少10倍，1-2次後達到收斂
8.L2權重減少0.0005
9.錯誤率15.4%

改進自AlexNet，主要改變：
1.CONV1的濾波器從11*11步長S=4改為7*7步長為2.
2.CONV3,4,5濾波器數量有384，384，256改為512，1024，512（濾波器數量為2的n次冪有利於計算機計算可以提高效率）
錯誤率：14.8%後繼續改進至11.2%

當前最好的最易用的CNN網路，所有卷積層濾波器的大小均為3*3，步長為1，pad=1，池化層為2*2的最大值池化，S=2。

主要參數來自全連接層，這也是想要去掉FC的原因。

具有高度的統一性和線性的組合，易於理解，十分方便有VGG-16，VGG-19等多種結構。
錯誤率7.3%

完全移除FC層，參數只有500萬，使用Inception模塊（不太理解，有時間繼續看）
准確率6.67%

准確率3.6%
擁有極深的網路結構，且越深准確率越高。是傳統CNN不具備的特點，傳統CNN並非越深越准確。需要訓練時間較長但是快於VGG

1.每個卷積層使用Batch Normalization
2.Xavier/2初始化
3.SGD+Momentum（0.9）
4.Learning rate:0.1,准確率不變減小10倍（因為Batch Normalization所以比AlexNet大）
5.mini-batch size 256
6.Weight decay of 0.00001
7.不適用失活（因為Batch Normalization）

具體的梯度過程學完ResNet再說吧。

⑶ 卷積神經網路工作原理直觀的解釋

其實道理很簡單，因為卷積運算，從頻域角度看，是頻譜相乘所以圖像跟卷積核做卷積時，兩者頻譜不重疊的部分相乘，自然是0，那圖像這部分頻率的信息就被卷積核過濾了。而圖像，本質上就是二維離散的信號，像素點值的大小代表該位置的振幅，所以圖像包含了一系列頻率的特徵。比如圖像邊緣部分，像素值差別大，屬於高頻信號，背景部分，像素值差別小，是低頻信號。所以如果卷積核具有『高通』性質，就能起到提取圖像邊緣的作用，低通則有模糊的效果。所以，卷積神經網路的牛逼之處在於通過卷積層的不同卷積核，提取圖像不同頻段的特徵；以及通過池化層，提取不同粒度的特徵。

⑷ 卷積神經網路tensorflow怎麼讀取圖像

卷積神經網路（convolutionalneuralnetwork,CNN），最早是19世紀60年代，生物學家對貓視覺皮層研究發現：每個視覺神經元只會處理一小塊區域是視覺圖像，即感受野。後來到了80年代，日本科學家提出了神經認知機（Neocognitron）的概念，也可以算作是卷積神經網路最初的實現原型，在CS231n的課上說過，卷積神經網路不是一夜產生的，從這個發展過程中我們就可以看出，確實是這樣的。卷積神經網路的要點就是局部連接（LocalConnection）、權值共享（Weightsharing）和池化層（Pooling）中的降采樣（Down-Sampling）。比如下面是tensorflow卷積定義relu(W*X+B)W矩陣*X矩陣+B矩陣=W權重variable變數*X(placeholder佔位符外部輸入)variable變數+B偏重變數，因為深度學習會自動不斷地計算loss損失BP來調整wb所以wb初始化可以隨便全部都是0都行，所以其實就是X以及Y對於X來說其實我們知道就是我們圖像數據Y是圖像的標簽，但是Y需要轉為數學可以計算的值，所以採用one-hot數組記錄標簽的索引就行，比如xx1xx2xx3相應的y1=[1,0,0]y2=[010]y3=[001]那麼其實就是X圖像的像素通過外部輸入placeholder佔位符Y值外部輸入通過placeholder佔位符我們知道W*X矩陣相乘必須符合MXNNXM=MXM也就是說W的列必須與X的行數目相同這是要注意的，所以上一張shape來規范維度計算，下面是一個卷積層定義relu(wx+b)下面是tensorflow來表示relu(wx+b)的公式其中要注意參數strides是卷積滑動的步長你可以配置的系數，下面繼續講X[None,w*h]對於每一個w*h是一個矩陣每一層的w也是一個矩陣每一層的b也是一個矩陣，每一層的輸出y1也是一個矩陣y=[w*h]*w+b為了減少系數，我們使用卷積，把它轉換成MXN的值，這里就是跟全連接層的不同，使用了卷積轉換成了一個MXN的卷積特徵而全連接層就是y=wx+b(這里省略了那些relu(wx+b)tanh(wx+b))所以我們現在來看看每一層的w定義因為卷積層的w是需要與w*h提取的MXK來做矩陣相乘所以他是跟卷積核相關以及輸入輸出相關，對於每一張圖像

⑸ 論文中卷積神經網路常見的示意圖用什麼軟體來畫比較容易

你好 我可以 .

⑹ CNN（卷積神經網路）是什麼

在數字圖像處理的時候我們用卷積來濾波是因為我們用的卷積模版在頻域上確實是高通低通帶通等等物理意義上的濾波器。然而在神經網路中，模版的參數是訓練出來的，我認為是純數學意義的東西，很難理解為在頻域上還有什麼意義，所以我不認為神經網路里的卷積有濾波的作用。接著談一下個人的理解。首先不管是不是卷積神經網路，只要是神經網路，本質上就是在用一層層簡單的函數（不管是sigmoid還是Relu）來擬合一個極其復雜的函數，而擬合的過程就是通過一次次back propagation來調參從而使代價函數最小。

⑺ 卷積神經網路和深度神經網路的區別是什麼

DNN是指深度神經網路，它是一個很廣的概念，某種意義上CNN、RNN、GAN等都屬於其范疇之內。DNN與CNN（卷積神經網路）的區別是DNN特指全連接的神經元結構，並不包含卷積單元或是時間上的關聯。DNN是指包含多個隱層的神經網路，根據神經元的特點，可以分為MLP、CNNs、RNNs等，從神經元的角度來講解，MLP是最樸素的DNN，CNNs是encode了空間相關性的DNN，RNNs是encode進了時間相關性的DNN。
深度神經網路（DNN）
2006年，Hinton利用預訓練方法緩解了局部最優解問題，將隱含層推動到了7層，神經網路真正意義上有了「深度」，由此揭開了深度學習的熱潮。
卷積神經網路(CNN)
我們看到全連接DNN的結構里下層神經元和所有上層神經元都能夠形成連接，帶來的潛在問題是參數數量的膨脹。對於CNN來說，並不是所有上下層神經元都能直接相連，而是通過「卷積核」作為中介。同一個卷積核在所有圖像內是共享的，圖像通過卷積操作後仍然保留原先的位置關系。

想要學習了解更多卷積神經網路和深度神經網路的信息，推薦CDA數據分析師課程。「CDA 數據分析師認證」是一套科學化，專業化，國際化的人才考核標准，涉及崗位包括大數據、數據分析、市場、產品、運營、咨詢、投資、研發等。該課程兼顧培養學員軟性數據治理思維、演算法思維、預測分析思維，全方位提升學員的數據洞察力。點擊預約免費試聽課。