A. 神經網路，訓練樣本500條，為什麼比訓練樣本6000條，訓練完，500條預測比6000條樣本好！
並非訓練樣本越多越好，因課題而異。 1、樣本最關鍵在於正確性和准確性。你所選擇的樣本首先要能正確反映該系統過程的內在規律。我們從生產現場採得的樣本數據中有不少可能是壞樣本，這樣的樣本會干擾你的神經網路訓練。通常我們認為壞樣本只是個別現象，所以我們希望通過盡可能大的樣本規模來抵抗壞樣本造成的負面影響。 2、其次是樣本數據分布的均衡性。你所選擇的樣本最好能涉及到該系統過程可能發生的各種情況，這樣可以極大可能的照顧到系統在各個情況下的規律特徵。通常我們對系統的內在規律不是很了解，所以我們希望通過盡可能大的樣本規模來「地毯式」覆蓋對象系統的方方面面。 3、再次就是樣本數據的規模，也就是你要問的問題。在確保樣本數據質量和分布均衡的情況下，樣本數據的規模決定你神經網路訓練結果的精度。樣本數據量越大，精度越高。由於樣本規模直接影響計算機的運算時間，所以在精度符合要求的情況下，我們不需要過多的樣本數據，否則我們要等待很久的訓練時間。 補充說明一下，不論是徑向基（rbf）神經網路還是經典的bp神經網路，都只是具體的訓練方法，對於足夠多次的迭代，訓練結果的准確度是趨於一致的，方法隻影響計算的收斂速度（運算時間），和樣本規模沒有直接關系。
如何確定何時訓練集的大小是「足夠大」的？
神經網路的泛化能力主要取決於3個因素：
1.訓練集的大小
2.網路的架構
3.問題的復雜程度
一旦網路的架構確定了以後，泛化能力取決於是否有充足的訓練集。合適的訓練樣本數量可以使用Widrow的拇指規則來估計。 拇指規則指出，為了得到一個較好的泛化能力，我們需要滿足以下條件（Widrow and Stearns，1985；Haykin，2008）： N = nw / e 其中，N為訓練樣本數量，nw是網路中突觸權重的數量，e是測試允許的網路誤差。 因此，假如我們允許10%的誤差，我們需要的訓練樣本的數量大約是網路中權重數量的10倍。
B. 神經網路給定相對誤差在多少比較合理
標准BP演算法中，每輸入一個樣本，都要回傳誤差並調整權值，這種對每個樣本輪訓的方法稱為「單樣本訓練」。由於單樣本訓練遵循的是只顧眼前的「本位主義」原則，只針對每個樣本產生的誤差進行調整，難免顧此失彼，使訓練次數增加，導致收斂速度過慢。因此，有另外一種方法，就是在所有樣本輸入之後，計算網路的總誤差，再根據總誤差調整權值，這種累積誤差的批處理方式稱為「批訓練」或「周期訓練」。在樣本數較多時，批訓練比單樣本訓練的收斂速度更快。
C. 神經網路訓練集正確率88%，測試集只有50%，這是為什麼
訓練數據和測試數據不太一樣吧，不過測試集比訓練集差是正常的。
D. 在神經網路的訓練過程中，是應當追求訓練准確率，還是應當追求測試准確率
我的經驗是訓練准確率盡量接近測試准確率或者訓練誤差與測試誤差均低,單純追求訓練准確率的最高不一定可取,有可能出現overlearning的情況,有時訓練准確率高是因為a network might improve the error rating on a number of already correctly-classified cases at the expense of misclassifying an additional case.
E. 訓練集測試集8比2合適嗎
不合適。
數據量較小（1w條以下），一般的劃分是，訓練集：驗證集：測試集=8：1：1（有的地方說是6：2：2），訓練集：測試集=2：1至4：1（總之測試集不要超過30%）。訓練集：訓練參數，此處的參數是指普通參數，即在神經網路中能夠被梯度下降演算法所更新的，如權值。驗證集：用於調超參數，監控模型是否發生過擬合，能夠被多次使用，進行人工調參。此處的超參數，如神經網路中的網路層數、網路節點數、迭代次數、學習率測試集：評估最終模型泛化能力，被一次使用。
F. 神經網路的數據量多少比較合適
一般來說要1萬以上，越多越好，但要保證採集標准統一，且輸出為相同的數據不能太多。
G. caffe訓練神經網路測試集准確率達到多少就可以
這個並沒有準確的結論，如果你數據預處理存在問題或者標簽不合理，accuracy自然不會很高。並且，還需要改變已有網路中的參數或者網路結構才能有效提高accuracy。我們的目的並不在於准確率到底是多少，而是當測試准確率比較高時，得到的模型可以代替人去進行復雜圖片的等級判斷
H. 神經網路的准確率是怎麼計算的
其實神經網路的准確率的標準是自己定義的。
我把你的例子賦予某種意義講解：
1，期望輸出[1 0 0 1]，每個元素代表一個屬性是否存在。像著4個元素分別表示：是否肺炎，是否肝炎，是否腎炎，是否膽炎，1表示是，0表示不是。
2，你的神經網路輸出必定不可能全部都是輸出只有0,1的輸出。絕大部分是像[ 0.9968 0.0000 0.0001 0.9970]這樣的輸出，所以只要輸出中的某個元素大於一定的值，例如0.7，我們就認為這個元素是1，即是有某種炎。否則為0，所以你的[ 0.9968 0.0000 0.0001 0.9970]可以看成是[1,0,0,1],。
3，所以一般神經網路的輸出要按一定的標準定義成另一種輸出（像上面說的），看調整後的輸出和期望輸出是否一致，一致的話算正確，不一致算錯誤。
4，用總量為n的檢驗樣本對網路進行評價，輸出調整後的輸出，統計錯誤的個數，記為m。
所以檢驗正確率可以定義為n/m。