网络层哪个是带可训练参数的

㈠ cnn中含有weights的是哪些层

你的数据是另一种，而人工合成的图像由于添加非自然噪点。用MNIST训练网络，reg等。而是在确定结构上调整参数，数据集是一种分布，完全用数据集训练的模型就能得到一个还好的结果，卷积的模板大小等？
对于把流行数据集与自己数据混合训练模型的方法。如果你的数据量大到足以与数据集媲美，只训练后面的全连接层参数。如果自己的数据和数据集有些差别，用你自己的数据集，如果是1，但我认为结果不会太好。
需要学习的话。但是对于流行数据集而言，无非是把CNN当成学习特征的手段，所以能用肉眼难分辨的噪声严重干扰分类结果，不满足模型假设。如果二者相差过大。然后cs231n
与其问别人。如果是各种主题。如果是彩色数字，首先你去看UFLDL教程，那么可能不加自己的数据，而欺骗CNN的方法则主要出于，自然图像分布在一种流形结构中，1，自己的标注数据量一般不会太大：1000。cnn认为图像是局部相关的，后面的全连接层对应普通的神经网络做分类，你需要固定卷积池化层，learning rate，那么直接用你的数据训练网络即可，我没试过:100这种比例，也未尝不可，视你的数据量调整规模，先转成灰度，weight scale，首先你看了imageNet数据集了吗。
CNN一是调整网络结构，前面的卷积层学习图像基本-中等-高层特征，你可以吧网络看成两部分，几层卷积几层池化。
你用CNN做图像分类。而后用于分类的全连接层，训练的模型需要这种流形假设。如果两种数据十分相似。这时候只能把数据集用来训练cnn的特征提取能力，那混在一起我认为自己的是在用自己的数据当做噪声加到数据集中，用彩色的imageNET训练，放到一起训练。在流行的数据集上训练完你要看你的图像是什么

㈡ 神经网络参数如何确定

神经网络各个网络参数设定原则：

①、网络节点  网络输入层神经元节点数就是系统的特征因子(自变量)个数，输出层神经元节点数就是系统目标个数。隐层节点选按经验选取，一般设为输入层节点数的75%。如果输入层有7个节点，输出层1个节点，那么隐含层可暂设为5个节点，即构成一个7-5-1 BP神经网络模型。在系统训练时，实际还要对不同的隐层节点数4、5、6个分别进行比较，最后确定出最合理的网络结构。

②、初始权值的确定  初始权值是不应完全相等的一组值。已经证明，即便确定  存在一组互不相等的使系统误差更小的权值，如果所设Wji的的初始值彼此相等，它们将在学习过程中始终保持相等。故而，在程序中，我们设计了一个随机发生器程序，产生一组一0.5~+0.5的随机数，作为网络的初始权值。

③、最小训练速率  在经典的BP算法中，训练速率是由经验确定，训练速率越大，权重变化越大，收敛越快；但训练速率过大，会引起系统的振荡，因此，训练速率在不导致振荡前提下，越大越好。因此，在DPS中，训练速率会自动调整，并尽可能取大一些的值，但用户可规定一个最小训练速率。该值一般取0.9。

④、动态参数  动态系数的选择也是经验性的，一般取0.6 ~0.8。

⑤、允许误差  一般取0.001~0.00001，当2次迭代结果的误差小于该值时，系统结束迭代计算，给出结果。

⑥、迭代次数  一般取1000次。由于神经网络计算并不能保证在各种参数配置下迭代结果收敛，当迭代结果不收敛时，允许最大的迭代次数。

⑦、Sigmoid参数 该参数调整神经元激励函数形式，一般取0.9~1.0之间。

⑧、数据转换。在DPS系统中，允许对输入层各个节点的数据进行转换，提供转换的方法有取对数、平方根转换和数据标准化转换。

(2)网络层哪个是带可训练参数的扩展阅读：

神经网络的研究内容相当广泛，反映了多学科交叉技术领域的特点。主要的研究工作集中在以下几个方面：

1.生物原型

从生理学、心理学、解剖学、脑科学、病理学等方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。

2.建立模型

根据生物原型的研究，建立神经元、神经网络的理论模型。其中包括概念模型、知识模型、物理化学模型、数学模型等。

3.算法

在理论模型研究的基础上构作具体的神经网络模型，以实现计算机模拟或准备制作硬件，包括网络学习算法的研究。这方面的工作也称为技术模型研究。

神经网络用到的算法就是向量乘法，并且广泛采用符号函数及其各种逼近。并行、容错、可以硬件实现以及自我学习特性，是神经网络的几个基本优点，也是神经网络计算方法与传统方法的区别所在。

㈢ matlab BP神经网络。下面的总是报错，我刚开始学习，求指教。

这个我最擅长，我来教你~~~
你的建立网络这一步有点问题，你这种调用格式我很少见，也只有在2008a版本以上或许才可以用，估计是版本问题，我建议你改成这样，肯定没问题，我给你编好了：
net=newff(minmax(input_train),[5 1],{'tansig','purelin'},'trainlm');
inputWeights=net.IW{1,1};
inputbias=net.b{1};
input_train表示归一化之后的输入矩阵。
这样绝对是没问题的，你可以试一下

㈣ BP网络中的trainlm训练函数，需要设置的参数

以输出层权值更新的算法做说明： 新w(i,j)=旧w(i,j)+a*E(i)O(j)+b*oldw(i,j), 其中，新w(i,j)为计算一步以后的权，旧w(i,j)为初始权，E(i)为输出层第i个神经元的输出误差，O(j)为隐含层第j个神经元的输出数据，a学习系数，b惯性系数。其实b就是优化设计中梯度下降法的步长，训练函数和梯度下降法是一个样子的，都是通过初始点，选定负梯度方向，计算步长，然后得到下一点，如此循环，神经网络把梯度下降法简化了，直接选定步长，不再计算步长了，

㈤ caffe中怎么固定前面的网络参数，训练后面层的参数

1、会更新，finetune的过程相当于继续训练，跟直接训练的区别是初始化的时候：
a. 直接训练是按照网络定义指定的方式初始化（如高斯随机初始化）
b. finetune是用你已经有的参数文件来初始化（就是之前训练好的caffemodel）
2、嗯，这个问题有两种情况：比如有4个全连接层A->B->C->D
a. 你希望C层的参数不会改变，C前面的AB层的参数也不会改变，这种情况也就是D层的梯度不往前反向传播到D层的输入blob（也就是C层的输出blob 没有得到梯度），你可以通过设置D层的propagate_down为false来做到。
propagate_down的数量与输入blob的数量相同，假如你某个层有2个输入blob，那么你应该在该layer的Param里面写上两行：
propagate_down : 0 # 第1个输入blob不会得到反向传播的梯度
propagate_down : 0 # 第2个输入blob不会得到反向传播的梯度
这样的话，你这个layer的梯度就不会反向传播啦，前面的所有layer的参数也就不会改变了
b. 你希望C层的参数不会改变，但是C前面的AB层的参数会改变，这种情况，只是固定了C层的参数，C层得到的梯度依然会反向传播给前面的B层。只需要将对应的参数blob的学习率调整为0：
你在layer里面加上param { lr_mult: 0 }就可以了，比如全连接层里面：
layer {
type: "InnerProct"
param { # 对应第1个参数blob的配置，也就是全连接层的参数矩阵的配置
lr_mult: 0 # 学习率为0，其他参数可以看caffe.proto里面的ParamSpec这个类型
}
param { # 对应第2个参数blob的配置，也就是全连接层的偏置项的配置
lr_mult: 0 # 学习率为0
}
}
不知道这样说你能不能理解

㈥ 菜鸟请BP神经网络达人帮忙。。万分感谢！

步骤基本上是这样的，但你需要自己根据数据来设置相应的参数
close all ;
clear ;
echo on ;
clc ;
% NEWFF——生成一个新的前向神经网络
% TRAIN——对 BP 神经网络进行训练
% SIM——对 BP 神经网络进行仿真
pause
% 敲任意键开始
clc
% 定义训练样本
% P 为输入矢量
p=[ ];
% T 为目标矢量
t= [];
%训练样本的归一化
for i=1:（训练样本的指标数）
P(i,:)=(p(i,:)-min(p(i,:)))/(max(p(i,:))-min(p(i,:)));
end
pause
clc

% 创建一个新的前向神经网络
net=newff(minmax(P),[15,2],{'tansig','purelin'},'traingda'); %这些参数要自己设置
% 当前输入层权值和阈值
inputWeights=net.IW{1,1};
inputbias=net.b{1} ;
% 当前网络层权值和阈值
layerWeights=net.LW{2,1} ;
layerbias=net.b{2} ;
pause
clc

% 设置训练参数 也要自己设置
net.trainParam.show = 50;
net.trainParam.lr = 0.05;
%net.trainParam.mc = 0.9; % 附加动量因子
net.trainParam.epochs =5000;
net.trainParam.goal = 1e-4;
pause
clc

% 调用 TRAINGDM 算法训练 BP 网络
[net,tr]=train(net,P,t);
pause
clc
% 对 BP 网络进行仿真
p_test=[];
for i=1:6
P_test(i,:)=(p_test(i,:)-min(p_test(i,:)))/(max(p_test(i,:))-min(p_test(i,:)));
end
t_test=[];
A = sim(net,P_test)
% 计算仿真误差
E = t - A
error=mse(E)
pause
clc
echo off

%反归一化
for i=1:2
predict(i,:)=A(i,:)*(max(t(i,:))-min(t(i,:)))+ min(t(i,:));
end
predict %即仿真结果
pause

㈦ 卷积神经网络用全连接层的参数是怎么确定的

卷积神经网络用全连接层的参数确定：卷积神经网络与传统的人脸检测方法不同，它是通过直接作用于输入样本，用样本来训练网络并最终实现检测任务的。

它是非参数型的人脸检测方法，可以省去传统方法中建模、参数估计以及参数检验、重建模型等的一系列复杂过程。本文针对图像中任意大小、位置、姿势、方向、肤色、面部表情和光照条件的人脸。

输入层

卷积神经网络的输入层可以处理多维数据，常见地，一维卷积神经网络的输入层接收一维或二维数组，其中一维数组通常为时间或频谱采样；二维数组可能包含多个通道；二维卷积神经网络的输入层接收二维或三维数组；三维卷积神经网络的输入层接收四维数组。

由于卷积神经网络在计算机视觉领域应用较广，因此许多研究在介绍其结构时预先假设了三维输入数据，即平面上的二维像素点和RGB通道。

㈧ 卷积神经网络训练的参数是什么

嗯，卷积神经网络是一个通过他的训练的话，那他是知道她有一个参数，通过它的参数，你才能知道他的个训练的一个参数的一个对比值。

㈨ 网络层、数据链路层和物理层传输数据单位分别是（）

A是错误的。

因为在网络传输中，报文是具有完整意义的二进制数据整体；报文在传输层被拆分成较小的可传输的数据单元，并添加头部，形成包，到达网络层后再次被添加头部形成新的包。

这样做的目的是，当数据经过网络节点时，在这里添加目的地址与源地址，包在到达数据链路层后被封装成帧，最后才是物理层的比特，

所以C才是对的，分别是包、帧、比特的单位；因为这是层层分割，层层传递的一个关系。

网络层：数据包（packet）——数据链路层：数据帧（frame）——物理层：比特流（bit）。

(9)网络层哪个是带可训练参数的扩展阅读

在电子学领域里，表带宽是用来描述频带宽度的。

但是在数字传输方面，也常用带宽来衡量传输数据的能力。

用它来表示单位时间内（一般以“秒”为单位）传输数据容量的大小，表示吞吐数据的能力。

这也意味着，宽的带宽每秒钟可以传输更多的数据。

所以我们一般也将“带宽”称为“数据传输率”（硬盘的数据传输率是衡量硬盘速度的一个重要参数）。

㈩ Tesorflow框架在创建神经网络时,通过()函数创建可变参数

摘要 在MNIST数据集上，搭建一个简单神经网络结构，一个包含ReLU单元的非线性化处理的两层神经网络。在训练神经网络的时候，使用带指数衰减的学习率设置、使用正则化来避免过拟合、使用滑动平均模型来使得最终的模型更加健壮。