⑴ RBF神经网络是什么
RBF神经网络：探索径向基函数的力量与应用
径向基函数（RBF）神经网络以其独特的激活函数在神经网络世界中占据一席之地。它以衡量点与中心点距离的数学概念为根基，与传统的BP神经网络在前向传播过程有所区别。RBF神经网络的核心在于其独特的拓扑结构，包括中心向量C和宽度向量D，它们共同决定隐单元的计算和参数更新过程。
在具体实现中，Keras库提供了一个便捷的入口，比如通过KMeans聚类算法来确定中心点。通过构建KMeans层和RBF层，开发者可以轻松地在代码中应用RBF神经网络。2020年11月2日的更新记录了这些改进，想要深入了解的读者可以参考个人博客和Matlab教程进行学习。
在实际操作中，RBF层的构建是这样进行的：初始时，权重随机分配于RandomUniform(0.0, 1.0)范围，随后根据centers和betas权重计算输出，运用指数函数处理距离信息。在训练过程中，输入数据会经过标准化处理，然后计算与中心点的距离。
训练集的创建并非复杂，比如我们可以生成两个Gaussian分布的样本，对应两个类别标签，如0和1。测试集则包括随机生成的样本点，通过预测结果用小圆点标记，蓝色代表预测为0，绿色代表预测为1，直观展示RBF神经网络的决策边界。
模型训练阶段，我们构建一个基础模型，包含RBF层和全连接层，选择Adam优化器，进行1000轮迭代的训练。训练数据点和预测结果的可视化，为我们提供了模型性能的直观反馈。
进一步研究，RBF神经网络在某些高级应用中也有所体现，例如在《Phase-Functioned Neural Networks for Character Control》中，它被用于精细化的控制模型。2020年12月14日，有新的研究发现，RBF网格编辑技术在特定场景下有着简化实现的可能，感兴趣的读者可以在[Efreeto/FaceMorph]和[1165048017/BlogLearning]的资源中发现更多实用技巧和案例。
总之，RBF神经网络以其灵活性和强大的局部响应特性，在机器学习领域发挥着不可或缺的作用，是值得深入研究和实践的工具之一。
⑵ SPSS统计分析案例:多层感知器神经网络
SPSS统计分析案例:多层感知器神经网络
神经网络模型起源于对人类大脑思维模式的研究，它是一个非线性的数据建模工具， 由输入层和输出层、 一个或者多个隐藏层构成神经元，神经元之间的连接赋予相关的权重， 训练学习算法在迭代过程中不断调整这些权重，从而使得预测误差最小化并给出预测精度。
在SPSS神经网络中，包括多层感知器（MLP）和径向基函数（RBF）两种方法。
本期主要学习多层感知器神经网络，要把它讲清楚是比较困难的，为了能直观感受它的功能，首先以一个案例开始，最后再总结知识。
案例数据
该数据文件涉及某银行在降低贷款拖欠率方面的举措。该文件包含 700 位过去曾获得贷款的客户财务和人口统计信息。请使用这 700 名客户的随机样本创建多层感知器神经网络模型。银行需要此模型对新的客户数据按高或低信用风险对他们进行分类。
第一次分析：菜单参数
要运行“多层感知器”分析，请从菜单中选择：
分析 > 神经网络 > 多层感知器
如上图所示，MLP主面板共有8个选项卡，至少需要设置其中"变量"、"分区"、"输出"、"保存"、"导出"等5个选项卡，其他接受软件默认设置。
▌ "变量"选项卡
将"是否拖欠"移入因变量框；
将分类变量"学历"移入因子框，其他数值变量移入"协变量"框；
因各协变量量纲不同，选择"标准化"处理；
▌ "分区"选项卡
在此之前，首先在 "转换 > 随机数生成器"菜单中设置随机数固定种子为9191972（此处同SPSS官方文档，用户可以自由设定），因为"分区"选项卡中，要求对原始数据文件进行随机化抽样，将数据划分为"训练样本"、"支持样本"、"检验样本"3个区块，为了随机过程可重复，所以此处指定固定种子一枚；
初次建模，先抽样70%作为训练样本，用于完成自学习构建神经网络模型，30%作为支持样本，用于评估所建立模型的性能，暂不分配检验样本；
▌ "输出"选项卡
勾选"描述"、"图"；
勾选"模型摘要"、"分类结果"、"预测实测图"；
勾选"个案处理摘要"；
构成"自变量重要性分析"；
这是第一次尝试性的分析，主要参数设置如上，其他选项卡接受软件默认设置，最后返回主面板，点击"确定"按钮，软件开始执行MLP过程。
第一次分析产生的结果：
主要看重点的结果，依次如下：
个案处理摘要表，700个贷款客户的记录，其中480个客户被分配到训练样本，占比68.6%，另外220个客户分配为支持样本。
模型摘要表，首次构建的MLP神经网络模型其不正确预测百分比为12.7%，独立的支持样本检验模型的不正确百分比为20.9%，提示"超出最大时程数"，模型非正常规则中止，显示有过度学习的嫌疑。
判断：首次建立的模型需要预防过度训练。
第二次分析：菜单参数
首次分析怀疑训练过度，所以第二次分析主要是新增检验样本以及输出最终的模型结果。
运行“多层感知器”分析，请从菜单中选择：
分析 > 神经网络 > 多层感知器
▌ "分区"选项卡
对样本进行重新分配，总700样本，支持样本继续30%，训练样本由原来的70%缩减至50%，另外的20%分配给独立的检验样本空间；
▌ "保存"选项卡
保存每个因变量的预测值或类别；
保存每个因变量的预测拟概率；
▌ "导出"选项卡
将突触权重估算值导出到XML文件；
给XML模型文件起名并制定存放路径；
其他选项卡的操作和第一次分析保持一致。返回主面板，点击"确定"开始执行第二次分析。
第一次分析产生的结果：
总样本在3个分区的分配比例。
MLP神经网络图，模型包括1个输入层、1个隐藏层和1个输出层，输入层神经元个数12个，隐藏层9个，输出层2个。
模型摘要表，模型误差在1个连续步骤中未出现优化减少现象，模型按预定中止。模型在3个分区中的不正确预测百分比较接近。
模型分类表，软件默认采用0.5作为正确和错误的概率分界，将3大分区样本的正确率进行交叉对比，显示出预测为NO，即预测为不拖欠的概率高于拖欠，模型对有拖欠的贷款客户风险识别能力较低。
预测-实测图，按照贷款客户是否拖欠与预测结果进行分组，纵坐标为预测概率。以0.5为分界时，对优质客户的识别效果较好，但是有较大的概率在识别有拖欠客户上出错。
显然以0.5作为分界并不是最优解，可以尝试将分界下移至0.3左右，此操作会使第四个箱图中大量欠贷客户正确地重新分类为欠贷者，提高风险识别能力。
自变量重要性图，重要性图为重要性表格中值的条形图，以重要性值降序排序。其显示与客户稳定性（employ、address）和负债（creddebt、debtinc）相关的变量对于网络如何对客户进行分类有重大影响；
最后来看导出的XML模型文件：
以XML文件存储了第二次构建的MLP神经网络模型，可以用于新客户的分类和风险识别。
新客户分类
假设现在有150名新客户，现在需要采用此前建立的模型，对这些客户进行快速的风险分类和识别。
打开新客户数据，菜单中选择：
实用程序 > 评分向导
型"XML文件，点击"下一步"：
检查新数据文件变量的定义是否准确。下一步。
选择输出"预测类别的概率"、"预测值"。完成。
新客户数据文件新增3列，分别给出每一个新客户的预测概率和风险分类（是否欠贷）。
多层感知器神经网络 总结
一种前馈式有监督的学习技术；
多层感知器可以发现极为复杂的关系；
如果因变量是分类型，神经网络会根据输入数据，将记录划分为最适合的类别；
如果因变量是连续型，神将网络预测的连续值是输入数据的某个连续函数；
建议创建训练-检验-支持三个分区，网络训练学习将更有效；
可将模型导出成 XML 格式对新的数据进行打分；