开始新的一任务学习
- 5.1神经元模型
- 5.2感知机与多层网络
感知机由两层神经元组成。
要解决非线性可分问题，需考虑使用多层功能神经元。
多层前馈神经网络：每层神经元与下一层神经元全互连，神经元之间不存在同层连接，也不存在跨层连接。
神经网络““学”到的东西，蕴涵在连接权与阈值中。
- 5.3误差逆传播算法
网络中有（ｄ＋ｌ＋ｌ＋１）ｑ＋ｌ个参数需确定。
ＢＰ算法：
减少ＢＰ神经网络的过拟合，１是早停。训练集误差降低但验证集误差升高，则停止训练，同时返回具有最小验证集误差的连接权和阈值。２是正则化。在误差目标函数中增加一个用于描述网络复杂度的部分。 - 5.4全局最小与局部极小
参数空间风剃度为零的点，只要其误差函数值小于邻点的误差函数值，就是局部极小点；可能存在多个局部极小值，但却只会有一个全局最小值。
- 5.5其他常见神经网络
ＲＢＦ网络：径向基函数网络。
ＡＲＴ网络：自适应谐振理论网络，是竞争型学习的重要代表。
ＳＯＭ网络：自组织映射网络。一种竞争型学习型的无监督神经网络，能将高维输入数据映射到低维空间，同时保持输入数据在高维空间的拓扑结构。
级联相关网络。
Ｅｌｍａｎ网络：递归神经网络，允许网络中出现环形结构，从而可让一些神经元的输出反馈回来作为输入信号。
Ｂｏｌｔｚｍａｎｎ机。 - 5.6深度学习。
很重要的一章，以后要专门学习。
浙ICP备19012682号