《【办公资料】人工神经网络---数学建模培训课件.ppt》由会员分享，可在线阅读，更多相关《【办公资料】人工神经网络---数学建模培训课件.ppt（38页珍藏版）》请在三一文库上搜索。
1、2019/5/29,天津职业技术师范大学 凌 光,1,人工神经网络 Artificial Neural Networks,2019/5/29,天津职业技术师范大学 凌 光,2,人 工 神 经 网 络,1. 人工神经网络基本概念,2. 单层前向神经网络-线性网络,3.单层前向神经网络-阶跃网络,4. 多层前向神经网络,5. MATLAB的图像交互界面,2019/5/29,天津职业技术师范大学 凌 光,3,人工神经网络基本概念,11 生物神经元及生物神经网络 神经元是大脑处理信息的基本单元，以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。它主要由细胞体、
2、树突、轴突和突触(Synapse，又称神经键)组成。 人脑大约由1012个神经元组成，神经元互相连接成神经网络.,2019/5/29,天津职业技术师范大学 凌 光,4,人工神经网络基本概念,图1 生物神经元示意图,2019/5/29,天津职业技术师范大学 凌 光,5,人工神经网络基本概念,从神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近。当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质。 突触有两种：兴奋性突触和抑制性突触。前者产生正突触后电位，后者产生负突触后电位。,2019/5/29,天津职业技术师范大
3、学 凌 光,6,人工神经网络基本概念,12 人工神经元模型 生物神经元是一个多输入、单输出单元。 常用的人工神经元模型可用图2模拟。,图2 人工神经元模型,2019/5/29,天津职业技术师范大学 凌 光,7,人工神经网络基本概念,响应函数（激活函数）的基本作用： 1、控制输入对输出的激活作用； 2、对输入、输出进行函数转换； 3、将可能无限域的输入变换成指定的有限范围内的输出。,2019/5/29,天津职业技术师范大学 凌 光,8,人工神经网络基本概念,常见的响应函数有以下几种类型：,1、阶跃函数,2、线性函数,3、非线性：Sigmoid函数,2019/5/29,天津职业技术师范大学 凌 光
4、,9,人工神经网络基本概念,图3 常见响应函数,2019/5/29,天津职业技术师范大学 凌 光,10,人工神经网络基本概念,1.3 建立和应用神经网络的步骤 （1）网络结构的确定 包含网络的拓扑结构和每个神经元相应函数的选取； （2）权值和阈值的确定 通过学习得到，为有指导的学习，也就是利用已知的一组正确的输入、输出数据，调整权和阈值使得网络输出与理想输出偏差尽量小； （3）工作阶段 用带有确定权重和阈值的神经网络解决实际问题的过程，也叫模拟（simulate）。,2019/5/29,天津职业技术师范大学 凌 光,11,单层前向线性网络,2.1 单层前向神经网络 网络中的神经元是分层排列的。
5、 单层： 只有输入和输出层。 前向： 信息由上一层的神经元向下一层神经元传递，即：上层的输出就是下层的输入；同层神经元之间没有信息传递。,2019/5/29,天津职业技术师范大学 凌 光,12,单层前向线性网络,2019/5/29,天津职业技术师范大学 凌 光,13,单层前向线性网络,2019/5/29,天津职业技术师范大学 凌 光,14,单层前向线性网络,图3 单层前向神经网络,2019/5/29,天津职业技术师范大学 凌 光,15,单层前向线性网络,2019/5/29,天津职业技术师范大学 凌 光,16,单层前向线性网络,2.2 线性网络 采用线性相应函数，得,2019/5/29,天津职业
6、技术师范大学 凌 光,17,单层前向线性网络,理论上这是一个很好的结果。 另一种，学习过程面对自适应性网络，采用的学习规则为：误差修正规则,2019/5/29,天津职业技术师范大学 凌 光,18,单层前向线性网络,2019/5/29,天津职业技术师范大学 凌 光,19,单层前向线性网络,体会：最小二乘规则与误差修正规则的区别。 感受：牛顿迭代与误差修正在梯度下降方面的异同。,2019/5/29,天津职业技术师范大学 凌 光,20,单层前向线性网络,2.3 线性网络的MATLAB实现 MATLAB产生线性网络的命令： net=newlin(A,n); 其中，A为m2的矩阵，m为输入变量的个数，每
7、一行分别表示对应输入变量的下、上界；n为输出变量的个数。 最小二乘规则的学习命令： net=newlind(P,T); 其中，P为学习的输入数据矩阵,T为学习的理想输出矩阵。,2019/5/29,天津职业技术师范大学 凌 光,21,单层前向线性网络,计算网络输出的命令： result=sim(net,P) P为工作阶段需要计算的输入矩阵。 误差修正规则的学习命令： net=train(net,P,T) 利用误差修正，对P,T一对对的学习，每学习一遍称为一轮（epoch）.默认学习效率为1.在用该命令前，需给定平均（误差）方差上限和计算的最大轮数。,2019/5/29,天津职业技术师范大学 凌
8、光,22,单层前向线性网络,例1： 例2： 例3：,2019/5/29,天津职业技术师范大学 凌 光,23,人 工 神 经 网 络,3.1 基本原理,2019/5/29,天津职业技术师范大学 凌 光,24,三. 阶 跃 网 络,3.2 阶跃网络的MATLAB实现 产生网络的命令： net=newp(A,n); 数据意义和其他命令均与线性网络相同。 例4：略,2019/5/29,天津职业技术师范大学 凌 光,25,四. 多层前向神经网络,图4 二层前向神经网络示意图,2019/5/29,天津职业技术师范大学 凌 光,26,四. 多层前向神经网络,若每一层都采用线性相应函数，则有,2019/5/2
9、9,天津职业技术师范大学 凌 光,27,四. 多层前向神经网络,4.1 BP（back-propagation）规则,2019/5/29,天津职业技术师范大学 凌 光,28,四. 多层前向神经网络,学习算法过程： （1）给定学习数组，随机确定初始化权矩阵；给定最小二乘目标函数的偏差上界和迭代次数； （2）用逐一或者成批学习规则修正权值，直到到达偏差要求或者迭代次数上限。,2019/5/29,天津职业技术师范大学 凌 光,29,四. 多层前向神经网络,应用BP网络时注意事项： 响应函数为S形函数，只能趋于0或者1； 初始权和阈值最好随机选取； 算法的全局最优可以通过其他方法改进得到； BP算法主
10、要采用与梯度下降有关的学习方法，非线性函数优化有很多的方向下降法，这些方法都可以应用过来。 比如：traingdm（势能修正法）、traingdx（自调整学习效率法）、trainbfg（拟牛顿法）、trainscg（标量共轭梯度法） 等等。,2019/5/29,天津职业技术师范大学 凌 光,30,四. 多层前向神经网络,4.2 MATLAB实现 产生多层网络结构的命令： net=newff(A,B,C,trainfun); A同前，规模为n02,代表n0个输入的下、上界B是一个K为行向量，其分量为对应层神经元个数，C是一个K维字符串向量，每个字符串代表对应层神经元的响应函数； trainfun
11、为学习规则。 可选响应函数字符串：logsig,tansig,purelin 分代表： Sigmoid ，双曲正切，线性函数,2019/5/29,天津职业技术师范大学 凌 光,31,四. 多层前向神经网络,常见参数： net.trainParam.show 显示中间结果的周期（25） net.trainParam.lr 整批学习中的学习效率（0.01） net.trainParam.mc 势能学习规则(traingdm)势能率（0.9） net.trainParam.epochs 整批学习迭代次数上限（100） net.trainParam.goal 最小二乘目标误差设定值（0）,2019/5
12、/29,天津职业技术师范大学 凌 光,32,四. 多层前向神经网络,4.3 应用举例 例5： 例6：谵妄的诊断 谵妄是由于各种原因引起的急性脑器质性综合症，其特点是急性发病，意识水平变化，病程波动，定向力、注意力、思维、精神运动、行为和情感改变。根据国外1980年以后的有关谵妄研究文献的报道，谵妄的发病率为4%25%。目前对谵妄的发病机制还了解不多，诊断的方式常采用多个指标综合评价。,2019/5/29,天津职业技术师范大学 凌 光,33,四. 多层前向神经网络,如对老年人谵妄，通常采用检查表的方式确诊，检查表中的11个项目包含： 急性起病：病人的精神状况有急性变化的证据吗？ 注意障碍：患者的
13、注意力难以集中吗？ 思维混乱：患者的思维是凌乱或是不连贯吗？ 意识水平的改变：总体上看，您如何评价该患者的意识水平？ 定向障碍：在会面的任何时间患者存在定向障碍吗？ 记忆力减退：在面谈时患者表现出记忆方面的问题吗？ 知觉障碍：患者有知觉障碍的证据吗？ 精神运动性兴奋：面谈时患者的行为活动有不正常的增加吗？ 精神运动性迟缓：面谈时患者有运动行为水平的异常减少吗？ 波动性：患者的精神状况（注意力、思维、定向、记忆力）在面谈前或者在面谈中有波动吗？ 睡眠-觉醒周期的改变：患者有睡眠-觉醒周期紊乱的证据吗？,2019/5/29,天津职业技术师范大学 凌 光,34,四. 多层前向神经网络,针对以上11个
14、问题，医生对病人进行观察和提问，每项分4个等级打分：不存在1分；轻度存在2分；中度存在3分；严重存在4分。 数据为一个医生对96名测试人员的观察和提问，并通过计分方式记录下来的直观诊断。诊断标准为：22分以上可诊断为谵妄，在量表诊断一列中记为Y（否则记为N）。这样的标准是否合理？,2019/5/29,天津职业技术师范大学 凌 光,35,四. 多层前向神经网络,2019/5/29,天津职业技术师范大学 凌 光,36,四. 多层前向神经网络,实际上已经知道，前48个数据来自临床诊断的病人，后48个数据来自正常人。可以看出，量表诊断一共出了10例误诊病例，占测试人员的10.4%，这是一个比较高的错误率。 现在有神经网络解决这个问题。 该如果解决？,2019/5/29,天津职业技术师范大学 凌 光,37,五. MATLAB交互界面,2019/5/29,天津职业技术师范大学 凌 光,38,谢谢大家,天津职业技术师范大学 理学院 凌 光 E_mail:ling_,