《ann11神经网络第十一章脉冲耦合神经网络.doc》由会员分享，可在线阅读，更多相关《ann11神经网络第十一章脉冲耦合神经网络.doc（31页珍藏版）》请在三一文库上搜索。
1、神经网络Neural Networks第章脉冲耦合神经网络申国科禽院针算牧术苟究所 http:/www.i ntsci.ac.c n/内容提要11.2视觉皮层理论113脉冲耦合神经网络模型11.4交叉皮层模型115贝叶斯连接域神经网络模型11.6贝叶斯连接域神经网络模型在特征捆绑中的应用2014/4/13史忠植神经网路2脉冲耦合神经网络随着生物神经学的研究和发展，Eckhorn等通过 对小型哺乳动物大脑视觉皮层神经系统工作机理 的仔细研究，提出了一种崭新的网络模型_脉 冲耦合神经网络模型Pulse-Coupled NeuralNetwork, PCNN)O PCNN来源于对哺乳动物猫的 视觉皮
2、层神经细胞的研究成果，具有同步脉冲激 发现象、阈值衰减及参数可控性等特性。由于其 具有生物学特性的背景、以空间邻近和亮度相似 集群的特点，因此在数字图像处理等领域具有广 阔的应用前景。将PCNN的最新理论研究成果与其蠶翹鸚為疇黠藝痛墾值踰1952年，Hodgkin与Huxley开始研究神经元电化学特性06 o 1987年，Charles M. Gray发现猫的初生视觉皮层有神 经激发相关振荡现象仃2； 173O 4989年,Reinhard Eckhorn Charles MGray研究了猫的机觉皮层，提出了 具有脉冲同步发放特性的网络模型106； 173O 4990年， Reinhard E
3、ckhorn根据猫的大脑度层同步脉冲发放现象，提行的试验中，也得到了相类似的试验结果。4994年,出了展示脉冲发放现象的连接模型107。对猴的大脑皮层进Johnson发表论文，阐述了PCNN的周期波动现象及在图像处理中具有旋转、可伸缩、扭曲、强度不变性244o通过对 Eckhorn提出的模型进行改进，就形成脉冲耦合神经网络（ PCNN）模型。于4999年IEEE神经网络会刊出版了脉冲耦合 神经网络专辑.国内也于20世纪90年代末开始研究脉冲耦合神 经网络。 为了更进一步提高性能，必须降低计算 复杂度，即要减少神经元连接数。Ekblad, U.和J.M. Kinser于2004年提出 了交叉皮层
4、模型(Intersecting Cortical Model, ICM)提高图像处理的速度。2014/4/13史忠植神经网路6脉冲耦合神经网络视觉皮层各个区域分别用V1、V2、V3、V4、V5表示。V1表示条纹状视觉皮层区 域，它对图像很少进行预处 理，但包含着丰富的图像细 节信息。V2进行视觉映射 ,视觉图谱信息少于VI。V3、V4、V5可以是独立处理色彩、静态和运动信息的 特定功能区域。2014/4/13史忠植神经网路8Hodgkin-Huxley 型20世纪50年代，Hodgkin和Huxley研究哺乳动物视觉皮层 细胞，提出了膜电位的运行模型。I =n?hGN,E-ENa) + n0(
5、E-EO + Gl®-EJ其中，/是通过膜的离子电流，m表示通道打开的概率，G表示 钠、钾等离子的电导和漏电导，E表示总电位。m随时间的 变化率为：dmdT其中，mn?是小颗粒未通过通道的比例，bm是通过通道的比例。amWbm 都取决于总电位E,并且对钠离子Na+和钾离子K+具有不同的值。FitzHughNagumo 模型20世纪60年代初，对神经细胞膜及轴突进行理论分析和定量模拟，提出FitzHugh-Nagumo模型。在此模型中，神经元 的行为用一个范德坡振荡器(van der Pol oscillator)® 行描述。该模型有多种描述形式，但每种形式本质是相同的 ,即
6、用一个耦合振荡器来描述一个神经元。例如，Labbi等描述神经元的膜电势佛I电压恢复量总间的相互作用如下dx8=dt-y-g(x) + Ix-byEckhorn 模型2014/4/13史忠植神经网路112014/4/13史忠植神经网路#1990年，根据猫的视皮层的同步振荡现象，Eckhorn提出一 个脉冲神经网络模型，如图所示。这个模型由许多相互连接 的神经元构成，每个神经元包括两个功能上截然不同的输入 部分：分别是常规的馈接（Feeding）输入，和起调制作用的连接（Linking）输入。而这两部分的关系并非像传统神输入经元那样是加耦合的关系，而是乘耦合的关系。Eckhorn 模型um，严 F
7、kMl+IJt)NFk (t)=工wf Y(t) + Sk (t) + Nk (t)®I(Vrt) i=lN-(t) = £ 凤丫 (t) + Nk (t) g I (VP, t)1=1X()"o其它一般表示为X (t) = Z(t)(8)I(u,Gt)Xn = Xn-let/r + VZn2014/4/13史忠植神经网路12脉冲耦合神经网络a*神经元主要有两个功能单元构成:馈接输入域和连接输入 域，分别通过突触连接权值M和K来与其邻近的神经元相 连。两功能单元都要进行迭代运算，迭代过程中按指数规 赫减。馈接输入域锄厂激励14Bayes违接域网络模型特征捆绑的计算
8、槿型图像理解是一个高层的感知任务，基于Bayes连接域网络模 型BLFN,提出了一种特征捆绑计算模型，能够实现物体知觉 的整体识别。模拟实验（1） 一个具体问题2014/4/13史忠植神经网路18模拟实验（2）问题的简化2014/4/13史忠植神经网路19模拟实验（3）模型的体系结构2014/4/1;20模拟实验（3）模型的体系结构对彖Man的特征O对彖Man对彖WomanFeedi ng4旋特征对彖Woman的特征Linking 输入2014/4/1;21模拟实验(4)实验结果A模拟实验（5）实验结果B递归次数A51f30 144n 994i onn1.0001.000m20 5770.96
9、51.0001.0001.000m30.6140.9491.0001.0001.0000.4990.5221.0001.0001.000神经元严0.5050 3331.0001.0001.000Mdu.3uj0.773i nnnA WWW1.0001.000M0 4970.7411.0001.0001.000W10c c c ccerery C C C0.000U7U20u.OuuomOfl、NQJ7090 0110.000nonnc c c cc c c c0rrt)2U.0130.000r.ooo0.000n rt751.0000.000tkonnfrtrouw140 5351.0000.
10、0000 0000.000w0 5030 2590.0000 0000.0002014/4/13史忠植神经网路24结论 Bayesian Linking Field模型能够在完成 感知任务的同时实现特征捆绑特征捆绑与感知是同时完成的，它们相 辅相成、相互促进特征捆绑是通过振荡完成，而不是简单 的 bottom-up 或者 top-dow n 过程在特征捆绑的同时，模型完成了视觉特 征的选择，相关特征被增强，无关特征 被忽略2014/4/13史忠植神经网路25指纹帜别 Bayesian Linking Field模型能够在完成 感知任务的同时实现特征捆绑特征捆绑与感知是同时完成的，它们相 辅相成
11、、相互促进特征捆绑是通过振荡完成，而不是简单 的 bottom-up 或者 top-dow n 过程在特征捆绑的同时，模型完成了视觉特 征的选择，相关特征被增强，无关特征 被忽略新特性LH： (J )神经元龍够接收来自连接集 的咏冲输人利像索信号刁(.2 )连接权重被引 入来区別不同距离的连接倫入退度'(3 )神 经元内部活性及其脉冲I阂值椰根连接集状态 实时计算得到-(4 )与利经元对应的像索信 号可以按给定规则遂紬=神麴猶I改进的P C Z Z模201<,指纹帜别10、01、1-I”000、00011 >像素初级剥除M尸0111-11 -10 0、1 0(a)像素精细修剪史忠植神经网路 Bayesian Linking Field模型能够在完成 感知任务的同时实现特征捆绑特征捆绑与感知是同时完成的，它们相 辅相成、相互促进特征捆绑是通过振荡完成，而不是简单 的 bottom-up 或者 top-dow n 过程在特征捆绑的同时，模型完成了视觉特 征的选择，相关特征被增强，无关特征 被忽略指纹识别工作流程2014/4/13史忠植神经网路30Thank YouIntelligence Sciencehttp:/wwwantscieacecm2014/4/13史忠植神经网路31