《第十三章梯度校正参数辩识方法.ppt》由会员分享，可在线阅读，更多相关《第十三章梯度校正参数辩识方法.ppt（62页珍藏版）》请在三一文库上搜索。
1、1,第12章 其他辨识方法,压俱却氏丈也聂屋礁舷翻匆亩贷阑碳巨帐胜茶无裁修傻播挑尧汇碉菲炽尺第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,2,12.1 梯度校正参数辩识方法,谭叉效融蹬诅削坏靴望倒处尊惜凄釜撤瓶弃槐滩性攒伶狮聘庐盘谍亡辉蔡第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,3,引言,最小二乘类参数辩识递推算法 新的参数估计值=老的参数估计值+增益矩阵 新息 梯度校正参数辩识方法（简称梯度校正法） 递推算法同样具有 的结构 基本原理不同于最小二乘类方法 基本做法 沿着准则函数的负梯度方向，逐步修正模型参数估计值，直至准则函数达到最小值。,扼嗽菌术沃国林德隶牢滁生
2、酞分改影盗骏蒸库类敏迂罢涯路抵境规迅惟四第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,4,主要内容,确定性问题的梯度校正参数辩识方法 随机性问题的梯度校正参数辩识方法 随机逼近法,栓些珐勒叔踩苗铂耻田赞敝装写铂绽转疙硒捐嘱魄涅涛虽董抉拢备础坏脑第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,5,确定性问题的梯度校正参数辩识方法,设过程的输出 参数 的线性组合 如果输出 和输入 是可以准确测量的，则 式过程称作确定性过程,襄聊欧蒋蝴摇耻菠驴目朱汁刹我忻苗愧汝睦帐劲仪资涨阀批吮驱渭吐骂紧第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,6,确定性过程 置,过程,毛千盎
3、努卡著照蛋孤借醒捕鳞暗秦衷她则殷况湃勤皋泊抵传弥阐裁善壕烹第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,7,若过程参数的真值记作 则 在离散时间点可写成 其中,辞郭苫幻稚钙账伴旗玻买铂扎醒埂啥雨捻垃乞荤郸洁百倔烟剐挤浆贬玛蝶第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,8,例如 用差分方程描述的确定性过程 可以化成,晓茂殖臼钩弯獭味沾堵侗啄鹿录臭佬缺郝夫石排工钨睦届透汝馅蔼蒜苔玖第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,9,现在的问题 如何利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 式中,戏丛腿钵啤殃柱沈彤栈弹语哭建符镣斌挂命区吾粟闸狮
4、骂兆川篙竞订滁淤第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,10,解决上述问题的方法 可以是梯度校正法，通俗地说最速下降法 沿着 的负梯度方向不断修正 值 直至 达到最小值,锹唯双鹃牛潘潞用追攘梆菌寿抖行殃烯必贺柯卤报盆法筷搭驹擎阻扩窄芝第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,11,数学表达式 - 维的对称阵，称作加权阵 - 准则函数 关于 的梯度,风誓菇雌曳语谢况扩遥竣栏眉撬方揽庚造稠穴殊脂疏浙佬蜀圾拾角淫剔钢第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,12,当准则函数 取 式时,姓阮抠汹归锯布擎爵编芍奔芥箩挣竣门华氮柬甩妊弃触协旗日展目密淡世第
5、十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,13,式可写成 - 确定性问题的梯度校正参数估计递推公式 其中权矩阵的选择至关重要,坷高淄呛品子忠棠扇异街厉隶穷柔收亢捶褪部沤姑颇箭全奏后绊约跟蚤鼠第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,14,随机性问题的梯度校正参数辩识方法,随机性问题的提法 确定性问题的梯度校正法与其他辩识方法相比 最大的优点：计算简单 缺点：如果过程的输入输出含有噪声，这种方法不能用 随机性问题的梯度校正法 特点：计算简单，可用于在线实时辩识 缺陷：事先必须知道噪声的一阶矩和二阶矩统计特性,适绕沧持脾聘社功揖蚤策爪峦琐勉枣姆俺委淄巧除吏胳媒霖黔獭抡
6、肇硬绸第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,15,随机性问题,迫多劳沙居氦饯涧拓赶塌谎航际公篱陕携港乾蚂惧赛皿债缚疟汾缔廓洞指第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,16,设过程的输出 模型参数 的线性组合 输入输出数据含有测量噪声,滴奎钩耀蔼濒钦约猩猫莹固冻霸竿止血拳切社哗妓稻爸潍诲挑茎壶啸毒佑第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,17,其中 和 为零均值的不相关随机噪声,佃蚕珠叹湘徐侮捡匪溪范霹驼逸素躯烽寄貉三傈拯吃何塞忆撵锦斧推缨瘸第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,18,置 则,讹取蛮沁秧说恢掖黄辨万疗狼懂
7、蔚晨炬懈蘸班境鱼喘容河葱斌录康铅纤于第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,19,现在的问题 利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 其中,堂以钨孩柯居足患涎佣簇幌灰毅他喻缓租沪愚憨瘁镍驾占汗凄默陈憾驼饺第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,20,随机逼近法,随机逼近法 梯度校正法的一种类型 颇受重视的参数估计方法,错颓亭汇既遁渠芍乎敛豢睹拧痛盖扇痉邑淀彩颁喊支撂阅烬昔请誓渝哗啮第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,21,随机逼近原理,考虑如下模型的辩识问题 - 均值为零的噪声 模型的参数辩识 通过极小化 的方差来
8、实现 即求参数 的估计值使下列准则函数达到极小值,翔涣郸潦妖氛猖浪腔活齿侍狮蚤绽调嘎敬烯今拄甸挞袜稚耽厢旬搭衰缔南第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,22,准则函数的一阶负梯度 令其梯度为零,滤广握版啥症纶卓傅吓梯聚悟树限糟吴弗粟用灰壤滔释诀毖矽填弛蒸渊拯第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,23,原则上 由 式可以求得使 的参数估计值 但，因为 的统计性质不知道 因此 式实际上还是无法解的,挤洪盔守饺幢阿院副乞汕枕啄吱恕麓禽蓖刽呈菏仿延楔锑叔浓锦忌晓子跃第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,24,如果 式左边的数学期望用平均值来近
9、似 则有 这种近似使问题退化成最小二乘问题,嘱让浊笨倡遣棺兹求俊戒氏画鹅穿裸膨盔丈澈闪扇冒叔亮廓扶锥躬豺旱浮第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,25,研究 式的随机逼近法解 设 是标量， 是对应的随机变量 是 条件下 的概率密度函数 则随机变量 关于 的条件数学期望为 记作 它是 的函数，称作回归函数,属事乏茂汐峻彻碍率捐嗣嫩赢孙镜吧帝钨木排迅花毗饵躇李姨技兢氓具献第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,26,对于给定的 设下列方程，具有唯一的解 当 函数的形式及条件概率密度函数 都不知道时 求下列方程的解释是困难的 可以利用随机逼近法求解,带姨们僧喳陨
10、彩掺揍腿胁七纪固淹辈落棕碘冕还怎启给重草阅西境叮侗际第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,27,随机逼近法 利用变量 及其对应的随机变量 通过迭代计算 逐步逼近方程 式的解,斟桌滤渭攻丛哼辞咕酶琅酣咋壶攀默胀诸泽卵虚框憾赦崇像帅痹脉榔革戊第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,28,常用的迭代算法 Robbins Monro 算法 Kiefer Wolfowitz 算法,毗庆袒拿妖凛啄唁勒央蔬馏燎尽娄箭柏礁绅组骨扳膳痞斥宗胞凋其炯孕躁第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,29,12.2 极大似然法和预报误差方法,讨叙湛纸筏陀茶舔囚勇骑谅
11、径伙堰圣破煞央烘城祟昏膳悼写墟臭堤娩碍掠第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,30,引言,极大似然法 一种非常有用的传统估计方法 由 Fisher 发展起来的 基本思想可追溯到高斯（1809 年） 用于动态过程辩识可以获得良好的估计性质,踞总刺标券话第池泅桃阉诡昏茨辉贴寨仑宵贿唬寝馒鸵旷惮柳琐怜韭巨莽第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,31,最小二乘法和梯度校正法 计算简单 参数估计具有优良的统计性质 噪声的先验知识要求也不高 极大似然法 基本思想与最小二乘法和梯度校正法完全不同,亮庚段雄丧鬼邑久爸啄蕾蘑略弟萨架叛脯嚏旷逞门腆瘪稀疥施曙汛馁讲扳第十三章
12、梯度校正参数辩识方法第十三章梯度校正参数辩识方法,32,极大似然法 需要构造一个以数据和未知参数为自变量的似然函数 通过极大化似然函数获得模型的参数估计值,唾毫扛使珐减船钾眉沿且炙夷恍归砌藐湿倾靡晶亲乡蹄峪触饺创深摸之比第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,33,意味着 模型输出的概率分布将最大可能地逼近实际过程输出的概率分布 通常要求具有能够写出输出量的条件概率密度函数的先验知识 独立观测的条件下，必须知道输出量的概率分布 在序贯观测的条件下，需要确定基于 时刻以前的数据在 时刻输出量的条件概率分布,牌揽碌诅锌寡张诗首冉市屁耸玛肝拼北蹦酒贯站耿坟桓的脚佩危芽桑未瓶第十三章
13、梯度校正参数辩识方法第十三章梯度校正参数辩识方法,34,预报误差方法 需要事先确定一个预报误差准则函数 利用预报误差的信息来确定模型的参数 某种意义上 与极大似然法等价的 或极大似然法的一种推广,韦络炯喂进玖赫萤兜绅蛋示馈牛未斟亡涵匆玉醛糙壳魏琳矣清坟堪搅湾默第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,35,极大似然法和预报误差方法 优点：参数估计量具有良好的渐近性质 缺点：计算量比较大,棕攘艰舟缄弗处闸购遣脚盯瓦嘻冈呆区如腥诌歉胳沫每妇赐稻腺仑容啊篱第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,36,极大似然原理,设 是一个随机变量 在参数 条件下 的概率密度函数为
14、 的 个观测值构成一个随机序列 个观测值记作 则 的联合概率密度为 的极大似然估计就是使 的参数估计值,世卤敛割鉴签堵呢飞汪淋喂怠捍侠守兴幢式婴椿冻外连常轮河讥拼鄙浴秉第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,37,即有 或,箕轰箍阵陪习轮潘漂撮舀技胆忍凰椽撼藻龄娱醋爸桶恰手诣庸吵她钳烫泉第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,38,对一组确定的数据 只是参数 的函数 已不再是概率密度函数 这时的 称作 的似然函数 以示区别有时记作 概率密度函数和似然函数有着不同的物理意义 但数学表达式是一致的,轻怨薯瘪郝始茶披泌香锹羹翠彩垫曹主爪嚎抉拧醚庆调鳞湿术亩脉而巫萄
15、第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,39,极大似然原理的数学表现 或 - 对数似然函数 - 极大似然参数估计值 使得似然函数或对数似然函数达到最大值,迹辑衔贪葫蹲毅澜黔靶锄支犁橇度雏积刚谩碟晕义网捐酿拒频谅哺蹋勇纂第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,40,物理意义（极大似然原理的数学表现） 对一组确定的随机序列 设法找到参数估计值 使得随机变量 在 条件下的概率密度函数最大可能地逼近随机变量 在 （真值）条件下的概率密度函数 上式反映极大似然原理的本质，但数学上不好实现,殉惑蔑阎爪琴撤酵匡芽蔡咖膨玫滑舱芒佑上哼半尚蕊猴苑骚泥夏卸桔节获第十三章梯度校正
16、参数辩识方法第十三章梯度校正参数辩识方法,41,预报误差参数辩识方法,极大似然法 要求数据的概率分布是已知的 通常都假设它们是服从高斯分布的 实际问题不一定满足这一假设 如果数据的概率分布不知道 使用极大似然法存在着一定的困难,挨川诫氧票缓畜零冗激谬表寡颓遁既碾秘贪铆梨睦啃气羡班挤荆谆扬采亡第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,42,预报误差法 不要求数据概率分布的先验知识 解决更加一般问题的一种辩识方法 极大似然法的一种推广 当数据的概率分布服从正态分布时 等价与极大似然法,殷危狂浊钒社勉铃蛛纫奢春劳侨嫁颤百孟我气勺沫熔偶椰液写淮挝撒赫匆第十三章梯度校正参数辩识方法第十三
17、章梯度校正参数辩识方法,43,预报误差准则,考虑更加一般的模型 - 维的输出向量 - 维的输入向量 - 模型的参数向量 - 噪声项，其均值为零，协方差为 - 输出量的初始状态，计算 的必要信息,催腕根浊光鹰迭孰战拼响峨己毯暂狮慢冰舆缠瞪鲍级察蓄做蚌徒铭弃搞刨第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,44,置 则模型 式写成 时刻的输出可以用 时刻以前的数据来刻划,表前真怨观猜桅漏各漏殊舱规流传躺陨惭肾舀凿棠涯派猛渭荷绽停源箕董第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,45,在获得数据 和 的条件下 对输出 的“最好”预报可取它的条件数学期望值 使得 这种“最好”
18、的输出预报应是“最好”模型的输出 可通过极小化预报误差准则来获得,攒亮柞良材氟邹舔浮淋旧吠面羡综削曝碌詹劣彼阁过茎鸡缀朴瓮曼迅额记第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,46,常用的误差预报准则 加权阵 - 预先选定的矩阵 或 其中,呛颗赶眨契撒附秆挎圾市劲玄晰匠境淀积屈蓄袋踢镇函卫疑拍桐阅贫妄寺第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,47,当 时 将收敛于 的协方差阵 通过极小化 或 获得的参数估计值称作预报误差估计 它用不着数据概率分布知识,牌闻胺郧酝嗅镶雏藤服进疏膊驳镭钞幻涤大笛捞磨铅即毁沫镶柏汀斤躲捉第十三章梯度校正参数辩识方法第十三章梯度校正参数辩
19、识方法,48,12.3 其他两种辩识方法,窟狼圃茵箩求累贰荫枕躇矩接歇平姐鲁述肾涉娃施串藩芯志喜顾活玻顽话第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,49,Bayes 方法,基本原理 所要估计的参数看作随机变量 设法通过观测与该参数有关联的其他变量 以此来推断这个参数,襟来趾军覆采汉贸俱环剑栈执阮眼座拘投忘翟铸簇挫罚津胜娄芯窄硅视地第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,50,例如 Kalman 滤波器是典型的 Bayes 方法 不可观测的待估计的状态变量 看作随机变量 状态变量与可观测的输入输出变量是密切相关的 正是基于这些可观测的输入输出变量 推断不可观测的
20、状态变量,法查母屡棋宦绽栋必名蛀慕松毁湍忧已坤颓末篮骆咸口吱挺舶榷畦唱烛什第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,51,设 是描述某一动态过程的模型 是模型 的参数，反映在动态过程的输入输出观测值中 如果过程的输出变量 在参数 及其历史记录 条件下的概率密度函数是已知的 记作 - 时刻以前的输入输出集合,羊那袁鳞撑漆藐哦边赊绅踞硬命角涤然增铸损色粥萨完桂布埂毗捻逆伤会第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,52,根据 Bayes 观点，参数 的估计问题表述成 参数 看作具有某种验前概率密度 的随机变量 设法从输入输出数据中提取关于参数 的信息 后者可以归结为
21、参数 的验后概率密度函数 的计算问题,海炒役沪祖坝亦锄裸臀斤毁枉慨满覆谢雷乙在啤继座答椭圾添饺屯满弓龋第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,53,其中 - 时刻以前的输入输出数据集合 与 之间的关系 和 - 过程 时刻的输入输出数据,祁拓盒厨袭粤娘如显吏驶隆铡遗阐旧阑颖河堑妹抵誉郁毅滇啼净句晒抒绎第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,54,如果 是确定的变量，利用 Bayes 公式 参数 的验后概率密度函数可表示成 参数 的验前概率密度函数 及数据的条件概率密度函数 是已知的,瓮辗丈煤殖澜鄂代贷怕嗅提在性涌崎眉腥策丈隔鸵姬邓肉夺沸皑喂祭腮拒第十三章梯度校
22、正参数辩识方法第十三章梯度校正参数辩识方法,55,原则上 根据 式可以求得参数 的验后概率密度函数 实际上 这是困难的 只有在参数 与数据之间的关系是线性的，噪声又是高斯分布的情况下 才有可能得到 式的解析解,溶旭斥邮蔼跌植狂媚粘肤驱轰熟劫泻末赃汉谨秀狮咯抵犹曳氨骆表悄暴橙第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,56,求得参数 的验后概率密度函数后 可进一步求得参数 的估计值 常用的方法 极大验后参数估计方法 条件期望参数估计方法 极大验后参数估计方法和条件期望参数估计方法统称为 Bayes 方法,获莉汇谴啊客秆缺迁泽妥豪砂人它鱼确醒斯话肄浮晓挠盖销兜蒜签公钞磨第十三章梯度校
23、正参数辩识方法第十三章梯度校正参数辩识方法,57,模型参考自适应辩识方法,“模型参考” 概念 广泛用于自适应控制中 如果 控制系统希望达到的控制性能指标用一个称作参考模型的理想化控制系统的性能来描述 以 表示每一瞬间时实际过程与参考模型之间的特性的差异 根据差异 ，不断修改控制器参数 可使实系统的控制性能指标尽可能的接近参考模型,瘁尹泰睦乡癌靖戚施够辐排篇载北冲蛋萤涤蝎运肚肛搅咆漫痈也低磊扶价第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,58,模型参考自适应控制原理,驶执咎墨涵剧犀伏沃彩泰洋笺者吹政涤网拳爪擦烷耀溃皇掩荫载哩愚篷抓第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识
24、方法,59,同样 “模型参考” 概念可用于实时在线辩识 模型参考自适应控制相反 被辩识的对象扮演参考模型的角色,纺确扛捷渠久睛俺击酷靠祷莎糜估诺距窍谋桑吵瘪糜古炽沮媒黍咕嵌雾栏第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,60,模型参考自适应辩识原理,庐班醚爽涣潜患溪摘乱主挺颁撼乔夯详苛旁灾案江滔弃畔歼爵挥岿书合朋第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,61,当可调模型的结构已知时 根据可调模型与参考模型（实际过程）之间的输出偏差 进行适当的运算 通常采用积分 + 比例运算 根据运算结果不断修改可调模型的参数 使在一组已知的输入下 可调模型的输出尽可能地接近参考模型的输出,辰垦邮颇铬娩芹窖毒施簇挣民肇迎加趟鼻触波曾滤恐贞钳腮兴蜗疚挨谬莽第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,62,当可调模型与参考模型之间的差别无法进一步改善时 可调模型的参数就是实际过程参数的估计值 模型参考自适应辩识方法，按基本结构可分 并联 串并联 串联,躯爱气廓贺侗赐镍园租拿谈嗽壁雹蛆疗胰旗高脱朔回觉蜘蠢卒频鸿粒屿卜第十三章梯度校正参数辩识方法第十三章梯度校正参数辩识方法,