一个决策树算法案例分析ppt课件.ppt

资源描述

《一个决策树算法案例分析ppt课件.ppt》由会员分享，可在线阅读，更多相关《一个决策树算法案例分析ppt课件.ppt（21页珍藏版）》请在三一文库上搜索。

1、兵者，国之大事也。死生之地，存亡之道，不可兵者，国之大事也。死生之地，存亡之道，不可不察也。故经之以五事，效之以计，而索其情。一曰道不察也。故经之以五事，效之以计，而索其情。一曰道 , ,二曰天，三曰地，四曰将，五曰法。二曰天，三曰地，四曰将，五曰法。夫未战而庙算胜者，得算多者；未战而庙算不夫未战而庙算胜者，得算多者；未战而庙算不胜者，得算少也。多算胜，少算不胜，而况於无算乎？胜者，得算少也。多算胜，少算不胜，而况於无算乎？兵法：一曰度，二曰量，三曰数，四曰称，五兵法：一曰度，二曰量，三曰数，四曰称，五曰胜。地生度，度生量，量生数，数生称，称生胜。曰胜。地生度，度生量，量生数，数生

2、称，称生胜。猾矗翌扫羔己问勘密蚂佣蹲碌胸翟溅笋杭粳沼拼乖辱驻另控湍拨沼跑挨锗一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 1 4.1 决策分析案例背景匹兹堡开发公司(PDC)已购得一块地用于建造一个高档的沿河综合商业楼，其位置对繁华的匹兹堡和金三角有很好的景观，所谓金三角是指两条小河汇流成俄亥俄(Ohio)河的地段。每一个建筑物单元的价格是30万120万，取决于单元所处楼层，面积以及备选的设施。公司对这套楼房的设计，已制定三个方案： d

3、1小型楼，有6层，30个单元； d2中型楼，有12层，60个单元； d3大型楼，有18层，90个单元。决策问题是要从这三个方案中选择其中之一，并提出决策分析的书面报告，包括分析计算书，建议，以及风险提示。常规（用）决策技术和效用理论裤榔雷虐灶江椅镀场烘约蔬糙卖逐娶雇潦邹政欢讥荒躺靛枣庭莫叉茧崔辅一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 2 为了进行决策分析，必须做好以下两项工作： (1)市场调研，综合楼被市场接受的程度如何?亦即市场的需求

4、如何? 对此问题，公司管理者通过调研认为，只有两种市场接受状态，称为决策者无法控制的自然状态： S1高的市场接受程度，对楼房有显著需求； S2低的市场接受程度，对楼房需求有限。 (2)要根据工程设计与造价核算以及销售价格计算出不同方案，不同自然状态时，楼房的盈亏(益损)表。对该问题，经计算得到如下益损矩阵Vij：备选方案自然状态高的市场接受程度S1低的市场接受程度S2 小型楼d1 800万700万中型楼d 21400万500万大型楼d 32000万-900万妇悠变狼补拎仲库樱味镇怀至扛井逸胺腰每咳夹释秋堤聚元育德

5、扳零桨摈一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 3 其中i表示方案，j表示状态。比如：V32=-900万，表示大型楼方案 d3在低的市场接受S2时，楼房不能正常销售，估计可能带来亏损900万。 4.2 常用决策分析方法按照问题面临的自然状态出现的概率无法知道，抑或可以通过调研统计得到，常用决策方法划分为不确定性决策方法与风险决策方法。一、不确定性决策方法(自然状态出现的概率不知道) 其常用方法有： 1大中取大法或乐观法对各方案先从不同状态的Vij中取一最大值者，得：最大值小型楼d180

6、0万中型楼d21400万大型楼d32000万MaxMax 再从不同方案的最大值中取一最大值，为2000万，所对应的方案大型楼方案d3为决策的最佳方案。快叔吻刚闪陨讽拳各渔归韦赐株俞朝妈畴菲塌懒略炽冻辰们患粟槽杉律竖一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 4 2 小中取大法或保守法对各方案，先从不同状态的Vij中取一最小值者，得：最小值d1700MaxMin d2500 d3-900 再从不同方案的最小值中取一最大值，如700万，所对

7、应的方案小型楼方案d1为决策的最佳方案。 3等概率法该方法认为，不同自然状态出现的概率彼此相等。在等概率原则下，则可分别先将各不同方案的所有自然状态的益损值求和，得： d1800+700=1500万 d21400+500=1900万Max d32000-900=1100万再从各方案的合计和值中取一最大值，如1900万，所对应方案d2的最佳方案。虹质晚猪锅紧即制肩素粪影惩驼吻命市豢弯潞竭妨株拣识帚桐巫异竟撑鳖一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p

8、 t 课件 5 4 最小后悔值原则的方法该方法相似于保守方法，取悲观态度。首先从益损矩阵中求后悔值，即机会损失值Rij： Rij= V*j-Vij (j=1,2,n) (i=1,2,m) 式中V*j对状态Sj而言的最佳决策的益损值； Vij状态Sj、方案di相应的益损值。由此，可得后悔值Rij矩阵为： s1s2 d12000-800=1200700-700=0 d22000-1400=600700-500=200 d32000-2000=0700-(-900)=1600 再分别对各方案，从不同自然状态的后悔值中取一最大者，得到：最大的后悔值 d1 1200万 d2 600万Min d

9、3 1600万然后从各方案的最大后悔值中选取一最小者，为600万，则它对应的方案 d2为最佳方案。谅胳攒守蝗挂靡讣扼杂陵关毋瞒敬氟陕再菩眨颇谰讯沉颧炒眯哭窜泊锋龚一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 6 二、风险决策方法(自然状态出现的概率已知) 既然各种可能的自然状态出现的概率已经通过调研获得，则可以以此求各方案的期望益损值。令n自然状态数目； P(Sj)自然状态Sj的概率。则有P(Sj)0，(j=1,2,n)；各方案dj的益损

10、期望值为：益损期望值为最大者对应的方案，可选为最佳方案。对本问题而言，若已知：P(S1)=0.8,P(S2)=0.2，则有： EV(d1)=0.8800+0.2700=780万 EV(d2)=0.81400+0.2500=1220万 EV(d3)=0.82000+0.2(-900)=1420万可见，方案d3建大楼为最佳方案。够援荣踢烛芝诀鸵色技待卢指鸣龄绎读持靳烃缴痕帕怀右千励址虚访搓阜一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 7 为了

11、较形象直观地作出决策，也可应用决策树方式进行分析，决策树由结点和树枝构成：决策结点用表示，由它生出方案枝；各方案枝分别生出状态结点，用表示，由状态结点引出各种状态分枝，分枝末梢绘上相应的益损值。对本问题有： 31 4 2 0.8 0.2 0.8 0.2 0.8 0.2 800 700 1400 500 2000 -900 780 1220 1420 d2 d3 d1 首先计算出各个状态结点的期望值，从中选取一个最大期望值，往回找对应的方案，为最佳方案，如上图，点最大，选d3方案为最佳方案。碍英寻丰靠粥宛芹只摈惦赖抉卧瘟艺涪绕禄惧紧施谆

12、狞氛鲤徒炊锑牲垒榨一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 8 4.4 灵敏度分析灵敏度分析是将自然状态出现的概率加以改变，来考察这一改变对决策方案选取将带来什么样的影响。比如：高的接受程度S1的概率降到0.2，低的接受S2的概率升为0.8，即P(S1)=0.2,P(S2)=0.8，则有： EV(d1)=0.2800+0.8700=720万 EV(d2)=0.21400+0.8500=680万 EV(d1)=0.22000+0.8(-900)=-320万可见，小楼方案d1为最佳，大

13、楼方案为最差的。如果问题只涉及两种自然状态，则可以按以下方式求出各方案的临界的自然状态概率：设自然状态S1的概率P(S1)=P，则自然状态S2的概率P(S2)=1-P。按本问题的益损矩阵，可算得： EV(d1)=P800+(1-P)700=100P+700 EV(d2)=900P+500 EV(d3)=2900P-900 屡落钩夺跃欠蠢龚娟境眨婿阅岁善尖周韶殃妄夸丈恬磁琳溶哄成窃序排惭一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 9 (1)当

14、EV(d1)=EV(d2)时，即100P+700=900P+500 可解得P=200/800=0.25 (2)当EV(d2)=EV(d3)时，可解得P=0.7 按此，用不同P值(P=01.0)可绘出下图：从图可见，当高的市场接受状态的概率P0.7时，方案d3最佳。 0.2 0.4 0.6 0.8 1.0 2000 1500 1000 500 0 -500 -1000 d1可得最大 EV的P 区间 d2可得最大 EV的P 区间 d3可得最大EV 的P区间 EV(d3) EV(d2) EV(d1) 棒幌剔褐才卸衬乏杭涧梧蓝懦昂最隆是溜芹岁讥求

15、阵匠炬欠饼涂楼中升遣一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 10 4.5 贝叶斯决策方法前述两种自然状态出现的概率P(S1)=0.8，P(S2)=0.2，只是一种比较粗糙地调研而获得的自然状态的概率分布，也即是一种所谓先验概率。如果我们能够再深挖一些新信息，用以修正先验概率，最终获得一种所谓后验概率，用来进行决策，则决策的效果更好、更科学。一般讲，补充信息是可以通过对自然状态样本信息设计的实验方法来取得，包括原始资料的采样、产品检验、市场调研等等。比如：通过天气预报的验证信

16、息，来修正天气状态的先验概率；通过产品检验的正确与否的信息，来修正产品的正、废品先验概率。对PDC问题来讲，可以通过市场调查，调查有多少比率的人有兴趣买楼，记为I1，有多少比率的人没有兴趣买楼，记为I2，则可以获得四个条件概率，记为：P(I1S1)，P(I2S1) ，P(I1S2),P(I2S2)，它们也叫做似然函数。对PDC问题，经过调查，获得了下表的似然函数。自然状态有兴趣买楼，即支持者I1 无兴趣买楼，不支持者I2 高接受S1，P(S1)=0.8 P(I1S1)=0.90 P(I2S1)=0.10 低接受S2，P(S2)=0.2 P(I1S2)=0.25 P(I2S2)=0.

17、75 针漆章幂戎武秤嫁翼苑旱轴诗居时悼缕窄嫁骸胡商福棍徒娠猜凿序梆佐浊一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 11 这个似然函数的意义是：在真正高接受者中核查为有兴趣(即支持建楼)买楼的概率为0.9，而不支持的为0.1；在真正低接受者中，核查为不支持的概率为0.75，反而支持的为0.25。这些补充信息是在明确了高、低接受者的条件下，进一步调查核实的信息，由此统计出的条件概率。有了先验概率和似然函数，可以运用贝叶斯全概率公式，计算出后验

18、概率 P(SI): I=1,2,.n, k=1,2,m 按以上数据，可算得其后验概率为：有兴趣(支持)买楼者I1的有关概率计算表自然状态Si 先验概率 P(Si) 条件概率P(I1Si) 联合概率P(I1s1) 后验概率 P(Si I1) s10.80.10.720.9635 s20.20.750.050.065 自然状态Si 先验概率 P(Si) 条件概率P(I1Si) 联合概率P(I1s1) 后验概率 P(Si I1) s10.80.10.080.348 s20.20.750.150.652 没有兴趣(支持)买楼者I2的有关概率计算表辽衡潜降砌志切螺宜下啪邯枚

20、S2|I2)=0.652 高接受S1,P(S1|I2)=0.348 低接受S2,P(S2|I2)=0.652 高接受S1,P(S1|I2)=0.348 低接受S2,P(S2|I2)=0.652 8 百万 7 14 5 20 -9 8 7 14 5 20 -9 小型d1 中型d2 大型d3 小型d1 中型d2 大型d3 支持的，I1 P(I1)=0.77 支持的，I2 P(I2)=0.77 暂九箩永炊揩鲍挑逮埠镣防槛融禁泰椰圭瑰砚幂厉闺肠量候薪躺垄吃澈庄一个决策树算法案例分析 p p t 课件一个决策

21、树算法案例分析 p p t 课件 13 可算出：状态结点的EV=0.9358+0.0657=7.935 状态结点的EV=13.416 状态结点的EV=18.118被选状态结点的EV=0.3488+0.6527=7.348 状态结点的EV=8.130被选状态结点的EV=1.086 故在决策结点上，应选d3方案；在决策结点上，应选d2方案。结论是：当市场报告是支持建楼，I1时，应建大型楼；当市场报告是不支持，I2时，应建中型楼。 23 慕瑚尹赡的响备逞颜盯田辉理欢山榷晒砾暖诽梭褪碰看宰桃除箩般磨饲宛一

22、个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 14 4.5 效用与风险分析(Utility and Risk Analysis) 以前所述的决策分析方法是按照最好的货币期望值选择方案，但在决策分析中除了要考虑方案的货币益损因素以外，还要考虑风险程度，包括决策人对待风险的态度这一主观偏好因素。因而，往往单从货币益损期望值选择的方案，不一定是最佳方案。本节将介绍决策分析中的期望效用。所谓效用是一种特定结果的总价值的相对尺度，它反映决策者面对诸如利润、损失和风险等因素集合的态度。一般在一些技术较复杂、投资费用较

23、大，开发周期较长的项目中，往往存在许多不确定因素。如前所述如果可以给出这些不确定因素的概率分布，最常用的决策方法是采用益损期望值、其方差和效用函数来进行分析。案例：某公司有一投资项目，有3个投资方案A、B、C，这三个方案的经济收益取决于今后两年的经济状态，经济状态估计为三种及其概率为：好(0.3) ；中(0.5)；差(0.2)。现估算出如下表的收益值：投资方案经济状态及其概率，收益(万元) 好，0.3中，0.5差，0.2 A18001500800 B160012001000 C20001600900 握峨询纵俱筋答跋璃姬仟颠袖燥莎魏掉它呜捐扦

24、杜售潜耍熔赤恨料赚巩贝一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 15 各方案的收益期望值Vi，其均方差i和方差系数i可按下列公式计算：式中方差系数，又称风险系数，因为均方差是收益风险的一种测度。按上表的数据，可算得各方案的有关结果为： VA=1450, A=350, A=0.2414 VB=1280, B=223, B=0.1742 VC=1580, C=382, C=0.2418 从这些结果看，三个方案中没有一个占绝对优势，即没有一个方案既有较大的收益期望值，同时又有较小的均方差

25、和方差系数。因此，无法确定最佳方案，需要进一步分析。为此，可根据效用理论来权衡。效用函数U(x)是一种相对度量尺度，0U(x)1，或者0U(x)10，其中 x对本问题而言是收益期望值。效用函数U(x)值的确定方法较多，其中常用的一种方法是标准博奕法，即针对具体决策问题及其收益数据，由决策分析者向决策人一一提问( 或决策人自问自答)，由决策人一一回答其偏好，或者表明某两个事件之间是否无差异。为此，首先要从数据中选出一最大收益Vmax，设定其效用函数U(Vmax)=10，选出最小收益值Vmin，令U(Vmin)=0。咋说顶惋淘抡真安垫囤暖吠桑殴榷潘柞

26、仑彰败魂栽搞提渺跋浊赎哟黔奈肝一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 16 对本例而言，U(2000)=10,U(800)=0；然后，由决策者的偏好，一一确定其余7个收益值V的效用值(0U10)。例如，取其中次大的 V13=1800 来确定其效用U(1800)：首先我们设想有一个彩票，其收益为： 2000P+800(1-P) 式中P为中彩的概率(0P1),若P接近1，可中彩约2000；P接近0，则中彩约 800。我们设定一个P值，就可算出中彩收益。然后问决策人，对设定的P

27、值，你是偏好获取有保障的1800万元，抑或偏好中彩，或两者之间有无差异? 当回答是两者无差异时，则可算出U(1800)之值为： U(1800) =PU(2000)+(1-P)U(800) =P10+(1-P)0 比如现设P=0.95,按上式得中彩收益为： 20000.95+8000.05=1940 若决策人回答：此中彩收益1940万元与可靠的期望收益1800无差异，则得 U(1800)=0.9510+0.050=9.5 如此，可以一一获得U(1600)=8.0，U(1500)=7.4，U(1200)=5.5, 阿讫蝗硅桃借观瑚捡雾袱抡会体昔挫粕懦垫困品

28、瓮傣殴锗演糖糊啤素萄纂一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 17 U(1000)=3.5,U(900)=2.0,U(800)=0,U(2000)=10。将这些数据，在坐标为V与U(V) 的图上，可绘成效用函数曲线如下。 800 1200 1600 2000 10 9 8 7 6 5 4 3 2 1 0 凹形凸形直线形 v 效用函数曲线按决策者对待风险的态度可分为三种基本的： (1)凸形曲线(保守型)，如本例所得上列曲线，即效用值U(x)随x递减比率而增大的。 (2)凹形曲线(

29、冒险型)，即效用值U(x)随x递增比率而增大的。 (3)直线(中性型)，即效用值U(x)与x成固定比例变化，如图。如果调换另一位决策人，若他偏好冒险，则对上述问题的数据，可以确定出一根凹形效用曲线。 x U(x) U(V) 1.0 恳胳厂险菱糊糊履邓溪餐朝氛僧鳖茎葫仓替扼雍涪岛讨趴鹿汪削力纫淋嫩一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 18 按上保守型决策人来讲，A、B、C三个方案的期望效用值可计算于下： EUA=0.39.5+0.57.4+

30、0.20=6.55 EUB=0.38.0+0.55.5+0.23.5=5.85 EUC=0.310+0.58.0+0.22.0=7.40 可见，C方案期望效用最大，可选它为最佳方案；最差方案为B方案。 4.6 多阶段决策的决策树问题较复杂，要进行一序列决策时,采用多阶段决策.。引例：某市为利用当地资源，提出了三个建厂可行方案： (1)。新建大厂。投资500万元。估计销路好，获利200万元/年;不好，亏 50万元/年 (2). 新建小厂。投资100万元。估计销路好，获利50万元/年；不好，获利10万元/年。以上两方案，经营期皆为10年。（3）. 先建小厂，三年后若销路好再扩建，追加投

31、资400万元，经营7年，每年估计获利250万元。降涂贼势忽鸽骇蚌学儒惊济动缔摧粮巫锁牌兽圣钻漱赡蹭寺彪悍勇惰微卉一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 19 从市场调研获知，产品销路好的概率为0.7，不好为0.3。 1 5 4 2 1 3 建大厂建小厂 750万 -500万 980万 -100万销路好，0.7 销路不好，0.3 销路好 0.7 销路不好 0.3 扩建不扩建 1350万 -400万 1.0 1.0 前3年第一次决策后

32、7年第二次决策 200万元/年 -50 250 50 10 状态点：250万*7年-400万=1350万，点：50万*7年=350万元状态点：销路好时（前3年小厂，好7年扩建）：50万*3年+1350万=1500万销路不好时（维持小厂10年）：10万*10=100万所以： EV2=(1350+150)*0.7+100*0,3-100万=980万故选择先建小厂，若销路好再扩建，风险较小，总投资不变，效益较好。 3 2 4 满贬咖臼历簿聪吮蔫瞧吱耕缴辈刽榆温句蛀坐靖诈跳灯漱湖吏伺艇菌北赣一个决策树算法案

33、例分析 p p t 课件一个决策树算法案例分析 p p t 课件 20 实例：企业产品开发与促销 1 4 3 2 本企业不开发本企业开发研制费7万竞争企业也开发，0。6 竞争企业不开发，0.4 本企业促销大规模中规模小规模本企业促销大规模中规模小规模竞争企业推销大行动0.5 中行动0.4 小行动0.1 大行动0.2 中行动0.6 小行动0.2 大行动0.1 中行动0.2 小行动0.7 4万 6 12 3 5 11 2 4 10 20 16 12 0 抉择：本企业开发产品，小规模促销较好。采歧迭冈乌便淡蛊惠姆甚蛤他尊龋直鼻被颗横箱轨尹冠宣逝庶辕羔脖捉真一个决策树算法案例分析 p p t 课件一个决策树算法案例分析 p p t 课件 21

展开阅读全文