高性能网的背景和需求.ppt

《高性能网的背景和需求.ppt》由会员分享，可在线阅读，更多相关《高性能网的背景和需求.ppt（58页珍藏版）》请在三一文库上搜索。

1、高性能网的背景和需求,郝卫东,人力计算-Human Computing,路易斯.凡.安(Luis Von Ahn)，卡耐基梅隆（CMU）的研究者，28岁那年，获得麦克阿瑟(MacArthur)天才奖金，或许大家并不熟悉，但他的发明机会所有的网站所有的网民都要引用得到。 2000年还是学生的他在导师的指导下，发明了验证码(CAPTCHA)使用机制，就是我们在网站登录时，需要添加的校验码。,人力计算-Human Computing,当初的发明初衷，是防止密码被盗用或者反垃圾邮件（anti-spamming），这项技术发明后短短五年内，每天就有2亿个检验码在被使用，十年之后的今天，几乎所有的网站都采

2、用这个技术来校验用户身份，保证信息安全。,然而Luis Von Ahn并没有在安全认证领域止步，一方面将校验码的模式与程序公布在自己的网站上，供更多的网站使用，另外，Luis进一步拓展这个发明背后的实际上是一门新的学科，叫做“Human Computation”或者“Human-based Computation”。有人称之为“人本计算”或者“人计算”。,即利用网络的分众性和协同性，可以轻易完成很多计算机不可能完成的事情。这门学科正是研究如何把人的这个优势发挥出来，与计算机互动，达到一个最佳结果。 当所有的人都在思考如果是计算机替代人的时候，Luis Von Ahn却在想利用互联网，利用社会化

3、的协同工作模式，实现计算机根本不可能完成的事情，以达成群体智能的效果。,例子一,纽约时报创刊与1851年，158年的历史，作为传统传媒业的需求是简单的，就是想把所有的报纸电子化，对于电子化出版之后的工作相对简单，但过往故纸堆上的文字就显得十分困难，传统OCR的技术不能实现百分之百的准确，如果如果人工录入的方式，整个工作耗时耗力不说，一个字一个字的打印录入，校对，短期内基本上是不可完成的任务。,Luis Von Ahn的校验码2005年已经得到了广泛的使用，两者之间有什么联系吗？Luis给出的解决方案，当时互联网上每天有2亿个校验码被使用，虽然每个用户在录入校验码的时候只需要10秒钟，但如果把这

4、些时间全部利用起来，就是20亿秒，相当于50多万个小时。,Luis Von Ahn把这些事件利用起来，实现不可想象的伟大实践。 现在看来，方法很简单，把扫描的纽约时报通过简单的分词形成片段，然后入库编码，作为校验码的素材提供给用户，用户每一次填注校验码的过程就是对文字的一次录入， 通过众多用户的协同，当两个人都对一个图片给出相同的单词结果时，就认为这个结果就是正确的。 无数的用户输入的内容整合链接起来，就是一个完整的数字化的纽约时报。,Game With A Purpose,Luis Von Ahn的脚步依然没有停止，他利用人的群体智慧和集体计算的模式，做了很多开创性的事情。 他最常用的实现模

5、式就是利用SNS的互动游戏的模式，来实现传统模式识别与计算科学中。 他的主要应用成果在上可以体验获得（Game With A Purpose）。,例子二,基于内容的图像识别与搜索中，样本的标注是一个很繁琐的问题，为了让计算机识别图片里的内容，必须要用到许多标注好的图像样本来训练识别核，传统的方式只能通过人工进行大量的手工标注。,2006年，Luis推出了一个著名的游戏，叫ESP Game。 这一游戏的玩法其实很简单：进入游戏，网站会给你随机配一个伙伴，两人同时看一张图，让你在两分钟内给图片写出关键词，如天空、鸟、足球、奔跑等等。 如果你们两人写的关键词一样，就可以得分。,通过积分的方式激发用户

6、参与的积极性，网站每天公布得分最高的游戏者，Luis通知这种方式收集的关键字超过了5000万。 这个发明已经被谷歌所采用，在谷歌推出的产品Google Image Labeler中，使用的方式就是通过游戏互动的方式来实现图像标注，之后用于谷歌的图片检索引擎。人们在游戏中，已经为科学与商业过程做出来贡献,例子三,当我们都在考虑云计算的时候，基于人的互动协同计算其实离我们很近， 每天的校验码的登录填注， 百度知道、百度百科与维基百科的点击阅读 我们可能都在不知不觉中，贡献了自己的力量,网络背景(1),考虑一种新的基础设施 它用高性能通信网络把人,计算机,传感器和数据连在一起,使社会中的各种不同群体

7、,如研究者,教育工作者,商人和普通消费者从中受益. 历史上的其它基础设施 电力网 铁路网 电话和电报网 银行,网络背景(2),历史上的其它基础设施的发展经验 每一种基础设施的发展都具有巨大的复杂性 参与的角色复杂:发明家研究者标准化工作者的力量,自由市场的力量,政府的力量 发展历程的复杂:从局部到全局,不平坦的时间表 整个基础设施上承载能力的分布性 物流配送:本地仓库,地区仓库,国家级仓库等 地区”缓存” 基础设施发展后新鲜事物的出现 新城市:芝加哥城, Urbana-Champaign 新产业:世界级零售中心,世界级航空中心,世界级总部基地,电力网和网格组成对比,电力网和网格组成对比,指数增

8、长的世界,网络 vs. 计算机性能 处理器速度每18个月翻一番 存储密度 每12个月翻一番 网络速度 每9个月翻一番 1986 to 2000 计算机: x 500 网络: x 340,000 2001 to 2010 计算机: x 60 网络: x 4000,引用,网格和云计算的用户,虽然计算机的性能有如此惊人的提高，那是不是所有的计算需求都已经得到满足了呢？遗憾的是，还远远没有。 计算科学家和工程师 实验科学家 企业 自然环境 教育与培训 国家-政府 世界 消费者,Rotating Turbulent Gas Ball Model of the Sun Nine Day Run on NC

9、SA Origin (128-processors) Generated 2 Terabytes of Data, LCSE Visualized in 3 Days,Dave Porter, Paul Woodward, et al., LCSE, Univ of Minnesota,Computational Scientists,Experimental Scientists,Rachael Brady, NCSA I-WAY 95,Virtual Manufacturing,Customer,Manufacturing Facility,Supplier,Designer,ATM Ne

10、twork,Source: Kem Ahlers, Caterpillar,CAD/CAM,对性能的需求,生命科学,数字生物学,数据密集型科学,LHC（强子对撞机） 瑞典日内瓦欧洲原子能研究中心（CERN）高能粒子物理实验 CMS(紧凑介子螺线管)用于记录最高能量质子对撞事件所产生的数据 CMS每年将产生PB（1015字节）数量级的试验数据 用于寻找希格斯介子微粒和宇宙中物质的可能起源的研究;一种新的自然界基本对称(称为超对称)的存在性以及可能发现新的空间维数. 处理和分析数据的机构 美国NSF网格物理网 美国能源部粒子物理数据网格 欧盟数据网格工程 。,LHC Experiments,The

11、 Constraints,Taken from: LHC Computing Review, CERN/LHCC/2001-004,World Wide Collaboration distributed computing & storage capacity,LHC: 5000 physicists 270 institutes 60 countries,遥感 天文学,基于仿真的科学(1),数字仿真的必要性 数字仿真(模拟)代表一种新的解决问题的方法学,重要性与日俱增 在基础科学(气候学天体物理学等)的研究过程中,难以进行物理实验,但数字仿真是可行的. 随着计算机性能的提高和计算技术的发展

12、,计算方法越来越多的应用到长期受实验控制的领域,例如化学领域,生命科学领域等,基于仿真的科学(2),数字仿真的实例 CMS在建成之前和之后物理学家进行计算密集型蒙特卡罗模拟研究. 为了产生真实的模拟数据,蒙特卡罗模拟研究结合了基础物理学的理论预言 一旦CMS探测器发挥作用,模拟研究的输出数据将直接与真实数据比较,从而改进探测器、并预示可能的科学发现。,天气预报 大气海洋模拟,实验仪器的远程访问（1）,仿真或数据驱动科学的日益盛行并不意味着实验科学变得越来越不重要 相反，高速网络的出现使得将实验仪器整合到科学问题解决过程中变得更容易 地震工程组织正在部署的遥测设备容许参与者无须亲自到试验设备现场

13、就可以远程设计、执行和监控试验。 NEES（Network for Earthquake Engineering and Simulation,地震工程与仿真网络）计划,实验仪器的远程访问（2）,NEES计划 在地震工程测试设备上投资 如振动台、反应墙和造波水池 要求这些设备能通过网络访问 通过系统集成建立必要的信息技术设备框架 集成测试设备、模拟、数据仓库和协作工具 跨团体的科学工作者联盟 运行和管理全局基础设施。 Carl Kesselman和Ian Foster是主要领导者和参与者,虚拟社区科学(1),21世纪科学与工程研究的重要标志之一就是探索未来的研究团队之间与日俱增的合作和分布特性

14、 网格技术对科学最大的影响就是科学家构成的全球虚拟社区能解决现在和未来的基础科学问题 NEES就是典型的实例,CERN的CMS模拟计划也是实例,虚拟社区科学(2),CMS的协作组织的美国参与者(US-CMS)建立的US-CMS Grid虚拟社区包括如下单位: CalTech(加洲理工学院) FermiLAb(费米国家加速器实验室) Univ. of Florida(佛罗里达大学) UC San Diego(加洲大学圣迭戈分校) CERN(欧洲原子能研究中心) UW Madison(威斯康星大学麦迪逊分校) 它们之间用OC12/STM4(622Mbps)或更高速的网络连接,新基础设施的投资,投资

15、方向 物理设施:存储网通信网络计算机网络传感器网络万亿次超级计算机 软件设施(网络中间件协作套件) 新的应用概念及应用软件 投资来源 政府:英国科学技术办公室,美国NSF蓝带顾问团,欧盟”第六框架”计划,清华ACI,在清华ACI 系统中，清华大学研制的高性能计算机“THNPSC-2”与上海大学研制的高性能计算机“自强2000”通过高速网络连接在一起，此外还连接了4 个应用结点。这6 个地理位置不同的节点可以同时召开网络会议。 除此之外，还开发了相应的中间件，可以构成跨地区、跨学科的“虚拟实验室”研究环境。 清华ACI 系统具有一套健全的资源管理系统、任务管理系统、用户管理系统及安全服务与监控系

16、统。,http:/,Shanghai Grid,上海市投入两个多亿，建设e-Institute，其中网格是重点，把上海交大、复旦、华东理工等多所重点高校用网格整合起来，共享资源，协同教学科研。 清华大学教授、上海大学计算机学院院长李三立院士担任网格主题的首席科学家,上海“云海计划”,2010年8月17日下午，上海市发布了 上海推进云计算产业发展行动方案（20102012年）三年行动方案，即“云海计划”。 该计划指出，未来三年，上海将致力打造“亚太云计算中心”，培育十家年经营收入超亿元的云计算企业，带动信息服务业新增经营收入千亿元,北京 “祥云工程”,2010年7月，北京“祥云工程”计划正式启动

17、，北京将合理规划布局云应用、云产品、云服务和云基础设施、积极参与国际竞争，力争到2015年，形成500亿元产业规模，成为世界级云计算产业基地 中关村云计算产业联盟由联想、塞尔网络、中国移动研究院、百度等19家单位发起成立。,工业需求(1),中国电子学会云计算专家委员会委员、华中科技大学计算机学院院长、中国教育科研网格计划China Grid专家组组长金海博士: 网格和云计算真正最大的用户不是学计算机的人。做计算机的有些类似于建筑工人，完成基本建设以后就该轮到其他人来应用了。,工业需求(2),网格计算和云计算实际上是在构建一个使信息技术被广泛接受所必须的环境. 技术向应用演变的两个阶段: 第一阶

18、段:发展阶段.以汽车工业为例 此时,最重要的是技术本身。如内燃机原理，采用汽油作为燃料的发明，第一辆实验室里的内燃机驱动的汽车原型 技术使用者是专家、技术能手。驾驶者和机械师之间几乎没有区别，只有机械师才能担任驾驶者,工业需求(2),技术向应用演变的两个阶段: 第二阶段：后技术阶段。 技术已不再新奇，易用性、可靠性、可用性和成本等技术应用因素变得重要起来。 技术使用者是普通消费者。比如家用轿车驾驶员，家用电器使用者（煮饭、听立体声音乐、看电视等电力系统的终端用户）,工业需求(3),转换的因素和动力.以汽车工业为例 应用需求的驱动：旅游、物流、客流快速移动的需求 工业界指定技术标准：方向盘？方向

19、舵；发动机规格 市场的驱动：市场竞争导致成本下降，消费者的需求得到及时满足 转换的结果:技术的复杂性被隐藏起来 没人在煮咖啡的时候能清楚的意识到复杂的电力基础设施正从几百公里之外运煤到发电厂，然后产生蒸汽驱动涡轮发电,IT的技术演变（1）,信息技术（IT）的演变也遵循这一普遍的技术演变规律 目前信息技术已经处于演变过程中的发展阶段，网格技术和云计算技术将使之进一步向“后技术”阶段演化 早期：昂贵而复杂的“玻璃房子”中的大型机，只有训练有素且精通程序设计的专家能使用这些系统,IT的技术演变（2）,IT技术演变的征兆 越来越多的信息技术商品化生活化 USB盘,MP3,CD唱机,手机WAP,笔记本电

20、脑,数字电视,网络娱乐,网络论坛,网络新闻,网络购物 信息技术,包括计算机系统等越来越强大 集成化: 计算机系统商务过程组织人高度集成,紧密交流 技术数据应用的空前集成 高效用 资源充分利用,自我配置自我优化自我修复自我保护 灵活性 人们能根据业务需求做出选择,IT的技术演变（3）,IT技术演变的挑战 挑战1:标准化 实验室的研究转化成生产力依赖于集成技术的能力 开放标准能使技术整合更容易 标准并非指严格一致,但是差异很小(如电气标准220V/110V等,变压器可适应该差异) 应答: 网格和云计算等信息技术的标准在迅速发展 网格协议 Web Service Linux、Hadoop等开源软件

21、JavaC#等具有相当一致性的网络编程工具,IT的技术演变（4）,IT技术演变的挑战 挑战2:降低复杂性 随着单一大型主机环境演变成网络化计算环境,系统的复杂性在增加 应答: 虚拟化和虚拟系统已经存在并发展 虚拟I/O 虚拟内存 虚拟存储池 云计算的挑战在于如何通过Internet使计算资源虚拟化,IT的技术演变（5）,IT技术演变的挑战 挑战3:访问透明性 隐藏在易用接口之后的庞大复杂的基础设施对用户而言是透明的,它无须关心也不必知道 应答: 通过开放网络协议可以实现异构资源的透明共享,覆盖了各种异型操作系统和文件系统的差异性,构造虚拟操作系统 Linux Windows AIX Solar

22、is HP-UX,IT的技术演变（6）,IT技术演变的挑战 挑战4:资源的可管理性 在分布式/网络计算环境下要开发出能以合理的价格提供非平凡的服务质量的技术 应答:实现高复杂性的,端到端的资源管理系统 资源节点间的全局协作 对多台计算机进行调度 资源节点之间的冗余和自我管理,IT的技术演变（7）,IT技术演变的挑战 挑战5:电子商务的灵活性 既可以拥有自己的基础设施(内部网格),也可以向外部的服务提供商订购服务 既可以自行开发也可以购买应用和基础设施 每个授权用户都可以从任何地点按需访问资源池 应答:按需计算 指虚拟化计算机服务器以及整个数据中心等资源,并将重心转向业务需求,传统的商业模式是一

23、次购买,无限使用(one-time payment for unlimited use,买车); 按需计算或效用计算的商业模式是pay as you use,无须购买,按次使用(租车，对分布式计算有益，如跨地域租车).,IT的技术演变（8）,IT技术演变的挑战 挑战6:电子商务的高成本 企业常常被迫大批量购买信息技术服务,如签订合同购买能运转3-10年的设备 由于信息技术的不断升级,企业过一段时间仍需购买大批量的设备 企业为了保证数据中心的可靠性,必须大量购买数据备份以及物理镜像/冗余设备 应答:按需服务(Service On Demand) 采用开放的网络协议和Web Service标准、云服务标准,服务能以尽量小的批量动态的提供给用户,用户可以按需利用这些虚拟服务,IT的技术演变（9）,IT技术演变的挑战 挑战7:电子商务的业务需求 商务比电子更重要 企业要求IT技术更快而低成本的支持商务需求 商务需求:快速响应个性化响应商务流程柔性 应答:按需应用 越来越多的业务流程将成为按需的应用. CRM(客户关系管理) ERP(企业资源规划),