《云存储架构的发展.ppt》由会员分享，可在线阅读，更多相关《云存储架构的发展.ppt（33页珍藏版）》请在三一文库上搜索。
1、云存储架构的发展,杨钢 2013/11/25,内容体验,存储技术发展简史 金山云存储的技术路线 简单的存储系统架构讨论 主要开源方案简介 部分新技术点的简介,存储技术发展简史,主要阶段,存储设备 DAS / SAN / NAS 控制器架构 存储集群,控制器架构的基本原理,硬盘级别数据冗余 RAID 5/6 和 LUN RS 码 纠错 热备盘 条带化 RAID RAID 6 N+2 容错 控制器实现复杂，效率降低，较少使用,云存储集群的基本原理,多台服务器集群 物理设备级别冗余 内网修复,金山云存储技术路线,需求,按部署模型区分 公有云存储 私有云存储 混合云存储 按使用场景区分 高性能计算 虚
2、拟机平台（云主机 / VDI / etc） Key-Value 对象存储（网盘 / Hadoop / etc） 冷数据（备份 / 视频监控 / etc） 其他,需求,按分布模型分 集中式 异地容灾式 有主控分布式 对等分布式,需求维度,功能 性能 可靠性 价格,发展历程,2008年 存储实验室 2009年 WPS在线办公空间 2010年 金山快盘 2011年 小米Cloud 2012年 金山云,技术路线规划,开源软件 部分定制 完全自主开发,简单存储架构讨论,存储集群的基础架构,API Scheduler / 调度器 Name node / 元数据节点 Data node / 存储节点,存储集
3、群的基础架构,调度与元数据,静态Hash 一致性Hash 弹性Hash, 一致性Hash ,错误检测和修复,R + W N Logging Fix on reading,数据块组织,大文件 条带化 小文件 块组织,快速元数据管理,快速元数据管理,多机房,主控式 对等式,异步备份,独立设备 / 物理位置独立 兼顾写入效率和带宽现状 具有较好的独立容错性 原子版本功能 适合对数据保全要求高的领域,开源方案简介,较多使用的开源方案,HDFS 数据分析场景：Hadoop MapReduce / HIVE 适用于大文件流式追加和读取 非通用接口 Lustre GlusterFS 使用 NFS/CIFS代理提供通用服务 使用 Hash 而不是元数据服务 效率问题，大规模应用案例缺失 Ceph FUSE ZFS,各存储方案基本原理 HDFS,各存储方案基本原理 GlusterFS,各存储方案基本原理 Ceph,部分新技术点简介,镜像模式 VS Erasure Code,镜像模式优势 速度快，不论写入和恢复 结构简单，易实现和维护 EC 较少冗余,Erasure code,Vandermonde-RS and Cauchy-RS 常用开源库 Jerasure,基于EC的存储系统基础设计,输入效率 EC Codec (Encoder /Decoder),谢谢,