开放存储服务架构设计.pdf

《开放存储服务架构设计.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、开放存储服务架构设计吴锦波2012-07-03Agenda什么是开放存储服务开放存储整体设计取舍和教训高可用性什么是开放高可靠性存储服务公共服务设计原则•硬件故障透明•数据的多份拷贝分布在不同机架/机房•易扩展•容量扩容•自劢应对爆发式访问云服务引擎ACE开放存储开放结构化开放数据处弹性计算关系型数服务数据服务理处理服务服务据库服务OSSOTSODPSECSRDS集群部署分布式文件系统任务调度集群监控MonitoringDeploymentDistributedFileSystemJobScheduling分布协同服务远程过程调用安全管理资源管理DistributedRemoteSecuri

2、tyResourceCoordinationProcedureCallManagementManagementServiceLinux数据中心DataCenterAgenda什么是开放存储服务开放存储整体设计取舍和教训开放存储服务架构http://.oss.aliyuncs.com/pathname/to/objectLBLVS负载均衡协议接入层协议处理、访问控制Restful协议数据访问层分区、索引Key-Value引擎持久存储层持久、冗余、容错Pangu协议接入层WebServer+ProtocolModule无状态接入层Server协议解析授权/认证请求路由数据

3、访问层KV引擎--管理分区/索引女娲KVMasterKVServerLockService•KVMasterKVServerKVServer–管理全局分区(Partition)元信息–数据分区控制•女娲–调度分区到KVServer–命名服务•KVServer–分布式锁服务–负责若干个分区–通过Pangu存取数据–建立索引持久存储层Pangu--大规模分布式文件系统MCSCSCSPaxosMCSCSM•Master-Slave结构–Master管理元数据，ChunkServer负责Data读写•基于Paxos的多Master，故障恢复小于一分钟•文件分块(Chunk)，每块存三份，分布在不同机

4、架•End2End的checksum•磁盘、机器、机架及checksumfail时数据自劢复制开放存储服务架构RequestACK协议接入层WS+PMWS+PMWS+PMWS+PM数据访问层KVMaster女娲LockServiceKVServerKVServerKVServer持久存储层MCSCSCSPaxosMCSCSMAgenda什么是开放存储服务开放存储整体设计•协议接入层•数据访问层•持久存储层取舍和教训协议接入层--路由与协议处理•RESTful格式协议处理–HTTP协议－PUT、GET、HEAD和DELETE四类操作–用户请求抽象成数据访问层操作–业务管理逻辑–资源消耗的计量–

5、多种防攻击策略协议接入层--关键词•Service–OSS提供给用户的虚拟存储空间–在这个虚拟空间中，每个用户可拥有一个到多个Bucket•Bucket–Bucket是OSS的命名空间–BucketName在整个OSS中具有全局唯一性•Object–在OSS中，每个文件都是一个Object•AccessKeyID、AccessKeySecret–安全标识，为访问OSS做签名验证协议接入层架构终端用户浏览器、SDK等支持高并发，Tengine管道式收发数据，TMD防攻击模块OSS业务逻辑OSSServer资源消耗计量维护和数据访问层映射逻辑数据访问层协议接入层—将用户文件映射成数据访问层存储M

6、etaMeta存储DataSlice1Data存储1用户文件DataSlice2Data存储2۰۰۰۰۰۰DataSliceMData存储NAgenda什么是开放存储服务开放存储整体设计•协议接入层•数据访问层•持久存储层取舍和教训数据访问层--海量对象索引•海量、分布式的Key-Value存储–能扩展到成百上千台服务器–对象能被快速查找、遍历及修改–负载劢态平衡数据访问层--分区元信息•系统初始按字符串序预分成若干份接入层KVMasterServer[a,j):kvs1•根据访问信息分裂/合并[j,n):kvs2[j,n):kvs2某些分区[n,z):kvs3[n,z):kvs3•一个分区

7、只能在一个KVServer上被服务KVS1KVS2[j,n)[a,j)•KVMaster维护分区到KVServer的映射关系•Client缓存分区与KVS3KVServer映射关系[n.z)数据访问层--关键词•Cell–Key-Value对•Block–有序Cell集合–读写Pangu层的最小单元•MemFile–内存中根据key排序的cell集合•YouchaoFile–存放在Pangu中的cell集合–