[精品]Lustre 部署建议.doc

《[精品]Lustre 部署建议.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、支持多种网络基础设施支持多厂商的存储设备对象存储眼务器对象存储目的地（OST）存（OSS）储数据对象OSS7RouterGigELustre并行文件系统部署建议Lustre文件系统介绍高性能的计算始终是以数据为核心，快速有效的数据处理不但需要优秀的算法，高性能的计算节点，同时为众多计算节点提供高性能的数据加载、共享和保存也是非常关键的。在高性能计算应用中，实现高性能的数据共享访问通常使用并行文件系统，在高性能计算领域屮Lustre并行文件系统被公认是性能非常优秀，扩展能力极好的高性能计算文件系统z—。下图是Lustre并行文件系统的纽•成结构:元数据服务器连接

2、磁盘存储元数据信息（MDT）元数据服务器集群（MDS）1-100ElanMyrinetInfiniBandLustre客户端心希：1-100,000从图中可以看出，Lustre文件系统主要由三个组件组成：Lustre客户端，元数据服务器（MDS）和对象存储服务器（OSS）。Lustre客户端是文件系统屮数据的创建、使用和维护者。Lustre文件系统提供两种客户端访问方式：Native客户端和网络文件服务客户端。Native客户端使用Lustre文件系统特殊的数据访问协议，需要为每个文件系统客户端安装专门的客户端软件。现在Lustre文件系统提供运行在各种Lin

3、ux操作系统的Native客户端软件，未來还将支持多种其它的操作系统。Lustre特殊的数据访问协议可以同时通过多种网络基础设施传输，尤其在InfiniBand网络环境下可以真接通过底层RDMA协议，不但具有极高的带宽，极低的数据延迟，也可以大大降低文件系统客户端和服务器的额外处理负担。Native客户端可以实现Lustre文件系统最高的并行访问效率，在计算存储环境部署时无一例外都采用此种方式。Luster文件系统同时支持NFS和pCIFS网络文件访问协议，作为标准的网络文件访问标准，可以得到众多的客户端操作系统的支持。网络文件协议客户端无需额外安装任何软件组

4、件，不但简化了部署也扩大了文件系统的服务范围。Lustre文件系统采用先进的对象存储技术管理文件数据。独立的元数据服务器（MDS）负责文件系统数据对象的命名以及元数据管理服务；对象存储服务器（OSS）管理物理的存储设备，将它们划分成多个对彖存储li标（OST）,并实现数据对彖和存储设备的接口。访问时，Lustre客户端向元数据服务器发出元数据请求，元数据服务器将包含对象存储目标信息的元数据返I叫给客户端，然后客户端肓接请求管理对象存储目标的对彖存储服务器，完成数据对象操作。Lustre文件系统将数据请求、元数据管理和存储设备管理功能分布在多纟口不同的服务器节点

5、上，实现了各种访问通道的独立，不但实现了数据操作的并行执行也保证系统优秀的扩展能力。客户端、元数据服务器和对象存储服务器可以通过多种、混和的网络环境连接在一起，实现极高的数据访问性能。Lustre文件系统是完全开放源码的项目，用户无需支付任何软件购买费用。通过购并Lustre文件系统商业化产品研发公司CFS,Sun公司拥有了Lustre文件系统知识产权和全球研发/支持队伍，在屮国也拥有几I-名研发丁•程师。通过Sun公司更广泛的服务和支持队伍可以更好地帮助客户在他们的高性能计算集群屮实施Lustre文件系统。因此，用户可以放心使用Lustre并行文件系统作为计

6、算环境数据网格的高性能存储网格数据服务的基础。高性能计算存储系统需求分析根据对高性能应用的分析，为了实现平衡的高性能计算，需要提供高性能的共享存储环境满足众多计算节点并行存取数据的要求。根据前面章节的分析，参与计算的数据主要分为短生命周期数据和长生命周期数据两类。短生命周期周期数据主要是计算过程生成的屮间结果数据，长生命周期数据是计算的原始数据和计算结果数据。不同类型的数据对服务品质的要求大相径庭：计算屮间结果数据生命周期很短，使用后就可以清除，不过屮间结果数据存取更为频繁，容量也比原始数据和结果数据大很多，因此更看重数据带宽和存储容量。原始数据和最终结果数据

7、比屮间结果数据保存时间更长，不过存取相对频率低，因此数据带宽略低于屮河结果，但可靠性要求更高。因此，建议将蕖个计算存储空河至少划分成两个不同的文件系统实例：计算文件系统和数据文件系统，保存不同类型的数据。集群的计算节点规模达到160个计算节点，理论计算能力可以达到10TFIops,建议计算文件系统的容量达到160TB,采用singlebiterror-corretction数据恢复策略，理论数据带宽5GB/S-10GB/S。数据文件系统在集群建设初期容量为40TB,采用doublebiterror-correction恢复策略，理论数据带宽2GB/So每个文件

8、系统实例采用独立的存储设备。高性能计算