基于地震资料处理的lustre并行存储系统的研究构建

《基于地震资料处理的lustre并行存储系统的研究构建》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、基于地震资料处理的lustre并行存储系统的研究构建　　【摘要】随着我院GPU集群的引进，迫切需要构建一个“优异的存储系统”，两者共同建设一个“高速运算、高速通讯、高速存储”的地震勘探系统，解决长期困扰我院的勘探难题。本文通过Lustre技术研究，构建一个Lustre并行存储系统，测试结果及生产应用验证了该系统与GPU集群是一个完美的匹配，叠前时间偏移等耗时的技术纳入常规化，进行规模化生产，解决了我院油气勘探复杂构造成像难度大的的勘探难题。　　【关键字】Lustre；OSD；MDT　　1.引言　　我院勘探任务主要在老区，老区勘探程度高，勘探面临的对象复杂，且新区

2、勘探开发难度大，勘探现状需要采用多项高端地球物理成像技术，包括Kirchhoff叠前时间偏移、逆时偏移（RTM）等，有助于解决油气勘探复杂构造成像难度大的问题，运算时间长却是长期困扰我院的难题，为此，我院引进了GPU集群，将叠前时间偏移等耗时的技术纳入常规化，进行规模化生产。　　GPU集群具有高速运算、高速通讯和高度稳定的特征，要求高速存储与之保持同步，建设一个“高速运算、高速通讯、高速存?Α钡卣鹂碧较低常?才能解决我院勘探难题。本文采取开源的高性能分布式并行文件系统Lustre和低延迟、高带宽的InfiniBand网络实现“高速存储”，Lustre确保存储系统

3、的内部数据的高速存取，InfiniBand确保存储系统和GPU集群的高速数据通讯。　　2.技术研究　　Lustre是应用广泛的开源性的集群分布式并行文件系统，采用了数据和元数据分离技术、智能存储技术和高速区域网技术，由OSD、MDD和client组成，OSD负责实际对象数据的存储及智能管理，多个OSD以并行的方式被直接的访问，增加更多的OSD会增加存储的容量，同时线性增加数据吞吐量。MDD管理整个系统的命名空间、控制client与OSD上对象的交互，client和OSD直接进行实际对象数据的交互。client在需要访问文件系统的文件数据时，先访问MDS，获取文件

4、相关的元数据信息，然后就直接和相关的OSD通信，取得文件的实际数据。通过子网LNET实现文件系统的内部通讯。MDS、OSS和Client通过InfiniBand高速网相互通讯，连接成一个“高速存储”的Lustre并行存储系统。　　2.1OSD　　OSD是一种网络存储磁盘设备，它有自己的磁盘、处理器、RAM存储器和网络接口。OSD用其自身的存储器和处理器优化磁盘的数据分布并从磁盘预取数据。　　OSD由OSS和OST构成，OSS提供了文件I/O服务和用来处理一个或多个当地OST的网络请求。每个OSS节点可以有多个OST。OST负责实际数据的存储，处理所有客户端和物理

5、存储之间的交互。OST和实际的物理存储设备之间通过设备驱动方式来实现交互。通过驱动程式的作用，Lustre能继承新的物理存储技术及文件系统，实现对物理存储设备的扩展。　　2.2MDD　　MDD存储了文件系统的基本信息，负责管理整个系统的命名空间，维护整个文件系统的目录结构、用户权限，并负责维护文件系统数据的一致性。　　MDD由MDS和MDT构成。Client通过MDS读取保存到MDT上的元数据，得到文件信息，从OSS中得到数据。通过MDS的文件和目录访问管理，Lustre能够控制Client对文件系统中文件和目录的创建、删除、修改，控制Client与OSD上对象

6、的交互。　　2.3Client　　Client通常是典型的集群计算节点，它们运行Lustre客户端软件并通过以太网或InfiniBand与Lustre服务器进行通信。客户端软件由Lustre服务器和运行在计算节点上的应用程序之间的接口组成。为了使计算节点能够直接从OSD读、写对象，必须配置一个文件系统。　　2.4Lustre　　Lustre文件系统为其上层的应用提供一个透明的POSIX接口，它允许应用去执行标准的文件系统操作。文件系统在Client计算节点上为输入的数据提供Caching以补充OSD中的Cache。文件系统在每个对象的基础上处理跨越多个OSD的对

7、象的条带。由于对象以并行的方式读写，条带的宽度将直接与对象的带宽相关。　　2.5Network　　Lustre并行存储系统是由LNET守护进程来控制网络环境，Client通过LNET协议和MDS/OSS通信。通过Infiniband和客户端计算节点、OSD、MDD进行物理互联，Infiniband体系架构（IBA）的本质是把网络技术引入I/O体系之中，形成一个“I/O交换网”。IBA物理构建减少了传输过程中对CPU的使用，硬件承担许多I/O通信操作，减轻了CPU的负担。因此，多个进程同时通信时，没有相关的管理开销，这是与现有通讯协议的一个主要不同之处。为了更好地

8、支持现有网络，Infin