多集群环境之mpi群集通信计算研究

《多集群环境之mpi群集通信计算研究》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、多集群环境之MPI群集通信计算研究第1章绪论1.1相关技术现状近年来，随着互联网产业的高速发展，IT技术在各个领域都得到广泛的应用，由此产生的数据也呈现爆炸式的增长，尤其在科学探索方面，地下石油资源探测、全球气候预报、基因的奥秘等21世纪人类所面临的重大科技难题，无一不需要采集海量数据进行分析处理。传统单机计算模式已远远不能胜任此类数据密集型作业，迫切需要海量存储、高性能计算机以及高速互联网络等基础设施的支持。目前，以高性能计算平台为基础的大规模并行计算已成为一门新的学科，受到了国内外学者的高度关注。如何有效地编写并行程序、提高并行软件的执行效率成为计算机产业界和

2、学术界研究的热点。1.1.1并行计算概述目前，高性能计算机在世界各国都取得了巨大的发展，计算能力在数万亿以上的高端计算机都已研制成功。当今几乎全部学科都走向精确化和定量化，进而产生了一系列的计算科学，如计算化学、计算物理学、计算生物学和计算力学等，逐步形成了新的计算性学科分支计算机科学与工程（CSE）。计算科学，已经与传统的实验科学和理论科学并列成为第三门学科，相辅相成地推动着科学的发展和人类社会的进步。在多数情况下，不论是复杂的理论模型没有建立，又或者是实验费用较高，导致实验无法进行，都可以通过计算来解决。计算大大的增强了人们进行科学研究的能力。面对如此大规模、

3、高精度的计算，传统的一般计算机往往是无能为力的。为了适应当前互联网产业的发展趋势，更需要对并行计算进行深入的研究。大规模并行计算主要有三类应用需求：以数值模拟和大型科学计算为代表的计算密集型应用；以数据挖掘、数字图书馆、数据仓库等为代表的数据密集型应用；以远程医疗诊断、协同工作为基础的网络密集型应用。正是这些具有挑战性的应用需求推动了计算机科学的飞速发展。并行计算机的体系结构：并行计算机根据其访存特点、网络互连以及多处理器间的组织方式可以归纳为六种系统结构模型：单指令多数据流（SIMD）；属于多指令多数据流的并行向量处理机模型（PVP）、对称多处理机模型（SMP）

4、、大规模并行处理机模型（MPP）、分布式共享存储多处理机模型（DSM）及工作站集群模型（COP[1]与向量处理机不同，其使用具有高速缓存的商用处理器。这些处理器通过高速总线与共享存储器互连，这类系统是对称的，每个处理器可平等的访问操作系统、I/O设备以及共享存储器，因而可以获得较高的并行度。但是处理器与共享存储的互连方式限制了其扩展性，如果系统中处理器个数过多，则可能加剧对共享内存的竞争，所以处理器个数一般少于64个。大规模并行处理机MPP[1]是一种异步的MIMD机器，同样采用商用处理器。这些处理器通过高带宽低延迟的网络互连，具有良好的扩展性。程序由多个进程组成

5、，每个进程具有独立的地址空间，进程间通过消息传递协调多个进程的执行。MPP多用于科学计算、信号模拟等领域。分布式共享存储多处理机模型DSM[1]由多个物理上分布的计算节点组成，由高速缓存目录DIR维持高速缓存的一致性，各个节点的局部存储器组成了全局共享存储器，系统的软硬件向用户提供了一个单地址的编程空间，相对于MPP而言，DSM拥有更简易的编程方式。工作站集群模型COPP不同，MPP中节点通常只有一个微核，而COPP之间已经没有清晰的划分界限，相对于MPP，集群系统拥有更高的性能/价格比和更优秀的扩展能力，随着集群计算（Clusterputing）的广泛流行，工作

6、站集群模型COPICH2相关技术2.1MPI-2标准2.1.1MPI-2标准概述MPI是迄今为止最重要的并行编程环境，由众多并行应用单位、并行计算机厂商、软件开发组织共同维护，几乎所有并行计算机都对它提供支持，这是诸如PVM、P4等并行编程环境所无法比拟的[3]。MPI自发布以来，不断的吸取多种并行编程环境的优良特性，经过多次的版本更新之后，已经成为事实上的标准和规范。MPI1.0于1993年2月推出，MPI论坛的成立推动了MPI标准的快速发展，1996年推出的1.1版本对原始版本进行了修改完善，但仍然存在很多缺陷，忽略了某些复杂的、难于实现的功能。MPI-2在现

7、有功能的基础上进行扩充，增加了并行I/O、动态进程管理、远端存储访问等特性。按照MPI标准编写的消息传递程序实用、灵活、高效，移植性好，可以不加修改的在所有并行计算机上执行，MPI函数库支持Fortran语言和C语言，调用过程与一般函数相同。MPI以提高通信效率、功能丰富、增强可移植性为主要目标。阻塞通信要求数据发送方的Send函数要与接收方的Recv函数相配合，即只有在安全的将发送的消息保存之后，Send函数才可以返回。保存是指当Send函数再次被调用时不会对前一次发送的消息带来破坏。不同阻塞通信模式有不同的配合程度，更需要结合运行时环境综合考虑。在阻塞通信模式

8、下，不仅要