并行计算——结构算法编程.ppt

《并行计算——结构算法编程.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、并行计算——结构•算法•编程并行计算——结构•算法•编程第一篇并行计算的基础第一章并行计算机系统及其结构模型第二章当代并行机系统：SMP、MPP和Cluster第三章并行计算性能评测第二篇并行算法的设计第四章并行算法的设计基础第五章并行算法的一般设计方法第六章并行算法的基本设计技术第七章并行算法的一般设计过程2021/10/42国家高性能计算中心（合肥）并行计算——结构•算法•编程第三篇并行数值算法第八章基本通信操作第九章稠密矩阵运算第十章线性方程组的求解第十一章快速傅里叶变换第四篇并行程序设计第十二章并行程序设计基础第十三章并行程序设计模

2、型和共享存储系统编程第十四章分布存储系统并行编程第十五章并行程序设计环境与工具2021/10/43国家高性能计算中心（合肥）第一章并行计算机系统及结构模型1.1并行计算1.1.1并行计算与计算科学1.1.2当代科学与工程问题的计算需求1.2并行计算机系统互连1.2.1系统互连1.2.2静态互联网络1.2.3动态互连网络1.2.4标准互联网络1.3并行计算机系统结构1.3.1并行计算机结构模型1.3.2并行计算机访存模型2021/10/44国家高性能计算中心（合肥）并行计算并行计算：并行机上所作的计算，又称高性能计算或超级计算。计算科学：计算

3、物理、计算化学、计算生物等科学与工程问题的需求：气象预报、油藏模拟、核武器数值模拟、航天器设计、基因测序等。需求类型：计算密集、数据密集、网络密集。美国HPCC计划：重大挑战性课题，3T性能美国Petaflops研究项目：Pflop/s。美国ASCI计划：核武器数值模拟。2021/10/45国家高性能计算中心（合肥）高性能计算机Intel（OptionRed)：1Tflops,1997,PentiumProSGI(OptionBlueMountain):3Tflops,1998,MIPS10000IBM(OptionWhite):7Tflo

4、ps,Top4,2001,Power3日本EarthSimulator:35Tflops,Top1,2002,VPHewlett-PackardASCIQ：7Tflops,Top2,3,2002,AlphaServer中国联想：1Tflops,Top43,20022021/10/46国家高性能计算中心（合肥）系统互连不同带宽与距离的互连技术:总线、SAN、LAN、MAN、WAN2021/10/47国家高性能计算中心（合肥）局部总线、I/O总线、SAN和LAN2021/10/48国家高性能计算中心（合肥）网络性能指标节点度（NodeDegre

5、e）：射入或射出一个节点的边数。在单向网络中，入射和出射边之和称为节点度。网络直径（NetworkDiameter）：网络中任何两个节点之间的最长距离，即最大路径数。对剖宽度（BisectionWidth）：对分网络各半所必须移去的最少边数对剖带宽（BisectionBandwidth）:每秒钟内，在最小的对剖平面上通过所有连线的最大信息位（或字节）数如果从任一节点观看网络都一样，则称网络为对称的（Symmetry）2021/10/49国家高性能计算中心（合肥）静态互连网络与动态互连网络静态互连网络：处理单元间有着固定连接的一类网络，在程序

6、执行期间，这种点到点的链接保持不变；典型的静态网络有一维线性阵列、二维网孔、树连接、超立方网络、立方环、洗牌交换网、蝶形网络等动态网络：用交换开关构成的，可按应用程序的要求动态地改变连接组态；典型的动态网络包括总线、交叉开关和多级互连网络等。2021/10/410国家高性能计算中心（合肥）静态互连网络（1）一维线性阵列（1-DLinearArray）：并行机中最简单、最基本的互连方式，每个节点只与其左、右近邻相连，也叫二近邻连接，N个节点用N-1条边串接之，内节点度为2，直径为N-1，对剖宽度为1当首、尾节点相连时可构成循环移位器，在拓扑结

7、构上等同于环，环可以是单向的或双向的，其节点度恒为2，直径或为（双向环）或为N-1（单向环），对剖宽度为22021/10/411国家高性能计算中心（合肥）静态互连网络（2）二维网孔（2-DMesh）：每个节点只与其上、下、左、右的近邻相连（边界节点除外），节点度为4，网络直径为，对剖宽度为在垂直方向上带环绕，水平方向呈蛇状，就变成Illiac网孔了，节点度恒为4，网络直径为，而对剖宽度为垂直和水平方向均带环绕，则变成了2-D环绕（2-DTorus），节点度恒为4，网络直径为，对剖宽度为2021/10/412国家高性能计算中心（合肥）静态互连

8、网络（3）二叉树：除了根、叶节点，每个内节点只与其父节点和两个子节点相连。节点度为3，对剖宽度为1，而树的直径为如果尽量增大节点度为，则直径缩小为2，此时就变成了星形网络，其对剖