并行编程原理及程序设计

《并行编程原理及程序设计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、机群应用开发并行编程原理及并行编程原理及程序设计程序设计ParallelProgramming:ParallelProgramming:FundamentalsandImplementationFundamentalsandImplementation曹振南czn@ncic.ac.cn国家智能计算机研究开发中心国家高性能计算中心(北京)2003.92003年9月并行计算概述1/59参考文献参考文献a黄铠,徐志伟著,陆鑫达等译.可扩展并行计算技术,结构与编程.北京:机械工业出版社,2000.a陈国良著.并行计算—结构、算法、编

2、程.北京:高等教育出版社,1999.aBarryWilkinsonandMichaelAllen.ParallelProgramming(TechniquesandApplicationsusingNetworkedWorkstationsandParallelComputers).PrenticeHall,1999.a李晓梅,莫则尧等著.可扩展并行算法的设计与分析.北京:国防工业出版社,2000.a张宝琳,谷同祥等著.数值并行计算原理与方法.北京:国防工业出版社,1999.a都志辉著.高性能计算并行编程技术—MPI并行程序

3、设计.北京:清华大学出版社,2001.2003年9月并行计算概述2/59相关网址相关网址aMPI:http://ww.mpi-forum.org，http://www.mcs.anl.gov/mpiaPthreads:http://www.oreilly.comaPVM:http://www.epm.ornl.gov/pvm/aOpemMP:http://www.openmp.orga网上搜索:www.google.com2003年9月并行计算概述3/59并行计算概述并行计算概述2003年9月并行计算概述4/59讲座内容提示

4、讲座内容提示a并行计算概述a并行计算机体系结构a并行编程2003年9月并行计算概述5/59并行计算并行计算----高性能计算高性能计算¾并行计算(ParallelComputing）高端计算(High-endParallelComputing)高性能计算(HighPerformanceComputing)超级计算(SuperComputing)任何高性能计算和超级计算都离不开使用并行技术¾计算科学与传统的两种科学，即理论科学和实验科学，并立被认为是人类认识自然的三大支柱，他们彼此相辅相成地推动科学发展与社会进步。在许多情况下

5、，或者是理论模型复杂甚至理论尚未建立，或者实验费用昂贵甚至无法进行时，计算就成了求解问题的唯一或主要的手段。2003年9月并行计算概述6/59什么是并行计算什么是并行计算??a并行计算:由运行在多个部件上的小任务合作来求解一个规模很大的计算问题的一种方法a例:在曙光2000上用8个节点计算的Mandelbrot集结果(Mandelbrot为分形理论创始人)2z=z+ci+1i2003年9月并行计算概述7/59现代计算机的共同特点：并行性现代计算机的共同特点：并行性2003年9月并行计算概述8/59现代计算机的共同特点：并行性

6、现代计算机的共同特点：并行性2003年9月并行计算概述9/59为什么要做并行计算？为什么要做并行计算？－－应用需求－－应用需求2003年9月并行计算概述10/59为什么要做并行计算？为什么要做并行计算？¾人类对计算及性能的要求是无止境的¾从系统的角度：集成系统资源，以满足不断增长的对性能和功能的要求¾从应用的角度：适当分解应用，以实现更大规模或更细致的计算2003年9月并行计算概述11/59为什么要做并行计算？为什么要做并行计算？•问题:科学和工程问题的数值模拟与仿真–计算密集–数据密集–网络密集–三种混合•要求:在合理的时

7、限内完成计算任务–秒级制造业–分钟级短时天气预报(当天)–小时级中期天气预报(3~10日)–尽可能快长期天气预报(气候)–可计算湍流模拟2003年9月并行计算概述12/59并行计算的功能并行计算的功能a降低单个问题求解的时间a增加问题求解规模、提高问题求解精度a(多机同时执行多个串行程序)容错、更高的可用性、提高吞吐率2003年9月并行计算概述13/59如何实现并行计算如何实现并行计算??分而治之分而治之!!2003年9月并行计算概述14/59分而治之分而治之a并行化的主要方法:分而治之`根据问题的求解过程，把任务分成若干子

8、任务(任务级并行或功能并行)`根据处理数据的方式，形成多个相对独立的数据区，由不同的处理器分别处理(数据并行)2003年9月并行计算概述15/59www.top500.orgwww.top500.org2003年9月并行计算概述16/59LinpackLinpackaLinpack是国际上