浙江工商大学-计算机体系结构-第4章多处理器和线程级并行

《浙江工商大学-计算机体系结构-第4章多处理器和线程级并行》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第4章多处理器和线程级并行简介对称式共享存储器系统结构对称式共享存储器多处理器的性能分布式共享存储器同步存储器连贯性模型4.1简介问题引出尽管单处理器仍在发展，但多处理器自20世纪末开始显得越来越重要，由于开发ILP的空间正在减少，单处理器的发展速度正在逐步变慢，使得多处理器唱主角的时代到来。对多处理器的依赖还体现在以下方面：对服务器及其性能的关注不断增加、以数据为中心的应用不断增多、工业制造中批量复制比专门生产的方法更有优势，而多处理器正好有此优势4.1简介并行系统结构分类根据数据流和指令流的并行度，将计算机分为四类1、单指令流单数据流（SISD）:单处理器2、单指令流多数据流（SI

2、MD）同一条指令被多个使用不同数据流的多处理器执行。通过将相同的操作以并行的方式应用于数据的各个项来实现数据级的并行，每个处理器有自己的数据存储器，但系统中有唯一的指令存储器和控制处理器，用来获取和分配指令。4.1简介并行系统结构分类根据数据流和指令流的并行度，将计算机分为四类3、多指令流单数据流（MISD）至今无此类型的商用机4、多指令流多数据流（MIMD）每个处理器取自己的指令并对自己的数据进行操作，多个线程按并行操作，计算机实现线程级并行，这种线程级并行比数据级并行更加灵活，用途也更为广泛。4.1简介并行系统结构分类MIMD的优势1、灵活性强在必要的软件和硬件支持下，MIMD既能

3、作为单用户多处理器为单一应用程序提供高性能，又可作为同时运行多个任务的多道程序多处理器系统使用，还可以提供结合这两种任务的应用。2、能够充分利用现有处理器的性价比优势多核芯片通过复制方式可降低单处理器设计成本4.1简介几个概念多核：又称为片内多处理器或单芯片多处理器，在一个单独的晶片上设计多个处理器，多个内核共享一些资源如二级缓存、存储器和I/O总线进程：是可以独立运行的一段代码，进程的状态包含了处理器运行这个进程的所有必要信息。线程：指运行在不同处理器上的多个执行过程，允许不同的地址空间上多个进程同时执行，也允许共享的地址空间上多个线程同时执行。4.1简介MIMD分类根据处理器个数分

4、为两类，这两类机器的存储器组织方式和互联测量不相同，根据存储器组织方式而不是处理器构成方式区分多处理器种类。1、集中式共享存储器系统结构（图4.1）最多拥有几十个处理器，但随着处理器数目的增多，共享单个集中式存储器方案前景不被看好.存储器对每个处理器都是对等的，顾也称为对称多处理器系统，该系统是目前最流行的系统结构.4.1简介MIMD分类2、分布式存储器系统结构（图4.2）支持更多的处理器，存储器按照分布式组织。系统基本结构由多个独立节点构成，每个节点包含处理器、存储器、输入输出和互连网络接口，各个节点通过互连网络连接在一起。分布式存储器结构优点是缩短了本地存储器访问的时延，缺点是处理

5、器间的数据通信变得更加复杂且时延也更大。4.1简介通信和存储器系统结构模型根据处理器间传递数据的方法，有两种不同的系统结构：1、通过共享的地址空间进行通信共享存储器指的是共享寻址空间，物理上分开的存储器能够作为逻辑上共享的地址空间进行寻址，只要有正确的访问权限，任何一个节点都能够通过引用地址的方式访问任意节点上的存储器。4.1简介通信和存储器系统结构模型根据处理器间传递数据的方法，有两种不同的系统结构：2、通过私有的地址空间进行通信私有的地址空间在逻辑上是分散的，不能被远程的处理器寻址，每个处理器-存储器模块本质上是一台独立的计算机。4.1简介并行处理遇到的挑战有两个障碍使得并行处理遇

6、到了挑战，第一个障碍是程序可获得的并行度是有限的；第二个障碍来自于通信相对较高的开销。这两个障碍使得并行处理器难以得到较高的性价比（见P138-139页例子）并行度低和远程通信时延太长是多处理器的最大挑战，后面集中讨论减少通信时延技术4.2对称式共享存储器系统结构对称式共享存储器系统支持共享和私有数据的缓存，私有数据被单个处理器使用，共享数据被多个处理器使用，基本上是通过读写共享数据完成处理器之间的通信。把私有数据缓存后，对该数据的访问可以在Cache中进行，共享数据可以在Cache中形成多个副本，这样可以减少访问时延和降低对存储器带宽的要求，但会产生Cache一致性问题。4.2对称式

7、共享存储器系统结构处理器的Cache一致性缓存共享带来了新的问题，如果没有其他的防范措施，会导致两个处理器得到两个不同的值（见图4.3）.如果在一个存储器系统中读取任何一个数据项的返回结果总是最近写入的数值，那么就认为该存储器具有一致性。该定义包含了一致性和连贯性两个方面，一致性定义了读操作可以返回什么样的数值，连贯性定义了写入的数值什么时候才能被都操作返回4.2对称式共享存储器系统结构存储器一致性满足的条件1、处理器P对地址X的写操作后面紧跟