计算机组成原理教学课件 马辉 第4章 二 .ppt

《计算机组成原理教学课件 马辉 第4章 二 .ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第4章存储器层次结构4.6高速缓冲存储器4.6.1程序访问的局部性4.6.2Cache的基本工作原理4.6.3Cache与主存的地址映像方式4.6.4Cache的替换算法与写策略4.6.5Cache应用举例4.6.1程序访问的局部性据统计CPU的速度平均每年改进60%，而组成主存的动态RAM速度平均每年只改进7%，结果是CPU和动态RAM之间的速度间隔平均每年增大50%。为了解决CPU和主存之间速度不匹配的问题，可以考虑在CPU和主存之间设置一个高速的容量相对较小的存储器，称为高速缓冲存储器（Cache）。通过大量典型程序的分析，可以发现CPU从主存取指令或取数据，在一定时间内，只

2、是对主存局部地址区域的访问。这是由于指令和数据在主存内都是连续存放的，并且有些指令和数据往往会被多次调用（如子程序、循环程序和一些常数）。这种一定时间内对局部范围的存储器地址频繁访问，而对此范围以外的地址则访问甚少的现象就称为程序访问的局部性。根据这一原理，很容易设想，只要将CPU近期要用到的程序和数据，提前从主存送到Cache，那么就可以做到CPU在一定的时间内不必从主存储器取指令和数据，而只需要访问Cache，从而提高访问速度。一般Cache采用高速的SRAM制作，其价格比主存贵，但因其容量远小于主存，因此能很好地解决速度和成本的矛盾。为了尽量提高Cache存储器的速度，它的全部

3、功能由硬件实现，并且对程序员是透明的。4.6.2Cache的基本工作原理1、Cache的基本结构图4-36表示Cache的基本结构。它一般由两部分组成，一部分存放由主存储器来的数据，另一部分存放该数据在主存储器时的存放地址（此部分称为地址标记存储器，记为Tag）。图4-36Cache的基本结构设主存有2n个字节，每个字节的地址码为n位，为了与Cache映射，将主存与缓存都分成若干大小相同的块，每个块内又包含若干个字节。设块内有B个字节，则主存共分成M=2n/B块，这就将主存的n位地址分成两段：高m位表示主存的块地址，低b（B=2b）位表示块内地址。设Cache地址码为（c+b）位，则

4、Cache的块数为2c块。由于Cache容量小，所以分得的块的数目少的多，主存中只有一部分块的内容可存放在Cache中。在Cache中，每一块外加有一个标记，指明它是主存的哪一块信息的副本，所以该标记的内容相当于主存中块的编号。当CPU发出读请求时，将主存地址m位（或m位中的一部分）与Cache某块的标记相比较，根据其比较的结果是否相等而区分出两种情况：当比较结果相等时，说明需要的数已在Cache块中，那么直接访问Cache就行了；当比较结果不相等时，说明需要的数据尚未调入Cache中，那么就要把该数据所在的整个字块从主存中调进来。前一种情况称为访问Cache命中，后一种情况称为访问

5、Cache不命中。2、Cache的设计要素在Cache系统的设计中，需要考虑的基本要素有：①、Cache的容量：在设计Cache时，从价格的角度考虑，我们希望Cache的容量足够小，这样它和主存的平均每位价格才会接近于单个主存储器位的价格。从速度的角度考虑，我们希望Cache的容量足够大，这样才能在Cache里存放更多主存信息的副本，使得CPU对信息的平均存取时间接近于单个Cache的存取时间。②、块的大小：主存和Cache都划分了同样大小的块，块的大小也称为块长，Cache的容量和块的大小是影响Cache的效率的重要因素。通常用“命中率”来测量Cache的效率。命中率指CPU所要访

6、问的信息在Cache中的比率，而将所要访问的信息不在Cache中的比率称为失效率。块长在由小变大的过程中，由程序局部性的原理，在已被访问字的附近的内容近期也可能被访问到，所以命中率首先会增大。然后块长增大到一定值后，Cache的块数会减少，此时命中率反而会下降。通常块长的大小取一个主存周期所能调出的信息长度。例如，CRAY-1机器的主存是模16交叉，每个分体为单字宽，其指令Cache的块长为16个字。③、Cache的映像：由于Cache的数据块比主存的数据块要少得多，因此需要一种算法把主存储器的数据块映射到Cache中。而且，还需要一种方法来确定主存储器中的哪一块占用着Cache块，

7、所以映射的功能决定了Cache的结构。通常，Cache的映射采用三种技术：直接映像、全相联映像和组相联映像。④、替换算法：当新的主存块需要被调入Cache时，如果它的可用空间被占满的话，Cache中原存储的块需要被替换掉。如果新装入块的可用空间不只一个，就需要一种替换算法决定先替换哪一个。替换算法也称为替换策略，一般由硬件实现。⑤、写策略。在将驻留在Cache中的块替换之前，需要考虑这块数据驻留Cache期间是否被修改过，同时在主存中对应的块有没有被修改。