最新存储器层次结构ppt课件.ppt

《最新存储器层次结构ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、存储器层次结构存储器(memory)系统VonNeumann一个线性的字节数组，CPU能够在一个常数时间内访问每个存储器位置实际一个具有不同容量、成本和访问时间的存储(storage)设备层次结构存储器层次结构CPUregisterLatency:0cycleCachememory(L1,L2,…)Latency:1-10cycleMainmemoryLatency:50-100cycleDiskstorageLatency:20000000cycleNetworkstorage访问主存典型的连接C

2、PU和主存的总线结构磁盘存储提纲导论存储技术局部性原理存储器层次结构高速缓存存储器编写高速缓存友好的代码利用程序中的局部性局部性时间局部性(temporallocality)被引用过一次的存储器位置很可能在不远的将来再被多次引用空间局部性(spatiallocality)如果一个存储器位置被引用了一次，那么程序很可能在不远的将来引用附近的一个存储器位置局部性有良好局部性的程序运行更快计算机系统的各个层次都利用了局部性Cache主存作为虚拟地址空间最近被应用块的高速缓存缓存磁盘文件系统最近使用的磁盘块

3、Web浏览器将最近被引用的文档放在本地磁盘上Web服务器将最近被请求的文档放在前端磁盘高速缓存中对程序数据引用的局部性intsumvec(intv[N]){inti,sum=0;for(i=0;i

4、性下降引用多维数组intsumarraycols(inta[M][N]){inti,j,sum=0;for(j=0;j

5、majororder)步长为1局部性好局部性小结重复引用同一个变量的程序有良好的时间局部性对于具有步长为k的引用模式的程序，步长越小，空间局部性越好对于取指令来说，循环有好的时间和空间局部性。循环体越小，循环迭代次数越多，局部性越好提纲导论存储技术局部性原理存储器层次结构高速缓存存储器编写高速缓存友好的代码利用程序中的局部性存储器层次结构(memoryhierarchy)存储器层次结构中的缓存高速缓存(cache)一个小而快速的存储设备作为存储在更大也更慢的设备中的数据对象的缓冲区域存储器层次结构的

6、中心思想位于k层的更快更小的存储设备作为位于k+1层的更大更慢的存储设备的缓存存储器层次结构中的数据传输缓存命中当程序需要第k+1层的某个数据对象d时，它首先在当前存储在第k层的一个块中查找d。如果d刚好缓存在第k层中，那么就是我们所说的缓存命中(cachehit)。该程序直接从第k层读取d，根据存储器层次结构的性质，这要比从第k+1层读取d更快。缓存不命中如果第k层中没有缓存数据对象d，那么就是我们所说的缓存不命中(cachemiss)。当发生cachemiss时，第k层的缓存从第k+1层中取出包

7、含d的那个块。如果第k层的缓存已经满了的话，可能就会覆盖现存的一个块，由缓存的替换策略来控制。缓存不命中的种类冷不命中(coldmiss)warmedup之前容量不命中(capacitymiss)workingset冲突不命中(conflictmiss)限制性的块放置策略高速缓存管理寄存器编译器L1,L2cache内置在缓存中的硬件逻辑DRAM主存操作系统软件和CPU上的地址翻译硬件本地磁盘缓存网络存储应用程序提纲导论存储技术局部性原理存储器层次结构高速缓存存储器编写高速缓存友好的代码利用程序中的局

8、部性高速缓存存储器基于L1和L2高速缓存的典型总线结构高速缓存存储器直接映射高速缓存(direct-mappedcache)机制比较简单冲突不命中全相联高速缓存(fullyassociativecache)成本高，容量小虚拟存储系统翻译备用缓冲器(TLB)组相联高速缓存(setassociativecache)高速缓存替换策略随机选择最不常使用(least-frequently-used,LFU)替换在过去某个时间窗口内引用次数最少的那一行最近最少使用(least-r