1、计算机系统结构教程,陈嘉 多媒体教学课件 福州大学软件学院,存储系统的层次结构与性能指标,存储系统的设计目标：以较小的成本使存 储系统的工作速度与处理机的速度相匹配， 同时要求存储系统有尽可能大的容量。,程序访问局部性：,时间局部性：程序在最近的未来要用到的 信息很可能是现在正在使用的信息。 （如循环程序）,空间局部性：程序在最近的未来要用到的 信息很可能同现在正在使用的信息在存储空 间位置上相邻近。（如顺序执行程序,数据 聚族存储）,存储系统的多级层次结构：,M1 (T1,S1,C1),M2 (T2,S2,C2),Mn (Tn,Sn,Cn),T1T2Tn 存储器访问周期,S1S2Sn 存储容
2、量,C1C2Cn 单位容量平均价格,通过程序访问局部性原理使存储系统的等效 访问速度接近于M1的访问速度 存储系统的容量为Mn的容量，每位价格接近 于Mn的每位价格,程序局部性不仅使层次结构的存储系统在 速度、容量和价格的综合水平较高，而且 可对存储空间采用分块或分页的管理方式 来获得对M1较高的命中率,由于程序访问的时间和空间局部性，从而 保证对M1有较高的命中率,存储系统层次结构要解决的问题：,定位问题,寻址问题,替换问题,写回问题,三级存储系统,Cache,内存,辅存,Cache存储器,虚拟存储器,虚拟存储器(主存-辅存存储系统)是针对主存容量不 能满足要求而提出的，对应用程序员透明，对
3、系统程序员不透明。,虚拟存储器的等效访问速度接近于主存访问速度，容量却是辅存的容量，每位价格接近辅存的每位价格,Cache存储器(Cache-主存存储系统)是针对主存速度不能满足要求而提出的，对应用程序员和系统程序员都透明。,虚拟存储器在主存和辅存之间增加辅助的硬、软件，使主存和辅存构成一个整体,Cache存储器的等效访问速度接近于物理Cache的访问速度，其容量却是主存的容量，每位价格接近主存的每位价格,在物理Cache和主存之间增加辅助硬件，使Cache 和主存构成一个整体,存储系统的性能指标：,存储容量,“Cache-主存”存储系统 存储系统的容量就是主存的容量,“主存-辅存”存储系统
4、虚拟地址空间的容量,虚拟地址空间既不是主存的地址空间，也不是辅存 的地址空间，这个虚拟地址空间比主存的实际地址 空间大得多，并采用像主存一样的随机访问方式,存储系统带宽,存储器最大带宽每秒从存储器进出信息的最大数量 （若存储周期200ns，存储字为32位，则存储器带宽为160M位/秒）,存储器带宽存储器被连续访问时能提供的数据传输速率实际带宽最大带宽,单位容量平均价格,S1S2，CC2,如果S1与S2相差太大，则会使得对M1的命中率很低 要使C接近于C2，还应使增加的辅助软硬件价格只占价格中很小比例，否则性价比将会显著 降低,命中率,命中率由CPU产生的逻辑地址在存储器M1中访问到指定信息的概
5、率,H=,与命中率相关的因素,程序的访存地址流,采用的M1和M2之间的地址映像关系,采用的块或页面替换算法,M1的容量,等效访问周期,T=HT1+(1-H)T2,H1, TT1,访问效率,访问效率与命中率和两级存储器的访问周期比有关,存储系统的透明性要求,地址变换和替换算法对程序员都应是透明的， 这种透明性由对存储系统进行管理的硬件和 软件自动实现,地址映象 虚拟地址与物理地址间对应关系的规则,地址变换 虚拟存储系统按照某种地址映象方式把虚拟地址转换成物理地址,相邻层之间的数据传送单位,CPU与高速缓存之间：字高速缓存与主存储器之间：块（每块32个字节）主存与磁盘之间：页面（每页4K字节，包括
6、128块）磁盘与磁带之间：段,并行存储器,并行存储器通过设置多个存储器或存储体， 使它们并行工作，在一个存储器访问周期能 并行访问到多个存储字,单体多字并行存储器,把存储器的存储字字长增加n倍，以存放n个指令字或数据字，从而在一个存储周期内能访问到n个指令字或数据字，最大带宽比单体单字存储器的最大带宽提高n倍,优点：实现简单,缺点：访问冲突概率大,取指令冲突 一个存储字中有一个转移指令字时，转移指令后 预取的指令字只能作废,读操作数冲突 单体多字并行存储器一次取出的n个数据字不一 定都是要执行的指令所需要的操作数，而当前 执行指令需要的全部操作数也可能不包含在一个 存储字中而不能被一次取出 数
7、据存放的随机性比指令存放的随机性大，所以 读操作数冲突的概率较大,写数据冲突 必须凑齐n个数据字后才能作为一个存储字 一次写入存储器。需要先把属于一个存储字 的n个数读到数据寄存器中，然后再把整个 存储字写回存储器,读写冲突 在要读出的数据字和要写入的数据字同处于 一个存储字时，读和写的操作就无法在同一 个存储周期中完成,交叉访问存储器,由多个存储体组成一个更大容量的主存时，对存储器的多个存储体的存储单元采用交叉编址方式，组成交叉访问存储器,高位交叉访问存储器,高位(体号k),低位(体内地址j),log2m位,log2n位,由m个存储体组成，每个存储体的容量均为n个字,缺点：由于程序的连续性和
8、局部性，在程序执行 过程中被访问的指令序列和数据绝大多数会分布 在同一存储体中，引起访问冲突,优点：有利于扩大常规主存容量,00000000,00000001,00ffffff,01000000,01000001,01ffffff,ff000000,ff000001,ffffffff,译码器,高位(体号),低位(体内地址),地址寄存器,高位(体内地址j),低位(体号k),log2n位,log2m位,A=j*m+k (0jn,0km ),k=A mod m,低位交叉访问存储器,由m个存储体组成，每个存储体的容量均为n个字,优点：避免了顺序执行程序和顺序读取指令时存储体的访问冲突,缺点：不便于主存
9、容量的扩充，在执行转移指令或随机访问数据时仍会产生访问冲突,按m个连续的存储单元地址访问存储器，将对m个不同的存储体中各自一个存储单元进行访问，即在一个存储器访问周期中访问了m个存储单元,00000000,00000100,ffffff00,00000001,00000101,ffffff01,000000ff,000001ff,ffffffff,译码器,高位(体内地址),低位(体号),地址寄存器,无冲突访问存储器,一维数组的无冲突访问,在低位交叉访问存储器中，由于程序中的转移指令 和数据访问的随机性仍可能产生访问存储体的冲突,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,变址位移
10、量,访问4个元素的冲突情况,1,无冲突,2,一半冲突,3,无冲突,4,全冲突,通常把存储体的个数n选为质数，变址位移量选 为同n互质,若存储体的个数与变址位移量互质，就不会 产生一维数组的访问冲突,二维数组的无冲突访问,要求对存放在并行存储器中的二维数组按行， 按列，按对角线，按反对角线访问均能实现 无冲突访问,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,按列访问冲突！,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,按对角线和反对角线访问冲突！,a00,a01,a02,a03,a11,a12,a13,a10,a22,a23,a20,a21,a33,a30,a31,a3
11、2,体内地址=i 体号=( j-i )%N,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,a00,a11,a22,a33,a03,a02,a01,a12,a13,a10,a21,a20,a23,a30,a31,a32,按行，按列，按对角线及反对角线访问均不 产生冲突。但需要对准网络把数组元素的地 址变换成并行存储器的实际地址,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,0号体,1号体,2号体,3号体,0,1,2,3,体内地址,体号=2*(iLjH)+(iHiLjL)( 为异或运算 ) 体内地址=j,P.Budnik和D.J.Kuck提出了一种能对n*n二 维数组实现按
12、行，按列，按对角线，按子对 角线，按反对角线，并行访问数组中任意一 个n0.5n0.5子数组中的n个元素无冲突的存储 方案：要求并行存储体的个数mn，且m取质数。,二维数组的任意元素aij在无冲突并行存储器 中的体号和体内地址分别为：体号= (2p*i+j+k) mod m体内地址= i 其中，p是满足m=22p+1的任意自然数；k是 数组第一个元素a00所在存储体的体号，一般 取k=0。,0号体,1号体,2号体,3号体,4号体,0,1,2,3,体内 地址,n=4, m=5，p=1，k=0,存储空间的(m-n)/m被浪费，存储空间利用率不高 m个存储体组成的并行存储器的最大带宽为fmax=mW
13、/T， n*n的二维数组错位存储后，可达到的实际带宽为 f=(n/m)fmax,虚拟存储器,虚拟存储器中的三种地址空间,主存储器地址空间 由主存单元地址表示的可以随机访问的地址空间,虚拟存储器为应用程序员提供一个比主存 容量大得多的可以按接近主存的工作速度运 行的存储空间,虚拟地址空间既不是主存的地址空间，也不是辅存的地址空间，是由虚拟地址表示的，比主存的实际地址空间大得多且可以随机访问的空间,辅存地址空间 由数据块的外部地址表示的顺序访问的地址空间,虚拟存储器中的三种地址,主存地址 主存存储单元的地址,辅存地址 辅存上数据的存放地址,虚拟地址 程序经编译生成的访存地址,地址映象 虚拟地址与主
14、存物理地址间对应关系的规则,地址变换 虚拟存储系统按照某种地址映象方式把虚拟地址转换成物理地址的过程对应用程序员透明，由存储系统自动完成,外部地址变换 将虚拟地址转换为磁盘存储器物理地址 外部地址变换更多依靠软件实现,替换算法 当有新数据块调入主存，而主存已没有空闲位置时，需要采用某种替换算法确定新数据块调入主存的位置,段式虚拟存储器的地址映象与地址变换,由程序员将一个大的复杂程序划分为逻辑上相互独立的若干模块或它们的部分集合，这些模块称为段。每个程序段都从0开始编址(段内偏移)，段可长可短。,段式管理：把主存空间按段进行分配的存储管理方式,段表：存放程序的各段装入主存的相关信息段长，起始地址
15、，访问方式，装入位,装入位表示要访问的程序段是否已经装入主存,访问方式可以指出本程序段是否需要保护和保护的级别，例如允许读允许写，允许读禁止写,每个程序都用一个段表来存放该程序的各段 装入主存的有关信息,段式虚拟存储器的地址映象,多用户虚地址Av,+,+,段表,段表基址寄存器,检查是否越界,主存或磁盘,0,N-1,As,CPU内有一个段表基址寄存器堆，每道程序使用其中的一个段表基址寄存器,如果装入位给出的信息表示要访问的段不在主存中，则称发生了段失效，那么不能将虚地址变换成主存实地址。需要从磁盘存储器中把该段读入主存，并在段表中填入该段的相关信息,随着长度不等的段在主存中不断调入调出，主存中出
16、现段间零头 (不足以容纳一个段)，使主存空间利用率较低可通过定时运行段间零头回收程序来合并段间零头成为一个连续空间，但将增加系统运行的时间开销,段表中的起始地址字段的长度就是主存实地址的长度，段长字段的长度就是主存空间大小的表示长度，这两个字段都很长。这样既增加了段表本身的存储开销，又增加了虚实地址变换的时间开销。,段式虚拟存储器的主要优点：(1) 程序的模块化性能好。 (2) 便于程序和数据的共享。 (3) 程序的动态链接和调度比较容易。 (4) 便于实现信息保护。,段式虚拟存储器的主要缺点： 地址变换所花费的时间比较长（做两次加法运算，访存读写段表的时间长） (2) 主存储器的利用率往往比
17、较低，易出现段间零头 (3) 对辅存（磁盘存储器）的管理比较困难，因为段长度不定，而磁盘是按固定的块来访问 (4) 段表所占的存储空间大,页式虚拟存储器的地址映象与地址变换,页式管理：把虚拟地址空间和主存地址空间都划分为同样大小的页面，程序以页为单位调入调出主存。虚拟空间的页称为虚页，主存空间的页称为实页。,地址空间的页面划分和页面大小是由虚拟存储器的页式管理软硬件实现的,页式虚拟存储器的地址映象,多用户虚地址Av,+,页表,页表基址寄存器,主存实地址A,Pa,页表：在页式虚拟存储器中，每个程序都用一个页表来存放程序的各虚页装入主存实页位置的有关信息 主存页号，修改位，装入位, ,一个虚页占用
18、页表中的一行 修改位表示对应的实页是否被修改。如果没有被修改，则在需要把该实页替换出主存时，不必把它写回到磁盘存储器去更新相应的页，只需用调入的新页来覆盖它即可。如果被修改过，替换时则需要把它先写回磁盘存储器。,CPU内有一个基址寄存器堆，每道程序使用其中的一个基址寄存器存放该程序的页表在主存中的基地址,当一个虚地址变换成主存实地址时，需要变换的是把虚地址中的虚页号变换成实地址的实页号，从而大大缩短了要进行变换的地址长度，既节省了硬件和存储开销，又能加快地址变换的速度,内部地址变换：一个用户程序要访问虚存时， 必须先给出多用户虚拟地址Av，在操作系统 和有关硬件共同管理下，首先进行内部地址 变
19、换，如果成功，则得到实页号P。如果不成 功，则：,外部地址变换：需要用软件实现，首先查外 页表，得到与虚页号对应的磁盘存储器的实 地址，然后查内页表（主存页表），看主存 是否有空页。如有，把整页磁盘数据调入主 存，修改页表。如果没有，则：页面替换：把主存中暂时不用的一页写回到 磁盘存储器中原来的位置上,磁盘存储器的地址格式,在操作系统中，把页面失效当作一种异常故障来处理。失效几率很低，1%，因此外部地址变换采用软件来实现 每个用户程序都有一张外页表，虚拟地址空间中的每一页或每个程序段，在外页表中都有对应的一个存储字。 每一个存储字除了磁盘存储器的地址之外，至少还包括一个装入位。,外部地址变换,
20、多用户虚地址Av,外页表,页式虚拟存储器的优点：主存空间利用率较高页内零头远小于段间零头地址变换速度快只做一次地址加法运算页表的一行长度比段表的一行长度要短，读出和写入一行信息费时较少对辅存的管理容易，固定页对应固定块,页式虚拟存储器的缺点： 程序的链接和调度不方便 一个程序代码段或数据块中可能先只有部分代码 和数据调入主存，在主存中占用若干个不连续的 实存空间,模块化性能差，程序和数据的保护不方便 对属于同一个程序段的多个页的访问方式标志要 同样设置和同样修改,由于每一个虚页都要占用页表的一行，导致页表行数很多，需占用很大主存空间,段页式虚拟存储器的地址映象与地址变换,段页式管理：对用户编写
21、程序的虚拟空间采用分段方式管理，对主存的物理空间采用分页方式管理,用户仍然按照逻辑分段来编写程序，但是虚拟空间到主存物理空间的映像是分页进行的,段表：页表长度，页表起始地址，装入位，修改位，,页表：实页号，修改位，装入位，,用户程序,主存储器,段表,段0的页表,段1的页表,段2的页表,12K,10K,5K,多用户虚地址Av：,段表基址寄存器,多用户段表,+,+,As,Ap,实页号p,页内偏移d,多用户页表,主存地址A,段页式虚拟存储器的优点： 主存空间利用率较高每段出现一个页内零头，不会出现段间碎片 对辅存的管理容易，固定页对应固定块 便于程序的调度和链接 程序段和数据段的共享和保护方便,段页
22、式虚拟存储器的缺点： 地址转换速度慢需访存3次，进行2次地址加法 需设置段表和多个页表，占用存储空间大,加快地址变换的方法,目录表,基本思想：用一个小容量高速存储器存放目 录表，目录表存储容量由实页数决定，使目 录表占用存储空间少，采用相联存储器的并行 相联查找功能访问目录表，加快查表速度,如果将容量较大的页表放在主存中，由于主存 的工作速度较低，所以地址变换费时较多,相联存储器（按内容访问存储器）能实现对存储器中所有存储字的并行查找操作,查找速度快，造价高，容量小,屏蔽字用来屏蔽掉寄存器C中不需要查找的某些位,多用户虚地址,目录表 按内容访问的相联存储器,实页号p,页内偏移d,相联访问,主存
23、实地址,目录表地址变换方法的优点：由于采用相联存储器，因此查表速度快,目录表地址变换方法的缺点：可扩展性差：随着主存容量的增加，目录表的容量也必须增加，原有的相联存储器的容量就可能不够。如果扩大相联存储器的容量就使造价太高，查表速度也会因此降低,快慢表,快表(TLB)：是慢表的一个部分副本，在相联存储器中存放一段时间内经常要访问的存储字，容量可为816个存储字，访问速度与CPU中的通用寄存器相当。,程序在执行过程中具有局部性,慢表：存放页表的所有存储字，放在主存中,快慢表地址变换的速度接近快表的访问速度，并使主存中的慢表容量不受限制,多用户虚地址Av,快表(按内容相联访问),慢表(按地址访问)
24、,主存实地址,快表的查找速度很快，只要对快表的命中率 较高，地址变换所需时间与主存的一个存储 周期相比就几乎可以忽略不计。虚拟存储器 的访问速度就可以接近主存的工作速度,例：某页式虚拟存储器的虚空间分为8个虚页， 虚页号为07，页的大小为1024个字，主存容 量为4096个字。采用页表进行地址变换时，页 表的当前内容如下表所示。,（1）列出会发生页面失效的全部虚页号。 （2）若程序按以下虚地址访存：0, 3728, 1023, 1024, 2055, 7800, 4096, 6800，请计算出变换的主存实地址（用十进制表示）。,（1）2，3，5，7,页面替换算法,在产生页面失效，需将新页调入主
25、存，主 存已被虚页占满的情况下，控制腾出主存中 哪个页面以接纳新页的算法,评价页面替换算法的优劣准则 主存命中率 是否便于实现 实现成本,随机算法（RAND算法）,用软件或硬件随机产生被替换的虚页号,优点：简单，易于实现,缺点：没有利用主存使用的“历史”情况，没 有利用程序的局部性，使主存命中率低,先进先出算法（FIFO算法）,选择最早装入主存的虚页作为被替换页 实现方法：为页表或目录表中的每个页增设 一个“年龄计数器”字段,刚调入的虚页的计数器的计数值为0,每调入一个新的虚页时，其他装入页的计数值都加1,需要替换时，计数值最大的装入页就是最先进入主存的虚页,优点：较易实现，利用了主存使用的“
26、历史”信息,缺点：最先进入的页很可能是现在经常要用到的页，不一定能反映出程序的局部性,近期最少使用替换算法（LRU算法）,选择过去近期最少访问的虚页作为被替换页 实现方法：,在页表或目录表中，对每个页增设一个“使用次数 计数器”字段,某个页被访问一次时，该页的计数器字段加1,使用次数最少的页是被替换页,优点：由于一般近期最少使用的页在未来一段时间内也将最少被访问，因此能较好地反映程序的局部性,缺点：,是按页的过去使用情况来确定被替换页，不是按页的未来使用情况确定被替换页，具有一定的局限性,实现困难,近期最近未使用替换算法选择过去近期最久未被访问的虚页作为被替换页在页表或目录表中，对每个页增设一
27、个“使用计时器”字段某个页被访问时，该页的计时器字段清0，其他装入页的计时器的值都加1使用最久的页（即计时器的值最大）是被替换页,近期最久未使用替换算法的“使用计时器” 字段的位数比近期最少使用替换算法的 “使用次数计时器”字段的位数少，使页表 增加的容量较少。,最优替换算法（OPT算法）,选择将来一段时间内最久不被访问的页作为被替换页,优点：根据虚页未来使用情况来确定被替换页，命中率最高,缺点：只有让程序先运行一遍得到程序访存的虚页地址流，才能在替换时确定未来一段时间内哪一页是最久不被访问的。是一种理想化的算法，不具有实用价值，常用作评价其它页面替换算法优劣的标准,例：设有一道程序，有04共
28、5个虚页，程序 执行时的访存地址流为：0,1,0,4,3,0,2,3,1,3 若分配给该道程序有3个实页，请图示分别 采用FIFO，LRU和OPT替换算法对3页主存 空间的使用和替换过程，并分别计算主存命 中率。,时间t,1 2 3 4 5 6 7 8 9 10,虚页地 址流,0 1 0 4 3 0 2 3 1 3,0,0,1,0,1,0*,1,4,调 进,调 进,命 中,调 进,替 换,3,1*,4,3,0,4*,替 换,3*,0,2,替 换,3*,0,2,命 中,1,0*,2,替 换,1,3,2*,替 换,先进先出FIFO,命中2次,时间t,1 2 3 4 5 6 7 8 9 10,虚页地
29、 址流,0 1 0 4 3 0 2 3 1 3,0,0,1,0,1,0,1*,4,调 进,调 进,命 中,调 进,替 换,0*,3,4,0,3,4*,0,3*,2,替 换,0*,3,2,命 中,1,3,2*,替 换,1,3,2*,近期最 少使用LRU,命中4次,命 中,命 中,时间t,1 2 3 4 5 6 7 8 9 10,虚页地 址流,0 1 0 4 3 0 2 3 1 3,0,0,1,0,1,0,1,4*,调 进,调 进,命 中,调 进,替 换,0,1*,3,0*,1,3,2*,1,3,替 换,2*,1,3,命 中,2*,1,3,2*,1,3,最优替 换算法OPT,命中5次,命 中,命
30、中,命 中,例：设有一道循环程序，有03共4个虚页， 分配给该程序的主存实页只有3个。程序执 行时的访存地址流为：0,1,2,3,0,1,2,3, 请图示分别采用FIFO，LRU和OPT替换算 法对主存实页的使用和替换过程，并分别计 算主存命中率。,时间t,1 2 3 4 5 6 7 8,虚页地 址流,0 1 2 3 0 1 2 3,0,0,1,0*,1,2,3,1*,2,调 进,调 进,替 换,3,0,2*,3*,0,1,替 换,2,0*,1,替 换,2,3,1*,先进先出FIFO,命中0次,调 进,替 换,替 换,时间t,1 2 3 4 5 6 7 8,虚页地 址流,0 1 2 3 0 1
31、 2 3,0,0,1,0*,1,2,3,1*,2,调 进,调 进,替 换,3,0,2*,3*,0,1,替 换,2,0*,1,替 换,2,3,1*,调 进,替 换,替 换,近期最 少使用LRU,命中0次,时间t,1 2 3 4 5 6 7 8,虚页地 址流,0 1 2 3 0 1 2 3,0,0,1,0,1,2*,0,1,3*,调 进,调 进,命 中,0*,1,3,0,1*,3,0,2*,3,替 换,0,2,3*,调 进,替 换,命中3次,最优替 换算法OPT,命 中,命 中,在程序按虚页地址流访问主存过程中，每次发生替换时的被替换页就是下次要使用的页，产生 “颠簸”。,若再多分配一个主存实页，
32、3种算法均能命中4次，达到最大主存命中率。,命中率与分配给程序的主存实页数有关。,例：设有一道循环程序，有04共5个虚页，程序执行时的访存地址流为：0,1,2,3,0,1,4,0,1,2,3,4 请图示采用FIFO算法，在分配给程序的主存 实页数分别为3页和4页时的命中率。,并不是分配给程序的主存实页数越多， 主存访问的命中率就越高。,时间t,1 2 3 4 5 6 7 8 9 10 11 12,虚页地 址流,0 1 2 3 0 1 4 0 1 2 3 4,0,0,1,0*,1,2,3,1*,2,调 进,调 进,替 换,3,0,2*,3*,0,1,替 换,4,0*,1,替 换,4,0*,1,命
33、 中,4,0*,1,4,2,1*,替 换,n=3,命中 3次,调 进,替 换,命 中,4*,2,3,替 换,4*,2,3,命 中,时间t,1 2 3 4 5 6 7 8 9 10 11 12,虚页地 址流,0 1 2 3 0 1 4 0 1 2 3 4,0,0,1,0,1,2,0*,1,2,调 进,调 进,0*,1,2,0*,1,2,4,1*,2,替 换,4,0,2*,4,0,1,4*,0,1,替 换,n=4,命中 2次,调 进,3,0*,1,替 换,3,4,1*,3,3,3,3,3,3*,2,2,2,调 进,命 中,命 中,替 换,替 换,替 换,堆栈型替换算法,堆栈型替换算法的定义： 设A
34、是长度为L的任意一个虚页地址流，t为已处理 过t-1个虚页的时间点，n为分配给该虚页地址流的 主存实页数，Bt(n)表示在t时间点，在n个实页中 的虚页集合，Lt表示到t时间点已处理过的虚页地 址流中虚页号相异的页数。如果替换算法具有下列 包含性质：n Lt时，Bt(n) c Bt(n+1)nLt时，Bt(n)=Bt(n+1) 则称此替换算法属于堆栈型替换算法。,堆栈型替换算法具有性质： 随着分配给程序的主存实页数增加，堆栈型替换算 法保证访问主存的命中率也随之增加，至少不下降,LRU算法及OPT算法是堆栈型替换算法 FIFO算法非堆栈型替换算法,对于LRU算法，在主存中保留的是最近使用过的虚
35、页， 最近使用过的n+1个虚页中必包含最近使用过的n个虚 页,对于OPT算法，在主存中保留的是最近的将来要访问 的虚页，最近的将来要访问的n+1个虚页中必包含最 近的将来要访问的n个虚页,可采用堆栈处理技术对访存虚页地址流处理 一次，就可同时获得对此虚页地址流分配不 同主存实页数时的主存命中率,用堆栈处理技术对虚页地址流进行处理时， 主存在t时间点的状态用堆栈St表示，St是Lt 个不同虚页号在堆栈中的有序集。St(1)是栈 顶项，St(2)是次栈顶项nLt Bt(n)=St(1),St(2),St(n)nLt Bt(n)=St(1),St(2),St(Lt),对虚页地址流A在时间点t的At虚
36、页是否命中， 只需看St的前n项中是否有At页，若有，则 命中,LRU算法把刚访问过的虚页号压入栈顶单元后， 把栈顶单元中的虚页号与其他堆栈单元的虚页号 进行比较，去掉与栈顶单元虚页号相同的其他 堆栈单元，保证栈中保留的虚页号都是相异的。,例：设有一道程序，有04共5个虚页，程序 执行时的访存地址流为：1,2,1,0,4,1,3,4,2,1,4,1 若分配给该道程序有3个实页，采用LRU算法 对虚页地址流进行堆栈处理。分别求出分配 给该程序主存实页数为1，2，3，4和5页时的 主存命中率。,n=1，H1=0 n=2，H2=2/12=0.167 n=3, H3=5/12=0.417 n=4, H
37、4=6/12=0.5 n=5, H5=7/12=0.583,时间t,1 2 3 4 5 6 7 8 9 10 11 12,虚页地 址流,1 2 1 0 4 1 3 4 2 1 4 1,1,n=1,n=2,n=3,n=4,n=5,St(1),St(2),St(3),St(4),St(5),2,1,1,2,调入,调入,调入,调入,调入,替换,调入,调入,调入,调入,替换,命中,命中,命中,命中,0,1,2,替换,替换,调入,调入,调入,4,0,1,2,替换,替换,替换,调入,调入,1,4,0,2,替换,替换,命中,命中,命中,3,1,4,0,2,替换,替换,替换,替换,调入,4,3,1,0,2,替
38、换,替换,命中,命中,命中,2,4,3,1,0,替换,替换,替换,替换,命中,1,2,4,3,0,替换,替换,替换,命中,命中,4,1,2,3,0,替换,替换,命中,命中,命中,1,4,2,3,0,替换,命中,命中,命中,命中,高速缓冲存储器,Cache-主存存储系统与主存-辅存存储系统之间的区别： 两级存储器间的信息交换单位不同 主存与辅存间的信息交换单位是页(1K几十K个存 储字)，Cache与主存间的信息交换单位是块(几个 几十存储字) 两级存储器的速度比不同： 主存速度是磁盘速度的105倍，Cache速度是主存速 度的310倍,CPU与Cache及主存均有直接通路CPU对Cache未命
39、中可直接访问主存；辅存与CPU间没有直接通路，CPU访存未命中，需等待虚页调入主存再访存 Cache-主存存储系统以提高速度为目标，各项管理功能由硬件实现；主存-辅存存储系统以扩大容量为目标，各项管理功能由软件实现 Cache-主存存储系统对应用程序员和系统程序员均透明；主存-辅存存储系统仅对应用程序员透明,Cache的工作原理,主存和Cache都划分成相同大小的块,Cache的地址映象与地址变换,Cache的地址映象：把主存地址空间映象到Cache地址空间，建立起主存块与Cache块间位置对应关系的规则。,Cache的地址变换：在程序实际运行过程中，把主存地址变换为Cache地址的过程。,选
40、择地址映象方式考虑的因素：用硬件实现地址变换的难易 地址变换速度 主存或Cache空间利用率 块调入时发生块位置冲突的概率,全相联映象及其地址变换,全相联映象：主存中的任意一块可以映象到Cache中的任意块位置上,若Cache块数为Cb，主存块数为Mb，则主存与Cache间的对应关系有CbMb种,块0,块Cb-1,块1,块0,块1,块i,块Mb-1,Cache,主存,全相联映象方式的优点：Cache块位置冲突概率低，Cache空间利用率高。全相联映象方式的缺点：随着Cache容量的增大，而Cache块受主存频宽的限制容量较小，因此Cache块数增多，目录表行数增多，要求相联存储器的容量越来越大
41、。过大的相联存储器不仅价格昂贵，而且也会降低地址变换的速度,直接相联映象及其地址变换,主存中的一块只能映象到Cache的一个特定块位置上。 b=B mod Cb,设主存的块数为Mb，将主存按Cache的大小分为 Me=Mb/Cb 个区,(主存块块号为B，Cache块块号为b, Cache的块数为Cb),直接映像方式中，Cache的地址与主存地址除区号外的低位部分完全相同,用于保存地址变换信息的表称为区表,为了提高Cache的访问速度，有些系统将区表存储器与Cache合并成一个存储器,直接相联映象方式的优点： 区表的空间占用量比目录表小 地址变换仅需处理区号部分，变换速度更快 区表可存放在按地址
42、访问的Cache中，不需 相联存储器，降低了地址变换的成本直接相联映象方式的缺点：块冲突率高，使Cache空间利用率低，块替换频繁,组相联映象及其地址变换,主存的组与Cache的组之间采用直接映象方式，两个对应组的块间采用全相联映象方式,把主存按Cache的容量分区，主存中的各区和Cache再按同样大小划分成数量相同的组，组内按同样大小划分成数量相同的块,Gb:组内块数 Cg:组数 Me:区数 Cb=GbCg:区内块数 Mb=GbCgMe=CbMe:内存总块数,块表存储器采用按地址访问和相联访问两种方式工作主存区号E+主存组内块号B+Cache组内块号b+有效位,保存地址变换信息的表称为块表,
43、块表的行数与Cache的块数相等,在块内字数不多时将块表存储器与Cache合并为一个存储器：将原块表中相联比较的一个组按块方向展开存放使块表的行数是Cache的组数Cg，一行由Cb个存储字组成（ Cb是组内块数）用多个相等比较器代替相联访问，加快查表速度将Cache的地址变换与访问Cache并行进行,组相联映象方式的优点：块冲突概率较低，Cache空间利用率较高，块表占用空间较少，地址变换速度较快组相联映象方式的缺点：实现难度高,Cache的替换算法及其实现,各种地址映象方式的替换范围： 直接映象方式：只能换出与主存地址的区内块号同号的Cache块 全相联映象方式：由替换算法换出主存中的某Ca
44、che块 组相联映象方式：由替换算法换出与主存地址的区内组号同号的Cache组中某块,Cache系统要求访问速度很高，替换算法必须全部用硬件实现,随机替换算法实现硬件：随机数发生器优点：实现简单缺点：未利用程序的局部性特点，也未利用 历史的块地址流分布情况，因此命中率低,FIFO替换算法实现硬件： 每块设置一个计数器在块表内增设一个计数器字段，其长度与Cache地址中的组内块号字段长度相同新装入块时，将所属的计数器清零，同组的其他块所属的计数器都加1需要替换时，在同组中选择计数器的值最大的块作为被替换块,每组设置一个计数器为每组设置一个模为Cb的计数器，最先指向该组最先进来的块，该块被替换后计
45、数值加1，指向下一个要替换的块,优点：利用了Cache块地址流的历史信息缺点：最先装入的块有可能是经常要用的块，命中率仍不高,LRU替换算法实现硬件：计数器法为每块设置一个计数器，其长度与组内块号字段的长度相同。 被装入或被替换的块，其对应的计数器清0，同组中其他所有块所属的计数器均加1,命中的块所对应计数器清0，同组中计数值小于命中块原计数值的均加1 需替换时，以计数值最大的计数器所对应块作为被替换块,例：某Cache系统，采用组相联映象方式， 每组4块，用计数器实现LRU替换算法。若 访存块地址流为：1，2，3，4，5，4，且设 所有块均被映象到同一Cache组中。请说明 该Cache相应
46、组内4个Cache块计数器的工作 情况。,块号,计数 器,块号,计数 器,块号,计数 器,块号,计数 器,块号,计数 器,块号,计数 器,块地址流,主存块1,主存块2,主存块3,主存块4,主存块5,主存块4,Cache块0,Cache块1,Cache块2,Cache块3,1,00,01,01,01,2,00,01,10,10,3,01,10,00,11,4,10,11,01,00,5,11,00,10,01,1,1,2,3,1,2,4,3,2,5,4,3,2,11,01,10,00,比较对法 让2个块组成一个比较对，用一个触发器的状 态表示该比较对的两块被访问过的先后次序， 经门电路组合，可从
47、多个块中找出最久未被 访问的块 若块数为p，则触发器的个数为Cp2=p(p-1)/2， 门电路个数为p个。由于触发器个数随块数的平方递增，故比较 对法只适用于组内块数较少的情况,TAB,TAC,0,TBC,0,1,&,&,&,0,1,1,ALRU,BLRU,CLRU,访问B,访问A,访问C,CLRU=TACTBC=1,ALRU=TABTAC=1,BLRU=TABTBC=1,影响对Cache的命中率H的主要因素：访存的块地址流 Cache的容量大小Cache存储器采用的地址映象Cache存储器采用的块替换算法,Cache的一致性问题,导致主存某单元内容与Cache对应单元内容 不一致的原因：,C
48、PU写Cache，并不同时写回主存，造成主存内容的过时，I/O或其它处理机从主存得到错误输出信息,I/O或其它处理机写主存，并不同时更新Cache，造成Cache中内容过时，CPU从Cache中读出错误信息,解决主存内容跟不上Cache对应内容变化的方法：写回法 CPU执行写操作时，被写数据只写入Cache，不写入主存。仅当需要替换时，才将修改过的Cache块写回主存。,在采用写回法的Cache块表中，一般有一个 “修改位”,优点：使主存与Cache的通信量较小，成本较低缺点：会出现主存与Cache的不一致；增加了Cache的复杂性（需设置修改位以确定是否需要写回及控制先写回后才调入的执行顺序）为保证可靠性，需在Cache中采用纠错码，导致冗余信息位更多。,写直达法 CPU执行写操作时，必须把数据同时写入Cache和主存。 优点：可始终保持Cache和主存的一致性；Cache块表中不需设置修改位，降低了Cache的复杂性；Cache块的错误可由主存纠正，Cache中只需设置一位奇偶校验位，可靠性较好； 缺点：需设置大量缓冲寄存器以减少CPU为等待写主存完成所耗费的时间，成本较高；Cache与主存的通信量过大；,
