《存储器系统》课件

存储器系统探讨计算机系统中各类存储设备的工作原理、特点和应用涉及主存储器、磁盘存储、光存储等技术存储器简介什么是存储器存储器的层次结构存储器的性能指标存储器是计算机系统中用于存储数据和程序存储器分为主存储器和辅助存储器两大类,存储器的主要性能指标包括存储容量、存取的重要硬件组件它能够临时或永久地保存并呈现出层次化结构主存储器具有快速访时间和带宽等这些指标决定了存储器的使信息,供中央处理器CPU读取和执行问能力,而辅助存储器则更大容量、更便宜用场景和应用范围存储器的层次结构主存储器主存储器是计算机系统直接访问的存储器,为中央处理器提供指令和数据主要包括半导体存储器SRAM和DRAM辅助存储器辅助存储器用于大容量、长期存储程序和数据,包括磁性存储器软硬盘、光学存储器CD/DVD和闪存存储器存储器CacheCache存储器作为CPU和主存之间的缓冲,提高访问速度,是存储器体系结构中的重要组成部分虚拟存储器虚拟存储器技术为程序和数据提供了更大的逻辑地址空间,提高了内存利用率包括页式和分段式主存储器存储容量大读写速度快主存储器为计算机提供大容量的主存储器采用半导体技术,可在纳存储空间,可存储程序代码和数据秒级时间内完成数据的存取,响应其容量一般范围从数GB到数十速度极快GB不等访问方式灵活易失性主存储器支持随机访问,可以快速主存储器通常采用易失性存储技定位和访问任意存储单元的数据,术,一旦断电数据就会丢失,需要配非常灵活合辅助存储器使用半导体存储器集成电路技术种类丰富应用广泛123半导体存储器采用集成电路技术制造常见的半导体存储器包括SRAM、半导体存储器广泛应用于计算机、手,体积小巧、集成度高且功耗低DRAM、闪存等多种类型,各有不同机、电子产品等,是现代电子系统的特点核心组件随机存取存储器SRAM快速访问非破坏性读取低功耗集成度较低SRAM采用触发器电路设计,SRAM的读取操作不会破坏存SRAM只有在读写时才消耗电SRAM单元内部电路较复杂,具有较短的读写时间,适合作储的数据,可重复访问而不会能,不需要周期性的刷新,因此每个存储单元需要多个晶体管为高速缓存和临时数据存储丢失信息功耗较低,因此集成度相对较低动态随机存取存储器DRAM存储单元DRAM的存储单元由一个电容和一个晶体管组成,能够存储单个位0或1的数据刷新机制DRAM需要定期刷新以保持数据不丢失,每个存储单元约2-4毫秒刷新一次访问时序DRAM需要先行选择行和列,再进行读写操作,访问时序较为复杂辅助存储器磁性存储器磁性存储器主要包括软盘和硬盘,能够提供大容量、长数据保持时间的存储光学存储器光学存储器主要包括光驱、CD/DVD,采用激光束读写数据,容量大、成本低闪存存储器闪存存储器无机械运动部件,具有访问速度快、耐冲击、功耗低等优点磁性存储器软盘硬盘软盘是最早的磁性存储设备之一,采用柔软的磁性材料作为存储介硬盘使用坚硬的金属或玻璃作为磁性存储介质,拥有更大的存储容质虽然容量小,但优点是便携性强、价格低廉量和更快的存取速度广泛应用于各类计算机系统磁性存储器软盘硬盘软盘是早期最常见的磁性存储设备之一，采用可移动磁性盘片作为硬盘是当前最常用的磁性存储设备,采用刚性磁性盘片作为存储介质存储介质尽管容量较小,但软盘的价格便宜,携带方便,使其在过去相比软盘,硬盘具有更大的存储容量、更快的访问速度和更可靠的广泛应用于个人电脑和工业设备存储性能,广泛应用于各种计算机系统光学存储器光驱光学存储的优势光驱发展趋势光驱使用激光读写数据,包括CD、DVD光学存储无接触读写,避免磁头磨损,无随着4K、8K视频等大容量应用需求,光和Blu-ray光盘等,容量从几百MB到几外部磁场干扰,存储数据可靠性高驱正向着更高容量和传输速率的方向发十GB不等展光驱和CD/DVD光驱简介和CD DVD12光驱是一种利用激光技术读写CD光盘和DVD数字万能光盘光盘的存储设备,可以存储和访是两种主流的光存储介质,容问大量数据量和性能各有特点应用场景3光驱广泛应用于个人电脑、游戏机、汽车音响系统等,为用户提供便捷的存储和播放体验闪存存储器快速访问无机械部件闪存具有快速的随机访问能力,访闪存是一种全固态存储设备,没有问速度接近主存,远快于硬盘可移动的机械部件,更耐用可靠低功耗可擦除重复利用闪存在不使用时几乎不消耗电源,闪存可以通过编程擦除和重新编非常适合移动设备等低功耗应用程,可反复使用,非常灵活存储器访问方式字节寻址1每个存储单元都有唯一的地址字寻址2以字为单位进行寻址和访问存储器可以根据不同的寻址方式来访问数据字节寻址是以每个存储单元作为最小单位进行访问，每个存储单元都有唯一的地址而字寻址则是以字为单位进行寻址和访问，更加高效字节寻址基本概念优势字节寻址是一种存储器寻址方式,通过指定每个存储单元的确切地与字寻址相比,字节寻址可以更精细地控制内存访问,更好地满足不址来访问内存中的单个字节这种方式可以灵活地访问任意位置同数据大小的需求这种方式有助于提高存储器的利用效率和数的数据,为程序提供更大的灵活性据访问的灵活性字寻址定位准确字寻址以字为单位访问存储器,可以精确定位到所需字的地址,提高访问效率结构简单相比于字节寻址,字寻址的存储管理逻辑更加简单,易于实现访问更快字寻址可以一次性访问整个字,无需多次访问字节,提高了存储器的访问速度存储器性能指标存取时间1决定访问数据的快慢带宽2决定数据传输能力容量3决定可存储数据量存储器的性能主要由三个指标决定:存取时间、带宽和容量存取时间直接影响数据访问的快慢,带宽决定了数据传输的能力,而容量则决定了可以存储的数据量这三个指标共同决定了存储器的整体性能表现存取时间访问延迟内存层次结构12存取时间是指从发出存取命令不同存储器层次的存取时间有到数据真正准备就绪所需的时较大差异,从L1缓存到硬盘可以间它包括了寻址延迟和读写相差数个数量级延迟影响因素3存取时间由存储器介质特性、存取机制、读写操作类型等因素决定带宽定义影响因素重要性带宽指在一定时间内数据传输的最大容量带宽受到线路长度、信号质量和电路设计等随着大数据和多媒体应用的兴起,带宽的重它是衡量存储器性能的一个重要指标因素的影响优化这些因素可以提高带宽要性日益凸显高带宽可以保证系统的快速响应和数据传输存储器Cache提高存储器性能工作原理Cache存储器位于CPU和主存之间,能够缓存常用数据和指令,大当CPU访问数据时,先在Cache中查找,若找到命中则直接从幅减少CPU访问主存的次数,提高整体系统性能Cache中读取,否则失效再从主存中加载到Cache的工作原理Cache数据交换缓存空间局部性Cache作为计算机与主存之间的中间缓存层,可以大幅提高数利用程序倾向访问邻近存储单元的特点,Cache可以预读并存据访问速度储附近的数据时间局部性命中判断利用程序倾向重复访问相同数据的特点,Cache可以将最近访通过标记信息判断请求数据是否在Cache中,从而决定从主问过的数据保存下来存还是Cache中读取的性能指标Cache访问时间从CPU发出请求到从Cache中获取数据的时间延迟这是衡量Cache性能的关键指标带宽Cache每秒可以传输的数据量,决定了CPU能从Cache中获取数据的速度命中率请求在Cache中命中的概率,越高越能减少对主存的访问,提高整体性能命中率与存储器性能Cache命中率影响因素CacheCache命中率是评判Cache性能的关键指标之一，表示数据访问请求能Cache命中率受到诸多因素的影响，包括Cache容量、关联度、替换算够在Cache中找到所需数据的概率法、应用程序的访问模式等123性能提升较高的Cache命中率意味着更多的数据访问能够在Cache中完成，从而减少了对主存的访问次数，提升了整体存储系统的性能层次结构CacheL1Cache位于CPU内部,具有最快的访问速度,但容量较小L2Cache位于CPU芯片外部,访问速度略慢于L1,但容量较大Main Memory主存储器容量更大,但访问速度较慢与L1和L2Cache形成多级缓存层次结构Disk Storage容量最大但访问速度最慢,主要用于长期数据存储缓存替换策略随机替换1按照随机概率进行页面替换先进先出FIFO2按照页面进入缓存的先后顺序进行替换最近最少使用LRU3替换最近最少访问的页面缓存替换策略是决定在缓存容量已满时，如何选择需要替换的缓存页面的算法常用的策略有随机替换、先进先出FIFO和最近最少使用LRU其中LRU是最常见且效果较好的策略随机替换随机替换算法缺点应用场景随机替换算法是一种基本的页面置换算法随机替换算法无法考虑页面的使用频率,可随机替换算法适用于内存管理简单,对性能它会随机选择一个页面进行替换，不考虑页能会替换掉经常使用的页面,导致频繁的页要求不高的场景,如嵌入式系统等但在需面的使用情况虽然实现简单,但不能准确面置换,降低系统性能它不能充分利用内要更高性能的场景中,应该选择更复杂但更预测页面的使用情况,效率较低存空间,无法实现最优的页面置换策略优化的置换算法先进先出算法FIFO简单易懂公平性高FIFO算法遵循先进先出的原则，FIFO算法对页面的处理没有偏好实现简单、代码量少、易于理解，每个页面都有平等的机会被选和实现中替换缓解页面抖动FIFO算法可以有效地减少页面抖动的发生,提高系统的整体性能最近最少使用算法LRU原理简述实现方式算法优势LRU算法会跟踪记录页面的使用情况,把通常使用链表或者队列来维护页面的使LRU能够较好地反映程序的局部特性,命最长时间未被访问的页面换出这样能用顺序,新访问的页面移到队头,替换时中率较高,是虚拟存储系统中常用的页够maximize最近访问过的页面在内存选择队尾的页面面置换算法中的保存时间写策略Cache直写式1数据直接写入主存回写式2数据先写入Cache,再异步更新主存延迟写入3将写操作推迟到Cache条目被替换时Cache写策略决定数据何时从Cache写回主存直写式是直接写入主存,而回写式先写入Cache再异步更新主存延迟写入则是将写操作推迟到Cache条目被替换时执行不同写策略在性能和实现复杂度上有取舍直写式数据实时写入在直写式Cache中，数据被直接写入主存储器，无需缓存这样可以确保数据实时更新简单高效由于不需要额外的缓存管理,直写式缓存的实现相对简单,运行效率也更高数据一致性直写式可以确保主存储器中的数据始终是最新的,避免了数据不一致的问题回写式数据写入策略性能优势一致性维护回写式缓存会在缓存行被替换或刷新时才将相比直写式,回写式缓存能更好地利用局部回写式需要更复杂的缓存一致性协议,如修改的数据写入主存储器这种策略能提高性原理,减少与主存的频繁交互,从而提升整MESI协议,以确保缓存和主存数据的一致性,写入性能,但需要额外的复杂度来维护缓存体系统的吞吐量和响应时间增加了系统的设计难度和主存的一致性一致性协议Cache协议协议MSI MOESIMSI协议是一种基本的缓存一致性协议,它定义了三种缓存块状态:修改M MOESI协议进一步扩展了MESI协议,增加了独占可修改O状态,以优化、共享S和无效I总线事务并减少缓存块替换123协议MESIMESI协议扩展了MSI协议,引入了独占E状态,用于提高命中率和减少总线事务缓存一致性协议MSI改变状态读取命中12MSI协议定义了缓存行三种状如果缓存行在S状态,则命中后态:ModifiedM、SharedS保持S状态;如果在M状态,则命和InvalidI中后更新为S状态写入命中写回操作34如果缓存行在M状态,则直接写当缓存行被替换时,如果状态为入;如果在S状态,则先更新为M M,则需要写回主存状态再写入一致性协议MESI特点状态定义运作机制应用领域MESI协议是一种改进的缓存M修改状态、E独占状态、MESI通过状态转换,有效避免MESI广泛应用于多处理器系一致性协议,通过定义4种缓存S共享状态和I无效状态,可了总线风暴,提高了多处理器统、共享存储系统以及其他需行状态来有效管理缓存数据准确反映缓存行的最新状态系统的性能和可扩展性要缓存一致性管理的领域虚拟存储器工作原理1将主存分成页面，使用页表将虚拟地址映射到物理地址页式虚拟存储器2将地址空间划分为固定大小的页面，采用基于页表的地址翻译分段式虚拟存储器3将地址空间划分为可变长度的段，以段为单位进行地址翻译虚拟存储器技术可以让程序使用的地址空间大于实际的物理内存容量通过页式或分段式的地址映射机制，将虚拟地址转换为物理地址，实现了更大的可用内存空间这不仅提高了内存利用率，还能为进程提供独立的地址空间虚拟存储器的工作原理内存容量扩展地址空间管理虚拟存储器通过将部分数据存储在硬盘上的方式来扩展计算机的虚拟存储器为每个进程提供一个连续的地址空间操作系统负责内存容量只有被频繁访问的数据保留在内存中,而较少使用的数将虚拟地址映射到实际的物理地址,实现内存的动态分配和管理据被换出到硬盘上页式虚拟存储器连续地址空间页面置换算法12页式虚拟存储器将逻辑地址空当需要访问的页面不在物理内间划分为固定大小的页面,映射存中时,需要使用页面置换算法到物理内存的页框上将其调入内存硬件支持3页式虚拟存储器需要硬件提供页表以及页表基址寄存器等支持分段式虚拟存储器空间划分将逻辑地址空间划分为多个不同大小的段,每个段可以独立管理和访问灵活性满足不同应用程序对内存空间大小的需求,提高内存利用率保护机制每个段可设置访问权限,提高系统安全性和可靠性缺页中断处理监测页面访问1系统会监控每个进程访问虚拟地址的情况,一旦发现当前进程访问的页面不在物理内存中,就会触发缺页中断查找页表2操作系统会查找页表,确定所访问虚拟地址对应的物理页面地址如果页表项无效,则表示发生了缺页中断页面调度3系统会根据页面置换算法,选择合适的页面进行置换,将所需页面调入内存,并更新页表,最后恢复进程执行页面置换算法先进先出FIFO按照进入页表的先后顺序进行替换，淘汰最早进入页表的页面简单高效但无法反映页面的使用频率最近最少使用LRU根据页面的访问时间进行替换，淘汰最长时间未访问的页面可反映页面的使用频率但实现复杂最少使用算法根据页面的使用次数进行替换，淘汰使用次数最少的页面可反映页面的使用频率且实现相对简单页面置换算法FIFO先进先出简单高效不考虑访问频率FIFO算法选择将最先进入内存的页面换FIFO算法实现简单,计算开销小,适合硬FIFO算法只关注页面的进入时间,不考出,即最久未使用的页面将被淘汰件实现,是最基本的页面置换算法虑页面的访问频率,可能会导致频繁访问的页面被换出LRU最近最少使用工作原理性能优势LRULRU是最常见的页面替换算法之一它将最LRU算法维护一个页面访问记录列表,最近•命中率高,可大幅提高虚拟内存系统性能近最长时间未被访问的页面换出,以确保最访问的页面放在列表头部,最久未访问的页活跃的页面始终保留在内存中这种策略能面放在列表尾部当发生缺页时,算法会淘•实现相对简单,易于硬件实现有效提高虚拟内存系统的性能汰列表尾部的页面•能有效反映程序局部性原理最少使用算法原理优势最少使用算法Least RecentlyUsed,LRU是一种页面替换算法LRU算法可以有效地利用内存资源,减少页面缺失率,提高系统性能它选择最长时间未被访问的页面进行替换该算法根据页面的它能够适应程序执行过程中页面访问模式的变化访问历史来判断哪些页面应该被换出总结与展望本课程系统地介绍了存储器系统的基本原理和技术,涵盖了主存储器、辅助存储器、虚拟存储器等核心内容我们希望学生能够深入理解存储器的工作原理和性能指标,并掌握优化存储器性能的相关策略未来的存储系统将朝向更高容量、更低功耗和更快速度的方向发展,希望学生能跟上技术发展的步伐,继续探索存储系统的前沿技术。