OS 内存管理

天天见闻 天天见闻 2022-10-27 科技 阅读: 202
摘要: ,RAM)又称作“随机存储器”,是与CPU直接交换数据的内部存储器,也叫主存(内存)。虚拟内存这个办法,也就是内存分页()。相应地,执行所访问的存储空间也局限于某个内存区域。段页式内存管理内存分段和内存分页并不是对立的,它们是可以组合起来在同一个系统中使用的,那么组合起来后,通常称为段页式内存管理。段页式内存管理实现的方式:Linux操作系统采用了哪种方式来管理内存呢?

[TOC]

物理内存,即随机存取存储器( ,RAM)又称作“随机存储器”,是与CPU直接交换数据的内部存储器,也叫主存(内存)。

虚拟内存

为了把进程所使用的地址 隔离 开来,即让操作系统为每个进程分配独立的一套虚拟地址。

操作系统会提供一种机制,将不同进程的虚拟地址和不同内存的物理地址映射起来。

程序要访问虚拟地址的时候,由操作系统转换成不同的物理地址。

于是就引出了两种地址的概念:

操作系统引入了虚拟内存,进程持有的虚拟地址会通过 CPU 芯片中的内存管理单元(MMU)的映射关系,来转换变成物理地址,然后再通过物理地址访问内存,如下图所示:

操作系统管理虚拟地址和物理地址之间关系主要有两种方式,分别是内存分段和内存分页。

内存分段

程序是由若干个逻辑分段组成的,如可由代码分段、数据分段、栈段、堆段组成。不同的段是有不同的属性的,所以就用分段(**)的形式把这些段分离出来。

分段机制下,虚拟内存和物理内存是如何映射的?

分段机制下的虚拟地址由两部分组成,段选择因子和段内偏移量。

在上面了,知道了虚拟地址是通过段表与物理地址进行映射的,分段机制会把程序的虚拟地址分成 4 个段,每个段在段表中有一个项,在这一项找到段的基地址,再加上偏移量,于是就能找到物理内存中的地址,如下图:

如果要访问段3中偏移量500的虚拟地址,我们可以计算出物理地址为,段3基地址7000+偏移量500 = 7500。

分段的办法很好,解决了程序本身不需要关心的物理内存问题,但是也有些不足之处,内存碎片和内存交换的效率低。

接下来,说说为什么会有这两个问题。

分段为什么会产生碎片问题

我们来看这样一个例子。假设有1G的物理内存,用户执行了多个程序。其中

这时候,如果我们关闭了浏览器,则空闲内存还有1024 - 512 - 256 = 256 MB。

如果这个256 不是连续的,被拆成了两段128 ,这就会导致没有空间再打开一个200MB的程序。

这里的内存碎片的问题有两处:

一 外部内存碎片,也就是产生了多个不连续的物理内存,导致新的程序无法被装载;

二 内部内存碎片,程序所有的内存都被装载到了物理内存,但是这个程序有部分的内存可能并不是经常使用,也会导致内存的浪费;

针对上面两种内存碎片的问题,解决的方式会有所不同。

解决外部内存碎片的问题就是内存交换

意思就是用的时候装载,不用的时候放回硬盘。

比如音乐程序,可以先把占用的256MB内存写到硬盘上,在从硬盘读到内存里。不过再读回的时候,我们不能再装载到原来的位置了, 而是一次往后排。这样就能使内部连续起来了。

这个内存交换空间,在Linux系统里,就是我们常看到的swap空间,这块空间是从硬盘划分出来的,用于内存与硬盘的空间交换。

分段为什么会导致内存交换效率低的问题?

对于多进程的系统来说,用分段的方式,内存碎片是很容易产生的,产生了内存碎片,那不得不重新 Swap 内存区域,这个过程会产生性能瓶颈。

因为硬盘的访问速度要比内存慢太多了,每一次内存交换,我们都需要把一大段连续的内存数据写到硬盘上。

所以,如果内存交换的时候,交换的是一个占内存空间很大的程序,这样整个机器都会显得卡顿。

为了解决内存分段的内存碎片和内存交换效率低的问题,就出现了内存分页。

内存分页

分段的好处就是能产生连续的内存空间,但是会出现内存碎片和内存交换的空间太大的问题。

要解决这些问题,那么就要想出能少出现一些内存碎片的办法。另外,当需要进行内存交换的时候,让需要交换写入或者从磁盘装载的数据更少一点,这样就可以解决问题了。这个办法,也就是内存分页()。

分页是把整个虚拟和物理内存空间切成一段段固定尺寸的大小。这样一个连续并且尺寸固定的内存空间,我们叫页(Page)。在 Linux 下,每一页的大小为 4KB。

虚拟地址与物理地址之间通过页表来映射,如下图:

页表实际上存储在 CPU 的内存管理单元 (MMU) 中,于是 CPU 就可以直接通过 MMU,找出要实际要访问的物理内存地址。

而当进程访问的虚拟地址在页表中查不到时,系统会产生一个缺页异常,进入系统内核空间分配物理内存、更新进程页表,最后再返回用户空间,恢复进程的运行。

分页是如何解决分段的内存碎片、内存交换效率低的问题?

由于内存空间都是预先划分好的,也就不会像分段会产生间隙非常小的内存内存管理,这正是分段会产生内存碎片的原因。而采用的分页,那么释放的内存都是以页为单位释放的,也就不会产生无法给进程使用的小内存。

如果内存空间不够,操作系统会把其他正在运行的进程中【最近未使用】的内存页面给释放掉,也就是暂时写在硬盘上,成为换出(Swap out)。一旦需要的时候再加载进来,称为换入(Swap In).所以,一次性写入磁盘的也就一页或几页。内存交换的效率就相对变高了。

更进一步地,分页的方式使得我们在加载程序的时候,不再需要一次性都把程序加载到物理内存中。我们完全可以在进行虚拟内存和物理内存的页之间的映射之后,并不真的把页加载到物理内存里,而是只有在程序运行中,需要用到对应虚拟内存页里面的指令和数据时,再加载到物理内存里面去。

分页机制下,虚拟地址和物理地址是如何映射的?

在分页机制下,虚拟地址分为两部分,页号和页内偏移。页号作为页表的索引,页表包含物理页每页所在物理内存的基地址,这个基地址与页内偏移的组合就形成了物理内存地址,见下图。

总结一下,对于一个内存地址转换,其实就是三个步骤:

下面举个例子,虚拟内存中的页通过页表映射为了物理内存中的页,如下图:

这看起来似乎没什么毛病,但是放到实际中操作系统,这种简单的分页是肯定是会有问题的。

简单的分页有什么缺陷吗?

有空间上的缺陷。

因为操作系统是可以同时运行非常多的进程的,那这不就意味着页表会非常的庞大。

在 32 位的环境下,虚拟地址空间共有 4GB,假设一个页的大小是 4KB(2^12),那么就需要大约 100 万 (2^20) 个页,每个「页表项」需要 4 个字节大小来存储,那么整个 4GB 空间的映射就需要有 4MB 的内存来存储页表。

这 4MB 大小的页表,看起来也不是很大。但是要知道每个进程都是有自己的虚拟地址空间的,也就说都有自己的页表。

那么,100 个进程的话,就需要 400MB 的内存来存储页表,这是非常大的内存了,更别说 64 位的环境了。

多级页表

要解决以上问题,就得采用多级页表了。

前面我们知道,对于单页表的实现方式,在32位和页大小4KB的环境下,一个进程的页表需要装下100多万个 页表项,并且每个页表项占用5字节,相当于每个页表占用4MB大小的空间。

我们把这个 100 多万个「页表项」的单级页表再分页,将页表(一级页表)分为 1024 个页表(二级页表),每个表(二级页表)中包含 1024 个「页表项」,形成二级分页。如下图所示:

分了二级表,映射 4GB 地址空间就需要 4KB(一级页表)+ 4MB(二级页表)的内存,这样占用空间不是更大了吗?

当然如果 4GB 的虚拟地址全部都映射到了物理内上的,二级分页占用空间确实是更大了,但是,我们往往不会为一个进程分配那么多内存。

其实我们应该换个角度来看问题,还记得计算机组成原理里面无处不在的局部性原理么?

每个进程都有 4GB 的虚拟地址空间,而显然对于大多数程序来说,其使用到的空间远未达到 4GB,因为会存在部分对应的页表项都是空的,根本没有分配,对于已分配的页表项,如果存在最近一定时间未访问的页表,在物理内存紧张的情况下,操作系统会将页面换出到硬盘,也就是说不会占用物理内存。

如果使用了二级分页,一级页表就可以覆盖整个 4GB 虚拟地址空间,但如果某个一级页表的页表项没有被用到,也就不需要创建这个页表项对应的二级页表了,即可以在需要时才创建二级页表。做个简单的计算,假设只有 20% 的一级页表项被用到了,那么页表占用的内存空间就只有 4KB(一级页表) + 20% * 4MB(二级页表)= 0.804MB ,这对比单级页表的 4MB 是不是一个巨大的节约?

那么为什么不分级的页表就做不到这样节约内存呢?我们从页表的性质来看,保存在内存中的页表承担的职责是将虚拟地址翻译成物理地址。假如虚拟地址在页表中找不到对应的页表项,计算机系统就不能工作了。所以页表一定要覆盖全部虚拟地址空间,不分级的页表就需要有 100 多万个页表项来映射,而二级分页则只需要 1024 个页表项(此时一级页表覆盖到了全部虚拟地址空间,二级页表在需要时创建)。

我们把二级分页再推广到多级页表,就会发现页表占用的内存空间更少了,这一切都要归功于对局部性原理的充分应用。

对于 64 位的系统,两级分页肯定不够了,就变成了四级目录,分别是:

TLB

多级页表虽然解决了空间上的问题,但是虚拟地址到物理地址的转换就多了几道转换的工序,这显然就降低了这俩地址转换的速度,也就是带来了时间上的开销。

程序是有局部性的,即在一段时间内,整个程序的执行仅限于程序中的某一部分。相应地,执行所访问的存储空间也局限于某个内存区域。

我们就可以利用这一特性,把最常访问的几个页表项存储到访问速度更快的硬件,于是计算机科学家们,就在 CPU 芯片中,加入了一个专门存放程序最常访问的页表项的 Cache,这个 Cache 就是 TLB( ) ,通常称为页表缓存、转址旁路缓存、快表等。

在 CPU 芯片里面,封装了内存管理单元( Unit)芯片,它用来完成地址转换和 TLB 的访问与交互。

有了 TLB 后,那么 CPU 在寻址时,会先查 TLB,如果没找到,才会继续查常规的页表。

TLB 的命中率其实是很高的,因为程序最常访问的页就那么几个。

段页式内存管理

内存分段和内存分页并不是对立的,它们是可以组合起来在同一个系统中使用的,那么组合起来后,通常称为段页式内存管理。

段页式内存管理实现的方式:

这样,地址结构就由段号、段内页号和页内位移三部分组成。

用于段页式地址变换的数据结构是每一个程序一张段表,每个段又建立一张页表,段表中的地址是页表的起始地址,而页表中的地址则为某页的物理页号,如图所示:

段页式地址变换中要得到物理地址须经过三次内存访问:

可用软、硬件相结合的方法实现段页式地址变换,这样虽然增加了硬件成本和系统开销,但提高了内存的利用率。

Linux内存管理 Linux操作系统采用了哪种方式来管理内存呢?先看看Intel处理器的发展历史。

早期 Intel 的处理器从 80286 开始使用的是段式内存管理。但是很快发现,光有段式内存管理而没有页式内存管理是不够的,这会使它的 X86 系列会失去市场的竞争力。因此,在不久以后的 80386 中就实现了对页式内存管理。也就是说,80386 除了完成并完善从 80286 开始的段式内存管理的同时还实现了页式内存管理。

但是这个 80386 的页式内存管理设计时,没有绕开段式内存管理,而是建立在段式内存管理的基础上,这就意味着,页式内存管理的作用是在由段式内存管理所映射而成的的地址上再加上一层地址映射。

由于此时段式内存管理映射而成的地址不再是“物理地址”了,Intel 就称之为“线性地址”(也称虚拟地址)。于是,段式内存管理先将逻辑地址映射成线性地址,然后再由页式内存管理将线性地址映射成物理地址。

这里说明下逻辑地址和线性地址:

逻辑地址是「段式内存管理」转换前的地址,线性地址则是「页式内存管理」转换前的地址。

Linux 内存主要采用的是页式内存管理,但同时也不可避免地涉及了段机制。

这主要是上面 Intel 处理器发展历史导致的,因为 Intel X86 CPU 一律对程序中使用的地址先进行段式映射,然后才能进行页式映射。既然 CPU 的硬件结构是这样,Linux 内核也只好服从 Intel 的选择。

但是事实上,Linux 内核所采取的办法是使段式映射的过程实际上不起什么作用。也就是说,“上有政策,下有对策”,若惹不起就躲着走。

Linux 系统中的每个段都是从 0 地址开始的整个 4GB 虚拟空间(32 位环境下),也就是所有的段的起始地址都是一样的。这意味着,Linux 系统中的代码,包括操作系统本身的代码和应用程序代码,所面对的地址空间都是线性地址空间(虚拟地址),这种做法相当于屏蔽了处理器中的逻辑地址概念,段只被用于访问控制和内存保护。

Linux的虚拟地址空间是如何分布的?

在 Linux 操作系统中,虚拟地址空间的内部又被分为内核空间和用户空间两部分,不同位数的系统,地址空间的范围也不同。比如最常见的 32 位和 64 位系统,如下所示:

通过这里可以看出:

再来说说,内核空间与用户空间的区别:

虽然每个进程都各自有独立的虚拟内存,但是每个虚拟内存中的内核地址,其实关联的都是相同的物理内存。这样,进程切换到内核态后,就可以很方便地访问内核空间内存。

接下来,进一步了解虚拟空间的划分情况,用户空间和内核空间划分的方式是不同的,内核空间的分布情况就不多说了。

我们看看用户空间分布的情况,以 32 位系统为例,我画了一张图来表示它们的关系:

通过这张图你可以看到,用户空间内存,从低到高分别是 7 种不同的内存段:

在这 7 个内存段中,堆和文件映射段的内存是动态分配的。比如说,使用 C 标准库的 () 或者 mmap() ,就可以分别在堆和文件映射段动态分配内存。

总结

为了在多进程环境下,使得进程之间的内存地址不受影响,相互隔离,于是操作系统就为每个进程独立分配一套的虚拟地址空间,每个程序只关心自己的虚拟地址就可以,实际上大家的虚拟地址都是一样的,但分布到物理地址内存是不一样的。作为程序,也不用关心物理地址的事情。

每个进程都有自己的虚拟空间,而物理内存只有一个,所以当启用了大量的进程,物理内存必然会很紧张,于是操作系统会通过内存交换技术,把不常使用的内存暂时存放到硬盘(换出),在需要的时候再装载回物理内存(换入)。

那既然有了虚拟地址空间,那必然要把虚拟地址「映射」到物理地址,这个事情通常由操作系统来维护。

那么对于虚拟地址与物理地址的映射关系,可以有分段和分页的方式,同时两者结合都是可以的。

内存分段是根据程序的逻辑角度,分成了栈段、堆段、数据段、代码段等,这样可以分离出不同属性的段,同时是一块连续的空间。但是每个段的大小都不是统一的,这就会导致内存碎片和内存交换效率低的问题。

于是,就出现了内存分页,把虚拟空间和物理空间分成大小固定的页,如在 Linux 系统中,每一页的大小为 4KB。由于分了页后,就不会产生细小的内存碎片。同时在内存交换的时候,写入硬盘也就一个页或几个页,这就大大提高了内存交换的效率。

再来,为了解决简单分页产生的页表过大的问题内存管理,就有了多级页表,它解决了空间上的问题,但这就会导致 CPU 在寻址的过程中,需要有很多层表参与,加大了时间上的开销。于是根据程序的局部性原理,在 CPU 芯片中加入了 TLB,负责缓存最近常被访问的页表项,大大提高了地址的转换速度。

Linux 系统主要采用了分页管理,但是由于 Intel 处理器的发展史,Linux 系统无法避免分段管理。于是 Linux 就把所有段的基地址设为 0,也就意味着所有程序的地址空间都是线性地址空间(虚拟地址),相当于屏蔽了 CPU 逻辑地址的概念,所以段只被用于访问控制和内存保护。

另外,Linxu 系统中虚拟空间分布可分为用户态和内核态两部分,其中用户态的分布:代码段、全局变量、BSS、函数栈、堆内存、映射区。

其他相关
用户反馈 Win11 更新导致虚拟内存分页蓝屏等故障

用户反馈 Win11 更新导致虚拟内存分页蓝屏等故障

作者: 天天见闻 时间:2023-09-07 阅读: 81
IT之家 9 月 7 日消息,微软八月更新出现的“UNSUPPORTED_PROCESSOR”蓝屏错误暂告段落,不过根据国外科技媒体 Windows Latest 报道,有用户反馈在非微星设备上,出现了“fault in nonpaged area”蓝屏错误。 IT之家注:电脑如果出现了“Page Fault In Nonpaged Area”蓝屏错误,说明电脑的虚拟内存分页文件出现了问题。 一位受影响的用户反馈如下:“我在使用过程中出现了“Page Fault In Nonpaged Area”蓝屏错误,已经做了 sfc,chkdsk,内存测试,并卸载了我的第三方防病毒软件,上述操作之后错误依然存在。每当我尝试更新 Windows 系统的时候,重启就会出现蓝屏。”...
Caffeinated 6.828:实验 2:内存管理

Caffeinated 6.828:实验 2:内存管理

作者: 天天见闻 时间:2022-10-26 阅读: 263
在本实验中,你将为你的操作系统写内存管理方面的代码。架构的硬件是由内存管理单元(MMU)负责执行映射操作来查阅一组页表。数据结构来实现的,这个数据结构用于跟踪物理内存页面是否被释放。内存管理架构的保护模式:即分段和页面转换。的内存,它经常用于在配置虚拟内存期间检查物理内存。4、如果我们真的拥有最大数量的物理内存,有多少空间的开销用于管理内存?...
精读《JS 中的内存管理》

精读《JS 中的内存管理》

作者: 天天见闻 时间:2022-10-26 阅读: 135
不管什么程序语言,内存生命周期基本是一致的:分配你所需要的内存所有的内存管理都是自动的.中的内存回收这个就需要我们在程序中手动做一些操作来触发内存回收.引用就会从内存中被释放.这类高级语言,隐藏了内存管理功能。但无论开发人员是否注意,内存管理都在那,所有编程语言最终要与操作系统打交道,在内存大小固定的硬件上工作。可以参考上期精读《2017前端性能优化备忘录》我们很少去直接去做内存管理....
C#内存管理和垃圾回收机制

C#内存管理和垃圾回收机制

作者: 天天见闻 时间:2022-08-27 阅读: 280
一、数据类型 C#中的数据类型分为 值类型 (Value type) 和 引用类型(reference type) , 值 类 型:所有的值类型都集成自 System.ValueType 上,除非加声明?否则不可为null,保存在 堆栈( Stack,先进后出) 上,常见的值类型有:整形、浮点型、bool、枚举等。 引用类型:所有的引用类型都继承自System.Object 上,引用类型保存在 托管堆(Head,先进先出)上,常见的类型有:数组、字符串、接口、委托、object等。...
虚拟内存能不能随易扩大

虚拟内存能不能随易扩大

作者: 天天见闻 时间:2022-04-27 阅读: 228
虚拟内存用硬盘空间做内存来弥补计算机RAM空间的缺乏。当实际RAM满时(实际上,在RAM满之前),虚拟内存就在硬盘上创建了。这个过程对应用是隐藏的,应用把虚拟内存和实际内存看作是一样的。但是虚拟内存使用的是硬盘的空间,为什么我们要使用速度最慢的硬盘来做为虚拟内存呢?而硬盘空间动辄几十G上百G,为了解决这个问题,中运用了虚拟内存技术,即拿出一部分硬盘空间来充当内存使用....
虚拟内存和玩游戏有关系么?怎样能扩大虚拟内存!?

虚拟内存和玩游戏有关系么?怎样能扩大虚拟内存!?

作者: 天天见闻 时间:2022-04-27 阅读: 237
根据微软公司的建议,虚拟内存设为物理内存容量的1.也可让来自动分配管理虚拟内存,它能根据实际内存的使用情况,动态调整虚拟内存的大小。内存容量2GB或以上的,如果不运行大型文件或游戏,也可以关闭虚拟内存。设的太大会产生大量的碎片,严重影响系统速度,设的太小就不够用,于是系统就会提示你虚拟内存太小。...
我来说两句

年度爆文