阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Linux虚拟地址空间布局

152次阅读
没有评论

共计 7398 个字符,预计需要花费 19 分钟才能阅读完成。

     在多任务操作系统中,每个进程都运行在属于自己的内存沙盘中。这个沙盘就是虚拟地址空间(Virtual Address Space),在 32 位模式下它是一个 4GB 的内存地址块。在 Linux 系统中, 内核进程和用户进程所占的虚拟内存比例是 1:3,而 Windows 系统为 2:2(通过设置 Large-Address-Aware Executables 标志也可为 1:3)。这并不意味着内核使用那么多物理内存,仅表示它可支配这部分地址空间,根据需要将其映射到物理内存。

     虚拟地址通过页表 (Page Table) 映射到物理内存,页表由操作系统维护并被处理器引用。内核空间在页表中拥有较高特权级,因此用户态程序试图访问这些页时会导致一个页错误(page fault)。在 Linux 中,内核空间是持续存在的,并且在所有进程中都映射到同样的物理内存。内核代码和数据总是可寻址,随时准备处理中断和系统调用。与此相反,用户模式地址空间的映射随进程切换的发生而不断变化。

     Linux 进程在虚拟内存中的标准内存段布局如下图所示:

Linux 虚拟地址空间布局

     其中,用户地址空间中的蓝色条带对应于映射到物理内存的不同内存段,灰白区域表示未映射的部分。这些段只是简单的内存地址范围,与 Intel 处理器的段没有关系。

     上图中 Random stack offset 和 Random mmap offset 等随机值意在防止恶意程序。Linux 通过对栈、内存映射段、堆的起始地址加上随机偏移量来打乱布局,以免恶意程序通过计算访问栈、库函数等地址。execve(2)负责为进程代码段和数据段建立映射,真正将代码段和数据段的内容读入内存是由系统的缺页异常处理程序按需完成的。另外,execve(2)还会将 BSS 段清零。

     用户进程部分分段存储内容如下表所示(按地址递减顺序):

名称

存储内容

局部变量、函数参数、返回地址等

动态分配的内存

BSS 段

未初始化或初值为 0 的全局变量和静态局部变量

数据段

已初始化且初值非 0 的全局变量和静态局部变量

代码段

可执行代码、字符串字面值、只读变量

     在将应用程序加载到内存空间执行时,操作系统负责代码段、数据段和 BSS 段的加载,并在内存中为这些段分配空间。栈也由操作系统分配和管理;堆由程序员自己管理,即显式地申请和释放空间。

     BSS 段、数据段和代码段是可执行程序编译时的分段,运行时还需要栈和堆。

     以下详细介绍各个分段的含义。

1 内核空间

     内核总是驻留在内存中,是操作系统的一部分。内核空间为内核保留,不允许应用程序读写该区域的内容或直接调用内核代码定义的函数。

2 栈(stack)

     栈又称堆栈,由编译器自动分配释放,行为类似数据结构中的栈(先进后出)。堆栈主要有三个用途:

  • 为函数内部声明的非静态局部变量 (C 语言中称“自动变量”) 提供存储空间。
  • 记录函数调用过程相关的维护性信息,称为栈帧 (Stack Frame) 或过程活动记录(Procedure Activation Record)。它包括函数返回地址,不适合装入寄存器的函数参数及一些寄存器值的保存。除递归调用外,堆栈并非必需。因为编译时可获知局部变量,参数和返回地址所需空间,并将其分配于 BSS 段。
  • 临时存储区,用于暂存长算术表达式部分计算结果或 alloca()函数分配的栈内内存。

     持续地重用栈空间有助于使活跃的栈内存保持在 CPU 缓存中,从而加速访问。进程中的每个线程都有属于自己的栈。向栈中不断压入数据时,若超出其容量就会耗尽栈对应的内存区域,从而触发一个页错误。此时若栈的大小低于堆栈最大值 RLIMIT_STACK(通常是 8M),则栈会动态增长,程序继续运行。映射的栈区扩展到所需大小后,不再收缩。

     Linux 中 ulimit - s 命令可查看和设置堆栈最大值,当程序使用的堆栈超过该值时, 发生栈溢出(Stack Overflow),程序收到一个段错误(Segmentation Fault)。注意,调高堆栈容量可能会增加内存开销和启动时间。

     堆栈既可向下增长 (向内存低地址) 也可向上增长, 这依赖于具体的实现。本文所述堆栈向下增长。

     堆栈的大小在运行时由内核动态调整。

3 内存映射段(mmap)

     此处,内核将硬盘文件的内容直接映射到内存, 任何应用程序都可通过 Linux 的 mmap()系统调用或 Windows 的 CreateFileMapping()/MapViewOfFile()请求这种映射。内存映射是一种方便高效的文件 I / O 方式,因而被用于装载动态共享库。用户也可创建匿名内存映射,该映射没有对应的文件, 可用于存放程序数据。在 Linux 中,若通过 malloc()请求一大块内存,C 运行库将创建一个匿名内存映射,而不使用堆内存。”大块”意味着比阈值 MMAP_THRESHOLD 还大,缺省为 128KB,可通过 mallopt()调整。

     该区域用于映射可执行文件用到的动态链接库。在 Linux 2.4 版本中,若可执行文件依赖共享库,则系统会为这些动态库在从 0x40000000 开始的地址分配相应空间,并在程序装载时将其载入到该空间。在 Linux 2.6 内核中,共享库的起始地址被往上移动至更靠近栈区的位置。

     从进程地址空间的布局可以看到,在有共享库的情况下,留给堆的可用空间还有两处:一处是从.bss 段到 0x40000000,约不到 1GB 的空间;另一处是从共享库到栈之间的空间,约不到 2GB。这两块空间大小取决于栈、共享库的大小和数量。这样来看,是否应用程序可申请的最大堆空间只有 2GB?事实上,这与 Linux 内核版本有关。在上面给出的进程地址空间经典布局图中,共享库的装载地址为 0x40000000,这实际上是 Linux kernel 2.6 版本之前的情况了,在 2.6 版本里,共享库的装载地址已经被挪到靠近栈的位置,即位于 0xBFxxxxxx 附近,因此,此时的堆范围就不会被共享库分割成 2 个“碎片”,故 kernel 2.6 的 32 位 Linux 系统中,malloc 申请的最大内存理论值在 2.9GB 左右。

4 堆(heap)

     堆用于存放进程运行时动态分配的内存段,可动态扩张或缩减。堆中内容是匿名的,不能按名字直接访问,只能通过指针间接访问。当进程调用 malloc(C)/new(C++)等函数分配内存时,新分配的内存动态添加到堆上 (扩张);当调用 free(C)/delete(C++) 等函数释放内存时,被释放的内存从堆中剔除(缩减)。

     分配的堆内存是经过字节对齐的空间,以适合原子操作。堆管理器通过链表管理每个申请的内存,由于堆申请和释放是无序的,最终会产生内存碎片。堆内存一般由应用程序分配释放,回收的内存可供重新使用。若程序员不释放,程序结束时操作系统可能会自动回收。

     堆的末端由 break 指针标识,当堆管理器需要更多内存时,可通过系统调用 brk()和 sbrk()来移动 break 指针以扩张堆,一般由系统自动调用。

     使用堆时经常出现两种问题:1) 释放或改写仍在使用的内存 (“内存破坏”);2) 未释放不再使用的内存(“内存泄漏”)。当释放次数少于申请次数时,可能已造成内存泄漏。泄漏的内存往往比忘记释放的数据结构更大,因为所分配的内存通常会圆整为下个大于申请数量的 2 的幂次(如申请 212B,会圆整为 256B)。

     注意,堆不同于数据结构中的”堆”,其行为类似链表。

【扩展阅读】栈和堆的区别

管理方式:栈由编译器自动管理;堆由程序员控制,使用方便,但易产生内存泄露。

生长方向:栈向低地址扩展(即”向下生长”),是连续的内存区域;堆向高地址扩展(即”向上生长”),是不连续的内存区域。这是由于系统用链表来存储空闲内存地址,自然不连续,而链表从低地址向高地址遍历。

空间大小:栈顶地址和栈的最大容量由系统预先规定(通常默认 2M 或 10M);堆的大小则受限于计算机系统中有效的虚拟内存,32 位 Linux 系统中堆内存可达 2.9G 空间。

存储内容 :栈在函数调用时,首先压入主调函数中下条指令(函数调用语句的下条可执行语句) 的地址,然后是函数实参,然后是被调函数的局部变量。本次调用结束后,局部变量先出栈,然后是参数,最后栈顶指针指向最开始存的指令地址,程序由该点继续运行下条可执行语句。堆通常在头部用一个字节存放其大小,堆用于存储生存期与函数调用无关的数据,具体内容由程序员安排。

分配方式:栈可静态分配或动态分配。静态分配由编译器完成,如局部变量的分配。动态分配由 alloca 函数在栈上申请空间,用完后自动释放。堆只能动态分配且手工释放。

分配效率:栈由计算机底层提供支持:分配专门的寄存器存放栈地址,压栈出栈由专门的指令执行,因此效率较高。堆由函数库提供,机制复杂,效率比栈低得多。Windows 系统中 VirtualAlloc 可直接在进程地址空间中分配一块内存,快速且灵活。

分配 后系统响应:只要栈剩余空间大于所申请空间,系统将为程序提供内存,否则报告异常提示栈溢出。

     操作系统为堆维护一个记录空闲内存地址的链表。当系统收到程序的内存分配申请时,会遍历该链表寻找第一个空间大于所申请空间的堆结点,然后将该结点从空闲结点链表中删除,并将该结点空间分配给程序。若无足够大小的空间 (可能由于内存碎片太多),有可能调用系统功能去增加程序数据段的内存空间,以便有机会分到足够大小的内存,然后进行返回。,大多数系统会在该内存空间首地址处记录本次分配的内存大小,供后续的释放函数(如 free/delete) 正确释放本内存空间。

     此外,由于找到的堆结点大小不一定正好等于申请的大小,系统会自动将多余的部分重新放入空闲链表中。

碎片问题:栈不会存在碎片问题,因为栈是先进后出的队列,内存块弹出栈之前,在其上面的后进的栈内容已弹出。而频繁申请释放操作会造成堆内存空间的不连续,从而造成大量碎片,使程序效率降低。

     可见,堆容易造成内存碎片;由于没有专门的系统支持,效率很低;由于可能引发用户态和内核态切换,内存申请的代价更为昂贵。所以栈在程序中应用最广泛,函数调用也利用栈来完成,调用过程中的参数、返回地址、栈基指针和局部变量等都采用栈的方式存放。所以,建议尽量使用栈,仅在分配大量或大块内存空间时使用堆。

     使用栈和堆时应避免越界发生,否则可能程序崩溃或破坏程序堆、栈结构,产生意想不到的后果。

5 BSS 段

     BSS(Block Started by Symbol)段中通常存放程序中以下符号:

  • 未初始化的全局变量和静态局部变量
  • 初始值为 0 的全局变量和静态局部变量(依赖于编译器实现)
  • 未定义且初值不为 0 的符号(该初值即 common block 的大小)

     C 语言中,未显式初始化的静态分配变量被初始化为 0(算术类型)或空指针 (指针类型)。由于程序加载时,BSS 会被操作系统清零,所以未赋初值或初值为 0 的全局变量都在 BSS 中。BSS 段仅为未初始化的静态分配变量预留位置,在目标文件中并不占据空间,这样可减少目标文件体积。但程序运行时需为变量分配内存空间,故目标文件必须记录所有未初始化的静态分配变量大小总和(通过 start_bss 和 end_bss 地址写入机器代码)。当加载器(loader) 加载程序时,将为 BSS 段分配的内存初始化为 0。在嵌入式软件中,进入 main()函数之前 BSS 段被 C 运行时系统映射到初始化为全零的内存(效率较高)。

     注意,尽管均放置于 BSS 段,但初值为 0 的全局变量是强符号,而未初始化的全局变量是弱符号。若其他地方已定义同名的强符号(初值可能非 0),则弱符号与之链接时不会引起重定义错误,但运行时的初值可能并非期望值(会被强符号覆盖)。因此,定义全局变量时,若只有本文件使用,则尽量使用 static 关键字修饰;否则需要为全局变量定义赋初值(哪怕 0 值),保证该变量为强符号,以便链接时发现变量名冲突,而不是被未知值覆盖。

     某些编译器将未初始化的全局变量保存在 common 段,链接时再将其放入 BSS 段。在编译阶段可通过 -fno-common 选项来禁止将未初始化的全局变量放入 common 段。

     此外,由于目标文件不含 BSS 段,故程序烧入存储器 (Flash) 后 BSS 段地址空间内容未知。U-Boot 启动过程中,将 U -Boot 的 Stage2 代码 (通常位于 lib_xxxx/board.c 文件) 搬迁 (拷贝) 到 SDRAM 空间后必须人为添加清零 BSS 段的代码,而不可依赖于 Stage2 代码中变量定义时赋 0 值。

【扩展阅读】BSS历史

     BSS(Block Started by Symbol,以符号开始的块)一词最初是 UA-SAP 汇编器 (United Aircraft Symbolic Assembly Program) 中的伪指令,用于为符号预留一块内存空间。该汇编器由美国联合航空公司于 20 世纪 50 年代中期为 IBM 704 大型机所开发。

     后来该词被作为关键字引入到了 IBM 709 和 7090/94 机型上的标准汇编器 FAP(Fortran Assembly Program),用于定义符号并且为该符号预留指定字数的未初始化空间块。

     在采用段式内存管理的架构中(如 Intel 80×86 系统),BSS 段通常指用来存放程序中未初始化全局变量的一块内存区域,该段变量只有名称和大小却没有值。程序开始时由系统初始化清零。

     BSS 段不包含数据,仅维护开始和结束地址,以便内存能在运行时被有效地清零。BSS 所需的运行时空间由目标文件记录,但 BSS 并不占用目标文件内的实际空间,即 BSS 节段应用程序的二进制映象文件中并不存在。

6 数据段(Data)

     数据段通常用于存放程序中已初始化且初值不为 0 的全局变量和静态局部变量。数据段属于静态内存分配(静态存储区),可读可写。

     数据段保存在目标文件中(在嵌入式系统里一般固化在镜像文件中),其内容由程序初始化。例如,对于全局变量 int gVar = 10,必须在目标文件数据段中保存 10 这个数据,然后在程序加载时复制到相应的内存。

     数据段与 BSS 段的区别如下:

     1) BSS 段不占用物理文件尺寸,但占用内存空间;数据段占用物理文件,也占用内存空间。

     对于大型数组如 int ar0[10000] = {1, 2, 3, …}和 int ar1[10000],ar1 放在 BSS 段,只记录共有 10000* 4 个字节需要初始化为 0,而不是像 ar0 那样记录每个数据 1、2、3…,此时 BSS 为目标文件所节省的磁盘空间相当可观。

     2) 当程序读取数据段的数据时,系统会出发缺页故障,从而分配相应的物理内存;当程序读取 BSS 段的数据时,内核会将其转到一个全零页面,不会发生缺页故障,也不会为其分配相应的物理内存。

     运行时数据段和 BSS 段的整个区段通常称为数据区。某些资料中“数据段”指代数据段 + BSS 段 + 堆。

7 代码段(text)

     代码段也称正文段或文本段,通常用于存放程序执行代码(即 CPU 执行的机器指令)。一般 C 语言执行语句都编译成机器代码保存在代码段。通常代码段是可共享的,因此频繁执行的程序只需要在内存中拥有一份拷贝即可。代码段通常属于只读,以防止其他程序意外地修改其指令(对该段的写操作将导致段错误)。某些架构也允许代码段为可写,即允许修改程序。

     代码段指令根据程序设计流程依次执行,对于顺序指令,只会执行一次(每个进程);若有反复,则需使用跳转指令;若进行递归,则需要借助栈来实现。

     代码段指令中包括操作码和操作对象(或对象地址引用)。若操作对象是立即数(具体数值),将直接包含在代码中;若是局部数据,将在栈区分配空间,然后引用该数据地址;若位于 BSS 段和数据段,同样引用该数据地址。

     代码段最容易受优化措施影响。

8 保留区

     位于虚拟地址空间的最低部分,未赋予物理地址。任何对它的引用都是非法的,用于捕捉使用空指针和小整型值指针引用内存的异常情况。

     它并不是一个单一的内存区域,而是对地址空间中受到操作系统保护而禁止用户进程访问的地址区域的总称。大多数操作系统中,极小的地址通常都是不允许访问的,如 NULL。C 语言将无效指针赋值为 0 也是出于这种考虑,因为 0 地址上正常情况下不会存放有效的可访问数据。

     在 32 位 X86 架构的 Linux 系统中,用户进程可执行程序一般从虚拟地址空间 0x08048000 开始加载。该加载地址由 ELF 文件头决定,可通过自定义链接器脚本覆盖链接器默认配置,进而修改加载地址。0x08048000 以下的地址空间通常由 C 动态链接库、动态加载器 ld.so 和内核 VDSO(内核提供的虚拟共享库)等占用。通过使用 mmap 系统调用,可访问 0x08048000 以下的地址空间。

     通过 cat /proc/self/maps 命令查看加载表如下:

Linux 虚拟地址空间布局 

【扩展阅读】分段的好处

     进程运行过程中,代码指令根据流程依次执行,只需访问一次 (当然跳转和递归可能使代码执行多次);而数据(数据段和 BSS 段) 通常需要访问多次,因此单独开辟空间以方便访问和节约空间。具体解释如下:

     当程序被装载后,数据和指令分别映射到两个虚存区域。数据区对于进程而言可读写,而指令区对于进程只读。两区的权限可分别设置为可读写和只读。以防止程序指令被有意或无意地改写。

     现代 CPU 具有极为强大的缓存 (Cache) 体系,程序必须尽量提高缓存命中率。指令区和数据区的分离有利于提高程序的局部性。现代 CPU 一般数据缓存和指令缓存分离,故程序的指令和数据分开存放有利于提高 CPU 缓存命中率。

     当系统中运行多个该程序的副本时,其指令相同,故内存中只须保存一份该程序的指令部分。若系统中运行数百进程,通过共享指令将节省大量空间(尤其对于有动态链接的系统)。其他只读数据如程序里的图标、图片、文本等资源也可共享。而每个副本进程的数据区域不同,它们是进程私有的。

     此外,临时数据及需要再次使用的代码在运行时放入栈区中,生命周期短。全局数据和静态数据可能在整个程序执行过程中都需要访问,因此单独存储管理。堆区由用户自由分配,以便管理。

本文永久更新链接地址:http://www.linuxidc.com/Linux/2016-12/138635.htm

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计7398字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中