首页
论坛
专栏
课程

[原创]乱侃Windows NT内核之内存管理

2010-4-22 18:10 18689

[原创]乱侃Windows NT内核之内存管理

2010-4-22 18:10
18689
标 题:【原创】乱侃WindowsNT内核之内存管理
作 者: xxxdebug
时 间: 2010-04-22,18:10:50
链 接: http://bbs.pediy.com/showthread.php?t=111508

题外话:

假设大家都已经了解了x86体系的内存管理机制,知道什么是flat模式,知道运算部件AU和存储管理部件MMU的含义,知道什么是虚拟地址(flat模式下线性地址和虚拟地址是等同的,不考虑分段情况),什么是物理地址(内存、IO端口);知道什么是页表,什么是页表项pte,什么是页目录pde等等。

本文为做特别说明,都是基于x80体系,非PAE的4k分页的情况讨论。
==================================================================

页表在系统空间的映射:
================================================================
Windows采用的是将整个页表映射到一段连续的地址,在非PAE的4k分页的情况下(PAE模式下页表项的大小是8个字节),页表映射开始于系统空间的0xc0000000的0x400000个字节。虚拟地址相邻的页表所映射的虚拟地址也是连续的,即0xc0000000指向的PTE所映射的是用户空间的0~0xfff;0xc0000004指向的PTE所描述的是0x1000~0x1fff…

Windows对页表的这种精心安排,好处是不言而喻的,比如对于一个确定的虚拟地址,其对应的页表位置也就确定了,如对于虚拟空间的某一地址x,其PTE的地址就是x/0x1000*4+0xc000000,如页表本身所对应的PTE地址(也称PDE)= 0xc0000000/0x1000*4+0xc00000000= 0xc0300000;反过来转换也很简单,对于也个PTE的地址x,其所映射的页的起始地址是(x-0xc0000000)/4*0x1000。

0xc0000000开始映射页表是唯一选择么?我觉得未必,其实页表在虚拟空间映射的位置是可以浮动的,但有一个要求,必须映射在系统空间。如果将页表映射在用户空间会出什么问题呢?用户空间是属于进程的私有财产,操作系统有时候是没有进程上下文的,所以如果将页表映射在用户空间将导致系统无法进行内存管理。

页表可以映射到不连续的空间么?当然可以,只是这样做页表项的地址和其所对应的虚拟地址之间就不那么容易转换了。

从MMU的角度来看,在地址转换过程中,只和物理地址打交道,因为页表保存的是物理地址,所以页表甚至不需映射到虚拟空间中的。

但是AU只能对已经映射的地址进行访问,而且建立和取消映射需要对页表项(PTE、PDE)进行读写操作,如果页表项没有映射就无法读写,所以将整个页表保持一个固定的映射是一个不错的选择,当然也可以每次都进行临时映射,但这样做的效率可想而知。

还有一点,页表的映射区是独立于进程的,在系统空间中有两块区域在不同的进程中所保存的内容是不一样的,一块就是页表映射区域,还有一块是被称作超级空间(hyperspace)的地方,超级空间是系统用来做临时映射(打草稿)用的,这两块地方在进程切换是需要更新,其他空间在所有进程看来都是一样的,即所谓公用区域,比如各个系统模块的映射区,包括系统缓冲区(pool)等等。

页表的初始化:
==========================================================
我们知道,在启动分页以后,CR3指向的物理地址指向页目录

如果我们已经将页目录映射到了一个确定的地址,下面的工作就不是问题了

也许你会问,我们如何将页目录映射到一个确定的地址呢?这似乎是一个先有鸡还是先有蛋的问题

其实很简单,两句话,子进程的页目录映射由父进程代劳,老祖宗进程的页目录的映射工作由实模式代劳。

对于子进程,父进程会在其hyperspace上将子进程的页表映射构造好,然后将页目录对应的物理地址写道子进程的EProcess里就一切OK了。

而对于第一个进程的页表是在启动分页前设置好的。

其实windows的做法是子进程的页表映射数据是直接从父进程中拷贝而来的,上面已经说过,所有进程的系统空间的映射除了页表和hyperspace两块区块外都是相同的,所以所要做的工作就是申请两个页面,映射到父进程的hyperspace,这样父进程就可以读写这两个页面了,其中一个页面用于保存页目录,其高半部分直接从父进程的pde的高半部分拷贝,一页用于保存hyperspace的页表项,并修改保存目录页面中的两个pte的值,一个是指向其自身的pte(pde),一个是指向hyperspace的pte。至于这两个pte在页目录页面中的偏移是容易计算的,而且是固定不变的。

其实让页目录页面中的某一项的pte值指向其自身也就完成了页目录页面本身的映射,比如要想将页目录页面映射到0xc0300000,只需将偏移0xc00除的pte指向其自身即可,计算公式:0xc0300000/1000*4+0xc0000000-0xc0300000=0xc00。

虚拟空间管理:
===============================================================
一块内存在变得可以使用之前,需要经过以下步骤:
1)分配虚拟空间,所有程序只能读写虚拟空间
2)分配物理内存
3)建立虚拟内存和物理之间的映射
下面先说说虚拟空间的管理:

用户空间管理:
=====================================================
为了高效快速检索、分配、释放一个内存区块(MMADDRESS_NODE),Windows使用一个称作AVL的二叉树结构管理整个用户空间,Windows将所有已经分配或保留的内存区块记录在二叉树的结构中,该二叉树定义如下:
typedef struct _MMADDRESS_NODE {
union {
LONG_PTR Balance : 2;
struct _MMADDRESS_NODE *Parent;
} u1;
struct _MMADDRESS_NODE *LeftChild;
struct _MMADDRESS_NODE *RightChild;
ULONG_PTR StartingVpn;
ULONG_PTR EndingVpn;
} MMADDRESS_NODE, *PMMADDRESS_NODE;

使用这种管理策略管理用户空间是一个很自然的事,如果让我写一个这样的模块,可能实现的方法是一样的,就不多说了呵呵。

系统空间的管理:
=======================================================
系统空间的使用者是内核本身(当然也包含驱动程序),所以内核开发人员对系统空间的内存的需求是很清楚的,所以对系统空间的管理策略应该是针对内核的需求特点进行精心考虑的

看了wrk系统空间管理部分的源代码,不得不佩服windows开发人员的智慧

我们知道页表的元素称为pte,整个页表被映射在系统空间的0xc000000到0xc03ffffff的地方,每一页占有四个字节,其定义如下:

typedef struct _MMPTE {
union {
ULONG_PTR Long;
MMPTE_HARDWARE Hard;
MMPTE_HARDWARE_LARGEPAGE HardLarge;
HARDWARE_PTE Flush;
MMPTE_PROTOTYPE Proto;
MMPTE_SOFTWARE Soft;
MMPTE_TRANSITION Trans;
MMPTE_SUBSECTION Subsect;
MMPTE_LIST List;
} u;
} MMPTE;

我们看到windows对mmpte的定义是由多种解释的,硬件对其解释如下:

typedef struct _MMPTE_HARDWARE {
ULONG Valid : 1;
#if defined(NT_UP)
ULONG Write : 1; // UP version
#else
ULONG Writable : 1; // changed for MP version
#endif
ULONG Owner : 1;
ULONG WriteThrough : 1;
ULONG CacheDisable : 1;
ULONG Accessed : 1;
ULONG Dirty : 1;
ULONG LargePage : 1;
ULONG Global : 1;
ULONG CopyOnWrite : 1; // software field
ULONG Prototype : 1; // software field
#if defined(NT_UP)
ULONG reserved : 1; // software field
#else
ULONG Write : 1; // software field - MP change
#endif
ULONG PageFrameNumber : 20;
} MMPTE_HARDWARE, *PMMPTE_HARDWARE;

其最重要的是最低位的valid位,如果对写的地址的pte的valid等于0将引发缺页硬件异常,该地址会通过cr2传给中断处理程序。
其高20位用来保存物理页框架号,还有其他位现的意义就不说了,以上的定义除了高20位和低8位之间的4位保留可以自由定义外,其它为都是由硬件定义的。

windows对pte还有另外的定义,如MMPTE_LIST List;大家知道其用途么?呵呵,这就是用来管理系统空间的。

windows将整个页表被映射在系统空间的0xc000000到0xc03ffffff的地方后,带给我们的最大的好处是什么?

对了,虚拟地址和该地址在页表中的pte的地址的相互转换变得很容易了,所以windows将系统空间的分配和释放就转换成对pte的分配和释放了,这种想想法真是太高明了,呵呵。

windows将未使用(空闲页)的ptes根据用途分别链入一个链表,实现方法就是pte的另一种解释:
typedef struct _MMPTE_LIST {
ULONG Valid : 1;
ULONG OneEntry : 1;
ULONG filler0 : 8;

//
// Note the Prototype bit must not be used for lists like freed nonpaged
// pool because lookaside pops can legitimately reference bogus addresses
// (since the pop is unsynchronized) and the fault handler must be able to
// distinguish lists from protos so a retry status can be returned (vs a
// fatal bugcheck).
//

ULONG Prototype : 1; // MUST BE ZERO as per above comment.
ULONG filler1 : 1;
ULONG NextEntry : 20;
} MMPTE_LIST;

对应空闲ptes的表头用一个全局变量保存,连续空闲区块的第一个pte的高20位指向下一个空闲连续区块的第一个pte,第二个pte的高20位用来保存该连续空间的大小(页数、pte个数)

也许你会问了,假如一个空闲块只有一个页面,那空闲区块的大小保存在那里呢?嘿嘿,这就是OneEntry 的作用!当OneEntry 等于1时,表示该空闲块只有1页。

windows开发人员聪明吧,他直接将管理空闲空间的链表建立在页表上面,既高效,又节省空间,而且该链表的元素还是静态分配的,高明啊,哈哈。

还有,ptes的分配是从一个空闲pte区的后面开始分配的,知道这一点可以帮助你看懂该部分源代码。

详细的请大家看wrk啦,比如非分页内存的分配例程是MiReserveAlignedSystemPtes。

非分页内存其实有两种,除了上面讨论的一种外,还有一种是在初始化时就已经分配好的,该区域已经建立了物理映射,被称为非分页池,该区域是可以直接使用的,Windows以一般“池”的方法管理该区域,类似用户空间的heap的管理,及空闲链表法,由于被管理的页面是可以直接使用的,所以空闲链表就建立在这些页面上,总共有四个空闲链表,分别记录1、2、3、4及以上个页面大小的空闲内存块,没有什么亮点,就不多说了。

除了非分页内存外,还有一种称为分页内存的空间,这些页面是可以交换到磁盘上的,所以不能保证这些页面是有物理映射的,所以windows用一个数据结构来描述这些页面的分配状态:

typedef struct _MM_PAGED_POOL_INFO {
    PRTL_BITMAP PagedPoolAllocationMap;
    PRTL_BITMAP EndOfPagedPoolBitmap;
    PMMPTE FirstPteForPagedPool;
    PMMPTE LastPteForPagedPool;
    PMMPTE NextPdeForPagedPoolExpansion;
    ULONG PagedPoolHint;
    SIZE_T PagedPoolCommit;
    SIZE_T AllocatedPagedPool;
} MM_PAGED_POOL_INFO, *PMM_PAGED_POOL_INFO;

从 PagedPoolAllocationMap项可以看出,Windows是使用位图法记录各个页面的分配状态,有点类似fat文件系统,呵呵。

也许你要问了,Windows分别使用MMPTE_LIST、位图、空闲链表记录系统空间的分配状态,在释放一块内存时,如何知道使用哪一个数据结构呢?其实很简单,从要释放的地址就可以确定了,windows使用不同的数据结构管理的可是系统不同的区域,地址属于哪个区域可是一目了然啊,呵呵。

物理内存管理:
================================================================
Windows将物理地址空间分成4k(0x1000)字节大小的页,以页为单位分配物理内存
因为windows以物理页的形式分配物理内存,所有要管理这些页,必须建立这些页的描述,显然对于一个确定的页来说,最重要的信息应该是:
1.        起始地址
2.        大小
3.        是否可用等等
我们来看看Windows对物理内存资源的描述:

typedef struct _MMPFN {
    union {
        PFN_NUMBER Flink;
        WSLE_NUMBER WsIndex;
        PKEVENT Event;
        NTSTATUS ReadStatus;
        struct _MMPFN *NextStackPfn;
    } u1;
    PMMPTE PteAddress;
    union {
        PFN_NUMBER Blink;
        ULONG ShareCount;
        ULONG SecondaryColorFlink;
    } u2;
    union {
        MMPFNENTRY e1;
        struct {
            USHORT ShortFlags;
            USHORT ReferenceCount;
        } e2;
    } u3;
#if defined (_WIN64)
    ULONG UsedPageTableEntries;
#endif
    MMPTE OriginalPte;
    PFN_NUMBER PteFrame;
} MMPFN, *PMMPFN;

PMMPFN MmPfnDatabase;

上面是windows对一个物理页的描述,MMPFN用来表示一个物理页,MmFfnDatabase就是一个MMPFN的数组;
你也许奇怪,MMPFN中并没有诸如开始地址、页大小等等信息,其实MMPFN中最重要的数据是:
1)        u1.Flink;u2.Blink这两个字段其实就是组成一个LIST_ENTRY,用来将该页链入某个链表
2)        PteAddress,用来指向一个页表项。
那么如何知道该MMPFN所代表的那块内存的开始地址和页大小呢,其实很简单。
首先,页大小是固定的,就是4k,没必要每个PFN都记录,而开始地址的计算如下:
设x为一个MMPFN,那么对应的开始页号就是&x-MmPfnDatabae,起始地址就是(&x-MmPfnDatabae)*0x1000.

MMPFN数据只存在于数组MmPfnDatabase中,而且按其所代表的页是连续的,即MmPfnDatabase[0]代表0~0xfff,MmPfnDatabase[1]代表0x1000~0x1fff,。。。
而对其使用也就是将其挂入相应的链表,期间除了改变u1.Flink;u2.Blink的指向外,没有数据拷贝,其实这才是其高明之处,它给了我们一个在静态数组之上建立复杂数据结构的范例,这才是我看这部分代码的最大收获(个人认为,使用静态内存就是安心,就是爽,呵呵)。

对于物理内存的管理就是根据不同需求,将存在于MmPfnDatabase数组中的MMPFN数据挂入不同的链表,Windows用于物理内存管理的链表如下,其意义可从其名字上看出,就不多说了:
1)        MMPFNLIST MmZeroedPageListHead;
2)        MMPFNLIST MmFreePageListHead;
3)        MMPFNLIST MmStandbyPageListHead;
4)        MMPFNLIST MmModifiedPageListHead;
5)        MMPFNLIST MmModifiedNoWritePageListHead;
6)        MMPFNLIST MmBadPageListHead;

结束语
===================================================
看了一段时间的wrk,觉得自己对nt内核有了一点了解,一时兴起,想和大家分享一下自己的收获和心得,所以才有此贴。

苦于本人对NT内核理解还不深、加上最近工作比较忙,写的比较随意,没有好好组织,写的比较乱。再加上关注(感兴趣)本帖的人不多,所有这个贴子也不想继续了。

在没有指导下看nt内核源码的确比较难,近来听说潘爱民的大作《windows内核原理与实现》已经出版了,在网上一找,居然找到了部分章节,发现该书的确对阅读wrk有很大的帮助,在这个贴子中我想说的内容,书里居然都是有的,这个贴子也没有必要了。

下面附上《windows内核原理和实现》部分章节,献给关心该贴的朋友:

[推荐]看雪企服平台,提供安全分析、定制项目开发、APP等级保护、渗透测试等安全服务!

上传的附件:
上一主题 下一主题
最新回复 (28)
小天狼星 2010-4-22 19:04
2
0
楼主的心得不错
achillis 15 2010-4-22 19:14
3
0
不错,欢迎继续~
skypismire 1 2010-4-22 19:48
4
0
很感兴趣,继续~~
顺便请教下,0xc0000000-0xc0400000这部分虚拟空间用于页面映射表,它是用的一维数组的形式来建立整个虚拟空间的映射,但落实到物理页面上,对应的页面映射表是采用二级层次结构来完成的.问,系统怎么恰当的设置,将这个一维数组和这个二级层次结构中的每项对应起来?使得 0xc0000000正好对应二级层次结构中的二级页面表项第0项

这里没想太明白
xxxDebug 2010-4-22 23:09
5
0
下面简单谈一谈页表的初始化,顺便也就回答了你的问题
===============================================
页表的初始化:

我们知道,在启动分页以后,CR3指向的物理地址指向页目录

如果我们已经将页目录映射到了一个确定的地址,下面的工作就不是问题了

也许你会问,我们如何将页目录映射到一个确定的地址呢?这似乎是一个先有鸡还是先有蛋的问题

其实很简单,两句话,子进程的页目录映射由父进程代劳,老祖宗进程的页目录的映射工作由实模式代劳。

对于子进程,父进程会在其hyperspace上将子进程的页表映射构造好,然后将页目录对应的物理地址写道子进程的EProcess里就一切OK了。

而对于第一个进程的页表是在启动分页前设置好的。

其实windows的做法是子进程的页表映射数据是直接从父进程中拷贝而来的,上面已经说过,所有进程的系统空间的映射除了页表和hyperspace两块区块外都是相同的,所以所要做的工作就是申请两个页面,映射到父进程的hyperspace,这样父进程就可以读写这两个页面了,其中一个页面用于保存页目录,其高半部分直接从父进程的pde的高半部分拷贝,一页用于保存hyperspace的页表项,并修改保存目录页面中的两个pte的值,一个是指向其自身的pte(pde),一个是指向hyperspace的pte。至于这两个pte在页目录页面中的偏移是容易计算的,而且是固定不变的。

其实让页目录页面中的某一项的pte值指向其自身也就完成了页目录页面本身的映射,比如要想将页目录页面映射到0xc0300000,只需将偏移0xc00除的pte指向其自身即可,计算公式:0xc0300000/1000*4+0xc0000000-0xc0300000=0xc00。
xxxDebug 2010-4-22 23:19
6
0
例程MmCreateProcessAddressSpace 包含了windows父进程为子进程构造页表的代码,大家可以在wrk中找到。
ReturnsMe 2 2010-4-23 00:29
7
0
期待下文~
LintChD 2010-4-23 01:01
8
0
支持LZ,受教了,LZ内存管理研究很透彻啊。
skypismire 1 2010-4-23 12:31
9
0
多谢楼主,想明白了,PAGETABLE_MAP区域0xc0000000-0xc0400000能够正确的映射到二级层次结构的页目录表的画龙点睛之笔是将0xc0000000-0xc0400000区域对应的PDE表项(下标为 0xc0000000 / 2^22 = 0xc00)即PDE[0xc00]设置为此页目录表自身,0xc0000000-0xc0400000就映射到页目录表对应的4M物理地址空间,分别与各个pte项对应起来.

点睛之笔对应的代码就是......
PageDirectory[ADDR_TO_PTE_OFFSET(PAGETABLE_MAP)] = PFN_TO_PTE(Pfn[0])|PA_PRESENT|PA_READWRITE;

是这样吧,
xxxDebug 2010-4-23 16:12
10
0
[QUOTE=skypismire;795884]多谢楼主,想明白了,PAGETABLE_MAP区域0xc0000000-0xc0400000能够正确的映射到二级层次结构的页目录表的画龙点睛之笔是将0xc0000000-0xc0400000区域对应的PDE表项(下标为 0xc0000000 / 2^22 = 0xc00)即PDE[0xc00]设置为...[/QUOTE]

对头,不用谢,呵呵!
网络游侠 2010-4-24 09:07
11
0
关于AVL 相关代码

http://www.cnblogs.com/hxf829/archive/2009/04/10/1659805.html
xxxDebug 2010-4-25 18:12
12
0
一块内存在变得可以使用之前,需要经过以下步骤:
1)分配虚拟空间,所有程序只能读写虚拟空间
2)分配物理内存
3)建立虚拟内存和物理之间的映射
下面先说说虚拟空间的管理:

用户空间管理:
=====================================================
Windows将所有已经分配或保留的内存区块记录在一个称为avl的二叉树的结构中,该二叉树定义如下:
typedef struct _MMADDRESS_NODE {
    union {
        LONG_PTR Balance : 2;
        struct _MMADDRESS_NODE *Parent;
    } u1;
    struct _MMADDRESS_NODE *LeftChild;
    struct _MMADDRESS_NODE *RightChild;
    ULONG_PTR StartingVpn;
    ULONG_PTR EndingVpn;
} MMADDRESS_NODE, *PMMADDRESS_NODE;

使用这种管理策略管理用户空间是一个很自然的事,如果让我写一个这样的模块,可能实现的方法是一样的,就不多说了呵呵。

系统空间的管理:
=======================================================
系统空间的使用者是内核本身(当然也包含驱动程序),所以内核开发人员对系统空间的内存的需求是很清楚的,所以对系统空间的管理策略应该是针对内核的需求特点进行精心考虑的

看了wrk系统空间管理部分的源代码,不得不佩服windows开发人员的智慧

我们知道页表的元素称为pte,整个页表被映射在系统空间的0xc000000到0xc03ffffff的地方,每一页占有四个字节,其定义如下:

typedef struct _MMPTE {
    union  {
        ULONG_PTR Long;
        MMPTE_HARDWARE Hard;
        MMPTE_HARDWARE_LARGEPAGE HardLarge;
        HARDWARE_PTE Flush;
        MMPTE_PROTOTYPE Proto;
        MMPTE_SOFTWARE Soft;
        MMPTE_TRANSITION Trans;
        MMPTE_SUBSECTION Subsect;
        MMPTE_LIST List;
        } u;
} MMPTE;

我们看到windows对mmpte的定义是由多种解释的,硬件对其解释如下:

typedef struct _MMPTE_HARDWARE {
    ULONG Valid : 1;
#if defined(NT_UP)
    ULONG Write : 1;       // UP version
#else
    ULONG Writable : 1;    // changed for MP version
#endif
    ULONG Owner : 1;
    ULONG WriteThrough : 1;
    ULONG CacheDisable : 1;
    ULONG Accessed : 1;
    ULONG Dirty : 1;
    ULONG LargePage : 1;
    ULONG Global : 1;
    ULONG CopyOnWrite : 1; // software field
    ULONG Prototype : 1;   // software field
#if defined(NT_UP)
    ULONG reserved : 1;    // software field
#else
    ULONG Write : 1;       // software field - MP change
#endif
    ULONG PageFrameNumber : 20;
} MMPTE_HARDWARE, *PMMPTE_HARDWARE;

其最重要的是最低位的valid位,如果对写的地址的pte的valid等于0将引发缺页硬件异常,该地址会通过cr2传给中断处理程序。
其高20位用来保存物理页框架号,还有其他位现的意义就不说了,以上的定义除了高20位和低8位之间的4位保留可以自由定义外,其它为都是由硬件定义的。

windows对pte还有另外的定义,如MMPTE_LIST List;大家知道其用途么?呵呵,这就是用来管理系统空间的。

windows将整个页表被映射在系统空间的0xc000000到0xc03ffffff的地方后,带给我们的最大的好处是什么?

对了,虚拟地址和该地址在页表中的pte的地址的相互转换变得很容易了,所以windows将系统空间的分配和释放就转换成对pte的分配和释放了,这种想想法真是太高明了,呵呵。

windows将未使用的ptes根据用途分别链入一个链表,实现方法就是pte的另一种解释:
typedef struct _MMPTE_LIST {
    ULONG Valid : 1;
    ULONG OneEntry : 1;
    ULONG filler0 : 8;

    //
    // Note the Prototype bit must not be used for lists like freed nonpaged
    // pool because lookaside pops can legitimately reference bogus addresses
    // (since the pop is unsynchronized) and the fault handler must be able to
    // distinguish lists from protos so a retry status can be returned (vs a
    // fatal bugcheck).
    //

    ULONG Prototype : 1;            // MUST BE ZERO as per above comment.
    ULONG filler1 : 1;
    ULONG NextEntry : 20;
} MMPTE_LIST;

对应空闲ptes的表头用一个全局变量保存,连续空闲区块的第一个pte的高20位指向下一个空闲连续区块的第一个pte,第二个pte的高20位用来保存该连续空间的大小(页数、pte个数)

也许你会问了,假如一个空闲块只有一个页面,那空闲区块的大小保存在那里呢?嘿嘿,这就是OneEntry 的作用!当OneEntry 等于1时,表示该空闲块只有1页。

windows开发人员聪明吧,他直接将管理空闲空间的链表建立在页表上面,既高效,又节省空间,而且该链表的元素还是静态分配的,高明啊,哈哈。

还有,ptes的分配是从一个空闲pte区的后面开始分配的,知道这一点可以帮助你看懂该部分源代码。

详细的请大家看wrk啦,比如非分页内存的分配例程是MiReserveAlignedSystemPtes。

非分页内存其实有两种,除了上面讨论的一种外,还有一种是在初始化时就已经分配好的,该区域已经建立了物理映射,被称为非分页池,该区域是可以直接使用的,Windows以一般“池”的方法管理该区域,类似用户空间的heap的管理,及空闲链表法,由于被管理的页面是可以直接使用的,所以空闲链表就建立在这些页面上,总共有四个空闲链表,分别记录1、2、3、4及以上个页面大小的空闲内存块,没有什么亮点,就不多说了。

除了非分页内存外,还有一种称为分页内存的空间,这些页面是可以交换到磁盘上的,所以不能保证这些页面是有物理映射的,所以windows用一个数据结构来描述这些页面的分配状态:

typedef struct _MM_PAGED_POOL_INFO {
    PRTL_BITMAP PagedPoolAllocationMap;
    PRTL_BITMAP EndOfPagedPoolBitmap;
    PMMPTE FirstPteForPagedPool;
    PMMPTE LastPteForPagedPool;
    PMMPTE NextPdeForPagedPoolExpansion;
    ULONG PagedPoolHint;
    SIZE_T PagedPoolCommit;
    SIZE_T AllocatedPagedPool;
} MM_PAGED_POOL_INFO, *PMM_PAGED_POOL_INFO;

从 PagedPoolAllocationMap项可以看出,Windows是使用位图法记录各个页面的分配状态,有点类似fat文件系统,呵呵。

也许你要问了,Windows分别使用MMPTE_LIST、位图、空闲链表记录系统空间的分配状态,在释放一块内存时,如何知道使用哪一个数据结构呢?其实很简单,从要释放的地址就可以确定了,windows使用不同的数据结构管理的可是系统不同的区域,地址属于哪个区域可是一目了然啊,呵呵。
xxxDebug 2010-4-25 18:44
13
0
已经将所有内容整理到1楼了,大家就凑合着看哈
xxxDebug 2010-4-26 09:29
14
0
杯具啊,写了那么多字,也没人鼓励一下
为什么我的帖子没人回呢?看来这个帖子要TJ了,没兴趣写下去了。
xiilin 2010-4-26 09:37
15
0
好吧,我承认错误,我刚才看过了没回复。lz继续写下去吧,写的不好可是要tjj的,要是tj了就不能tjj了。
xxxDebug 2010-4-26 09:48
16
0
虽然这是个老掉牙的话题,但是我相信还是会有朋友对这个话题感兴趣的。

没有互动没有意思,欢迎大家交流,指出我的错误,提出你的见解,谢谢大家。
xiaoAngel 2010-4-27 15:18
17
0
我这几天也在看毛老先生的那本书中有关内存管理的代码。

楼主说得相当的好。我也发现楼主理解得比我深。
wardon 2010-4-28 14:18
18
0
楼主干得好~
xxxDebug 2010-4-28 16:26
19
0
lkd> dd MmFirstFreeSystemPte l 1
8055f8c0  eb000000

lkd> dd MmSystemPteBase l 1
8055f84c  c0000000

奇怪,为何MmSystemPteBase 的值会是c0000000?

如果这样,第一个空闲的pte地址岂不是指向了用户空间?

第一个空闲pte的地址:
PointerPte = MmSystemPteBase + MmFirstFreeSystemPte[0] /1000
                 = c0000000+eb000 = c00eb000

第一个空闲pte在页表中的偏移:
c00eb000-c0000000 = eb0000

第一个空闲pte对应的虚拟地址:
eb000/4*1000 = 3ac00000

显然有问题:
3ac00000小于0x80000000

MmSystemPteBase 应该是c0200000才合理吧,难道本地内核调试连静态变量都不正确?
谁解释一下?
xxxDebug 2010-4-29 11:23
20
0
物理内存管理:
================================================================
Windows将物理地址空间分成4k(0x1000)字节大小的页,以页为单位分配物理内存
因为windows以物理页的形式分配物理内存,所有要管理这些页,必须建立这些页的描述,显然对于一个确定的页来说,最重要的信息应该是:
1.起始地址
2.大小
3.是否可用等等
我们来看看Windows对物理内存资源的描述:

typedef struct _MMPFN {
union {
PFN_NUMBER Flink;
WSLE_NUMBER WsIndex;
PKEVENT Event;
NTSTATUS ReadStatus;
struct _MMPFN *NextStackPfn;
} u1;
PMMPTE PteAddress;
union {
PFN_NUMBER Blink;
ULONG ShareCount;
ULONG SecondaryColorFlink;
} u2;
union {
MMPFNENTRY e1;
struct {
USHORT ShortFlags;
USHORT ReferenceCount;
} e2;
} u3;
#if defined (_WIN64)
ULONG UsedPageTableEntries;
#endif
MMPTE OriginalPte;
PFN_NUMBER PteFrame;
} MMPFN, *PMMPFN;

PMMPFN MmPfnDatabase;

上面是windows对一个物理页的描述,MMPFN用来表示一个物理页,MmFfnDatabase就是一个MMPFN的数组;
你也许奇怪,MMPFN中并没有诸如开始地址、页大小等等信息,其实MMPFN中最重要的数据是:
1)    u1.Flink;u2.Blink这两个字段其实就是组成一个LIST_ENTRY,用来将该页链入某个链表
2)    PteAddress,用来指向一个页表项。
那么如何知道该MMPFN所代表的那块内存的开始地址和页大小呢,其实很简单。
首先,页大小是固定的,就是4k,没必要每个PFN都记录,而开始地址的计算如下:
设x为一个MMPFN,那么对应的开始页号就是&x-MmPfnDatabae,起始地址就是(&x-MmPfnDatabae)*0x1000.

MMPFN数据只存在于数组MmPfnDatabase中,而且按其所代表的页是连续的,即MmPfnDatabase[0]代表0~0xfff,MmPfnDatabase[1]代表0x1000~0x1fff,。。。
而对其使用也就是将其挂入相应的链表,期间除了改变u1.Flink;u2.Blink的指向外,没有数据拷贝,其实这才是其高明之处,它给了我们一个在静态数组之上建立复杂数据结构的范例,这才是我看这部分代码的最大收获(个人认为,使用静态内存就是安心,就是爽,呵呵)。

对于物理内存的管理就是根据不同需求,将存在于MmPfnDatabase数组中的MMPFN数据挂入不同的链表,Windows用于物理内存管理的链表如下,其意义可从其名字上看出,就不多说了:
1)    MMPFNLIST MmZeroedPageListHead;
2)    MMPFNLIST MmFreePageListHead;
3)    MMPFNLIST MmStandbyPageListHead;
4)    MMPFNLIST MmModifiedPageListHead;
5)    MMPFNLIST MmModifiedNoWritePageListHead;
6)    MMPFNLIST MmBadPageListHead;
wxxw 6 2010-4-29 19:57
21
0
谢谢LZ的科普,虽然还不太懂,为什么我机子上
lkd> !pte
               VA 00000000
PDE at 00000000C0600000    PTE at 00000000C0000000
contains 000000002BF2A867  contains 0000000000000000
pfn 2bf2a      ---DA--UWEV

pde是c0600000,不是c0300000???
xxxDebug 2010-4-29 20:08
22
0
PAE模式,pte占8个字节
0xc0000000/0x1000*8 +0xc0000000 =0xc0600000
wxxw 6 2010-4-29 20:13
23
0
呵呵,谢谢LS,继续研究
cyberbill 2010-4-30 09:06
24
0
楼主,你要加油啊,说说工作集是如何管理的!!!越详细越好!!
skypismire 1 2010-5-8 15:48
25
0
windows对pte还有另外的定义,如MMPTE_LIST List;大家知道其用途么?呵呵,这就是用来管理系统空间的。

windows将整个页表被映射在系统空间的0xc000000到0xc03ffffff的地方后,带给我们的最大的好处是什么?

对了,虚拟地址和该地址在页表中的pte的地址的相互转换变得很容易了,所以windows将系统空间的分配和释放就转换成对pte的分配和释放了,这种想想法真是太高明了,呵呵


不错不错,再次受教,毛老师的书看第一遍过的太快,这些细节没太多考虑。
maxboy 2010-5-10 16:04
26
0
学习了 不过好多看不懂呢
skypismire 1 2010-5-10 18:59
27
0
接触工作集了,留心过这位朋友的问题,顺便多了解了一下。工作集好像是用单向链表来实现的吧,
每一项代表一个物理内存页面。链表项的增加和删除,都是在页面异常处理例程和 页面倒出到交换文件的处理例程里实现的。
在处理页面异常时,申请的物理页面会加入链表(MmInsertRmaps),三个相关的仅有的函数:
MmNotPresentFaultSectionView
MmAccessFaultSectionView
MmNotPresentFaultVirtualMemory

在将页面倒出时,归还物理内存是会从链表中删除(MmDeleteAllRmaps), 二个相关的仅有的函数:
MmPageOutVirtualMemory
MmPageOutSectionView

感觉工作集是为配合页面倒出而设。物理内存的平衡例程里的修剪函数的参数只有一个物理页面号,这样它没法知道这个物理页面到底是属于哪个进程。而系统必须知道这个信息,否则它没法根据页面项获得此页面对应交换文件号和偏移,没法取消该进程对应的页表映射。
有了工作集就好办了,根据物理页面号就可以找到工作集链表头,工作集链表项里保存有进程eprocess指针,这样就对应上了。

还没发现还有什么地方用到了工作集00!
xxxDebug 2010-5-10 23:12
28
0
系统空间管理(补充)
==========================================================

上面提到过,系统空间使用MMPTE_LIST管理非分页内存,这里管理的页面是没有物理映射的,能够访问前需要映射到物理空间。

非分页内存其实有两种,除了上面讨论的一种外,还有一种是在初始化时就已经分配好的,该区域已经建立了物理映射,被称为非分页池,该区域是可以直接使用的,Windows以一般“池”的方法管理该区域,类似用户空间的heap的管理,及空闲链表法,由于被管理的页面是可以直接使用的,所以空闲链表就建立在这些页面上,总共有四个空闲链表,分别记录1、2、3、4及以上个页面大小的空闲内存块,没有什么亮点,就不多说了。

除了非分页内存外,还有一种称为分页内存的空间,这些页面是可以交换到磁盘上的,所以不能保证这些页面是有物理映射的,所以windows用一个数据结构来描述这些页面的分配状态:

typedef struct _MM_PAGED_POOL_INFO {
    PRTL_BITMAP PagedPoolAllocationMap;
    PRTL_BITMAP EndOfPagedPoolBitmap;
    PMMPTE FirstPteForPagedPool;
    PMMPTE LastPteForPagedPool;
    PMMPTE NextPdeForPagedPoolExpansion;
    ULONG PagedPoolHint;
    SIZE_T PagedPoolCommit;
    SIZE_T AllocatedPagedPool;
} MM_PAGED_POOL_INFO, *PMM_PAGED_POOL_INFO;

从 PagedPoolAllocationMap项可以看出,Windows是使用位图法记录各个页面的分配状态,有点类似fat文件系统,呵呵。

也许你要问了,Windows分别使用MMPTE_LIST、位图、空闲链表记录系统空间的分配状态,在释放一块内存时,如何知道使用哪一个数据结构呢?其实很简单,从要释放的地址就可以确定了,windows使用不同的数据结构管理的可是系统不同的区域,地址属于哪个区域可是一目了然啊,呵呵。
xxxDebug 2010-5-12 23:55
29
0
结束语
===================================================
看了一段时间的wrk,觉得自己对nt内核有了一点了解,一时兴起,想和大家分享一下自己的收获和心得,所以才有此贴。

苦于本人对NT内核理解还不深、加上最近工作比较忙,写的比较随意,没有好好组织,写的比较乱。再加上关注(感兴趣)本帖的人不多,所有这个贴子也不想继续了。

在没有指导下看nt内核源码的确比较难,近来听说潘爱民的大作《windows内核原理与实现》已经出版了,在网上一找,居然找到了部分章节,发现该书的确对阅读wrk有很大的帮助,在这个贴子中我想说的内容,书里居然都是有的,这个贴子也没有必要了。

1楼附上《windows内核原理与实现》部分章节,献给关心该贴的朋友。
游客
登录 | 注册 方可回帖
返回