阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

MySQL MEM_ROOT结构体详解

101次阅读
没有评论

共计 3963 个字符,预计需要花费 10 分钟才能阅读完成。

这篇文章会详细解说 MySQL 中使用非常广泛的 MEM_ROOT 的结构体,同时省去 debug 部分的信息,仅分析正常情况下,mysql 中使用 MEM_ROOT 来做内存分配的部分。

在具体分析之前我们先例举在该结构体使用过程中用到的一些宏:

#define MALLOC_OVERHEAD 8 //分配过程中,需要保留一部分额外的空间
#define ALLOC_MAX_BLOCK_TO_DROP 4096 //后续会继续分析该宏的用途
#define ALLOC_MAX_BLOCK_USAGE_BEFORE_DROP 10 //后续会继续分析该宏的用途

#define ALIGN_SIZE(A) MY_ALIGN((A),sizeof(double))
#define MY_ALIGN(A,L) (((A) + (L) - 1) & ~((L) - 1))

#define ALLOC_ROOT_MIN_BLOCK_SIZE (MALLOC_OVERHEAD + sizeof(USED_MEM) + 8)
/* Define some useful general macros (should be done after all headers). */
/*作者:www.manongjc.com  */
#define MY_MAX(a, b) ((a) > (b) ? (a) : (b)) //求两个数值之间的最大值
#define MY_MIN(a, b) ((a) < (b) ? (a) : (b)) //求两个数值之间的最小值

下面再来看看 MEM_ROOT 结构体相关的信息:

typedef struct st_mem_root
{USED_MEM    *free;                  /* free block link list 的链表头指针 */
    USED_MEM    *used;                  /* used block link list 的链表头指针 */
    USED_MEM    *pre_alloc;             /* 预先分配的 block */
    size_t        min_malloc;             /* 如果 block 剩下的可用空间小于该值,将会从 free list 移动到 used list */
    size_t        block_size;             /* 每次初始化的空间大小 */
    unsigned int    block_num;              /* 记录实际的 block 数量, 初始化为 4 */
    unsigned int    first_block_usage;      /* free list 中的第一个 block 测试不满足分配空间大小的次数 */
    void (*error_handler)(void);          /* 分配失败的错误处理函数 */
} MEM_ROOT;

以下是分配具体的 block 信息.

typedef struct st_used_mem
{struct st_used_mem *next; //指向下一个分配的 block
    unsigned int left; //该 block 剩余的空间大小
    unsigned int size; //该 block 的总大小
} USED_MEM;

其实 MEM_ROOT 在分配过程中,是通过双向链表来管理 used 和 free 的 block:

MySQL MEM_ROOT 结构体详解

MEM_ROOT 的初始化过程如下:

void init_alloc_root(MEM_ROOT *mem_root, size_t block_size, size_t pre_alloc_size __attribute__((unused) ) )
{mem_root->free            = mem_root->used = mem_root->pre_alloc = 0;
    mem_root->min_malloc        = 32;
    mem_root->block_size        = block_size - ALLOC_ROOT_MIN_BLOCK_SIZE;
    mem_root->error_handler        = 0;
    mem_root->block_num        = 4; /* We shift this with >>2 */
    mem_root->first_block_usage    = 0;
}

初始化过程中,block_size 空间为 block_size-ALLOC_ROOT_MIN_BLOCK_SIZE。因为在内存不够,需要扩容时,是通过 mem_root->block_num >>2 * block_size 来扩容的,所以 mem_root->block_num >>2 至少为 1,因此在初始化的过程中 mem_root->block_num=4(注:4>>2=1)。

MySQL MEM_ROOT 结构体详解

下面来看看具体分配内存的步骤:

void *alloc_root(MEM_ROOT *mem_root, size_t length )
{
    size_t        get_size, block_size;
    uchar        * point;
    reg1 USED_MEM    *next = 0;
    reg2 USED_MEM    **prev;

    length = ALIGN_SIZE(length);
    if ((*(prev = &mem_root->free) ) != NULL )
    {if ((*prev)->left < length &&
             mem_root->first_block_usage++ >= ALLOC_MAX_BLOCK_USAGE_BEFORE_DROP &&
             (*prev)->left < ALLOC_MAX_BLOCK_TO_DROP )
        {next                = *prev;
            *prev                = next->next; /* Remove block from list */
            next->next            = mem_root->used;
            mem_root->used            = next;
            mem_root->first_block_usage    = 0;
        }
        for (next = *prev; next && next->left < length; next = next->next )
            prev = &next->next;
    }
    if (!next )
    {/* Time to alloc new block */
        block_size    = mem_root->block_size * (mem_root->block_num >> 2);
        get_size    = length + ALIGN_SIZE(sizeof(USED_MEM) );
        get_size    = MY_MAX(get_size, block_size);

        if (!(next = (USED_MEM *) my_malloc(get_size, MYF( MY_WME | ME_FATALERROR ) ) ) )
        {if (mem_root->error_handler )
                (*mem_root->error_handler)();
            DBUG_RETURN((void *) 0 );                              /* purecov: inspected */
        }
        mem_root->block_num++;
        next->next    = *prev;
        next->size    = get_size;
        next->left    = get_size - ALIGN_SIZE(sizeof(USED_MEM) );    /* bug: 如果该 block 是通过 mem_root->block_size * (mem_root->block_num >> 2)计算出来的,则已经去掉了 ALIGN_SIZE(sizeof(USED_MEM),这里重复了。*/
        *prev        = next;
    }

    point = (uchar *) ((char *) next + (next->size - next->left) );
/*TODO: next part may be unneded due to mem_root->first_block_usage counter*/
/* 作者:www.manongjc.com */
    if ((next->left -= length) < mem_root->min_malloc )
    {/* Full block */
        *prev                = next->next;                   /* Remove block from list */
        next->next            = mem_root->used;
        mem_root->used            = next;
        mem_root->first_block_usage    = 0;
    }
}

上述代码的具体逻辑如下:

1. 查看 free 链表,寻找满足空间的 block。如果找到了合适的 block, 则:
1.1 直接返回该 block 从 size-left 处的初始地址即可。当然,在 free list 遍历的过程中,会去判断 free list
中第一个 block 中 left 的空间不满足需要分配的空间,且该 block 中已经查找过了 10 次
(ALLOC_MAX_BLOCK_USAGE_BEFORE_DROP) 都不满足分配长度,且该 block 剩余空间小于
4k(ALLOC_MAX_BLOCK_TO_DROP), 则将该 block 移动到 used 链表中。

2. 如果 free 链表中,没有合适的 block,则:
2.1 分配 mem_root->block_size * (mem_root->block_num >> 2)和 length+ALIGN_SIZE(sizeof(USED_MEM))
中比较大的作为新的 block 内存空间。
2.2 根据该 block 的使用情况,将该 block 挂在 used 或者 free 链表上。

这里需要注意的是二级指针的使用:

for (next= *prev ; next && next->left < length ; next= next->next)
prev= &next->next;
}

prev 指向的是最后一个 block 的 next 指向的地址的地址:

MySQL MEM_ROOT 结构体详解

所以将 prev 的地址替换为 new block 的地址,即将该 new block 加到了 free list 的结尾:*prev=next;

MySQL MEM_ROOT 结构体详解

 

总结:

MEM_ROOT 的内存分配采用的是启发式分配算法,随着后续 block 的数量越多,单个 block 的内存也会越大:block_size= mem_root->block_size * (mem_root->block_num >> 2) .

本文永久更新链接地址:http://www.linuxidc.com/Linux/2016-11/136656.htm

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计3963字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中