nginx内存池源码剖析

分类：Nginx作者：@新法

在很多博客中都将nginx内存池的关系图的next指针指向的结构体画成ngx_pool_data_t类型(可能是为了方便读者理解而故意那样画的),但是通过源码可以看出,next实际指向实际上应该是ngx_pool_s类型,所以我特意找了一张符合源码结构的图

nginx关于内存池的源码路径是src/core/目录下ngx_palloc.h和ngx_palloc.cpp文件

在这里插入图片描述


在这里插入图片描述

相关结构体定义

// 大块内存
typedef struct ngx_pool_large_s  ngx_pool_large_t;
struct ngx_pool_large_s {
    ngx_pool_large_t     *next;         // 下一个大块内存池
    void                 *alloc;        // 实际分配内存
};

// 小块内存池
typedef struct {
    u_char               *last;         // 可分配内存起始地址
    u_char               *end;          // 可分配内存结束地址
    ngx_pool_t           *next;         // 指向内存管理结构
    ngx_uint_t            failed;       // 内存分配失败次数
} ngx_pool_data_t;

// 内存池管理结构
typedef struct ngx_pool_s            ngx_pool_t;
struct ngx_pool_s {
    ngx_pool_data_t       d;            // 小块内存池
    size_t                max;          // 小块内存最大的分配内存，评估大内存还是小块内存
    ngx_pool_t           *current;      // 当前开始分配的小块内存池
    ngx_chain_t          *chain;        // chain
    ngx_pool_large_t     *large;        // 大块内存
    ngx_pool_cleanup_t   *cleanup;      // 待清理资源
    ngx_log_t            *log;          // 日志对象
};

ngx_pool_t 是整个内存池的管理结构，这种结构对于个内存池对象来说可能存在多个，但是对于用户而言，第一下访问的始终是创建时返回的那个。多个 ngx_pool_t 通过 d.next 来进行连接，current 指向 当前开始分配的小块内存池，注意 ngx_pool_data_t 在内存池结构的起始处，可以进行类型转换访问到不同的成员。

nginx的每一个节点都是nginx-pool-t类型，，但是除了头结点外剩下的节点只使用了nginx-pool-data-t部分

内存对齐

#define ngx_align(d, a)     (((d) + (a - 1)) & ~(a - 1))
#define ngx_align_ptr(p, a)                                                   \
    (u_char *) (((uintptr_t) (p) + ((uintptr_t) a - 1)) & ~((uintptr_t) a - 1))

创建内存池

在nginx中都以16字节为单位对齐

max 的最大值为 4095，当从内存池中申请的内存大小大于 max 时，不会从小块内存中进行分配。

#define NGX_MAX_ALLOC_FROM_POOL  (ngx_pagesize - 1)

#define NGX_DEFAULT_POOL_SIZE    (16 * 1024)

#define NGX_POOL_ALIGNMENT       16
#define NGX_MIN_POOL_SIZE                                                     \
    ngx_align((sizeof(ngx_pool_t) + 2 * sizeof(ngx_pool_large_t)),            \
              NGX_POOL_ALIGNMENT)

ngx_pool_t * ngx_create_pool(size_t size, ngx_log_t *log)
{
    ngx_pool_t  *p;

    p = ngx_memalign(NGX_POOL_ALIGNMENT, size, log);  分配一块 size 大小的内存  内存空间16字节对齐
    if (p == NULL) {
        return NULL;
    }

    // 对pool中的数据项赋初始值
    p->d.last = (u_char *) p + sizeof(ngx_pool_t); //可用空间要减去这个头部 首sizeof(ngx_pool_t)便是pool的header信息，header信息中的各个字段用于管理整个pool
    p->d.end = (u_char *) p + size;
    p->d.next = NULL;
    p->d.failed = 0;

    size = size - sizeof(ngx_pool_t);
    p->max = (size < NGX_MAX_ALLOC_FROM_POOL) ? size : NGX_MAX_ALLOC_FROM_POOL; //不能超过NGX_MAX_ALLOC_FROM_POOL// pool 中最大可用大小
    
    p->current = p;
    p->chain = NULL;
    p->large = NULL;
    p->cleanup = NULL;
    p->log = log;

    return p; //指向空间最顶部头部
}

内存申请

在nginx源码中有三个可以申请内存的函数,他们有细微区别

  1. ngx_palloc 普通版本
  2. ngx_pnalloc 内存对齐版本
  3. ngx_pcalloc 会调用ngx_palloc然后初始化内存(清0)
void *
ngx_palloc(ngx_pool_t *pool, size_t size)
{
    u_char      *m;
    ngx_pool_t  *p;
    
    // 判断 size 是否大于 pool 最大可使用内存大小
    if (size <= pool->max) {

        p = pool->current; //从current所在的pool数据节点开始往后遍历寻找那个节点可以分配size内存

        do {
            m = ngx_align_ptr(p->d.last, NGX_ALIGNMENT);// 将 m 对其到内存对齐地址
            if ((size_t) (p->d.end - m) >= size) {// 判断 pool 中剩余内存是否够用
                p->d.last = m + size;

                return m;
            }

            p = p->d.next;//如果当前内存不够，则在下一个内存快中分配空间

        } while (p);

        return ngx_palloc_block(pool, size);
    }

    return ngx_palloc_large(pool, size);
}




void *
ngx_pnalloc(ngx_pool_t *pool, size_t size)
{
    u_char      *m;
    ngx_pool_t  *p;

    if (size <= pool->max) {

        p = pool->current;

        do {
            m = p->d.last;

            if ((size_t) (p->d.end - m) >= size) {
                p->d.last = m + size;

                return m;
            }

            p = p->d.next;

        } while (p);

        return ngx_palloc_block(pool, size);
}




void *
ngx_pcalloc(ngx_pool_t *pool, size_t size)
{
    void *p;

    p = ngx_palloc(pool, size);
    if (p) {
        ngx_memzero(p, size);
    }

    return p;
}

小块内存申请

当没有小块内存池满足申请时，会再申请一个小块内存池来满足分配，在设置完 last 和 end 两个内存指示器后，对从 current 开始的内存池成员 failed 进行自增操作，并且当这个内存池的 failed 分配次数大于 4 时，表面这个内存分配失败的次数太多，根据经验应该下一次分配可能还是失败，所以直接跳过这个内存池，移动 current。

//如果前面开辟的pool空间已经用完，则从新开辟空间ngx_pool_t
static void *
ngx_palloc_block(ngx_pool_t *pool, size_t size)
{
    u_char      *m;
    size_t       psize;
    ngx_pool_t  *p, *new;

    // 先前的整个 pool 的大小
    psize = (size_t) (pool->d.end - (u_char *) pool);

     在内存对齐了的前提下，新分配一块内存
    m = ngx_memalign(NGX_POOL_ALIGNMENT, psize, pool->log);
    if (m == NULL) {
        return NULL;
    }

    new = (ngx_pool_t *) m;

    new->d.end = m + psize;
    new->d.next = NULL;
    new->d.failed = 0;

    m += sizeof(ngx_pool_data_t);
    m = ngx_align_ptr(m, NGX_ALIGNMENT);
    new->d.last = m + size;

    // 判断在当前 pool 分配内存的失败次数，即：不能复用当前 pool 的次数，
    // 如果大于 4 次，这放弃在此 pool 上再次尝试分配内存，以提高效率
    //如果失败次数大于4（不等于4），则更新current指针，放弃对老pool的内存进行再使用
    for (p = pool->current; p->d.next; p = p->d.next) {
        if (p->d.failed++ > 4) {
            pool->current = p->d.next;// 更新 current 指针， 每次从pool中分配内存的时候都是从curren开始遍历pool节点获取内存的
        }
    }

    // 让旧指针数据区的 next 指向新分配的 pool
    p->d.next = new;

    return m;
}

大块内存申请

大块内存是通过 large 连接的，并且都属于 ngx_create_pool 返回的 ngx_pool_t 结构。malloc 分配的内存由一个 ngx_pool_large_t 节点来挂载，而这个 ngx_pool_large_t 节点又是从小块内存池中分配的。

  • 为避免large链表长度过大导致在遍历寻找空闲挂载节点耗时过长，限制了遍历的节点为3，如果没有满足要求则直接分配
  • 头插法 插入至large链表中，新的节点后面也是最先被访问
static void *
ngx_palloc_large(ngx_pool_t *pool, size_t size)
{
    void              *p;
    ngx_uint_t         n;
    ngx_pool_large_t  *large;

    /*
    // 重新申请一块大小为 size 的新内存
    // 注意：此处不使用 ngx_memalign 的原因是，新分配的内存较大，对其也没太大必要
    //  而且后面提供了 ngx_pmemalign 函数，专门用户分配对齐了的内存
    */
    p = ngx_alloc(size, pool->log);
    if (p == NULL) {
        return NULL;
    }

    n = 0;

    // 查找largt链表上空余的large 指针
    for (large = pool->large; large; large = large->next) {
        if (large->alloc == NULL) { //就用这个没用的large
            large->alloc = p;
            return p;
        }

        /*
         // 如果当前 large 后串的 large 内存块数目大于 3 （不等于3），
        // 则直接去下一步分配新内存，不再查找了
        */
        if (n++ > 3) {//也就是说如果pool->large头后面连续4个large的alloc指针都被用了，则重新申请一个新的pool_larg并放到pool->large头部
            break; //????? 感觉没啥用，因为后面每次alloc的large对应的alloc都是赋值了的
        }
    }

    large = ngx_palloc(pool, sizeof(ngx_pool_large_t));
    if (large == NULL) {
        ngx_free(p);
        return NULL;
    }

    // 将新分配的 large 串到链表后面
    large->alloc = p;
    large->next = pool->large;
    pool->large = large;

    return p;
}

大块内存释放

ngx_int_t
ngx_pfree(ngx_pool_t *pool, void *p)
{
    ngx_pool_large_t  *l;

    for (l = pool->large; l; l = l->next) {
        if (p == l->alloc) {
            ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, pool->log, 0,
                           "free: %p", l->alloc);
            ngx_free(l->alloc);
            l->alloc = NULL;

            return NGX_OK;
        }
    }

    return NGX_DECLINED;
}

销毁pool

void
ngx_destroy_pool(ngx_pool_t *pool)
{
    ngx_pool_t          *p, *n;
    ngx_pool_large_t    *l;
    ngx_pool_cleanup_t  *c;

    for (c = pool->cleanup; c; c = c->next) { //cleanup在ngx_pool_cleanup_add赋值
        if (c->handler) {
            ngx_log_debug1(NGX_LOG_DEBUG_ALLOC,
                           "run cleanup: %p", c);
            c->handler(c->data);
        }
    }

    for (l = pool->large; l; l = l->next) {

        ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, "free: %p", l->alloc);

        if (l->alloc) {
            ngx_free(l->alloc);
        }
    }

#if (NGX_DEBUG)

    /*
     * we could allocate the pool->log from this pool
     * so we cannot use this log while free()ing the pool
     */

    for (p = pool, n = pool->d.next; /* void */; p = n, n = n->d.next) {
        ngx_log_debug2(NGX_LOG_DEBUG_ALLOC,
                       "free: %p,unused: %uz", p, p->d.end - p->d.last);

        if (n == NULL) {
            break;
        }
    }

#endif

    for (p = pool, n = n->d.next) {
        ngx_free(p);

        if (n == NULL) {
            break;
        }
    }
}

重置pool

void
ngx_reset_pool(ngx_pool_t *pool)
{
    ngx_pool_t        *p;
    ngx_pool_large_t  *l;

    for (l = pool->large; l; l = l->next) {
        if (l->alloc) {
            ngx_free(l->alloc);
        }
    }

    for (p = pool; p; p = p->d.next) {
        p->d.last = (u_char *) p + sizeof(ngx_pool_t);
        p->d.failed = 0;
    }

    pool->current = pool;
    pool->chain = NULL;
    pool->large = NULL;
}

总结

  1. 小块内存使用尾插法,大块内存使用头插法,
  2. 大块内存申请挂载时如果前面三个节点都有对象,则不再向后遍历,直接创建一个节点插在头部
  3. 如果一个小块内存超过四次都没有成功分配出内存,则认为他已经没有足够的内存了,则会抛弃(之后不在考虑在这个节点上分配内存)
  4. 小块内存节点的内存不回收,但是大内存块的节点可以回收,提供回收方法
  5. 内存对齐，多处内存对齐减少内存跨 cache 的数量
  6. nginx内存池注重时间(空间换时间),内存的利用度并不高,与c++ sgi stl的二级内存池有很大的差异,这是由于nginx的业务场景所决定的

原文地址：https://blog.csdn.net/weixin_50448879/article/details/133522819

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。

相关推荐

学习笔记：深入理解高性能代理服务器——Nginx
文章浏览阅读3.7k次，点赞2次，收藏5次。Nginx学习笔记一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件一、Nginx 简介1. 什么是Nginx  Nginx（“engine x”）是一个_nginx代理
Docker配置nginx
文章浏览阅读1.7w次，点赞14次，收藏61次。我们在使用容器的过程中需，有时候需要对容器中的文件进行修改管理，如果不做文件映射的化，我们使用docker exec -it 容器ID/容器名 /bin/bash 才能进入nginx中的文件里面如图。架设在客户机与目标主机之间，只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器，并将原本要直接发送到web服务器上的http请求发送到代理服务器中。A想要组C的房子，但是A并不认识C所以租不到，但是B认识C，A找B帮忙租到了C的房子。客户端代理服务器服务器。_docker nginx 配置
Nginx如何实现404错误自动跳转到首页
文章浏览阅读1.4k次。当用户在访问网站的过程中遇到404错误时，通常情况下应该显示一个友好的错误页面，而不是仅仅显示一个简单的错误提示。在Nginx中，可以通过配置来实现404错误自动跳转到首页的功能。如果您的网站使用动态内容生成页面（如PHP或其他服务器端语言），则应相应地修改配置以适应您的网站架构。这样，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。为了使配置生效，需要重新加载Nginx配置。首先，需要打开Nginx的配置文件。现在，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。_nginx 404 重定向
docker/docker-compose 部署 nginx+mysql+wordpress 实战
文章浏览阅读2.7k次。docker 和 docker-compose 部署 nginx+mysql+wordpress 实战_docker wordpress mariadb
windows下nginx的安装使用及解决80端口被占用nginx不能启动的问题
文章浏览阅读1.3k次。5：再次启动nginx，可以正常启动，可以在任务管理器中查看到nginx的进程。重新启动下 直接访问8090端口 ok 访问成功。1 ：查看80端口占用情况，pid的值为3960。3：在运行中输入regedit打开注册表编辑器。2： 通过以下命令查看3960所对应的服务名称。4：找到Start，右键修改将其制改为4。_nginx80端口无法访问
【Nginx篇】Nginx轻松上手
文章浏览阅读3.1w次，点赞105次，收藏182次。高性能：Nginx 被设计为能够处理大量并发连接而不显著增加系统负担。它采用异步事件驱动的架构，可以有效地处理高流量的 Web 请求。负载均衡：Nginx 支持负载均衡，可以将请求分发到多个后端服务器，以提高网站性能和可用性。反向代理：Nginx 可以充当反向代理，将客户端请求转发到后端服务器，隐藏后端服务器的真实 IP 地址，增加安全性和可扩展性。静态文件服务：Nginx 可以高效地提供静态文件（如 HTML、CSS、JavaScript、图像等）的服务，减轻应用服务器的负担。
Nginx性能优化
文章浏览阅读976次。nginx作为常用的web代理服务器，某些场景下对于性能要求还是蛮高的，所以本片文章会基于操作系统调度以及网络通信两个角度来讨论一下Nginx性能的优化思路。我们的大学教程大部分讲述七层模型，实际上现代网络协议使用的都是四层模型，如下图，应用层报文经过四层的首部封装到对端。对端链路层拆开首部查看mac地址是自己在网上，拆开ip首部查看目的地址是不是自己，然后到达传输层应用层完成报文接收。文章是基于原有个人知识基础上，对旧知识进行巩固，以及新知识实践学习。
Nginx 轻松搞定跨域问题
文章浏览阅读5.4k次，点赞9次，收藏15次。最后再说一种情况，就是后端处理了跨域，就不需要自己在处理了（这里吐槽下，某些后端工程师自己改服务端代码解决跨域，但是又不理解其中原理，网上随便找段代码黏贴，导致响应信息可能处理不完全，如method没添加全，headers没加到点上，自己用的那个可能复制过来的并不包含实际项目所用到的，没有添加options请求返回状态码等，导致Nginx再用通用的配置就会可能报以下异常）里面的就好了，因为这里如果是预检请求直接就ruturn了，请求不会再转发到59200服务，如果也删除了，就会报和情况1一样的错误。_nginx 允许跨域
踩坑日记-nginx server_name配置多域名的坑
文章浏览阅读2.5k次。项目配置了多个域名，如下，php 代码中有获取的值。当访问a.demo.com时，其获取的值是符合预期的。但是当访问b.demo.com时，其获取的值还是a.demo.com，导致代码中的判断出现错误。_nginxservername多个域名
ingress-nginx控制器安装
文章浏览阅读1k次，点赞2次，收藏5次。采用YAML manifest的方式来安装ingress-nginx，用registry.lank8s.cn镜像库来替换 registry.k8s.io的库。_ingress-nginx安装
Windows环境下编译nginx
文章浏览阅读1.6k次，点赞2次，收藏2次。在windows平台编译nginx_windows 编译nginx
【Nginx】入门看这一篇就够啦，nginx 简介、安装、工作原理、工作方式、详解配置文件
文章浏览阅读5.8k次，点赞2次，收藏18次。nginx [engine x] 是 HTTP 和反向代理服务器、邮件代理服务器和通用 TCP/UDP 代理服务器。nginx 的特点是占有内存少，并发能力强，事实上 nginx 的并发能力确实在同类型的网页服务器中表现较好，中国大陆使用nginx网站用户有：百度、京东、新浪、网易、腾讯、淘宝等。在高连接并发的情况下，nginx是Apache服务器不错的替代品，能够支持高达50000个并发连接数的响应。使用epoll and kqueue作为开发模型。_nginx
Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found.
文章浏览阅读2k次。Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found._为什么nginx的systemctl start nginx.service不能使用
Nginx的反向代理
文章浏览阅读1.3k次。重启之后，打开浏览器，输入http://localhost:8900/myBaidu，这时候就会自动的跳转到百度的页面。按照我们不同的需求修改nginx文件夹中的nginx-1.16.1conf里面的nginx.conf文件。启动nginx：打开nginx的文件夹，然后双击nginx.exe文件，启动nginx。打开之后假设我们需要跳转到百度则在配置文件nginx.conf中的下面加上。1、打开任务管理器关闭nginx的进程。端口在配置文件的（下图）进行查看nginx端口。_nginx 代理百度
nginx重定向问题解决（rewrite or internal redirection cycle）
文章浏览阅读5.7k次，点赞5次，收藏3次。nginx重定向问题解决（rewrite or internal redirection cycle）_rewrite or internal redirection cycle while internally redirecting to "/inde
在 Windows 中关闭 Nginx 所有进程
文章浏览阅读1.3k次。请注意，上述命令假设 Nginx 已经在系统的 PATH 环境变量中配置。如果没有，请提供正确的 Nginx 安装路径，或者在命令中使用完整的路径来替换。将该命令与所有 Nginx 进程的 PID 一起使用，以终止所有正在运行的 Nginx 进程。此命令将启动一个新的 Nginx 进程来重新加载配置文件并重新启动服务器。使用以下命令来终止所有 Nginx 进程（使用上面的 PID 替换。的进程以及它们的 PID。打开命令提示符（CMD）。此命令将列出所有名为。选项来强制终止进程。_windows 怎么关闭nginx
如何在 Ubuntu 上安装和使用 Nginx？
文章浏览阅读2.7k次，点赞2次，收藏7次。包括 Netflix、GitHub 和 WordPress。Nginx 可以用作 Web 服务器、负载均衡器、反向代理和 HTTP 缓存等。_ubuntu安装nginx
轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码
文章浏览阅读915次。轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码。_nginx 短链代理
流媒体方案之Nginx——实现物联网视频监控项目
文章浏览阅读1.1k次，点赞35次，收藏24次。流媒体方案之Nginx——实现物联网视频监控项目Nginx是什么Nginx在流媒体方案中的位置软硬件准备移植编译Nginx运行Ngnix测试流媒体方案浏览器播放_nginx-rtmp-module
nginx 配置 wss 协议
文章浏览阅读1.9k次。nginx 配置 wss 协议转发 ws 服务器_nginx 配置wss
pythonJavaScriptjavaHTMLPHPreactjsC#AndroidCSSNode.jssqlrpython-3.xMysqLjQueryc++pandasFlutterangularIOSdjangolinuxswifttypescript路由器JSON路由器设置无线路由器h3c华三华三路由器设置华三路由器电脑软件教程arraysdocker软件图文教程Cvue.jslaravelspring-boot