本文作者:杨牧原(花名牧原),阿里云技术专家,多年操作系统和应用调试经验,理论功底深厚,实践经验丰富。目前专注Linux性能调优,容器集群和系统网络。
本文经原作者授权发于公众号【程序猿石头】,原文基础上稍作措辞改动。原文链接,转载请全文保留。后台回复关键字 “1024” 获取程序员大厂面试指南。
背景
某次遇到一个客户尝试用 Java (其实跟具体用什么语言没关系)申请使用 4G 的内存申请,机器(ECS)总内存是 8G,free 的内存也超过 4G,按道理是 OK 的,但总是直接 OOM。
于是便找上门来说,“你们这玩意有问题啊?”
内心 :“bug 是不可能有的,一定是你的打开姿势不对”,恩,不行,本着“客户第一”的原则,还是要来帮客户解锁姿势的。
本文就详细记录了这个 case 的排查过程。
具体过程
如上图所示,记录显示为申请 4G 内存失败(4294967296 B / 1024 / 1024 = 4096 M
)。
是否是 min_free_kbytes & nr_hugepage
配置错误?
- 第一反应是想起来之前的
vm.min_free_kbytes & nr_hugepage
导致的free大于available案例有关
memfree
统计的是所有内存的 free
内存,而 memavailable
统计的是可以拿来给程序用的内存,而客户设置了 vm.min_free_kbytes(2.5G)
,这个内存在 free
统计,但是不在 memavailable
统计,nr_hugepage
也会有这个问题。
二者的统计方式不一样, 具体参考 Documentation/filesystems/proc.txt
- MemFree: The sum of LowFree+HighFree
- MemAvailable: An estimate of how much memory is available for starting new applications, without swapping. Calculated from MemFree, SReclaimable, the size of the file LRU lists, and the low watermarks in each zone. The estimate takes into account that the system needs some page cache to function well, and that not all reclaimable slab will be reclaimable, due to items being in use. The impact of those factors will vary from system to system.
- 跟客户要
free -m && sysctl -p && /proc/meminfo
等信息分析问题。
HugePages_Total
为0,说明没有设置nr_hugepage
。MemAvailable: 7418172 kB
, 说明这么多内存可用。
# sysctl -p |
#cat /proc/meminfo |
尝试重现
- 尝试自行测试使用
java
命令,去申请超出我的测试机物理内存,拿到报错。
实际上面的meminfo已经说明了问题,但是由于经验不足,一时没有看明白怎么回事。
下面测试证明正常申请内存不会有问题,超额的内存才会 OOM。
[root@test ~]# java -Xms4096M -version |
系统信息如下:
--------------- S Y S T E M --------------- |
重现失败,继续分析
Java
测试证明正常申请内存不会有问题,超额的内存才会 OOM,那么为什么超额呢,视线回归到sysctl -p
有所发现。
vm.overcommit_memory=2
关于 overcommit_memory
设置项:
overcommit_memory=0
默认设置,当应用进程尝试申请内存时,内核会做一个检测。内核将检查是否有足够的可用内存供应用进程使用;
如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。
举个例子,比如1G的机器,A进程已经使用了500M,当有另外进程尝试malloc 500M的内存时,内核就会进行check,发现超出剩余可用内存,就会提示失败。
overcommit_memory=1
对于内存的申请请求,内核不会做任何check,直到物理内存用完,触发 OOM 杀用户态进程。
同样是上面的例子,1G 的机器,A进程500M,B进程尝试 malloc 500M,会成功,但是一旦kernel发现内存使用率接近1个G(内核有策略),就触发OOM,杀掉一些用户态的进程(有策略的杀)。
overcommit_memory=2
当请求申请的内存 >= SWAP内存大小 + 物理内存 N,则拒绝此次内存申请。解释下这个N:N是一个百分比,根据overcommit_ratio/100
来确定,比如overcommit_ratio=50
(我的测试机默认50%),那么N就是50%。vm.overcommit_ratio
只有当 vm.overcommit_memory = 2
的时候才会生效,内存可申请内存为 `SWAP内存大小 + 物理内存 overcommit_ratio/100`。
看看上面日志的 overcommit
信息:
- CommitLimit: 4004708 kB (小于客户申请的4096M)
- Committed_AS: 2061568 kB
具体而言:
- CommitLimit:最大能分配的内存(测试下来在
vm.overcommit_memory=2
时候生效),具体的值是:SWAP内存大小(ecs均未开启) + 物理内存 * overcommit_ratio / 100; - Committed_AS:当前已经分配的内存大小;
5,两相对照,说明客户设置的 vm.overcommit_memory
在生效,建议改回 0
再试试。
- 用
vm.overcommit_memory = 2
测试,分配内存失败;
[root@test ~]# grep -i commit /proc/meminfo |
- 用如下配置,即可恢复:
vm.overcommit_memory = 0, vm.overcommit_ratio = 50
#vm.overcommit_memory = 0 |
最后
可以看出,这其实跟具体的编程语言没有关系,用 Java 申请不到,用 c++/c 也一样。一个容易忽略的小知识点,你 get 到了吗?
本文节选自《ECS运维指南之Linux系统诊断》,《ECS运维指南之Linux系统诊断》是牧原呕心沥血之作,不仅内容精益求精,代码的编排作者也花了不少心思。你也可以直接登录阿里云开发者社区下载本书——《ECS运维指南之Linux系统诊断》,或者直接在公众号后台回复关键字“ecs”获取本合集。
阿里云开发者社区有不少高质量技术文章,大家可以去观摩学习,有很多书籍都是可以直接免费下载的。
关于作者:程序猿石头(ID: tangleithu),现任阿里巴巴技术专家,清华学渣,前大疆后端 Leader,欢迎关注,交流和指导!
欢迎扫码加入互联网大厂内推群 & 技术交流群,一起学习、共同进步。后台回复关键字 “0” 送阿里技术大礼包。