Linux页面缓存会降低双CPU服务器上的IO(64GB内存)

我的 linux页面缓存存在很大问题,这会降低IO的速度.例如,如果我使用dd复制lvm分区,linux会将数据缓存在缓冲区或缓存中(free -m).这不是问题,但在缓冲区达到特殊值后,复制过程停止并减慢到几mbs甚至kbs.我在写入磁盘或/ dev / null时做了很多测试,问题与源驱动器或目标无关.

详细地:

>有两个几乎相同的服务器.两者都使用相同的内核运行CentOS 6.5.它们具有相同的磁盘,相同的设置,相同的其他硬件,各方面都相同.唯一的区别是一个服务器有2个CPU和64GB内存,另一个服务器有1个CPU和32 GB内存.
>以下是以下复制过程的图像:http://i.stack.imgur.com/tYlym.jpg
>这里有meminfo的新版本. meminfo来自不同的运行,因此值不是标识,但它是完全相同的行为:http://i.stack.imgur.com/4SIJG.jpg
>使用dd或其他文件系统复制程序启动复制.
>缓冲区或缓存开始填充.一切都很好.
>缓冲区或缓存达到最大数量(在64GB ram服务器上的值为32GB或17GB;在32GB ram服务器上的所有可用内存)
>在64GB RAM服务器上,复制过程现在停止或限制为几mbs.在32GB ram服务器上一切都很好.
>在64GB ram服务器上,我可以通过使用“sync; echo 3> / proc / sys / vm / drop_caches”强制缓存来解决问题.但当然缓冲区立即开始再次增长,问题再次发生.

结论:

这个问题要么与第二个cpu有关,要么与内存总量有关.我有“感觉”问题,即每个cpu都有自己的32GB内存,并且复制过程只在cpu上运行.所以最后复制过程将缓冲区/缓存增加到接近32GB或其他cpu的未使用内存然后linux认为嘿还有内存所以让我们进一步增加缓冲区但是下面的硬件无法访问内存,或者某事像那样.

有人有想法或解决方案吗?当然我可以使用直接标志的dd,但这不解决问题,因为还有通过samba等外部访问.

EDIT1:

这里还有来自64GB ram服务器的/ proc / zoneinfo:
1. http://pastebin.com/uSnpQbeD(在dd开始之前)2.http://pastebin.com/18YVTfdb(当dd停止工作时)

EDIT2:

> VM设置:http://pastebin.com/U9E9KkFS
> / proc / sys / vm / zone_reclaim_mode位于32 GB ram服务器0和64 GB ram服务器1上.我从未触及此值.安装程序设置这些.我将其更改为0并重试测试.现在所有内存都用于缓冲区和缓存.所以它看起来很棒,就像其他服务器一样.但随后它立即开始以全速交换…我将交换设置为0.这有所帮助,但它仍然每秒交换几mb.它每隔一段时间就会增加缓冲区.所以它不交换缓冲区,它交换vms的内存以获得更多的内存来增加缓冲区……疯狂.但也许这是正常的!?

EDIT3:

/ proc / buddyinfo和numactl –hardware:
http://pastebin.com/0PmXxxin

最后结果

> / proc / sys / vm / zone_reclaim_mode肯定是技术上的方法,但是机器后的机器效果不好.例如:如果我复制一个磁盘linux,现在使用100%的free mem来缓冲(不像之前只有XGB然后停止).但是在最后一个免费mem被用来缓冲的时候,linux开始交换vm内存并增加缓冲区和缓存的总量.在我的系统中通常不需要交换,因此交换内存与某些虚拟机位于同一磁盘上.在结果中如果一个备份这些vms linux写入交换的同时我从磁盘读取备份.因此交换vms是不好的,但是甚至更糟的是linux破坏了我的备份读取速度…所以将/ proc / sys / vm / zone_reclaim_mode设置为0不解决完整的问题…目前我在一个屏幕一个脚本,每隔10秒同步并刷新一次缓存…不是很好,但对我来说效果更好.我在系统上没有网络服务器或普通文件服务器.我只运行vms,通过samba进行备份和存储备份.我不喜欢这个解决方案.

解决方法

您看到的行为是由于Linux在NUMA系统上分配内存的方式.

我假设(不知道)32GB系统是非numa,或者不足以让Linux关注.

如何处理numa的行为由/ proc / sys / vm / zone_reclaim_mode选项决定.默认情况下,linux将检测您是否正在使用numa系统并更改回收标志,如果它认为它会提供更好的性能.

内存被分成多个区域,在numa系统中,第一个CPU插槽有一个区域,第二个CPU插槽有一个区域.它们作为node0和node1出现.如果你是cat / proc / buddyinfo,你可以看到它们.

当区域回收模式设置为1时,从第一个CPU套接字的分配将导致在与该CPU关联的内存区域上进行回收,这是因为从本地numa节点回收性能方面更有效.从这个意义上来说,回收就是删除诸如清除缓存之类的页面,或者在该节点上交换内容.

将值设置为0会导致在区域填满时不会发生回收,而是分配到内存的外部numa区域.这是以另一个CPU的breif锁定为代价来获得对该存储区的独占访问.

But then it instantly start swaping! after a few secouns: Mem: 66004536k total,65733796k used,270740k free,34250384k buffers Swap: 10239992k total,1178820k used,9061172k free,91388k cached

交换行为和交换时间取决于几个因素,一个因素是页面被分配给应用程序的活动程度.如果它们不是非常活跃,它们将被交换为支持缓存中发生的繁忙工作.我假设您的VM中的页面不会经常被激活.

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读1.8k次,点赞63次,收藏54次。Linux下的目录权限!!!粘滞位!!!超详解!!!
文章浏览阅读1.6k次,点赞44次,收藏38次。关于Qt的安装、Windows、Linux、MacBook_mack book 安装qt
本文介绍了使用shell脚本编写一个 Hello
文章浏览阅读1.5k次,点赞37次,收藏43次。【Linux】初识Linux——了解操作系统的发展历史以及初次体验Linux编程环境
文章浏览阅读3k次,点赞34次,收藏156次。Linux超详细笔记,个人学习时很认真的记录的,觉得好的麻烦点个赞。
文章浏览阅读6.8k次,点赞109次,收藏114次。【Linux】 OpenSSH_9.3p1 升级到 OpenSSH_9.5p1(亲测无问题,建议收藏)_openssh_9.5p1
文章浏览阅读3.5k次,点赞93次,收藏78次。初识Linux中的线程,理解线程的各种概念,理解进程地址空间中的页表转换,介绍pthread线程库并理解线程库!
文章浏览阅读863次。出现此问题为Linux文件权限问题,解决方案为回到引擎目录执行命令。输入用户密码后运行./UnrealEditor。_increasing per-process limit of core file size to infinity.
文章浏览阅读2.9k次。使用文本编辑器:打开CSV文件,并使用文本编辑器(如Notepad++、Sublime Text、Visual Studio Code等)来查看文件的字符编码格式。通常在编辑器的底部状态栏或设置中可以找到当前编码的显示。请注意,上述方法并非绝对准确,特别是当文件没有明确的编码标识时。因此,如果你发现CSV文件在不同的工具或方法中显示不同的编码格式,可能需要进行进一步的分析和判断,或者尝试使用不同的编码转换方法。该命令将输出文件的MIME类型和编码信息。使用命令行工具:在命令行中,你可以使用。_shell读取csv文件逐行处理
本文介绍了如何在Linux系统中升级gcc版本,以便更好地支持C++11及以上版本的新特性。通过升级gcc,可以提升编译器的功能和性能,获得更好的开发体验。详细的步骤和方法请参考原文链接。
文章浏览阅读4.4k次,点赞6次,收藏19次。Mosquitto是一个开源的MQTT消息代理服务器。MQTT是一个轻量级的、基于发布/订阅模式的消息传输协议。 mosquitto的安装使用比较简单,可以方便的来进行一些测试。_linux mosquitto
文章浏览阅读7.2k次,点赞2次,收藏12次。Linux中,用于根目录下有一个.ssh目录,保存了ssh相关的key和一些记录文件。_~/.ssh/
文章浏览阅读4.5k次,点赞5次,收藏18次。首先需要安装 snmp ,使用下面的命令进行安装安装完毕之后,使用下面的命令查看是否安装成功当命令行显示如图即为安装成功。_snmp工具
文章浏览阅读3.5k次,点赞7次,收藏24次。本地部署和使用llama.cpp进行量化Llama2,linux和Windows平台方案,支持CPU和GPU多版本。_llama cpp gpu
文章浏览阅读1.4k次,点赞46次,收藏44次。在vim中,最为常见的有三种模式,分别是:命令模式(command mode)、插 入模式(Insert mode)和底行模式(last line mode)文件保存或退出,也可以进行文件替换,找字符串,列出行号等操作。在命令模式下,shift+: 即可进入该模 式。在进入vim后,使用 i 进入插入模式,插入模式就是vim的编辑模式,可以在vim中进行内容的编辑和修改。vim的核心模式,使用vim进入文件编辑时的最初模式,在该模式中只能移动光标和使用命令对文件内容进行编辑。
Linux常用命令大全,包括目录操作命令和文件操作命令,以及查看登录用户命令和文件内容查看命令等。
文章浏览阅读1.7k次,点赞57次,收藏50次。Yearning 简单, 高效的MYSQL 审计平台 一款MYSQL SQL语句/查询审计工具,为DBA与开发人员使用.本地部署,注重隐私,简单高效的MYSQL审计平台。下面介绍Linux 简单部署Yearning 并结合cpolar 内网穿透工具实现远程访问,破除访问限制,提高工作效率!!
文章浏览阅读1.9w次,点赞7次,收藏18次。Microsoft Edge是一款现代化的浏览器,它拥有众多功能和强大的性能,为用户带来更加流畅的浏览体验。Edge最近推出了分屏功能,支持一个窗口同时显示两个选项卡,这可以大大提高生产力和多任务处理能力。欢迎大家使用分屏及其他新功能后分享自己的使用心得与建议。首先,使用Microsoft Edge的分屏功能确实能够提高生产力,尤其是在需要同时浏览两个不同网页的情况下。分屏功能使得在一个窗口中同时显示两个选项卡,用户可以在两个网页之间快速切换,而无需打开新的窗口或使用多个浏览器窗口。_edge linux
文章浏览阅读1.8k次,点赞83次,收藏71次。C语言实现倒计时和进度条并进行演示。_linux不换行输出倒计时
文章浏览阅读1.5k次,点赞28次,收藏25次。基于嘉立创泰山派开发板,本机使用VMware+Unbuntu,编译泰山派的Linux SDK。详细教程,0基础小白可操作!内涵大量基础操作和linux基本知识。_立创泰山派sdk编译