PostgreSQL之MVCC

MVCC的介绍
MVCC技术,是multiversion concurrency control的缩写,翻译成中文是多版本并发控制的意思。目前多数DB都采用了这一技术,比如Oracle,Innodb,Berkeley DB等,采用这种方法可有效降低锁的开销。


MVCC的实现
MVCC是干嘛的呢?举例来说,当数据库做一个更新操作时,并不是将老的数据删除,再将新的数据覆盖上去,相反,它会把老的数据做一个标记隔离出去(old version),然后再新增新的数据作为一个新的版本,这个时候新老数据都是存在数据库里的。但在不同的数据库里,其存储形式是不一样的。在PostgreSQL里,新老版本数据是混在一起的,Oracle和Innodb里是分开存储的,像Oracle有UNDO作为区分。或者说得更简单一点,读不会阻塞写操作,反过来也是一样。两种形式各有优缺点。

MVCC下的读事务通常以时间点或增长的事务ID来标记数据库里从个点开始读以及这个点所对应的数据。在PostgreSQL中,每一个事务都会获得一个事务ID,叫 XID, 这个可以是一个insert,update,delete或者是用begin...end包裹起来的一组SQL。当这个事务开始的时候,Postgres会增加XID值并赋给当前的事务,Postgres也会对系统里的每一行附上上事务信息,这可以用来判断该行在其他事务中是否可见。

XID在PostgreSQL中是怎么做的呢, 或者说怎么获取的呢?当插入一行的时候,Postgres存储XID值并叫它 XMIN 。之前也有介绍,这是一个隐藏字段。对当前事务来说,每一行被提交的数据其对应的XMIN值比当前的XID小,那么都是可见的。举个很简单的例子:你可以开启一个事务,假如以begin开始,然后插入几行数据,在Commit之前,这些数据对其他事务来说都是不可见的,直到你做了Commit。一旦我们做了Commit操作(XID会增长),对其他事务来说已经满足XMIN<XID,所以其他事务就能看到在该事务提交后的东西。获得当前事务的XID值比较简单:SELECT txid_current();


对于DELETE和UPDATE来说,MVCC的机制也是类似的,略有不同的是Postgres在执行DELETE和UPDATE操作时对每一行还存储了XMAX这一隐藏列。也是通过这个字段来决定当前的删除或者更新对其他事务来说是否可见。

具体示例可以参考:http://my.oschina.net/Kenyon/blog/63668

当两个事务在某个时间点同时更新某一行数据时,是怎么处理的呢?这里将引入事务的隔离级别这一概念。Postgres可满足四种模式级别来处理这种场景,默认的是 READ COMMITTED ,它是完成初始化事务,然后执行语句获取行数据。如果在等待过程中行有了变化,他将重新开始。举例来说,你正在执行一个带where条件的UPDATE操作,这个where条件将在你初始化事务提交后返回,如果where满足条件,那么Update将会执行,不满足则会Hang住(很容易模拟这个场景,开启两个会话,对同一行数据进行UPDATE,只要不提交即可,后面的UPDATE会挂住,直到前面的事务提交或回滚)

如果想更清楚地看清过程,可以设置事务隔离级别为 SERIALIZABLE ,在这种模式下同样的两个UPDATE其中一个将会报错:
ERROR: could not serialize access due to concurrent update

MVCC的问题:
在Postgres中,UPDATE实际上会复制一份修改记录,而DELETE不会立即移除那条被删的记录,其新旧版本是共存的。所以UPDATE全表时,其大小通常会增长一倍,不知道内部结构的人往往很迷惑,但现在可以释然了。对于DELETE掉的数据,只是标注它被删除了,然后更新了一下XID的值。当事务结束完了以后,这些数据仍然存在,但是是不可见的,我们称之为DEAD ROWS。这样会带来另一个问题,事务ID(XID)是32bit的,只能支持大约40亿(2^32 = 4 294 967 296)次事务,当XID达到最大值时,它会自动回零,这会带来一个很严重的问题,因为所有行的XID都比0大,这会导致行数据不可见(就好比现在的数据成了将来的数据了)。

Postgres对此有一个进程是专门处理这个问题的,那就是VACUUM,高版本的Postgres已经是自动运行的了(auto_vacuum),是内置进程之一。通常倒也不用怎么关注,但是如果该进程异常就要注意了,所以平时的监控也是很要紧的。vacuum full Obj时会对该对象的DEAD ROWS进行清理,这个可以很容易模拟,UPDATE一个大表,VACUUM前后查看表的大小可看出变化。

检查数据库对象XID值的方法,age的值异常大的话就要注意了,可作为日常监控SQL之一:
SELECT relname,age(relfrozenxid) FROM pg_class WHERE relkind = 'r' order by 2 desc limit 20;
SELECT datname,age(datfrozenxid) FROM pg_database order by 2 desc limit 20;


转译参考:
http://en.wikipedia.org/wiki/Multiversion_concurrency_control
https://devcenter.heroku.com/articles/postgresql-concurrency

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读601次。Oracle的数据导入导出是一项基本的技能,但是对于懂数据库却不熟悉Oracle的同学可能会有一定的障碍。正好在最近的一个项目中碰到了这样一个任务,于是研究了一下Oracle的数据导入导出,在这里跟大家分享一下。......_oracle 迁移方法 对比
文章浏览阅读553次。开头还是介绍一下群,如果感兴趣polardb ,mongodb ,mysql ,postgresql ,redis 等有问题,有需求都可以加群群内有各大数据库行业大咖,CTO,可以解决你的问题。加群请联系 liuaustin3 ,在新加的朋友会分到2群(共700多人左右 1 + 2)。最近我们在使用MYSQL 8 的情况下(8.025)在数据库运行中出现一个问题 参数prefer_order_i..._mysql prefer_ordering_index
文章浏览阅读3.5k次,点赞3次,收藏7次。折腾了两个小时多才成功连上,在这分享一下我的经验,也仅仅是经验分享,有不足的地方欢迎大家在评论区补充交流。_navicat连接opengauss
文章浏览阅读2.7k次。JSON 代表 JavaScript Object Notation。它是一种开放标准格式,将数据组织成中详述的键/值对和数组。_postgresql json
文章浏览阅读2.9k次,点赞2次,收藏6次。navicat 连接postgresql 注:navicat老版本可能报错。1.在springboot中引入我们需要的依赖以及相应版本。用代码生成器生成代码后,即可进行增删改查(略)安装好postgresql 略。更改配置信息(注释中有)_mybatisplus postgresql
文章浏览阅读1.4k次。postgre进阶sql,包含分组排序、JSON解析、修改、删除、更新、强制踢出数据库所有使用用户、连表更新与删除、获取今年第一天、获取近12个月的年月、锁表处理、系统表使用(查询所有表和字段及注释、查询表占用空间)、指定数据库查找模式search_path、postgre备份及还原_pgsql分组取每组第一条
文章浏览阅读3.3k次。上一篇我们学习了日志清理,日志清理虽然解决了日志膨胀的问题,但就无法再恢复检查点之前的一致性状态。因此,我们还需要日志归档,pg的日志归档原理和Oracle类似,不过归档命令需要自己配置。以下代码在postmaster.c除了开启归档外,还需要保证wal_level不能是MINIMAL状态(因为该状态下有些操作不会记录日志)。在db启动时,会同时检查archive_mode和wal_level。以下代码也在postmaster.c(PostmasterMain函数)。......_postgresql archive_mode
文章浏览阅读3k次。系统:ubuntu22.04.3目的:利用向日葵实现windows远程控制ubuntu。_csdn局域网桌面控制ubuntu
文章浏览阅读1.6k次。表分区是解决一些因单表过大引用的性能问题的方式,比如某张表过大就会造成查询变慢,可能分区是一种解决方案。一般建议当单表大小超过内存就可以考虑表分区了。1,继承式分区,分为触发器(trigger)和规则(rule)两种方式触发器的方式1)创建表CREATE TABLE "public"."track_info_trigger_partition" ( "id" serial, "object_type" int2 NOT NULL DEFAULT 0, "object_name..._pg数据表分区的实现
文章浏览阅读3.3k次。物联网平台开源的有几个,就我晓得的有、、thingskit、JetLink、DG-iot(还有其他开源的,欢迎在评论区留言哦!),然后重点分析了下ThingsBoard、ThingsPanel和JetLink,ThingsBoard和Jetlinks是工程师思维产品,可以更多的通过配置去实现开发的目的,ThingsPanel是业务人员思路产品,或者开发或者用,避免了复杂的配置带来的较高学习门槛。ThingsBoard和Jetlinks是Java技术体系的,ThingsPanel是PHP开发的。_jetlinks和thingsboard
文章浏览阅读3.8k次。PostgreSQL 数据类型转换_pgsql数字转字符串
文章浏览阅读7k次,点赞3次,收藏14次。在做数据统计页面时,总会遇到统计某段时间内,每天、每月、每年的数据视图(柱状图、折线图等)。这些统计数据一眼看过去也简单呀,不就是按照时间周期(天、月、年)对统计数据进行分个组就完了嘛?但是会有一个问题,简单的写个sql对周期分组,获取到的统计数据是缺失的,即没有数据的那天,整条记录也都没有了。如下图需求:以当前月份(2023年2月)为起点,往后倒推一年,查询之前一年里每个月的统计数据。可见图中的数据其实是缺少的,这条sql只查询到了有数据的月份(23年的1月、2月,22年的12月)_如何用一条sql查出按年按月按天的汇总
文章浏览阅读3.8k次,点赞66次,收藏51次。PostgreSQL全球开发小组与2022年10月13日,宣布发布PostgreSQL15,这是世界上最先进的开源数据库的最新版本_mysql8 postgresql15
文章浏览阅读1.3k次。上文介绍了磁盘管理器中VFD的实现原理,本篇将从上层角度讲解磁盘管理器的工作细节。_smgrrelationdata
文章浏览阅读1.1k次。PostgreSQL设置中文语言界面和局域网访问_postgressql汉化
文章浏览阅读4.2k次。PostgreSQL 修改数据存储路径_如何设置postgresql 数据目录
文章浏览阅读4.7k次。在项目中用到了多数据源,在连接postgres数据库时,项目启动报错,说数据库连接错误,说dual不存在,网上好多教程都是说数据库查询的时候的大小写问题,而这个仅仅是连接,咋鞥却处理方法是修改application-dev.yml中的配置文件.项目中的druid参数是这样的:确实在配置文件中有个查询语句。_relation "dual" does not exist
文章浏览阅读4.9k次。PostgreSQL是一款强大的关系型数据库,但在实际使用过程中,许多用户经常会遇到慢SQL的问题。这些问题不仅会降低数据库性能,还会直接影响业务流程和用户体验。因此,本文将会深入分析PostgreSQL慢SQL的原因和优化方案,帮助用户更好地利用这个优秀的数据库系统。无论你是初学者还是专业开发者,本文都将为你提供实用的技巧和方法,让你的PostgreSQL数据库始终保持高效快速。_postgresql数据库优化
文章浏览阅读1.6k次。Linux配置postgresql开机自启_linux 启动pgsql
文章浏览阅读2k次。本篇介绍如何在centos7系统搭建一个postgresql主备集群实现最近的HA(高可用)架构。后续更高级的HA模式都是基于这个最基本的主备搭建。_postgresql主备