数据库领域重要进展!蚂蚁集团高性能图数据 TuGraph 正式开源

数字化正在深入各行业,所产生的海量数据得到了空前的重视和应用,这也是中国数据库生态百花齐放的重要原因。CSDN《新程序员》杂志第二期做了“新数据库时代”为主题的系列报道,我们看到,在传统关系型数据库之外,新型的非关系型数据库快速发展,例如新兴的图数据库已经应用于金融风控等重要的生产场景。

今天,蚂蚁集团在刚刚开幕的 2022 世界人工智能大会 WAIC 上正式宣布,开源旗下高性能图数据库 TuGraph 的单机版,TuGraph 是图数据库基准性能测试 LDBC-SNB 世界纪录保持者,本次开源立即成为国内图计算与图数据库技术领域的重要事件。这样的契机下,CSDN 专访了蚂蚁集团图数据库技术负责人洪春涛博士、蚂蚁技术研究院图计算实验室研究员朱晓伟博士,听听他们对于图数据库的研发经验与心得。

关系型数据库之后,数据管理分析将进入图数据库时代

在《新程序员》杂志的报道采访过程中能看到,目前图数据库仍是较为新型的系统。传统的关系数据库,虽然名字叫关系数据库,但其实数据组织形式并非关系原生。关系型数据库的数据主要是以表的形式组织,一张张的表联系起来,依靠表上的键值连接。所以关系数据库应该叫表数据库,而图数据库,反而应该叫关系数据库。下图分别展示了关系型数据库和图数据库存储结构对比:

关系型数据库、图数据库的存储结构示意图

图数据库将关系预先保存到关系列表中的这种能力,使得图数据库能够提供比关系数据库高几个数量级的性能,对于复杂连接的查询,关系数据库往往需要很长时间,而图数据库甚至能够实现毫秒级的响应。

本次采访中,对于图数据库的产生历程到发展趋势的判断,洪春涛博士以 TuGraph 为例,将图数据库的发展分为了三个阶段。

洪博士提到,第一阶段,一般企业刚接触到图数据库 TuGraph,多数用于传统大数据分析手段不能及时处理的场景。在现实生产生活等数据应用场景中,数据关系是错综复杂的,越来越多复杂关系需实时分析。例如,金融系统现在需要实时定位洗钱团伙的刷单、套现、跑分、借助合法账户洗钱的行为。如下图示意,不良商家常常通过银行卡、熟人来完成套现“回路”,纯资金流的数据模式无法看出端倪,需要借助图数据模式发现此类闭环模式,提前预防风险。

因此,TuGraph 第一阶段主要是解决关系网络数据的存储、查询和分析问题,能支持上层应用对关系网络数据的 OLTP 业务需求以及离线大规模图数据的 OLAP 业务需求。

目前多数图数据系统都处于第一阶段。不过随着图数据库的成熟应用,用户发现传统关系型数据库所支持的业务,在图数据库上一样能实现,甚至更轻松。因此如果某个业务既有传统查询需求,又有图查询需求,用户会更倾向于将业务数据存储、查询、分析计算都建立在图数据库上。经过发展,TuGraph 已经能够提供一站式的图存储、图查询以及图计算服务,进入图数据发展的第二阶段,从边缘的图查询应用到全业务流程应用。

对于未来第三阶段的发展,洪博士提到 TuGraph 将发展到足够成熟,且积累足够多的行业应用经验。鉴于图数据库在数据抽象上更灵活,处理关系数据上性能更高的优势,用户在发展新的业务时,将会首先选择图数据库(而不管有没有图查询需求),这就像过去几十年里,用户选择关系型数据库的情形一样。

从图数据库和 TuGraph 的发展进程看,目前 TuGraph 处在从第二阶段,并向第三阶段迈进的过程里,不过具备完整的图计算系统之后,仍需要大量的行业和真实生产场景去验证和丰富图数据的技术与生态,这也解释了为什么 TuGraph 选择在这时开源。

图数据库基准性能测试世界纪录保持者,TuGraph 比关系数据库更懂关系

在专访中 CSDN 了解到,TuGraph 在开源之前,已经在蚂蚁集团内部积累了丰富的应用经验和性能打磨,并非一个早期孱弱的开源项目。

蚂蚁集团对图计算技术的探索始于 2015 年。2015 年蚂蚁开始自主研发分布式图数据库、流式图计算等图计算技术系统,并在内部得到了良好应用。2016 年蚂蚁集团发布自研图数据库版本 GeaBase,并接入支付宝。GeaBase 在 2019 年双 11 主链路上单集群规模突破万亿边,点边查询突破 800 万 QPS,平均时延小于10ms

另一边,2016 年从事图计算研究的清华师生成立了费马科技有限公司(创始人为清华大学教授、现蚂蚁图计算技术负责人陈文光,本次采访的洪春涛博士、朱晓伟博士均师从陈文光教授),于 2017 年开发出了具有国际领先性能的图数据库产品,能够支持完整的图数据库事务,支持企业级高效图数据存储、查询。

2020 年蚂蚁集团整合自有图计算技术系统 GeaBase,以及清华大学和费马科技的产品和技术,升级形成了一套完整的图计算系统 GeaGraph(后品牌升级,更名 TuGraph ),已于 2020 年通过了信通院大数据产品能力评测,获得 2021“世界互联网领先科技成果” 奖。这套系统集成了蚂蚁集团以及清华大学原有优势,无论从功能的完整性,吞吐率、响应时间等技术指标,还是应用领域,都达到了世界领先水平。可以说 TuGraph 图计算系统正是蚂蚁集团与清华大学强强联合后的升级版本。

本次开源的单机版 TuGraph 提供了完备的图数据库基础功能和成熟的产品设计,拥有完整的事务支持和丰富的系统特性,单机可部署,使用成本低,支持 TB 级别的数据规模,满足市面上绝大多数用户的部署需求。TuGraph 采用 Apache2.0 协议,在 Github 和 Gitee 上进行托管。

单机版开源 TuGraph 产品架构图

单机版开源 TuGraph 通过以下具体功能和模块,来实现开发者友好:

具体性能的指标来说,单机版开源 TuGraph 是一个成熟的、拥有极致性能的单机图数据库,今年 8 月,TuGraph 在图数据库基准性能测试 LDBC-SNB 测试中,再次创造世界纪录,吞吐率较上一次官方纪录领先 52%。

相较于常见开源产品,单机版开源TuGraph的性能高 10 倍以上,可以支持更高的吞吐和更复杂的查询,它在单机上可以轻易支持 TB 级别数据和百亿级别大图,足以满足约大多数业务场景的需求。

除了一些基础性能,TuGraph 也因蚂蚁内部应用的严格标准,具备了金融级的高可靠特性。TuGraph 通过 RAFT 协议支持集群高可靠,RPO=0,超越国际灾难恢复能力 6 级要求;支持事务能力,达到可串行化隔离级别,保障数据一致性。另外,TuGraph 100%自主研发,自主可控,兼容国产服务器及操作系统。

TuGraph 生长于蚂蚁集团,在支付、数字金融、安全领域都有规模化的应用。例如金融的核心风控场景,TuGraph 也一直在用于风险行为分析的前沿领域,例如反洗钱反套现这些核心场景。

TuGraph 应用场景举例:

金融场景-反洗钱识别能力提升近 10 倍

金融场景-黑灰产识别能力提升 8 倍

值得一提的是,现在 TuGraph 已经用于蚂蚁在线支付的实时链路中,支付宝的风险识别能力提升了近 10 倍,风险审理分析效率提升 90%。

开源之后的 TuGraph:从金融场景走向千行万业、繁荣生态

开源,一直是技术界发展壮大技术实力的硬核动作。采访中,CSDN 向洪春涛博士、朱晓伟博士详细了解了 TuGraph 在开源后的研发计划。

据洪博与朱博介绍,在应用层,TuGraph 开源后,蚂蚁集团会将现有的成熟案例分享出来,成为开发者快速上手图数据库的样本,随着 TuGraph 在社区中深度的应用,也会继续丰富行业场景和应用实例。在工具链层,目前图数据库领域各大厂商都在自研工具,但未能联合形成通用化工具产品。开源后,蚂蚁将联合社区、合作伙伴一起,将 TuGraph 自带的工具与其他工具整合,适配各种不同数据库,丰富工具的易用性。而在核心层,现在各类图数据库差别较大,对外提供接口性能千差万别。开源的 TuGraph 可以给其它产品提供一个参考实现,有望加快图数据库向标准化方向发展的步伐。

在朱晓伟博士看来,开源也有利于研究人员在 TuGraph 基础上验证新的技术。“细节是系统的魔鬼”,很多在原型系统上适用的技术在实际系统中可能就表现不佳了,因为系统模块之间难免互相干扰。而 TuGraph 是一个实际使用的系统,它开源之后,研究人员基于它去验证自己的想法就可以很容易的避免闭门造车。TuGraph 开源的另一个动力,是希望借助开源社区,联合高校科研,去探索下一代图计算的研究方向,更大场景上的应用和更前沿的学科探索。目前 TuGraph 与复旦大学已经在脑科学领域的交叉研究,将图计算应用于神经元模拟中。

对于大多数的开发者和合作伙伴来说,单机版开源 TuGraph 架构与稳定性、性能,已经足够满足多数场景和数据量的要求,开发者可以聚焦应用层,通过核心层和工具链提供的基础来打造属于自己的 TuGraph 图数据应用。而 TuGraph 商业版本在开源单机版本通用功能之外,将提供数据量更大的分布式版本和高可用服务。

从金融风控等核心场景打磨之后的 TuGraph,也正在面向互联网、工业制造、海关、公共安全、政务服务、社会治理等行业和应用,去处理这些领域复杂场景、深度关联分析,将关联数据查询、洞察和预测分析提升到一个新水平。

以互联网场景为例,TuGraph 可以将 2 千亿网页抽象为点29 万亿链接抽象为边,构建网页图模型,利用TuGraph 图分析引擎,实现对全量网页 PageRank提升搜索准确性,提高用户搜索体验

互联网场景案例-实现搜索引擎十万亿网页排序,提升搜索准确性

在电力场景下,通过 TuGraph 对图数据进行统一存储、管理和计算,其强大的查询语言、多层次灵活的 API,实现实时追踪电网运行状态,支持频繁且复杂的实时数据查询和更加高效的电网模拟计算。提高电网设备运营管理水平

电力场景案例-电网设备运营管理

结语

如采访中洪春涛博士所言,图数据库仍在发展早期,本次蚂蚁 TuGraph 的开源,从底层技术科研到应用开发生态发展,是对国内图数据库技术界重要的贡献。中国开源技术力量在不断崛起,期待 TuGraph 与开源撬动国内图数据库技术发展与生态繁荣,CSDN 将持续关注报道数据库发展。

原文地址:https://www.toutiao.com/article/7138384346431521317/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


所以很多人都会选择将这些生活琐事来交给智能化产品,在众多产品中,扫拖机器人所给我们带来的便利性最强,扫地、拖地全都一气呵成,不需要人为过多干预,不过目前大多数扫拖机器人对于双手解放得不彻底。而石头作为
“昨天的经历都将成为明天的力量。” 将绝大部分精力都奉献给璃月港的刻晴,可以说是《原神》中的高人气角色了,虽然是常驻角色,并且对于普通玩家来说……刻师傅别刮了……不过作为开服就存在的角色,还有独特的剑法
最近,全球知名的通信产业盛会MWC 2024(2024世界移动通信大会)正式召开,其中,联发科以“连接AI宇宙”(Connecting the AI-verse)为主题,为大众展示出一系列在AI和移动通信技术等领域的最新突破,吸引了大量行业
今年上半年有很多值得关注的机型,其中华为最新的影像旗舰华为P70 Art也自然受到了业界不少的关注目光,目前关于这款机型的轮廓图已经在网上曝光。
目前,2024世界移动通信大会(MWC)正在西班牙巴塞罗那举行,值得一提的是,此次大会参展中国厂商非常多,包括华为、中兴、小米、荣耀等等多家厂商均在其列。
就在去年,真我推出了11 Pro+,用一个2亿像素传感器和zoom变焦功能,开启了中端手机影像的长焦大战,而后友商才姗姗来迟的跟进了2亿像素传感器。
【手机之家新闻】一年一度的MWC已经于当地时间2月26日在巴塞罗那正式开展,在本次MWC2024上全球各大厂商齐聚一堂,展出自家最新的技术与产品,其中中兴就参展本次MWC2024,并且展出了诸多面向企业端的产品,而旗下的
近日,联发科在MWC 2024(2024 世界移动通信大会)上展出了一系列令人瞩目的AI和移动通信技术突破,以“连接AI宇宙”(Connecting the AI-verse)的展厅吸引了无数业界精英和媒体的目光。特别是其现场的生成式AI技术
虽然目前国内已经有不少厂商入局折叠屏产品,但是努比亚却迟迟没有入局。不过在近日举办的MWC 2024展会上,努比亚发布了自家首款折叠屏手机——努比亚Flip,预计国内很快也会上市。
MWC 2024正在西班牙巴塞罗那举办,和往年一样,荣耀这次依旧携众多新产品、新技术参会。荣耀Magic6 Pro、荣耀Magic V2 RSR保时捷设计的机型在海外正式发布,并且还展示了魔法大模型、任意门等诸多新技术。
MWC 2024正在西班牙巴塞罗那如火如荼地举行,其中小米也参加了今年的大会,在会上发布了在国内大受欢迎的小尺寸旗舰——小米14。值得一提的是,高通公司CEO安蒙甚至亲临发布会现场为这款机型助阵。
《原神》是一直以来在机圈深受欢迎的游戏,在充满幻想的提瓦特大陆上,你可以邂逅不少性格迥异、能力独特的伙伴。而一加Ace系列一直就拥有非常强烈的电竞属性,也是畅玩《原神》的热门机型,而在本月,一加Ace 3将推
有不少网友发现,今年新机的发布时间相对于往年大幅提前,很多厂商在春节之前密集发布了自己最新的中高端机型,给人一种年后没什么新机可发了的感觉。不过魅族全新的大杯机型——魅族21 PRO非常值得期待,魅族科技也
2022年7月,小米12S Ultra正式发布,这款产品率先将1英寸大底主摄引入到移动影像领域,同时凭借鲜明的徕卡影调给人留下深刻的印象,同时这款产品也被视为了影像旗舰地位的机型。如果从那时算起,到现在差不多已经快过
随着智能手机的日益普及和智能化进程的加速,智能穿戴设备成为了人们关注的焦点。各大智能手机厂商纷纷进军智能穿戴市场,试图在这一新兴领域抢占先机。
早在去年秋天,HyperOS操作系统发布的时候,小米便勾勒出了“人车家全生态”的美好蓝图,而在这其中,小米的多终端统一战略是核心,目前已经有不少小米产品预装或者接受到了HyperOS操作系统的推送,在过去几个月的时
今年雷军将把更多的精力放在小米汽车上,所以接下来的手机业务将由刚刚兼任小米品牌总经理卢伟冰接管。同时雷军也在微博上表示小米2024年开年旗舰——小米14 Ultra即将在近期发布,并且将有卢伟冰进行讲解。另外,卢
新的一年有龙则灵,有愿必达。自1月19日起,荣耀加码“新年荣耀,一起成龙”年货节,在全国荣耀线下门店上线了“新年许愿处”、“龙运当头”等趣味活动,吸引大批消费者到店打卡许愿,戴龙头迎好运。与此同时,为了回
小米在官网微博中已经透露了关于小米14 Ultra信息,所以新机上市应该不会太晚。根据德国莱茵的官方消息,目前小米14 Ultra(型号为24030PN60G)获得了莱茵无频闪认证,表明这款手机可以有效减轻屏幕给用户带来的视觉疲
2月22日,上海广播电视台与华为举办鸿蒙合作签约仪式,宣布其官方客户端看看新闻APP将基于HarmonyOS NEXT鸿蒙星河版启动鸿蒙原生应用开发,为用户提供更加极致的新闻资讯服务体验。此次合作标志着上海广播电视台成为全国