为什么不建议你用 MongoDB 这类产品替代时序数据库?

小 T 导读:此前有人在某问答网站上发布了这样一个问题:既然部分时序数据库如 InfluxDB、TimescaleDB 是基于关系型、非时序数据库 PostgreSQL 开发而来,那在时序数据场景下,能否用 MySQL/MongoDB 这类数据库去代替时序数据库(Time-Series Database)使用?对于此问题,涛思数据资深研发工程师试图从原理和实践出发为同样有此疑问的朋友作出解答。

从数据库的定义来看,数据库就是一个数据管理系统,是用来存放数据文件的一个软件,它能够支持用户的添加、修改、删除、查询等操作。因此从定义上讲,时序数据库和关系/非关系型数据库是一样的,都是用来存放数据的。但因为存储的数据特点不同,这两类数据库的应用场景也不尽相同:

  • 关系型数据库:主要用来存储结构化数据,使用实物保证数据一致性,使用 SQL 语言来进行查询操作。这类数据库的典型代表主要包括 MySQL、Oracle、SQL Server 等。
  • 非关系型数据库:主要用来存储非结构化数据,数据可以不通过验证进行存储,使用 JSON 数据对象进行查询操作。其典型代表主要有 MongoDB、Redis 等。

而时序数据库主要用于存储实时数据,最明显的特点就是每条数据都会带有时间戳属性,在电力、石化、冶金、智能汽车、监控等领域应用较为广泛。这类 Database 的典型代表主要包括 TDengine、InfluxDB、TimescaleDB 等。下面直切主题,我们来讨论一下关系/非关系型数据库是否能替代时序数据库。

能否用关系/非关系型数据库代替时序数据库 ?

事实上,如果数据采集频率少,数据量不大的话,使用关系/非关系型数据库代替时序数据库是完全没有问题的。但如果从长远角度来看,这种做法却存在着很大的风险,具体原因还要从时序数据库的特点讲起。

时序数据具备采集频率高、数据量大、写操作为主读操作为辅、很少有更新或删除操作、却有统计聚合等实时计算操作等特点,关系/非关系型数据库很难满足这样高的性能需求。在大数据场景下,如果性能达不到要求,数据没有办法被有效存储的话,那么这样的数据库是无法代替时序数据库的。

举一个简单的例子,在相同的测试环境(16 核 64G 内存)下,以传统的关系型数据库 MySQL 和时序数据库 TDengine 为例,做一下 benchmark 的对比测试 :

分别使用 MySQL 自带的 benchmark 工具 mysqlslap 和 TDengine 自带的 benchmark 工具taosbenchmark,设置 16 个线程,写入单表 10 万条记录,表结构为 1 个 timestamp 类型,2 个 int 类型,2 个字符串类型,测试结果如下:

MySQL——

mysqlslap -uroot -p1234 --concurrency=16 --number-of-queries=100000 --create-sc 
hema=tests --query="INSERT INTO meters(c0,c1,c2,c3) VALUES (RAND() * 100,RAND() * 100,uuid(),uuid())" 

TDengine——

taosBenchmark -b int,int,binary\(128\),binary\(128\) -n 100000 -t 1 -T 16 

从以上对比测试结果可以看出在同样写入 10 万条记录的情况下,MySQL 使用自带的 mysqlslap 工具需要 75 秒完成,而 TDengine 使用自带的 taosBenchmark 只需要不到 1 秒。在差距如此巨大的结果中,我们可以得出一个结论——使用 MySQL 代替时序数据库处理时序数据是比较困难的。当然由于测试工具不同,这里只是做一个示例,测试本身算不上严谨。下面我会从一些具体的企业案例出发,再为大家做下分析。

从具体的案例看大数据的存储问题

其实,想要回答这个问题,具体的企业案例实践才是最好、最真实的答案。业内人应该都知道,时序数据库是近几年随着物联网等技术的发展才逐渐流行起来的,在此之前,各行各业的企业可选的数据库方案都十分有限,以车联网企业为例,行业中最普遍的选择就是 MongoDB、HBase 一类的传统大数据解决方案。

但随着业务的发展,数据量的不断攀升,这些企业或多或少都遭遇了数据架构危机,甚至阻碍了业务的发展,不得不考虑进行数据架构的迭代和迁移。下面我从 MySQL、MongoDB、HBase 三个 database 维度列举企业案例,进行说明。

MySQL

在柳工的工业车联网应用 LiuGong iLink 中,由于应用层不合理的复杂查询和历史数据的高频写入,导致 MySQL 处理速度缓慢,甚至容易宕机,严重影响用户体验。在分析原因后,他们得出了一个结论:关系型数据库并不适用于存储海量的时序数据,在海量数据聚合计算、抽稀等业务中效率很低。从这个结论出发,他们开始针对时序数据库进行选型。

由于其业务场景与 TDengine 的“一个设备采集点一张表”的理念十分吻合,且 TDengine 可以支持对大数据进行聚合和降采样查询等操作,能够经有效改善 MySQL 的数据痛点问题,又经过严谨的调研和测试,最终他们决定迁移至 TDengine。

以一个真实场景看一下迁移效果:在替换 TDengine 之前,该项目每天都有一些业务报表需要展示,每一小时需统计一次下一个时区内所有设备的数据,这个流程在 MySQL 中经常需要耗时1小时以上,无法正常执行后续业务。而换到TDengine后,整个出表流程只需要 10 秒左右。

查询对比如下图所示:

参考资料:https://www.taosdata.com/blog/2022/05/17/8473.html

MongoDB & HBase

对于这两大数据库的应用坑点,零跑汽车可以说是相当有发言权了。作为一家典型的新能源车企,零跑汽车在数据存储选择上一直都是 MongoDB 和 HBase,随着业务的加速扩张,出现了写入速度太慢、支撑成本过高等问题。

用 MongoDB 存储数据会将数据全部存储在内存中,过高的存储成本导致只能存储一段时间内的数据,且存储的数据格式需要经过业务组织处理,不仅业务变更不灵活,可以做的业务也非常有限,而 HBase 本身就是一个很重的数据库,搭建 HBase 需要整套 HDFS 做支撑,使用、运维、人力等成本都很高。

在应用 TDengine 进行架构升级后,压缩性能直接提升了 10 到 20 倍,降低存储压力的同时解决了数据存储成本高的问题,也解决了以前 HBase 入库不及时的问题,可以用更少的服务器资源入库更多的数据,节省更多成本。同时业务灵活性也有了极大提升,不用再像 MongoDB 一样,在查询前还需要根据业务加工出需求数据,TDengine 的列式存储,直接以 SQL 计算即可。

写在最后

从上面的诸多论证中我们可以得出最终结论,如果你面对的也是时序大数据场景,时序数据库才是最正确、最合理的选择,如果因为数据量尚小就选择通用数据库,那后面各种棘手问题也会接踵而至,包括开发效率慢、运行效率低、运维成本高、应用推出慢、小数据量场景下私有化部署太重等诸多问题。在数据库的选型上,“对症下药”才是有利于业务发展的良策。

原文地址:https://blog.csdn.net/taos_data/article/details/125331728

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读552次。com.mongodb.MongoQueryException: Query failed with error code 292 and error message 'Executor error during find command :: caused by :: Sort exceeded memory limit of 104857600 bytes, but did not opt in to external sorting.' on server 11.51.141.63:27017 _mongodb 大文件 下载失败
文章浏览阅读635次,点赞9次,收藏8次。MongoDB 是一种 NoSQL 数据库,它将每个数据存储为一个文档,这里的文档类似于 JSON/BSON 对象,具体数据结构由键值(key/value)对组成。
文章浏览阅读2.1k次。和。_mongodb 日期类型
文章浏览阅读1.7k次。Scalestack等客户期待使用MongoDB Atlas Vector Search和Amazon Bedrock构建下一代应用程序
文章浏览阅读970次。SpringBoot整合中间件mongodb、ES_springboot3 elasticsearch json数据
文章浏览阅读673次。MongoDB 简介_尚医通sql
文章浏览阅读1k次,点赞8次,收藏9次。官网下载MongoDB安装包后进行解压(因了解并不深入,故暂不进行详细说明,自行查找其他安装方法,后期了解深入后将进行该教程的完善)在bin目录下使用命令启动:./mongod --config …/mongodb.conf。该文章任然处于完善中,如果存在错误遗漏的地方,欢迎私信联系。安装相关的nuget包后即可通过以下方法连接数据。YX9010_0@的第二十篇文章。
文章浏览阅读1.2k次,点赞17次,收藏26次。社交场景, 使用 MongoDB 存储存储用户信息, 以及用户发表的朋友圈信息, 通过地理位置索引实现附近的人, 地点等功能.游戏场景, 使用 MongoDB 存储游戏用户信息, 用户的装备, 积分等直接以内嵌文档的形式存储, 方便查询, 高效率存储和访问.物流场景, 使用 MongoDB 存储订单信息, 订单状态在运送过程中会不断更新, 以 MongoDB 内嵌数组的形式来存储, 一次查询就能将订单所有的变更读取出来.物联网场景, 使用 MongoDB 存储所有接入的智能设备信息, 以及设备汇报的日
文章浏览阅读686次。您可以使用 update_one() 方法来更新 MongoDB 中调用的记录或文档。update_one() 方法的第一个参数是 query 对象,用于定义要更新的文档。注释:如果查询找到多个记录,则仅更新第一个匹配项。第二个参数是定义文档新值的对象。_python 更新 mongodb 数据
文章浏览阅读1.3k次。首先来学习一下nosql这里安装就不进行介绍 只记录一下让自己了解mongodb。_nosql注入
文章浏览阅读4.1k次,点赞8次,收藏7次。在data的目录下,创建一个db文件。因为启动MongoDB服务之前必须创建数据库文件的存放文件夹,否则命令不会自动创建,而且不能启动成功。第一步:安装时,Custom是指可以自定义安装路径,然后傻瓜式安装即可(注意:先不要安装图形化工具,否则安装时间会特别长):如果要想连接成功,必须要开服务,即mongod -dbpath C:MongoDBdatadb的cmd要一直开着。然后回车,ctrl+F输入port找到端口号,一般为:27017。打开命令行,然后找到bin文件地址,并输入。_mongodb windows安装
文章浏览阅读5.1k次,点赞3次,收藏43次。详细介绍MongoDB数据库的基本知识,安装方法,基本操作,_mongodb数据库
文章浏览阅读3.2k次。安装教程翻看以往文章。_navicat 连接mongodb
文章浏览阅读426次,点赞9次,收藏12次。win10开放端口:https://blog.csdn.net/m0_43605481/article/details/119255256。我的是阿里云服务器,所以直接在安全组中加入规则,端口范围:27017,授权对象:0.0.0.0。windows在mongodb安装文件夹的bin文件夹中的mongod.cfg。数据库名字是test,打算创建一个用户,账号aaa,密码bbb,权限readWrite。因为该用户是创建在test数据库的,所以在最后要加上test。O了,然后恢复了test的数据。
文章浏览阅读1.1k次。聚合操作主要用于处理数据并返回计算结果。聚合操作将来自多个文档的值组合在一起,按条件分组后,再进行一系列操作(如求和、平均值、最大值、最小值)以返回单个结果。MongoDB的聚合查询​聚合是MongoDB的高级查询语言,它允许我们通过转化合并由多个文档的数据来生成新的在单个文档里不存在的文档信息。MongoDB中聚合(aggregate)主要用于处理数据(例如分组统计平均值、求和、最大值等),并返回计算后的数据结果,有点类似sql语句中的count(*)、groupby。..._如何将几个db的数据统整在一起做查询
文章浏览阅读680次,点赞7次,收藏8次。(2)application.properties配置文件。(4)UserService类。(5)测试和测试结果。
文章浏览阅读1k次,点赞17次,收藏25次。Studio 3T 2023.9 (macOS, Linux, Windows) - MongoDB 的专业 GUI、IDE 和 客户端,支持自然语言查询_mongodb客户端
文章浏览阅读1.1k次,点赞32次,收藏27次。插件式的存储引擎架构可以实现 Server 层和存储引擎层的解耦,可以支持多种存储引擎,如 MySQL 既可以支持 B-Tree 结构的 InnoDB 存储引擎,还可以支持 LSM 结构的 RocksDB 存储引擎。MongoDB 中的记录就是一个 BSON 文档,它是由键值对组成的数据结构,类似于 JSON 对象,是 MongoDB 中的基本数据单元。的简称,是 JSON 文档的二进制表示,支持将文档和数组嵌入到其他文档和数组中,还包含允许表示不属于 JSON 规范的数据类型的扩展。
文章浏览阅读5.1k次,点赞6次,收藏96次。本文设计了一种基于智能室内温度控制的自动调速风扇。以STM32系列单片机为核心主控板,通过程序代码驱动和使用温度传感器模块实现对环境温度的实时监测,并可以实时显示环境温度。同时,可以设置温度检测的上下警告值,根据需求自行调节。_stm32 温控风扇
文章浏览阅读898次,点赞13次,收藏21次。在MongoDB中,我们使用find()和find_one()方法来在集合中查找数据,就像在MySQL数据库中使用SELECT语句来在表中查找数据一样。_pymongo find_one