如何解决带有 TimescaleDB 的 PostgreSQL 在索引创建期间仅使用单个核心
我们有一个包含数十亿行的 PostgreSQL 超级表,我们正在尝试在其上创建一个唯一索引,如下所示:
CREATE UNIQUE INDEX device_data__device_id__value_type__timestamp__idx ON public.device_data(device_id,value_type,"timestamp" DESC);
我们像这样创建了超表:
SELECT create_hypertable('device_data','timestamp');
由于我们希望尽快创建索引,因此我们希望并行化索引创建,并遵循 this guide。
我们测试了 work_mem
、maintenance_work_mem
、max_worker_processes
、max_parallel_maintenance_workers
和 max_parallel_workers
的各种设置。我们还在我们的表上设置了 parallel_workers
设置:ALTER TABLE device_data SET (parallel_workers = 10);
。但是无论我们做什么,索引创建总是只使用一个内核(我们有16个可用),因此创建时间很长。
知道我们在这里可能遗漏了什么吗?
我们的 PostgreSQL 版本是 12.5,服务器运行的是 Ubuntu 18。
解决方法
遗憾的是,Timescale 目前不支持并行索引创建。我建议提交 Github 问题,要求支持它。这有点繁重,可能不会很快得到优先考虑。我认为另一个可能有用的选项是在此处采用 https://docs.timescale.com/latest/api#create_index transaction_per_chunk
选项并允许用户控制索引的创建方式,因此一个简单的 api 将为所有未来的块创建索引,但不是在旧块上,然后允许您在所有块上调用 create_index(chunk_name,ht_index_name)
,然后您可以在自己的代码中并行化该操作。这最终会变得更简单,因为并行索引创建的事务性是最难的部分。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。