如何解决运行大型Hive查询时进行NiFi负载平衡
我处于这种情况,我需要运行Hive选择查询并将查询结果导出到csv文件中。
我正在使用 SelectHive3QL 处理器从蜂巢中导出数据并使用 UpdateAttribute 处理器重命名csv文件,然后使用 PutSFTP将csv文件推送到sftp服务器b 处理器。
来到我的NiFi群集中,我正在5个节点群集中运行此流,每个RAM为256 GB。
我的问题是,即使我在5节点集群中运行,也只有一个线程在运行,大约需要1个小时才能完成。我在寻找解决方案,如何通过在分布式模式下运行查询来提高性能,但到目前为止没有找到合适的解决方案。
请帮帮我,如何在NiFi节点之间实现负载平衡以及如何在多个节点上分配查询?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。