如何解决数据帧上的spark GROUPED_MAP udf是否并行运行?
我正在尝试应用PandasUDFType.GROUPED_MAP函数,该函数将数据帧作为输入并产生数据帧作为输出。当我执行sdf.groupby(key).apply(pandas_udf)时,它会根据可用资源将功能并行应用到多个组,还是依次将一组应用到另一组? 我没有更改spark的任何默认设置。如果要在组上并行执行udf,我还可以采用什么其他选择。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。