赞助商

python – 当任务结果很大时,我应该如何使用Celery?

发布时间:2019-05-15 发布网站:脚本之家
脚本之家收集整理的这篇文章主要介绍了python – 当任务结果很大时,我应该如何使用Celery?脚本之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。

处理Celery中执行的结果很大的最佳方法是什么?我正在考虑像表转储之类的东西,在那里我可能会返回数百兆字节的数据.

我认为将消息填入结果数据库的天真方法不会在这里为我服务,更不用说如果我将AMQP用于我的结果后端.但是,我有一些延迟是一个问题;根据导出的特定实例,有时我必须阻止它直到它返回并直接从任务客户端发出导出数据(导入内容的HTTP请求进入,它不存在,但必须在响应该请求……无论需要多长时间)

那么,为此编写任务的最佳方法是什么?

最佳答案
一种选择是在所有工作机器上运行静态HTTP服务器.然后,您的任务可以将大结果转储到静态根中的唯一文件,并返回对该文件的URL引用.接收器然后可以在闲暇时获取结果.

例如.有点模糊的东西:

@task
def dump_db(db):
  # Some code to dump the DB to /srv/http/static/db.sql
  return 'http://%s/%s.sql' % (socket.gethostname(),db)

你当然需要一些收获旧文件的方法,以及保证唯一性,可能还有其他问题,但你会得到一般的想法.

总结

以上是脚本之家为你收集整理的python – 当任务结果很大时,我应该如何使用Celery?全部内容,希望文章能够帮你解决python – 当任务结果很大时,我应该如何使用Celery?所遇到的程序开发问题。

如果觉得脚本之家网站内容还不错,欢迎将脚本之家网站推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:76874919,请注明来意。