如何解决使用 prestashop 网络服务导入大量产品:未知错误
我正在使用 Python 脚本将大约 300 000 个产品(及其图像)从平面文件导入 Prestashop(版本 1.7.7.3,在 ubuntu 18.04 和 php 7.2 上使用 Apache2)及其网络服务。为了提高导入速度,脚本使用了多个线程。 开始时一切顺利,但每次经过一定时间(或一定数量的产品导入后?)我都会收到此错误:
status code: 400
message: [{"code":76,"message":"An error occurred while copying image"}]
脚本的制作方式是,对于每个失败的请求,它会重试请求 3 次(在 PS 上清理产品后),现在每次重试错误请求的线程之间有 5 秒的睡眠时间。如果第三次尝试仍然不成功,它将最终退出所有线程并因此终止脚本。
但是当我将脚本重新启动到那个确切的产品时,一切都会恢复正常,直到以后出现相同的错误。
我不认为图像本身就是问题,因为我使用 PIL 来检测每个损坏的图像,并压缩它们以匹配图像 PS 的限制大小。 对于身份验证,每个请求都是通过在新的“会话”中传递 web 服务密钥来发出的,如下所示:
res = requests.post(url,auth=HTTPBasicAuth(PREST_AUTH_KEY,'pass'),data=schema)
我在 4 核 CPU 上使用 6 个线程(每个核心中有 2 个物理线程),但结果对于所有线程数都是相同的。 并且导入的速度随着时间的推移显着降低,对于特定数量的线程也不例外。 比如最后(当脚本明显崩溃时)没有添加任何产品但脚本仍在运行,直到我打开PS的BO查看所有产品。在那个特定时刻,脚本崩溃了。
这是 PS 和/或 Apache 的问题吗?我能做什么?
这 thread 建议的网络服务是否存在问题?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。