如何解决返回nan的Model.predict后续预测tf-nightly TF 2.4.0-dev20201023,NVIDIA-SMI 456.71,CUDA 11.1,cuDNN 8.0.4,RTX 3090
对于使用RTX 3090以及tf-nightly和CUDA 11.1的更新版本的串行预测,这似乎是一个有趣的问题。
我正在传递一个图像数组:(IMAGE_DATA TYPE
PREDICTED_BOXES = model.predict(IMAGE_DATA)
LEN(PREDICTED_BOXES)= 25200
[[nan nan nan nan nan]
[nan nan nan nan nan]
[nan nan nan nan nan]
...
[640。 640. inf inf 1. 1.]
[640。 640. inf inf 1. 1.]
[640。 640. inf inf 1. 1。]]
->盒子的后处理返回[x1,y1,x2,y2,class_prob,class_num]:
[0.000e + 00 0.000e + 00 1.919e + 03 1.079e + 03 1.000e + 00 0.000e + 00]
如果我仅使用我的CPU和RTX 3090在同一台计算机上运行相同的代码/图像,它将在所有图像上正确预测。如果我在装有GTX 1060和TF 2.3.0,CUDA 10.1 NVIDIA-SMI 441.87的另一台计算机上运行相同的代码/图像,则它将在所有图像上正确预测。
是否还有其他人有类似的问题,并且对可能的问题或解决方法/解决方法有任何想法吗?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。