如何解决TF 服务 GPU 构建无法在仅 CPU 的机器上执行
问题:
我试图从具有 GPU 支持的源代码构建 Tensorflow Serving。
环境:CentOS7 TF服务版本:2.4.1 从源代码构建:true 构建成功:true
但是,当我尝试在没有 CUDA 和 TensorRT 依赖项的其他机器上运行它时。 GPU 可执行文件失败并显示以下消息:
tensorflow_model_server:加载共享库时出错:libcusolver.so.10:无法打开共享对象文件:没有这样的文件或目录
我尝试过的:
使用此构建配置构建 GPU 可执行文件:
ln -s /usr/local/cuda/lib64/stubs/libcuda.so /usr/local/cuda/lib64/stubs/libcuda.so.1 && \
LD_LIBRARY_PATH=/usr/local/cuda/lib64/stubs:${LD_LIBRARY_PATH} \
BAZEL_LINKLIBS=-l%:libstdc++.a /usr/local/bin/bazel build --color=yes --config=release --config=cuda --curses=yes -c opt --copt=-march=ivybridge --copt="-fPIC" --verbose_failures tensorflow_serving/model_servers:tensorflow_model_server
我们有没有办法构建一个可以在 CPU 和 GPU 机器上运行的 Tensorflow 服务二进制文件?例如,静态构建可用吗?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。