如何解决在具有 GPU 支持的 Windows 10 上部署 TF2 模型
我的问题是我想在支持 GPU 的 Windows 10 上部署 tensorflow 对象检测模型。
我已经成功地使用 Docker 和 TFServing 部署模型,并且使用 GRPC 接口非常容易,但容器根本不使用我的 GPU。
经过一些研究,GPU 支持仅在“windows dev 版本”中可用,这是没有选择的。 另外,azure 机器学习包看起来不错,但据我所知,它需要互联网连接,但并不总是提供,因此也没有选择。
你们有什么想法吗?可以通过 REST/GRPC/TCP/UDP 进行通信,模型应部署在多台自给自足的计算机上。
感谢您的帮助。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。