如何解决在cpu上运行部分割炬模型,在gpu上运行部分或将部分向后传递委托给另一个设备
我有一个模型,该模型具有不同的循环部分,而其他部分则严格非循环部分。对于我的训练过程,我需要高阶导数。不幸的是,就目前而言(2020年9月4日),PyTorch does not implement在CUDA上为RNN提供了双重支持。我建议避免使用Jitted版本的RNNS。
有没有办法在cpu上运行模型的一部分,在gpu上运行模型的一部分?还是委托RNN向后传递给另一个设备?我知道,从理论上讲,我需要来回移动整个模型和至少一部分图形。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。