如何解决在pytorch中,我想将输出保存在每个纪元中,以便后期计算但是经过几个时期后,它会导致内存不足,
在pytorch中,我想将输出保存在每个纪元中,以便后期计算。但是经过几个时间段后,它会导致内存不足错误。代码如下:
L=[]
optimizer.zero_grad()
for i,(input,target) in enumerate(train_loader):
output = model(input)
L.append(output)
*** updata my model to minimize a loss function. List L will be used here.
我知道原因是因为pytorch保存了每个时期的所有计算图。 但是损失函数只能在获得所有预测结果之后计算
有没有办法训练我的模型?
解决方法
您正在使用GPU进行培训吗?
如果是这样,您可以将其移动到主存储器中
L.append(output.detach().cpu())
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。