如何解决使用渐变磁带进行自定义训练,其中输出将从中间层获取
我是tensorflow 2的新手,正在尝试这些东西。
我试图将MXNet version的LFFD移植到tensorflow2。因此,就像MXNet的symbol farm一样,将体系结构移植到tensorflow中,您可以看到它here。然后,我还在Solver_GOCD中使用渐变带定义了自定义训练。然后,在通过前向传递之后,我将获得输出,将其传递给定义为here的自定义损失函数,该函数在Solver_GOCD中用作loss_criterion。得到损失后,我使用tape.gradients计算梯度,并使用SGDW将其应用于网络以进行反向支撑。我正在执行的过程可以在fit函数的Solver_GOCD中看到。
我不确定我是否遵循正确的方法完成工作,因为即使经过50,000次迭代,我的损失也不会降到最低。当我将其保存在MXNet中进行培训时,它就像一种魅力。
我附上了log,您可以在其中看到损失。
请有人帮我解决此问题。
- 如果您有兴趣在此项目中进行合作,请随时通过gmail.allallkimanideep与我联系。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。