如何解决Wiki中的GRU Pytorch Keras和Formula不同
我正在使用cblas库在iOS设备中实现GRU。我使用了Wiki中的GRU公式,也使用了我在Coursera上学到的Wikipedia中的公式。我发现在我的实现和tf.Keras中具有相同权重的结果是不同的。调试后,我发现Keras和Torch中的GRU使用不同的公式来计算h_t:
接下来在Wiki公式中:
h_t =(1-z)* h_t_previous + z * h_tilda。
在Keras和Torch中时:
h_t =(1-z)* h_tilda + z * h_t_previous。
有人可以解释为什么他们与众不同吗?从逻辑上说,更新门乘以新值(我想从新值更新什么),不是吗? 有趣的是,MPSGRUDescriptor具有flipOutputGates变量,可以通过这两个公式来处理此拐杖。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。