对于之间的神经网络,各个输入信号之间没有联系,但对于现实中的一些场景,如语音处理,文字识别等,输入之间均有一点的联系,根据此应用场景,产生了LSTM(Long Short Term Memory)网络。
与BP神经网络相似,LSTM网络多了一个反馈,即将上一个时间的输出作为了下一个时间的输入,基本结构如下:
LSTM主要由输入门,输出门,忘记门控制。下图所示为其一个隐藏的结构,最下面g为输入信号,Input Gate为输入门,两个数值做乘法,即可对输入信号进行判断,让其进不进入后面的内容。Forget Gate为忘记门,使信号发生一定的衰减,Output Gate为输出门,控制输出信号。
其网络结构如下所示:
最下面一层为输入,中间为隐层,最上面为输出层。可以通过控制各个门的开关来控制信号的走向。
原文地址:https://blog.csdn.net/weixin_43472830/article/details/88049100
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。