如何解决ANN中的权重初始化
在进行线性回归的情况下,每个要素列都有一个系数值,与行数无关。
神经网络怎么样?
对于单层感知器,它是否与线性回归相同,或者特征列中每一行的权重是否不同?
解决方法
让我看看你是否在那里。
在MLP中,层中每个神经元的输出是该层中所有在其之前的神经元的线性回归,然后在执行线性回归之后,可选地将激活应用于该层。
ANN中的每个参数至少在值方面均与其他参数无关。
数据中的行数是示例或批处理的数量,cloumns的数量是要素或输入的数量。
关于权重初始化,有很多技术。其中最常见的是Xavier初始化。
如果您指的是包含图层权重的矩阵的形状,则其形状应为(n_features,layer_out_size)。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。