一、准备工作
1、MNIST概念:
是一个识别手写数字图片的计算机视觉集,它包含各种手写数字图片和每张图片对应的标签
2、softmax回归:
softmax回归是logistic回归的一种,它是多元分类(包含二分类)。
sotfmax回归可以把多分类任务多输出转换为各种类别的可能概率,把最大概率值对应的类别作为输入样本的输出类别预测
sotfmax激活函数公式:
z[l]=W[l]a[l]+b[l]
g(z[l])=e(z[l])
理解sotfmax:
sotfmax的loss function:
单个样本 L(ŷ ,y)=∑yjlogŷj, j=[1,...,x] y为标签值,ŷ为预测概率,x为输入特征数量
样本集J(w[1],b[1],…)=1/m∑L(ŷ (i),y(i))
sotfmax梯度下降公式: ∂J/∂z[L]=dz[L]=ŷ −y
原文地址:https://www.cnblogs.com/jp-mao/p/10400866.html
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。