手动推导多分类神经网络(交叉熵 + Softmax)的反向传播过程,理解 δ(loss 对 logits 的偏导)在各层间传递的规律,以及单样本与批量数据的公式差异
标签:交叉熵
共 4 篇相关内容,按发布时间排列。
从 MSE 在逻辑回归上的失败出发,理解二分类交叉熵损失(BCELoss)的设计动机、数学形式、统一公式和损失曲面的优越性
理解多分类网络的输出层改造(N 类 N 个神经元)、Softmax 的设计动机与公式推导、多分类交叉熵损失函数,以及二分类的两种实现方式对比
Sigmoid激活函数、交叉熵损失、二元/多元逻辑回归与多分类