← 全部标签

标签:交叉熵

共 4 篇相关内容,按发布时间排列。

深度学习:多分类神经网络的反向传播 — 梯度推导全过程

手动推导多分类神经网络(交叉熵 + Softmax)的反向传播过程,理解 δ(loss 对 logits 的偏导)在各层间传递的规律,以及单样本与批量数据的公式差异

深度学习:逻辑回归的损失函数 — 为什么用交叉熵而不是 MSE

从 MSE 在逻辑回归上的失败出发,理解二分类交叉熵损失(BCELoss)的设计动机、数学形式、统一公式和损失曲面的优越性

深度学习:神经网络的多分类 — Softmax 与交叉熵损失

理解多分类网络的输出层改造(N 类 N 个神经元)、Softmax 的设计动机与公式推导、多分类交叉熵损失函数,以及二分类的两种实现方式对比

深度学习:逻辑回归

Sigmoid激活函数、交叉熵损失、二元/多元逻辑回归与多分类