← 全部标签

标签:从零实现

共 3 篇相关内容,按发布时间排列。

LLaMA(10):用 PyTorch 从零实现 RoPE

以课程 ROPE.ipynb 为主线,完成频率预计算、复数旋转、广播与 shape 检查,并验证范数和相对位置性质。

LLaMA(5):从零实现 RMSNorm

以课程 RMSNorm.ipynb 为代码主线,从最小实现出发补齐 epsilon、混合精度、正确验证和 PyTorch 对照测试。

深度学习:手写数字识别 — 从零手动实现 vs PyTorch 框架实现

基于 MNIST 数据集,先手动实现一个完整的多分类神经网络(前向/反向/参数更新),再用 PyTorch 的 nn.Module/CrossEntropyLoss/SGD 重写,对比两者理解框架帮我们做了什么