← 全部标签

标签:算力

共 1 篇相关内容,按发布时间排列。

AI 原理学习笔记(二十一):量化、显存与推理性能怎样估算

把权重、缓存、激活与训练状态拆开算,理解 FP16、BF16、INT4、量化误差和计算与访存瓶颈。