← 全部标签

标签:分词

共 1 篇相关内容,按发布时间排列。

深度学习:词典生成 — Token、特殊符号与 BPE 算法

理解 NLP 中 Token 与词典的概念、特殊 Token(UNK/BOS/EOS/SEP)的作用、词典大小的设计权衡,以及字节对编码 BPE 算法如何用词根思想构建词典