Hugging Face Blog·· 2025-12-18精选AI 评分64
Transformers v5 重构分词器:架构与训练词表分离、单文件单后端
Tokenization in Transformers v5: Simpler, Clearer, and More Modular
AI 导读
Hugging Face 博客详解 Transformers v5 对分词器的重新设计:将分词器架构(normalizer、pre-tokenizer、算法类型、post-processor、decoder)与训练好的词表和 merges 分离,类似 PyTorch 分离模型结构与权重。
推荐理由
文章来自 transformers 团队,解释 v5 将分词器架构与训练词表分离的设计,便于读者直接检查组件或训练自定义分词器。
来源:Hugging Face Blog · huggingface.co