跳到正文
原文
Hugging Face Blog·· 2023-10-03精选AI 评分78

Hugging Face 为 tokenizer 引入 chat_template 属性解决聊天格式不匹配问题

Chat Templates: An End to the Silent Performance Killer

AI 导读

Hugging Face 宣布 tokenizers 新增 chat_template 属性,用于保存模型训练时的对话格式,避免因格式不匹配导致难以察觉的性能严重下降。

推荐理由

原文指出对话格式不匹配会导致静默性能下降,并给出将 Jinja 聊天模板随 tokenizer 保存和使用的具体做法。

来源:Hugging Face Blog · huggingface.co