Hugging Face Blog·· 2020-11-09AI 评分36
如何利用预训练语言模型检查点构建 encoder-decoder 模型
Leveraging Pre-trained Language Model Checkpoints for Encoder-Decoder Models
AI 导读
这篇 Hugging Face 教程讲解如何用 BERT、GPT2 等预训练检查点热启动（warm-start）encoder-decoder 模型，从而跳过高昂的预训练成本。
来源：Hugging Face Blog · huggingface.co