Hugging Face Blog·· 2022-08-22AI 评分47
教程：如何用 Hugging Face Transformers 在 Habana Gaudi 上预训练 BERT
Pre-Train BERT with Hugging Face Transformers and Habana Gaudi
AI 导读
这是一篇教程，讲解如何用 Hugging Face Transformers、Optimum Habana 和 Datasets 库，在 AWS DL1 实例（Habana Gaudi）上以掩码语言建模（MLM）任务从零预训练 BERT-base。
来源：Hugging Face Blog · huggingface.co