Hugging Face Blog·· 2024-12-19精选AI 评分72
Answer.AI 与 LightOn 发布 ModernBERT，全面替代 BERT 的编码器模型
Finally, a Replacement for BERT: Introducing ModernBERT
AI 导读
Answer.AI 与 LightOn 联合发布 ModernBERT 编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个规格，可作为 BERT 类模型的直接替代。
推荐理由
Answer.AI 与 LightOn 官方发布，作者本人阐述了架构与训练改动，读者可据此评估它能否替换现有 BERT 类工作流。
来源：Hugging Face Blog · huggingface.co