Mistral AI·· 2024-07-18精选AI 评分70
Mistral 与 NVIDIA 联合发布 12B 开源模型 Mistral NeMo
Mistral NeMo
AI 导读
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo,支持 128k 上下文窗口,以 Apache 2.0 许可发布 base 与 instruct 权重,官方称其推理、世界知识和编码精度在该规模中达到 SOTA,可作 Mistral 7B 的直接替代。
推荐理由
官方原文给出 12B 规模、128k 上下文、Apache 2.0 权重和 Tekken 分词器的具体压缩数据,可据此评估其在 Mistral 7B 系统中的替换价值。
来源:Mistral AI · mistral.ai