跳到正文
原文
Mistral AI·· 2024-07-18精选AI 评分70

Mistral 与 NVIDIA 联合发布 12B 开源模型 Mistral NeMo

Mistral NeMo

AI 导读

Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo,支持 128k 上下文窗口,以 Apache 2.0 许可发布 base 与 instruct 权重,官方称其推理、世界知识和编码精度在该规模中达到 SOTA,可作 Mistral 7B 的直接替代。

推荐理由

官方原文给出 12B 规模、128k 上下文、Apache 2.0 权重和 Tekken 分词器的具体压缩数据,可据此评估其在 Mistral 7B 系统中的替换价值。

来源:Mistral AI · mistral.ai