Mistral AI·· 2025-01-30精选AI 评分66
Mistral 发布 Mistral Small 3:24B 参数开源模型,性能对标 Llama 3.3 70B
Mistral Small 3
AI 导读
Mistral 发布 Mistral Small 3,一个延迟优化的 24B 参数模型,以 Apache 2.0 许可开源预训练和指令微调权重。模型 MMLU 准确率超 81%,延迟 150 tokens/s,官方称性能与 Llama 3.3 70B instruct 相当且在相同硬件上快 3 倍以上。
推荐理由
24B 参数、Apache 2.0 开源、可在单卡 RTX 4090 本地运行,读者可据此评估低延迟场景下的替代方案。
来源:Mistral AI · mistral.ai