跳到正文
原文
Hugging Face Blog·· 2023-12-11精选AI 评分85

Mixtral 8x7B 发布,Hugging Face 完成全生态集成支持

Welcome Mixtral - a SOTA Mixture of Experts on Hugging Face

AI 导读

Mistral 发布 Mixtral 8x7B,一个采用 Mixture of Experts 架构的开放模型,在多数基准上超越 Llama 2 70B 并达到或超过 GPT-3.5,MT-Bench 得分 8.30。

推荐理由

Mixtral 8x7B 以 MoE 架构达到开放模型新高度,本文同时给出生态内的推理、量化、微调与部署路径,方法可直接照做。

来源:Hugging Face Blog · huggingface.co