Hugging Face Blog·· 2025-06-23AI 评分50
SGLang 集成 Hugging Face transformers 作为推理后端
Transformers backend integration in SGLang
AI 导读
SGLang 现已支持 Hugging Face transformers 作为推理后端,任何 transformers 兼容模型可开箱获得高性能推理。
来源:Hugging Face Blog · huggingface.co
Transformers backend integration in SGLang
SGLang 现已支持 Hugging Face transformers 作为推理后端,任何 transformers 兼容模型可开箱获得高性能推理。
来源:Hugging Face Blog · huggingface.co