Hugging Face Blog·· 2025-04-29AI 评分50
Intel 发布 AutoRound:面向 LLM 与 VLM 的低比特量化工具
Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs
AI 导读
Intel 推出 AutoRound,一种 weight-only 后训练量化方法,通过符号梯度下降联合优化权重取整和截断范围,支持 INT2 至 INT8 低比特量化。
来源:Hugging Face Blog · huggingface.co