跳到正文
原文
Hugging Face Blog·· 2025-04-29AI 评分50

Intel 发布 AutoRound:面向 LLM 与 VLM 的低比特量化工具

Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs

AI 导读

Intel 推出 AutoRound,一种 weight-only 后训练量化方法,通过符号梯度下降联合优化权重取整和截断范围,支持 INT2 至 INT8 低比特量化。

来源:Hugging Face Blog · huggingface.co