Hugging Face Blog·· 2024-04-03AI 评分38
用 🤗 Optimum Intel 在 Xeon 上实现 SetFit 极速推理
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
AI 导读
SetFit 是 Hugging Face 与 Intel Labs、UKP Lab 合作开发的少样本微调框架,在 Banking 77 数据集上,5-shot 表现优于 3-shot GPT-4,无需提示词且训练推理速度比 LLM 方法快一个数量级以上。
来源:Hugging Face Blog · huggingface.co