跳到正文
原文
Hugging Face Blog·· 2024-04-03AI 评分38

用 🤗 Optimum Intel 在 Xeon 上实现 SetFit 极速推理

Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon

AI 导读

SetFit 是 Hugging Face 与 Intel Labs、UKP Lab 合作开发的少样本微调框架,在 Banking 77 数据集上,5-shot 表现优于 3-shot GPT-4,无需提示词且训练推理速度比 LLM 方法快一个数量级以上。

来源:Hugging Face Blog · huggingface.co