跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

107条精选相关主题AI 编码Agent 智能体产品更新

最新精选

第 101–107 条 · 共 107 条
8月17日周三
  1. Hugging Face Blog74

    Hugging Face 详解 LLM.int8():用 bitsandbytes 实现 8-bit 量化推理

    Hugging Face 与 BigScience 将 LLM.int8() 8-bit 量化集成进 transformers 和 accelerate,使 BLOOM-176B 等 176B 参数大模型的推理显存占用减半且性能不下降。

    推荐理由:原文由集成团队讲解 LLM.int8() 的量化原理、零性能下降验证和 transformers 集成细节,读者可据此在有限显存上运行大模型。

7月27日周三
6月7日周二
2月1日周二
12月8日周三
10月5日周二
  1. Hugging Face Blog62

    Hugging Face 教你用 Gradio 在 Spaces 上展示模型演示

    Hugging Face 发布教程,讲解如何用 Gradio 集成和 Spaces 托管 Hub 模型的演示应用。定义 Interface 并调用 .launch() 即可运行演示,底层通过 Inference API 支持 Transformers、spaCy、SpeechBrain 等框架以及 image-to-text、speech-to-text 等模型类型。

    推荐理由:官方教程给出几行代码即可在 Spaces 托管 Hub 模型演示的方法,含自定义模型部署和串联多模型的示例。

1月19日周二