跳到正文

#Hugging Face

今日 0 条
7月16日周三
7月15日周二
7月10日周四
  1. Hugging Face Blog50

    Hugging Face 详解机器人异步推理:将动作预测与执行解耦

    Hugging Face 提出机器人异步推理方案,将动作预测与执行解耦:PolicyServer 负责推理,RobotClient 维护动作队列并执行,两者通过 gRPC 通信,比同类 REST API 快约 5 倍。该方案已在 SmolVLA 中引入,任务完成时间提速约 2 倍,成功率相当,使机器人不再等待推理,支持中途重规划和更快的控制循环。

7月9日周三
  1. Hugging Face Blog61

    Hugging Face 教你用 Gradio MCP 服务器给 LLM 添加新能力

    Hugging Face 发布教程,讲解如何通过 MCP 协议给 LLM 添加图像编辑、转写等新能力。Gradio 自 5.28.0 版本起支持 MCP 协议,使 Hugging Face Spaces 成为可按 MCP Compatible 筛选的 MCP 服务器集合。

    推荐理由:官方教程给出把 Hugging Face Spaces 当作 MCP 工具来源的具体步骤,读者可照做给自己的 LLM 添加图像编辑等新能力。

7月8日周二
  1. Hugging Face Blog66

    Hugging Face 发布开源 3B 模型 SmolLM3,支持 128k 长上下文与双模式推理

    Hugging Face 发布完全开源的 SmolLM3-3B,用 11.2T tokens 分三阶段预训练,性能超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3-4B、Gemma3-4B 等更大模型竞争力相当。

    推荐理由:官方同步放出模型、三阶段预训练配比和双模式推理完整训练配方,适合想复现或改进同级小模型的研究者对照学习。

7月4日周五
7月1日周二
6月28日周六
6月23日周一
6月19日周四
  1. Hugging Face Blog63

    Hugging Face 教你用 QLoRA 在消费级显卡上微调 FLUX.1-dev

    Hugging Face 发布教程,展示用 QLoRA 配合 diffusers 在单张 GPU 上以约 9GB 峰值显存微调 FLUX.1-dev 学习 Alphonse Mucha 画风,700 步在 RTX 4090 上约 41 分钟完成,标准 BF16 LoRA 则需 26GB。

    推荐理由:官方博客给出完整的 QLoRA 微调配方和实测显存与耗时数据,方法可直接迁移到消费级显卡上的 FLUX.1-dev 定制训练。

6月16日周一
6月12日周四
  1. Hugging Face Blog64

    Hugging Face Kernel Hub 五分钟入门教程

    Hugging Face 官方博客介绍 Kernel Hub,开发者可通过 kernels 库的 get_kernel 一行代码加载预编译的优化计算内核,自动匹配 Python、PyTorch 和 CUDA 版本。

    推荐理由:原文给出从加载到基准测试的完整可复现步骤,读者可据此评估把优化内核接入自己模型的实际收益。

6月11日周三
6月6日周五
6月4日周三
  1. Hugging Face Blog57

    Hugging Face 在 nanoVLM 中从零实现 KV Caching

    Hugging Face 在 nanoVLM 仓库中从零实现 KV Caching,生成速度提升 38%。文章讲解自回归生成中重复计算 K/V 的冗余来源,展示通过逐层缓存字典、start_pos 位置对齐以及将 generate 循环拆分为 prefill 和 decode 两阶段来消除冗余计算,并指出这是速度与显存之间的权衡。

6月3日周二
5月28日周三
  1. Hugging Face Blog60

    Hugging Face 提出 Structured CodeAgent:用结构化生成提升代码智能体可靠性

    Hugging Face 发布研究,让 CodeAgent 以强制 JSON 结构同时生成 thoughts 和 code,在 GAIA、MATH、SimpleQA、Frames 等基准上比常规 CodeAgent 平均高出 2-7 个百分点。

    推荐理由:原文给出结构化输出结合 CodeAgent 的实测数据与适用边界,读者可据此判断自己的模型规模是否适合启用该方案。

5月25日周日
5月23日周五
5月21日周三
  1. Hugging Face Blog62

    Hugging Face Diffusers 量化后端实战:以 Flux-dev 为例对比 BnB、torchao、Quanto、GGUF 与 FP8

    Hugging Face 发布 Diffusers 量化后端解读文章,以 black-forest-labs/FLUX.1-dev 为例实测 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 五种方案。

    推荐理由:文章系统对比了 Diffusers 各量化后端在 Flux-dev 上的内存、速度与画质差异,并给出选型建议和可复现代码。

5月19日周一
5月15日周四
5月14日周三
5月13日周二
5月12日周一
5月11日周日
  1. Hugging Face Blog38

    LeRobot 社区数据集:机器人界的“ImageNet”何时到来、如何实现?

    Hugging Face LeRobot 团队认为机器人泛化本质上是一个数据问题,正通过简化录制流程、简化上传至 Hugging Face Hub、降低硬件成本,让社区数据集快速增长。目前社区贡献主要集中在 So100 和 Koch 机械臂与操作任务,但自动驾驶、辅助机器人、移动导航等领域同样受益。随着数据采集大众化,数据策展成为下一个挑战。

4月30日周三