跳到正文

全部动态

今日 7 条
11月6日周一
11月3日周五
10月27日周五
10月26日周四
10月25日周三
10月24日周二
10月19日周四
  1. Hugging Face Blog62

    Gradio 发布 @gradio/lite,让 Gradio 应用在浏览器中无服务器运行

    Hugging Face 推出 @gradio/lite,通过 Pyodide 让 Gradio 应用直接在浏览器中运行,无需服务器端基础设施。开发者在 HTML 中引入 JS/CSS 并在 <gradio-lite> 标签内写 Python 代码即可,支持 <gradio-file> 多文件和 <gradio-requirements> 通过 micropip 安装依赖。

    推荐理由:原文给出完整的上手代码和依赖、加载时间等限制说明,读者可直接照做评估浏览器端部署是否适合自己。

10月11日周三
10月4日周三
10月3日周二
10月2日周一
9月29日周五
9月28日周四
9月27日周三
  1. Mistral AI81

    Mistral AI 发布开源模型 Mistral 7B

    Mistral AI 发布 7.3B 参数开源模型 Mistral 7B,采用 Apache 2.0 许可证,在所有基准上超越 Llama 2 13B,并在多数基准上优于 Llama 1 34B。

    推荐理由:官方给出与 Llama 2 全面对比的评测数据和架构改进细节,读者可据此评估 7B 级开源模型的性价比与部署选择。

  2. Mistral AI84

    Mistral AI 发布首个 7B 参数开源模型 Mistral 7B,采用 Apache 2.0 许可

    Mistral AI 发布首个模型 Mistral 7B,在标准英文和代码基准上超越所有现有 13B 参数以下的开放模型,权重以 Apache 2.0 许可开放。官方称 MMLU 上超过 60% 的最小模型在两年内从 280B 的 Gopher 缩小到 7B,并同步开设 GitHub 仓库和 Discord 频道推进社区协作。

    推荐理由:官方阐述开源模型路线并给出 MMLU 演进脉络,读者可借此理解 7B 小模型与专有模型的差距变化。

9月26日周二
9月25日周一
9月22日周五
9月19日周二
  1. Hugging Face Blog30

    Rocket Money 携手 Hugging Face:在生产环境中扩展波动性 ML 模型

    个人理财应用 Rocket Money 用 BERT 系列模型替代维护成本高的 regex 系统,为 4000+ 类别的交易文本分类提供支持,其原有 regex 系统每月处理超 1 亿笔交易。在对比自建方案、AWS Sagemaker 和 Hugging Face Inference API 后,经三个月评估选择 Hugging Face 托管模型,一周内即承接部分流量并通过最坏情况负载测试。

9月18日周一
9月15日周五
  1. Hugging Face Blog67

    Hugging Face 详解 LLM 生产环境推理优化:量化、Flash Attention 与架构改进

    Hugging Face 官方博客系统讲解 LLM 推理优化的三类技术:8-bit/4-bit 量化、Flash Attention 注意力算法,以及 RoPE、ALiBi、MQA、GQA 等架构改进。

    推荐理由:Hugging Face 官方以实测代码系统讲解量化、Flash Attention 与模型架构三类 LLM 推理优化方法,可迁移到部署实践。

9月13日周三
  1. Hugging Face Blog65

    Hugging Face 发布 Würstchen 快速文生图扩散模型

    Hugging Face 发布 Würstchen,一种在高度压缩潜空间中工作的文生图扩散模型,实现 42x 空间压缩。生成速度明显快于 SDXL 且内存占用更低;Würstchen v2 训练用 24,602 GPU 小时,支持最高 1536 分辨率,已集成进 Diffusers,模型权重和 Demo 已在 Hub 上线。

    推荐理由:42x 空间压缩带来的训练与推理成本对比有具体数字,适合想低成本跑文生图的读者参考。

9月12日周二
9月11日周一
9月8日周五
  1. Hugging Face Blog61

    T2I-Adapter-SDXL 适配器发布并登陆 diffusers

    Hugging Face Diffusers 团队与 T2I-Adapter 作者合作,为 Stable Diffusion XL 推出 T2I-Adapter 支持,并发布 sketch、canny、lineart、depth、openpose 五种条件的 checkpoints。

    推荐理由:原文给出 T2I-Adapter-SDXL 与 ControlNet 的参数量对比、训练配置和完整用法代码,读者可以据此评估并直接上手使用。

9月6日周三