Hugging Face 用 Sentence Transformers 训练快 400 倍的静态嵌入模型并开源两个新模型
Hugging Face 发布用 Sentence Transformers 训练静态嵌入模型的方法，新模型在 CPU 上比 all-mpnet-base-v2 等常见模型快 100 到 400 倍，同时保留至少 85% 的性能。
推荐理由：原文完整公开了静态嵌入模型的训练配方、脚本和数据集清单，并给出与主流模型的性能对比，可复用于低成本嵌入场景。
#开源生态
#开源生态
今日 2 条Hugging Face Blog精选AI 评分6767
Hugging Face BlogAI 评分5656 LlamaIndex 与 Hugging Face 发布多语言视觉文档检索模型 vdr-2b-multi-v1
LlamaIndex 与 Hugging Face 发布多语言视觉文档检索嵌入模型 vdr-2b-multi-v1 及英文版 vdr-2b-v1，可直接对文档页截图编码检索，无需 OCR、数据抽取管线或分块。
Hugging Face BlogAI 评分4444 Open LLM Leaderboard 的 CO₂ 排放与模型性能分析
Hugging Face 基于 Open LLM Leaderboard 上 2,742 个模型的评测数据，分析了模型推理的 CO₂ 排放趋势。模型越大排放越高，但收益递减；Qwen-2.5-14B 和 Phi-3-Medium 的得分-排放比最优，MoE 排放偏高。社区微调模型普遍比官方微调更省碳，10B 以下社区模型可平均得分 35、排放低于 5kg CO₂。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 smolagents：用代码写动作的轻量智能体库
Hugging Face 发布 smolagents，一个约几千行代码的极简智能体库，支持以代码形式编写动作的 CodeAgent，可通过 E2B 沙箱安全执行，并保留传统 JSON 调用的 ToolCallingAgent。
推荐理由：官方发布并给出代码示例与基准对比，读者可以了解用代码写动作的智能体库如何上手以及何时该用智能体。
Hugging Face Blog精选AI 评分6969 Hugging Face 教程：可视化并理解 PyTorch 训练中的 GPU 内存
Hugging Face 发布教程，讲解如何用 torch.cuda.memory 快照工具可视化 PyTorch 训练各阶段的 GPU 内存占用。文章以 Qwen/Qwen2.5-1.5B 训练循环为例拆解参数、优化器状态、激活、梯度和优化器中间值的内存构成，并给出总内存估算公式与激活数量的线性启发式。
推荐理由：原文用 PyTorch 内存快照工具拆解训练各阶段的显存构成，并给出可复用的总内存估算公式和启发式，便于读者定位显存瓶颈。
Hugging Face Blog精选AI 评分7272 Answer.AI 与 LightOn 发布 ModernBERT，全面替代 BERT 的编码器模型
Answer.AI 与 LightOn 联合发布 ModernBERT 编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个规格，可作为 BERT 类模型的直接替代。
推荐理由：Answer.AI 与 LightOn 官方发布，作者本人阐述了架构与训练改动，读者可据此评估它能否替换现有 BERT 类工作流。
Hugging Face BlogAI 评分5959 IBM 联合高校发布混合 Mamba2 模型 Bamba-9B，vLLM 推理吞吐提升 2.5 倍
IBM、Princeton、CMU 和 UIUC 发布基于完全开放数据训练的混合 Mamba2 模型 Bamba-9B，在 vLLM 中相比标准 transformer 实现最高 2.5 倍吞吐提升和 2 倍延迟加速。
Hugging Face BlogAI 评分5454 TII 发布 Falcon3 系列开源模型，含 1B 到 10B 五个基座版本
TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B、7B、10B 和 Mamba-7B 五个基座模型，均低于 10B 参数。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 Synthetic Data Generator，用自然语言生成自定义数据集
Hugging Face 发布 Synthetic Data Generator，一款无代码应用，通过三步流程（描述数据集、配置微调、生成推送）用 LLM 从自定义提示词生成数据集，底层由 distilabel 和免费 Hugging Face 文本生成 API 驱动。
推荐理由：官方介绍这款无代码合成数据工具的完整流程与可配置项，读者可据此判断能否用自然语言快速搭建数据集和模型。
Hugging Face BlogAI 评分4545 Hugging Face 开源模型上线 Amazon Bedrock Marketplace
Hugging Face 的热门开源模型现已可通过 Amazon Bedrock Marketplace 部署，共提供 83 个开源模型。
Hugging Face BlogAI 评分5050 Hugging Face Data is Better Together 社区发布开放文本生成图像偏好数据集 open-image-preferences-v1
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本生成图像偏好数据集 open-image-preferences-v1，包含 10K 偏好对、超 30K 标注响应，由 250 多名社区成员在不到两周内完成。
Hugging Face Blog精选AI 评分6262 Google 发布视觉语言模型 PaliGemma 2，含 3B、10B、28B 三种规模
Google 发布视觉语言模型 PaliGemma 2，将 SigLIP 图像编码器与 Gemma 2 语言模型结合，提供 3B、10B、28B 三种规模，支持 224x224、448x448 和 896x896 三种输入分辨率。
推荐理由：Google 发布 PaliGemma 2 视觉语言模型，提供 3B、10B、28B 三种规模与多分辨率选择，并附 transformers 集成和微调脚本。
Hugging Face BlogAI 评分3030 用 3C3H 重新思考 LLM 评测：AraGen 基准与排行榜
Hugging Face 发布面向阿拉伯语 LLM 的生成式评测基准与排行榜 AraGen，并推出新的 NLG 评测指标 3C3H。3C3H 基于 LLM-as-judge，从正确性、完整性、简洁性、有用性、诚实性与无害性六个维度评估模型回答，兼顾事实性与可用性。排行榜采用动态评测：数据集和评测代码先私有盲测三个月，到期后公开并更换新数据集，以缓解数据污染问题。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布开源开发者 EU AI Act 合规指南
Hugging Face 发布开源开发者 EU AI Act 合规指南，说明该法案适用于欧盟内受影响的开源 AI 系统和模型。
推荐理由：面向开源开发者的指南，把 AI Act 的风险分级拆成文档、水印、opt-out 等可操作步骤，并给出 Hugging Face 现成工具。
Hugging Face Blog精选AI 评分6767 Hugging Face 发布 2B 开源视觉语言模型 SmolVLM
Hugging Face 发布 2B 小型视觉语言模型 SmolVLM，含 Base、Synthetic 和 Instruct 三个版本，模型、数据集、训练配方均以 Apache 2.0 开源。
推荐理由：原文给出与同级 2B 模型的显存、token 编码和吞吐对比数据，可帮助读者评估端侧部署小 VLM 的实际成本。
Hugging Face BlogAI 评分3333 Hugging Face 重新设计 Hub 的上传与下载架构
Hugging Face Xet 团队正在重新设计 Hub 的上传与下载架构，在内容分发第一站插入内容寻址存储（CAS），采用“dumb reads and smart writes”理念在字节级处理文件。
Hugging Face BlogAI 评分4242 Hugging Face 与 LLM-jp 推出日语 LLM 开放排行榜
Hugging Face 与跨组织项目 LLM-jp 联合推出 Open Japanese LLM Leaderboard，用于集中评测和比较日语大语言模型。
Hugging Face BlogAI 评分3939 Hugging Face Xet 团队用内容定义分块（CDC）改进 Hub 存储效率
Hugging Face 的 Xet 团队正用内容定义分块（CDC）替代 Git LFS 的文件级存储，只传输和保存修改过的 chunk，以提升 Hub 上 30 PB 模型、数据集与空间的存储效率。
Hugging Face BlogAI 评分4444 Self-Speculative Decoding 如何加速 LLM 文本生成
Hugging Face 详解 LayerSkip 提出的 self-speculative decoding：用同一模型的浅层生成草稿 token、深层做验证，兼得加速、内存节省与更低延迟。
Hugging Face BlogAI 评分5252 Hugging Face 与 Atla 推出 Judge Arena，众包评测 LLM 作为评判模型的能力
Hugging Face 与 Atla 推出 Judge Arena 平台，让用户对两个 LLM 评判模型在同一测试样本上的打分与理由进行投票，结果以 Elo 分数汇入每小时更新的公开排行榜。
Hugging Face BlogAI 评分3838 在 Hugging Face Hub 上分享你的开源机器学习数据集
Hugging Face Hub 提供数据集托管与分享服务，可承载 TB 级数据集，Xet 团队正将单文件上限从 50 GB 提升至 500 GB。平台内置 Dataset Viewer（支持全文搜索和排序）、SQL Console，并兼容 Pandas、Spark、DuckDB 等第三方库，多数库一行代码即可加载或流式读取数据集。
Hugging Face BlogAI 评分5151 Hugging Face 集成登陆 PyCharm，可在 IDE 内直接插入开源模型
Hugging Face 发布 PyCharm 集成功能，开发者可在 IDE 内右键插入 HF 模型并自动获取示例代码。文章演示了用 microsoft/Phi-3.5-vision-instruct 十分钟内搭建图文对话应用，并介绍了悬停即显模型卡、本地模型缓存查看与清理等功能。该集成为 PyCharm Professional 专属，可用 PyCharm4HF 兑换 3 个月免费订阅。
Hugging Face BlogAI 评分5252 Argilla 2.4 上线无代码功能，可直接在 Hub 数据集上构建微调与评测数据集
Argilla 推出 2.4 新功能，无需写代码即可从 Hugging Face Hub 导入数据集并收集人工反馈。在 Argilla UI 中点击导入按钮即可开始，系统会根据数据集特征自动生成初始配置，可添加标签、评分、排序等问题；当前仅支持公开数据集，私有数据集支持尚未提供。该功能降低了领域专家参与数据集建设的门槛，部署推荐使用 Spaces 并默认启用 Hugging Face OAuth。
Hugging Face BlogAI 评分5858 Cohere For AI 发布 Aya Expanse 8B 与 32B 开源权重多语言模型
Cohere For AI 发布 Aya Expanse 8B 和 32B 开源权重模型。在 Arena-Hard-Auto 23 语言成对对比中，Aya Expanse 32B 胜过 Gemma 2 27B。
Hugging Face BlogAI 评分5151 Hugging Face 发布 HUGS 零配置推理微服务
Hugging Face 发布 HUGS（Hugging Face Generative AI Services），为在自有基础设施中部署开源模型提供零配置的优化推理微服务。
Hugging Face BlogAI 评分4646 Outlines-core 0.1.0 发布：用 Rust 重写结构化生成核心算法
dottxt 与 Hugging Face 合作推出 outlines-core 0.1.0，将 Outlines 结构化生成核心算法移植到 Rust 并提供 Python 绑定。索引编译速度平均提升 2x，且通过 Rust 提前编译消除了此前 Numba JIT 带来的首次运行延迟。该库轻量、关注点分离，未来可绑定到 Python 之外的语言，方便更多库集成结构化生成。
Hugging Face Blog精选AI 评分7373 Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持与更多模型架构
Hugging Face 发布 Transformers.js v3，经一年多开发后正式推出，WebGPU 加速可比 WASM 快至 100 倍，支持架构总数达 120 个，Hub 上预转换模型超过 1200 个。
推荐理由：官方发布说明给出 WebGPU 加速、量化选项和迁移方式，读者可以据此评估是否升级到 v3。
Hugging Face Blog精选AI 评分6666 Stable Diffusion 3.5 Large 上架 Hugging Face 并支持 Diffusers
Stable Diffusion 3.5 Large 发布，提供 8B 基础版和 8B timestep-distilled 版两个 checkpoint，模型已在 Hugging Face Hub 开放并可在 🧨 Diffusers 中使用。
推荐理由：原文给出 Diffusers 中推理、量化加载和低显存训练 LoRA 的具体做法，读者可以直接照着在消费级硬件上使用 8B 模型。
Hugging Face BlogAI 评分5050 Hugging Face 与 Protect AI 合作，为 Hub 模型仓库集成 Guardian 安全扫描
Hugging Face 宣布与 Protect AI 合作，将后者的 Guardian 集成为第三方扫描器，自动扫描所有公开模型仓库。Guardian 可捕获 pickle 序列化和 Keras Lambda 层等格式中的任意代码执行漏洞，扫描结果已在新版前端展示，示例见 mcpotato/42-eicar-street；目前因超过 100 万模型仓库，部分模型可能暂未显示扫描结果。
Hugging Face BlogAI 评分4848 Llama 3.2 已可在 Keras 中使用
Llama 3.2 两周前登陆 Hugging Face/Transformers，而 Keras 从第一天起就支持它，可直接从 safetensors 格式的 Hugging Face checkpoint 加载，如 "hf://meta-llama/Llama-3.2-1B-Instruct"。
Hugging Face BlogAI 评分4040 Hugging Face Hub 改进 Parquet 数据去重存储
Hugging Face Xet 团队研究提升 Hub 上 Parquet 文件的存储去重效率，目前 Hub 上 Parquet 文件占用超过 2.2PB 存储。
Hugging Face BlogAI 评分5151 中国 AI 全球化扩张简析：巨头与初创为何出海、如何出海
Hugging Face 博客发文综述中国 AI 企业的全球化扩张。截至 2024 年，全球 1500 家活跃 AI 公司中 751 家在中国，其中 103 家已出海。
Hugging Face BlogAI 评分3434 BenCzechMark：评测你的 LLM 能否理解捷克语
Hugging Face 推出 BenCzechMark，这是首个也是目前最全面的捷克语大语言模型评测套件，包含覆盖 9 个类别的 50 个任务，其中 90% 为原生非翻译内容，涵盖阅读理解、事实知识、语法、语言建模、数学推理等维度。评测同时配套上线 BenCzechMark 排行榜，收录了超过 25 个不同规模的开源模型，并使用 Acc、EM、AUROC 和词级 Ppl 四类指标进行评分。
Hugging Face BlogAI 评分4848 Hugging Face 教程：如何将顶点着色网格转换为带贴图的网格
Hugging Face 发布教程，讲解如何将顶点着色网格转换为 UV 映射的带贴图网格，并开源了 InstantTexture 库实现一键转换。教程详解用 xatlas 生成 UV 映射、通过重心插值填充 1024 尺寸纹理，再结合 inpainting、中值滤波、高斯模糊和降采样消除纹理孔洞。这类顶点着色网格常见于 InstantMesh 等生成式 3D 模型的输出。
Hugging Face Blog精选AI 评分8585 Meta 发布 Llama 3.2：11B/90B 视觉模型与 1B/3B 端侧文本模型上线 Hugging Face
Meta 发布 Llama 3.2，Hugging Face 上线 10 个开放权重模型，包括 11B 和 90B 两个视觉模型（各有 base 与 instruct 版本）以及 1B 和 3B 两个可端侧运行的文本模型。
推荐理由：原文来自 Hugging Face 官方，详细说明了 Vision 与端侧小模型的规模、显存需求、许可证限制和上手方式，适合据此评估是否采用。
Hugging Face BlogAI 评分3636 Hugging Face Daily Papers 隐藏功能指南
Hugging Face 介绍其 Daily Papers 页面的多项实用功能。过去一年该页面已收录超过 3,700 篇论文，订阅者超过 12k。用户可一键认领论文、提交推荐论文、@作者讨论、用 @librarian-bot 获取相似论文推荐，还能通过多语言评论翻译和 arXiv 扩展跳转体验相关 Space demo。
Hugging Face BlogAI 评分5252 Hugging Face 发布 FineVideo 数据集并详解其构建流程
Hugging Face 发布 FineVideo 数据集，包含 43k 段视频共 3.4k 小时，附丰富描述、叙事细节、场景切分和 QA 对，并撰文披露完整构建流程。
Mistral AI精选AI 评分6767 Mistral AI 发布 la Plateforme 免费层、全线降价，并推出 Mistral Small v24.09 与 Pixtral 12B 免费视觉能力
Mistral AI 宣布 la Plateforme 推出免费层供实验、评估和原型开发，并对全系模型降价，Mistral Small 与 Codestral 降价 80%，Mistral Large 降价 33%。同时发布 22B 参数的 Mistral Small v24.09（MRL 许可），Pixtral 12B 以 Apache 2.0 许可在 le Chat 上免费提供图像理解能力。
推荐理由：原文给出 la Plateforme 免费层、全线降价幅度和新模型细节，读者可据此比较部署与成本选项。
Mistral AI精选AI 评分7474 Mistral 发布开源多模态模型 Pixtral 12B
Mistral 发布原生多模态模型 Pixtral 12B，采用从零训练的 400M 参数视觉编码器和基于 Mistral Nemo 的 12B 多模态解码器，以 Apache 2.0 协议开源。
推荐理由：官方披露了架构细节、基准数字和 Apache 2.0 开源协议，读者可以对比同规模开源多模态模型并评估迁移成本。
Hugging Face Blog精选AI 评分6767 Hugging Face Datasets 推出 SQL Console，可在浏览器内直接用 SQL 查询数据集
Hugging Face 宣布在 Hub 上推出 SQL Console，用户在每个数据集页面点击徽标即可运行 SQL 查询。查询由 DuckDB WASM 在浏览器本地完成，无需服务器，支持导出 Parquet 和通过链接分享结果；数据集前 5GB 会自动转换为 Parquet。
推荐理由：官方介绍浏览器内 SQL 查询数据集的能力与限制，文中示例可直接迁移到自己的数据集格式转换工作流。