Hugging Face 复现 Infini-Attention 失败：为何仍应继续尝试？
Hugging Face 复现 Google 的 Infini-attention 论文后发现，压缩记忆次数越多，性能反而越差，90% 的时间花在调试收敛问题上。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分4747
Hugging Face BlogAI 评分5656 Hugging Face 发布 ggml 入门教程
Hugging Face 发布 ggml 入门教程，介绍这个专注于 Transformer 推理的 C/C++ 开源机器学习库。教程讲解 ggml_context、ggml_cgraph、ggml_backend 等核心概念，给出在 Ubuntu 上编译运行矩阵乘法示例的完整步骤，并演示了使用 backend、打印计算图和导出 graphviz 格式的方法。
Hugging Face Blog精选AI 评分6161 TII 发布首个无注意力 7B 强模型 Falcon Mamba
阿布扎比 TII 基于 Mamba 架构发布开源模型 Falcon Mamba 7B，采用 TII Falcon Mamba 7B License 1.0，称在 LLM Leaderboard 两版基准上平均分领先多数同类 Transformer 与 SSM 模型。
推荐理由：原文给出架构设计、训练数据和两版评测基准数字，读者可据此判断无注意力 7B 模型与主流 Transformer 的差距。
Hugging Face Blog精选AI 评分6666 Hugging Face 在 Transformers 中推出跨模型统一工具调用 API
Hugging Face 宣布 Transformers 现已提供跨多个热门模型家族的统一工具调用 API，同一份代码可在 Mistral、Cohere、NousResearch 和 Llama 模型间基本无需修改地移植。
推荐理由：原文给出统一工具调用 API 的设计思路和完整代码示例，开源开发者可以照搬接入多个模型家族。
Hugging Face Blog精选AI 评分6868 Hugging Face 收购 XetHub，将替换 Git LFS 作为 Hub 存储后端
Hugging Face 官方宣布收购总部位于西雅图的 XetHub，团队来自曾在 Apple 构建内部 ML 基础设施的 Yucheng Low、Ajit Banerjee 和 Rajat Arya。
推荐理由：收购方官方说明整合路径，给出了 Git LFS 换自研存储后对大文件更新方式的具体改变和当前 Hub 规模数据。
Hugging Face BlogAI 评分4848 Hugging Face 与 Albumentations AI 联合推出文档图像 TextImage 数据增强方法
Hugging Face 与 Albumentations AI 合作推出面向文档图像的多模态数据增强 pipeline，可同时修改图像内容与文本标注，用于 VLM 微调。
Hugging Face BlogAI 评分4242 Hugging Face Hub 2024 安全功能要点盘点
Hugging Face 盘点截至 2024 年 8 月 6 日 Hub 上的主要安全功能。所有用户可用细粒度 token、双因素认证（2FA）、GPG commit signing、组织级访问控制，以及自动安全扫描流水线（ClamAV 恶意软件扫描、picklescan 扫描 pickle 文件、trufflehog 扫描密钥）。
Hugging Face BlogAI 评分5757 Hugging Face 讲解用 Quanto 和 Diffusers 降低 Transformer 扩散模型显存占用
Hugging Face 发布教程，介绍如何用 Quanto 对 Diffusers 中的 Transformer 扩散管线（PixArt-Sigma、Stable Diffusion 3、Aura Flow）做 FP8/INT8/INT4 量化以降低显存占用。
Hugging Face BlogAI 评分4040 Hugging Face 与 NVIDIA NIM 推出 Serverless 推理服务
Hugging Face 推出 NVIDIA NIM API (serverless) 推理服务，面向 Enterprise Hub 组织，基于 NVIDIA DGX Cloud 的 H100 GPU 按请求计算时间计费，价格为 $8.25/小时（约 $0.0023/秒）。
Hugging Face BlogAI 评分4040 Hugging Face 用 LAVE 在 Docmatix 上做零样本 VQA 评测：还需要微调吗？
Hugging Face 在开发 Docmatix 时发现，在其上微调的 Florence-2 在 DocVQA 上表现出色，却因答案格式差异在传统指标上得分很低，额外针对 DocVQA 微调反而被人工评估认为更差。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 3.1（8B/70B/405B），支持 128K 上下文与多语言
Meta 发布 Llama 3.1 系列，在 Hugging Face Hub 上线 8B、70B、405B 三个规模共 8 个开放权重模型，上下文长度提升至 128K tokens，支持 8 种语言和工具调用。
推荐理由：官方发布说明覆盖了三个规模、内存需求和量化权重，读者可以据此选择适合自己硬件的部署与微调路径。
Hugging Face Blog精选AI 评分6363 如何在 Core ML 上用不到 4GB 内存运行 Mistral 7B
Hugging Face 发布教程，演示如何用 WWDC24 的新 Core ML 特性在 Mac 上复现 Mistral 7B 的端侧运行。
推荐理由：原文复现 WWDC24 的 Mistral 7B 端侧运行示例，讲解 MLTensor、状态缓存和 4-bit 量化等新特性与完整转换步骤。
Hugging Face BlogAI 评分5555 Hugging Face 发布 Docmatix 文档视觉问答数据集，规模扩大 240 倍
Hugging Face 发布 Docmatix，一个面向文档视觉问答（DocVQA）的大型数据集，含 240 万张图像和 950 万问答对，来自 130 万份 PDF，规模为此前数据集的 240 倍。
Hugging Face Blog精选AI 评分6060 TGI 推出 Multi-LoRA serving，一次部署可服务多个微调模型
Hugging Face 在 TGI 中推出 Multi-LoRA serving，只部署一次基座模型 mistralai/Mistral-7B-v0.1，即可按请求动态选择 LoRA 适配器，一次部署相当于服务多个微调模型。
推荐理由：原文给出部署步骤、显存开销和成本对比数据，读者可以据此评估一次部署服务多个微调模型是否适合自己的场景。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 SmolLM 小型模型系列，含 135M、360M 和 1.7B 三种规格
Hugging Face 发布 SmolLM 小型语言模型系列，提供 135M、360M 和 1.7B 三种参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：官方公开了小型模型的数据配比、训练细节和完整语料，同档评测结果与端侧部署信息都可查证，适合关心小模型训练的人参考。
Hugging Face BlogAI 评分5454 Hugging Face 团队讲解如何用 distilabel 构建 Argilla 2.0 聊天机器人
Hugging Face 团队发布教程，讲解如何用 distilabel 从 Argilla 2.0 技术文档合成三元组数据，微调 BAAI/bge-base-en-v1.5 嵌入模型（结合 TripletLoss 与 MatryoshkaLoss）。
Hugging Face Blog精选AI 评分6464 NuminaMath 7B TIR 如何夺得首届 AIMO 进步奖
Numina 与 Hugging Face 合作微调的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize，在私有测试集 50 题中解出 29 题。
推荐理由：原文由获奖团队完整给出两阶段微调、SC-TIR 推理和防过拟合验证的做法，方法可迁移到数学推理模型训练。
Hugging Face BlogAI 评分4141 Hugging Face 在 Dataset Hub 上试验基于 Presidio 的 PII 自动检测
Hugging Face 正在 Dataset Hub 上试验一项新功能，使用开源 PII 检测工具 Presidio 自动生成数据集中个人身份信息（PII）的报告。报告可帮助开发者在训练前评估数据集的 PII 风险，也帮助数据集所有者在发布前验证其 PII 过滤流程。Hugging Face 还感谢法国 CNIL 在 GDPR 合规方面提供的指导。
Hugging Face Blog精选AI 评分6161 Hugging Face 教你用 TRL 的 DPO 微调视觉语言模型并减少幻觉
TRL 库现已支持对视觉语言模型做 DPO 偏好优化训练，官方博客以 Idefics2-8b 为例给出完整教程。
推荐理由：原文给出从数据格式化、显存估算到 LoRA 量化的完整 DPO 训练流程，读者可直接迁移到自己的 VLM 微调场景。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 KerasHub 集成上线，可直接加载 Transformers 库 300K+ 模型
Hugging Face 宣布 Transformers 与 KerasHub 采用共享模型保存格式，KerasHub 现可直接加载 Hub 上 346,268 个 Transformers 库模型。
推荐理由：官方宣布 Transformers 与 KerasHub 共享模型保存格式，KerasHub 用户可直接加载 Hub 上 300K+ 模型并切换 TensorFlow、JAX 或 PyTorch 后端。
Hugging Face Blog精选AI 评分6161 Hugging Face 在 Inference Endpoints 和 Spaces 上开放 Google Cloud TPU
Hugging Face 宣布用户可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU v5e 加速 AI 应用。
推荐理由：Hugging Face 官方宣布接入 Google TPU，给出了实例配置和价格，读者可据此评估推理部署的成本选项。
Hugging Face BlogAI 评分3535 Banque des Territoires（CDC 集团）× Polyconseil × Hugging Face：用主权数据方案助力法国大型环保计划 EduRénov
Banque des Territoires（CDC 集团）、Polyconseil 与 Hugging Face 于今年 1 月启动合作，为支持法国学校生态改造计划 EduRénov 构建基于 RAG 的主权数据方案，第一阶段已完成。
Hugging Face BlogAI 评分4747 Hugging Face Dataset Search 推出四项新功能
Hugging Face 为 Dataset Hub 的 Dataset Search 推出四项新功能：按模态（文本、图像、音频、表格等）、按行数大小、按存储格式、按兼容库筛选。行数信息基于文件元数据，元数据缺失时按前 5GB 内容估算。这些筛选可与 Language、Tasks、Licenses 等现有过滤器组合使用。
Hugging Face BlogAI 评分2828 如何在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 与 MILA 重构了多模态蛋白质语言模型 ProtST，并发布在 Hugging Face Hub 上，演示如何用 Intel Gaudi 2 加速器和 Optimum for Intel Gaudi 库进行推理与微调。
Hugging Face BlogAI 评分5757 Hugging Face 用 Transformers Agents 的 Code Agent 登顶 GAIA 基准
Hugging Face 报告其基于 Transformers Agents 构建的 ReactCodeAgent 在 GAIA 基准上取得佳绩：验证集得分 44.2%，排名第一，领先第二名 4 分；测试集得分 33.3%，排名第二，超过 Microsoft Autogen 的提交，并在最难的 Level 3 题目上拿到最佳平均分。
Hugging Face Blog精选AI 评分7878 Google 发布开源大语言模型 Gemma 2，Hugging Face 完成生态集成
Google 发布开源大语言模型 Gemma 2，提供 9B 和 27B 两种参数规模，各有 base 与 instruction-tuned 版本，已上架 Hugging Face Hub。
推荐理由：Hugging Face 官方介绍 Gemma 2 四个开放权重模型的技术细节与生态集成，并给出 transformers、TRL 微调和 Inference Endpoints 部署的可用方法。
Hugging Face BlogAI 评分2626 XLSCOUT 推出专利与 IP 专用嵌入模型 ParaEmbed 2.0，Hugging Face 专家团队提供支持
总部位于多伦多的知识产权 AI 公司 XLSCOUT 联合 Hugging Face Expert Support Program 推出专利嵌入模型 ParaEmbed 2.0，通过在专家精选的多领域专利数据上微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分5252 Hugging Face 实操教程：微调 Florence-2 完成 DocVQA
Hugging Face 发布 Florence-2 微调教程。微软 2024 年 6 月发布的 Florence-2 有 0.2B 和 0.7B 两种规模，官方模型不含 VQA 能力。
Hugging Face BlogAI 评分3434 Data Is Better Together 回顾与展望：Hugging Face 与 Argilla 的开源数据共建计划
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划回顾了开源社区共建数据集的进展。
Hugging Face BlogAI 评分2424 Prezi 如何借助 Hugging Face Hub 与 Expert Support Program 加速多模态机器学习路线图
视觉演示软件公司 Prezi 加入了 Hugging Face Expert Support Program，由专属专家协助其将更小、更高效的开源模型整合进 ML 工作流，包括在管线中引入开源 re-ranker 模型，以比 LLM 更便宜、更快、更好地为演示文稿匹配图片与文本。
Hugging Face BlogAI 评分4949 BigCodeBench：HumanEval 的新一代继任者
Hugging Face 发布 BigCodeBench，用于在无污染的实际编程任务上评估大语言模型，定位为 HumanEval 的新一代继任者。
Hugging Face BlogAI 评分5757 Hugging Face Accelerate 如何统一 DeepSpeed 与 FSDP 的混合精度行为
Hugging Face 发布博客，解释通过 Accelerate 使用 DeepSpeed 与 PyTorch FSDP 训练 Mistral-7B 时结果不一致的原因：DeepSpeed 默认把主权重上转 fp32，而 FSDP 原生不强制上转。
Hugging Face BlogAI 评分5353 Hugging Face 在 TRL 中发布 RLOO Trainer，为在线 RLHF 提供更轻量的 PPO 替代方案
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）在线 RLHF 训练器，作为 PPO 的替代方案。
Hugging Face Blog精选AI 评分7272 Stable Diffusion 3 Medium 上线 Hugging Face Hub 并支持 Diffusers
Stable Diffusion 3 Medium（2B 参数）现已在 Hugging Face Hub 开放，可通过 🧨 Diffusers 使用，并附 DreamBooth 与 LoRA 训练脚本。
推荐理由：Hugging Face 官方讲解了 SD3 的 MMDiT 架构与 Diffusers 用法，附内存与性能优化数据，可直接迁移到自己的推理和微调流程。
Hugging Face BlogAI 评分2424 Hugging Face 解析 Transformers 文档为何需要重新设计
Hugging Face 解释为何要重新设计 Transformers 文档：内容随文本之外的模态、LLM 与优化时代增量堆积，显得杂乱难导航。改版将面向开发者，转向 code-first 和解决方案导向，并以灵活有机的结构取代僵化的 Diátaxis 分类，通过整合而非追加内容来统一文档体验。
Hugging Face BlogAI 评分3737 Hugging Face Embedding Container for Amazon SageMaker 正式发布
Hugging Face 宣布面向 Amazon SageMaker 的 Embedding Container 正式可用（GA），基于 Text Embedding Inference（TEI），支持在 SageMaker 上高效部署嵌入模型以构建 RAG 等生成式 AI 应用。
Hugging Face BlogAI 评分4848 Artificial Analysis 推出 Text to Image 排行榜与 Arena
Artificial Analysis 与 Hugging Face 推出基于人类偏好的 Text to Image 排行榜和 Image Arena，ELO 分数基于 Arena 收集的 45,000 多条人类图像偏好计算，每个模型生成 700 多张图像。
Hugging Face BlogAI 评分5454 Cubzh 与 Gigax 联合推出 NPC-Playground，可在浏览器与 LLM 驱动的 NPC 互动
Cubzh 和 Gigax 联合 Hugging Face 发布 NPC-Playground，一个可在浏览器直接体验的 3D 演示，玩家可与 LLM 驱动的 NPC 对话互动。
Hugging Face BlogAI 评分3131 Hugging Face 为 Intel Gaudi 优化 assisted generation 加速文本生成
Hugging Face 将 assisted generation（基于 Speculative Sampling）适配并优化到 Intel Gaudi 处理器，现已合入 Optimum Habana，通过 .generate() 的 assistant_model 参数指定 draft 模型即可使用。
Hugging Face Blog精选AI 评分6262 Hugging Face 通报 Spaces 平台密钥未授权访问事件并启动整改
Hugging Face 通报其 Spaces 平台遭未授权访问，部分 Spaces 秘钥可能被读取，官方已撤销相关 HF token 并邮件通知受影响用户。官方建议用户刷新密钥或改用细粒度访问 token，已移除 org token、为 Spaces 秘钥部署 KMS，并计划在功能对齐后弃用经典读写 token，同时已报警并向数据保护机构报告。
推荐理由：官方通报了 Spaces 秘钥未授权访问事件、已撤销的 token 范围和 KMS 等整改措施，受影响用户可据此排查自身密钥。