Hugging Face 教程：用 Core ML 和 MLX 把 dots.ocr 转换到端侧运行
Hugging Face 发布三篇系列的第一部分，记录如何将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换为端侧运行。dots.ocr 由 1.2B 参数 NaViT 架构视觉编码器和 Qwen2.5-1.5B 主干组成，在 OmniDocBench 上超过 Gemini 2.5 Pro。
#部署/工程
#部署/工程
今日 4 条Hugging Face BlogAI 评分5656
OpenAI NewsAI 评分2929 OpenAI 如何用内部 AI 销售助手提升销售效率与客户成功
OpenAI 打造了内部 AI 销售助手，用来自动化客户调研、会议准备、产品知识和客户跟进。文章展示了这一助手在销售效率与客户成功工作中的实际应用。
Hugging Face BlogAI 评分4646 在 Intel Core Ultra 上用深度剪枝草稿模型加速 Qwen3-8B Agent
Hugging Face 与 Intel 基于 OpenVINO 在 Intel Core Ultra 集成 GPU 上加速 Qwen3-8B：用 Qwen3-0.6B 作草稿模型的投机解码带来约 1.3× 提速，再从草稿模型 28 层中剪掉 6 层并用 Qwen3-8B 生成的 500k 提示词数据微调后，提速提升至约 1.4×。
Hugging Face BlogAI 评分3333 Scaleway 正式成为 Hugging Face Inference Providers
Scaleway 已正式成为 Hugging Face Hub 支持的 Inference Provider，用户可通过 Hub 直接访问 gpt-oss、Qwen3、DeepSeek R1、Gemma 3 等开源权重模型。
Hugging Face BlogAI 评分5353 Hugging Face 推出 RiskRubric.ai 标准化模型风险评估平台
Hugging Face 联合 Cloud Security Alliance 和 Noma Security 推出 RiskRubric.ai，从透明、可靠、安全、隐私、社会安全和声誉六个维度为模型打 0-100 分并折算 A-F 等级。
Hugging Face BlogAI 评分4040 Public AI 接入 Hugging Face Inference Providers
Public AI Inference Utility 现已成为 Hugging Face Hub 支持的 Inference Provider，让用户可直接访问 Swiss AI Initiative、AI Singapore 等机构的公共模型，例如通过 vLLM 后端调用 swiss-ai/Apertus-70B-Instruct-2509。
Hugging Face Blog精选AI 评分7373 Hugging Face 详解 transformers 为支持 OpenAI GPT-OSS 所做的效率升级
Hugging Face 发文介绍为支持 OpenAI GPT-OSS 对 transformers 库的多项升级，包括从 Hub 下载预编译内核、原生 MXFP4 量化、张量并行与专家并行、动态滑动窗口 KV 缓存、Continuous Batching 和更快的模型加载。
推荐理由：Hugging Face 官方详解为支持 gpt-oss 对 transformers 做的各项升级，多数特性可复用到其他模型。
Hugging Face BlogAI 评分5353 Together AI 与 Hugging Face 集成，Hub 上兼容 LLM 可直接微调
Together AI 与 Hugging Face 宣布新功能，Hub 上任何兼容 LLM 都可用 Together 基础设施微调。
Hugging Face Blog精选AI 评分6464 Hugging Face ZeroGPU Spaces 如何用 PyTorch 预编译提速图像视频生成
Hugging Face 发文介绍如何在 ZeroGPU Spaces 中用 PyTorch ahead-of-time 编译优化生成式 demo，指出 torch.compile 与 ZeroGPU 短生命周期进程不兼容，需先导出再用 spaces.aoti_* API 编译加载。
推荐理由：原文给出 ZeroGPU 上 AoT 编译的完整步骤和 FP8、动态形状等进阶技巧，读者可以直接迁移到自己的 Spaces demo。
Hugging Face BlogAI 评分5757 Hugging Face 发布 kernel-builder 指南：从零构建并分发生产级 CUDA kernel
Hugging Face 发布 kernel-builder 使用指南，演示如何从零构建一个 RGB 转灰度的 CUDA kernel，并用 PyTorch C++ API 将其注册为 torch.ops 原生算子。
Hugging Face BlogAI 评分5858 Arm 与 ExecuTorch 0.7 将生成式 AI 带向大规模存量设备
Arm 宣布 ExecuTorch 0.7 beta 中 KleidiAI 默认启用，为 Arm CPU 设备带来自动加速，无需开发者改代码。
Hugging Face BlogAI 评分4545 Accelerate ND-Parallel 上手指南：如何高效进行多 GPU 训练
Hugging Face 与 Axolotl 在 Accelerate 中集成了 ND-Parallel，可通过 ParallelismConfig 类任意组合 DP。
OpenAI News精选AI 评分7474 OpenAI 面向开发者发布 GPT-5
OpenAI 在 API 平台推出 GPT-5，面向开发者提供高推理性能和新的控制选项。该模型在真实编码任务上取得同类领先的评测结果。
推荐理由：OpenAI 官方宣布 GPT-5 上线 API，读者可以据此了解其在推理和编码任务上的定位以及面向开发者的新控制能力。
OpenAI News精选AI 评分8282 OpenAI 发布 GPT-5 系统卡，介绍统一模型路由机制
OpenAI 发布 GPT-5 系统卡，说明统一模型路由系统如何在 gpt-5-main、gpt-5-thinking 和轻量版 gpt-5-thinking-nano 之间分配请求，以兼顾快速和智能的响应。各变体针对不同任务和开发者使用场景做了优化。
推荐理由：官方系统卡说明 GPT-5 的统一路由机制，读者可以据此理解不同 gpt-5 变体如何按任务分配响应。
Mistral AIAI 评分5050 Mistral 发布 Codestral 25.08 并整合面向企业的完整编码栈
Mistral AI 发布 Codestral 25.08，并整合 Codestral Embed、Devstral 和 Mistral Code IDE 插件形成面向企业的完整编码栈。
OpenAI NewsAI 评分2626 Intercom 打造可持续 AI 优势的三大经验
OpenAI 分享 Intercom 构建可扩展 AI 平台的三大经验，涵盖评估到架构的实践方法。这些经验帮助 Intercom 在客户支持领域保持领先。
Hugging Face BlogAI 评分5858 Hugging Face CLI 由 huggingface-cli 正式更名为 hf，并推出 hf jobs
Hugging Face 官方宣布 CLI 从 huggingface-cli 更名为 hf，命令重组为 hf <resource> <action> 的统一格式，认证命令归入 hf auth，旧命令仍可用但会提示弃用。
Hugging Face Blog精选AI 评分6767 Hugging Face 详解 Parquet 内容定义分块（CDC）如何配合 Xet 存储层降低数据传输量
Hugging Face 宣布 Parquet 内容定义分块（CDC）已在 PyArrow 和 Pandas 中可用，通过 use_content_defined_chunking=True 参数启用，可与其 Xet 存储层配合仅传输变化的数据块。
推荐理由：官方用七类数据变更场景实测 Parquet CDC 与 Xet 的去重效果，读者可据此评估迁移到 CDC 写入对上传下载的实际收益。
Hugging Face Blog精选AI 评分6767 Hugging Face 详解如何用 Diffusers 和 PEFT 加速 Flux LoRA 推理
Hugging Face 发布教程，介绍结合 Flash Attention 3、torch.compile 和 FP8 量化的 Flux.1-Dev LoRA 推理优化配方，在 H100 上相对基线取得 2.23x 加速，并支持 LoRA 热切换而不触发重编译。
推荐理由：原文给出可直接复用的 LoRA 推理优化配方和 H100、RTX 4090 两套实测延迟数据，并说明热切换避免重编译的限制。
OpenAI News精选AI 评分6262 OpenAI 与 Oracle 合作新增 4.5 GW Stargate 数据中心容量
Oracle 与 OpenAI 达成协议，将在美国新增开发 4.5 吉瓦的 Stargate 数据中心容量。OpenAI 称该投资将创造就业、加速美国再工业化，并推动其在 AI 领域的领导地位，是 Stargate 基础设施平台的一个重要里程碑。
推荐理由：官方宣布 Stargate 与 Oracle 新增 4.5 GW 数据中心合作，读者可据此了解 OpenAI 算力扩张的规模与节奏。
Hugging Face BlogAI 评分5454 NVIDIA NIM 支持 Hugging Face 上超 10 万个 LLM 的一键部署
NVIDIA NIM 推出单一 Docker 容器，可在 Hugging Face 上快速部署超过 100,000 个 LLM。容器会自动识别模型格式、架构与量化方式（如 FP16、FP8、GGUF、AWQ），并从 NVIDIA TensorRT-LLM、vLLM 和 SGLang 中选择推理后端，无需手动配置。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Hub 从 Git LFS 迁移至 Xet，即将向全量用户开放
Hugging Face 宣布 Hub 已从 Git LFS 迁移到 Xet，半年内 500,000 个仓库、20 PB 数据完成迁移，超 100 万用户在使用，5 月起新用户和组织默认启用 Xet。
推荐理由：官方复盘 Hub 从 Git LFS 迁移到 Xet 的完整过程，详解 Git LFS Bridge 与后台迁移机制及规模化踩坑经验。
Hugging Face Blog精选AI 评分6868 Hugging Face 撰文复盘 hf.co/mcp MCP Server 的构建与部署经验
Hugging Face 发布官方 MCP Server 并撰文复盘其构建过程，通过一个 URL 提供可定制的 Hub 工具接入和数千个 Spaces 应用访问。
推荐理由：官方团队复盘自建 MCP Server 的传输选型与部署权衡，涵盖 Streamable HTTP、无状态配置等可迁移经验。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布 ScreenEnv：在 Docker 中部署全栈桌面智能体
Hugging Face 发布 Python 库 ScreenEnv，可在 Docker 容器中创建隔离的 Ubuntu 桌面环境，用于测试和部署 GUI 智能体（Computer Use agents）。
推荐理由：原文给出在 Docker 中运行隔离 Ubuntu 桌面环境的用法和 API 与 MCP 两种接入方式，读者可直接复用搭建 GUI 智能体。
Hugging Face BlogAI 评分5050 Hugging Face 详解机器人异步推理：将动作预测与执行解耦
Hugging Face 提出机器人异步推理方案，将动作预测与执行解耦：PolicyServer 负责推理，RobotClient 维护动作队列并执行，两者通过 gRPC 通信，比同类 REST API 快约 5 倍。该方案已在 SmolVLA 中引入，任务完成时间提速约 2 倍，成功率相当，使机器人不再等待推理，支持中途重规划和更快的控制循环。
Hugging Face BlogAI 评分4646 Hugging Face 与 AMD 合作为 MI300X 打造自定义 kernel
Hugging Face 与 AMD 合作，为在 8 张 MI300X 节点上用 VLLM 以 FP8 部署 Llama 3.1 405B 优化 kernel，包含融合残差连接、RMS norm 与 FP8 转换、融合 SwiGLU 与 FP8 转换、skinny GEMM 三个优化 kernel，显著降低解码延迟。
Hugging Face BlogAI 评分4242 Hugging Face 生产基础设施的三个关键告警解析
Hugging Face 基础设施团队分享支撑其生产基础设施的三个关键监控告警：NAT Gateway 高吞吐量告警用于发现异常流量峰值并优化成本（如通过 DNS 覆盖让对象存储访问走私有低成本路径），以及 Hub 请求日志归档成功率告警。
Hugging Face BlogAI 评分5757 NVIDIA 发布 Llama Nemotron Nano VL 8B 视觉语言模型并上线 Hugging Face
NVIDIA 发布 Llama Nemotron Nano VL，一个面向智能文档处理的 8B 视觉语言模型，已在 Hugging Face 提供下载，并可通过 NVIDIA NIM API 使用。
Hugging Face BlogAI 评分5050 SGLang 集成 Hugging Face transformers 作为推理后端
SGLang 现已支持 Hugging Face transformers 作为推理后端，任何 transformers 兼容模型可开箱获得高性能推理。
Hugging Face BlogAI 评分5050 Groq 接入 Hugging Face Inference Providers
Hugging Face 宣布 Groq 成为 Hub 上的 Inference Provider，可直接在模型页和 JS、Python 客户端 SDK 中调用 Groq 托管的开源模型，包括 Meta 的 Llama 4 和 Qwen 的 QWQ-32B。
Hugging Face BlogAI 评分4646 长提示词如何阻塞其他请求——优化 LLM 性能
TNG 在 24 块 H100 GPU 集群上自托管多个 LLM，日均消耗超 1 亿 token、生成超 1000 万 token。文章分析 vLLM 默认 chunked-prefill 策略下长提示词会阻塞队列：prefill 各请求只能顺序执行，导致后续请求首 token 等待时间变长。
Hugging Face Blog精选AI 评分6464 Hugging Face Kernel Hub 五分钟入门教程
Hugging Face 官方博客介绍 Kernel Hub，开发者可通过 kernels 库的 get_kernel 一行代码加载预编译的优化计算内核，自动匹配 Python、PyTorch 和 CUDA 版本。
推荐理由：原文给出从加载到基准测试的完整可复现步骤，读者可据此评估把优化内核接入自己模型的实际收益。
Hugging Face BlogAI 评分3838 Featherless AI 接入 Hugging Face Inference Providers
Featherless AI 成为 Hugging Face Hub 支持的 Inference Provider，用户可在模型页面直接使用其 serverless 推理服务。
Hugging Face BlogAI 评分5050 如何用 LeRobot SO-101 机械臂对 Isaac GR00T N1.5 进行后训练
NVIDIA 发布 Isaac GR00T N1.5——首个开源通用人形机器人基础模型 GR00T N1 的首次重大更新，并提供用 LeRobot SO-101 机械臂遥操作数据进行微调的完整教程。
Mistral AIAI 评分5353 Mistral AI 发布 AI 基础设施服务 Mistral Compute
Mistral AI 发布 Mistral Compute，向客户提供私有集成 AI 基础设施，涵盖 GPU、编排、API、产品和服务，形态从裸金属服务器到全托管 PaaS。作为 NVIDIA 合作伙伴，初期提供数万块 GPU 并计划快速扩张，面向欧洲、中东、亚洲及南半球的主权、企业和研究机构，强调数据主权、欧洲合规与脱碳能源，已有 Orange、BNP Paribas、Thales 等启动伙伴。
Hugging Face BlogAI 评分4949 Hugging Face 联手 NVIDIA 推出 Training Cluster as a Service
Hugging Face 与 NVIDIA 在 GTC Paris 上宣布推出 Training Cluster as a Service，让全球研究机构可按需申请 GPU 集群并只为训练运行时长付费。
Mistral AIAI 评分4747 Mistral Code 发布：面向企业的 AI 编程助手开启 Private Beta
Mistral 发布 Mistral Code，一款面向企业开发团队的 AI 编程助手，基于开源项目 Continue 打造，今日面向 JetBrains IDE 和 VSCode 开放 private beta，GA 即将推出。
Hugging Face BlogAI 评分5656 Hugging Face TRL 支持与 GRPO 训练共置 vLLM，训练和推理共享同一批 GPU
Hugging Face 在 TRL v0.18.0 通过 PR #3394 引入 vllm_mode="colocate"，让 vLLM 不再以独立 HTTP 服务器运行，而是嵌入同一分布式进程组，与 GRPO 训练共享同一批 GPU，消除训练与生成之间的互相等待。
Hugging Face Blog精选AI 评分6060 Hugging Face 提出 Structured CodeAgent：用结构化生成提升代码智能体可靠性
Hugging Face 发布研究，让 CodeAgent 以强制 JSON 结构同时生成 thoughts 和 code，在 GAIA、MATH、SimpleQA、Frames 等基准上比常规 CodeAgent 平均高出 2-7 个百分点。
推荐理由：原文给出结构化输出结合 CodeAgent 的实测数据与适用边界，读者可据此判断自己的模型规模是否适合启用该方案。
Hugging Face BlogAI 评分4444 Dell Enterprise Hub 全新升级：一站式企业本地 AI 部署平台
Hugging Face 与 Dell 在 Dell Tech World 上发布新版 Dell Enterprise Hub，提供模型与应用套件，可在 Dell AI 服务器和 AI PC 上本地部署 AI。