Hugging Face Hub 2024 安全功能要点盘点
Hugging Face 盘点截至 2024 年 8 月 6 日 Hub 上的主要安全功能。所有用户可用细粒度 token、双因素认证（2FA）、GPG commit signing、组织级访问控制，以及自动安全扫描流水线（ClamAV 恶意软件扫描、picklescan 扫描 pickle 文件、trufflehog 扫描密钥）。
#产品更新
#产品更新
今日 9 条Hugging Face BlogAI 评分4242
Hugging Face BlogAI 评分4040 Hugging Face 与 NVIDIA NIM 推出 Serverless 推理服务
Hugging Face 推出 NVIDIA NIM API (serverless) 推理服务，面向 Enterprise Hub 组织，基于 NVIDIA DGX Cloud 的 H100 GPU 按请求计算时间计费，价格为 $8.25/小时（约 $0.0023/秒）。
OpenAI NewsAI 评分4848 OpenAI 推出 SearchGPT 原型测试全新 AI 搜索功能
OpenAI 正在测试 SearchGPT，这是一个新搜索功能的临时原型。它可以为用户提供快速、及时的答案，并附上清晰、相关的来源。
OpenAI NewsAI 评分2727 OpenAI 为 ChatGPT Enterprise 推出全新合规与管理工具
OpenAI 为 ChatGPT Enterprise 推出合规 API 集成（Compliance API）、SCIM 用户管理和 GPT 控制功能，用于支持企业合规计划、数据安全和大规模用户访问管理。
Hugging Face Blog精选AI 评分6060 TGI 推出 Multi-LoRA serving，一次部署可服务多个微调模型
Hugging Face 在 TGI 中推出 Multi-LoRA serving，只部署一次基座模型 mistralai/Mistral-7B-v0.1，即可按请求动态选择 LoRA 适配器，一次部署相当于服务多个微调模型。
推荐理由：原文给出部署步骤、显存开销和成本对比数据，读者可以据此评估一次部署服务多个微调模型是否适合自己的场景。
Hugging Face BlogAI 评分4141 Hugging Face 在 Dataset Hub 上试验基于 Presidio 的 PII 自动检测
Hugging Face 正在 Dataset Hub 上试验一项新功能，使用开源 PII 检测工具 Presidio 自动生成数据集中个人身份信息（PII）的报告。报告可帮助开发者在训练前评估数据集的 PII 风险，也帮助数据集所有者在发布前验证其 PII 过滤流程。Hugging Face 还感谢法国 CNIL 在 GDPR 合规方面提供的指导。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 KerasHub 集成上线，可直接加载 Transformers 库 300K+ 模型
Hugging Face 宣布 Transformers 与 KerasHub 采用共享模型保存格式，KerasHub 现可直接加载 Hub 上 346,268 个 Transformers 库模型。
推荐理由：官方宣布 Transformers 与 KerasHub 共享模型保存格式，KerasHub 用户可直接加载 Hub 上 300K+ 模型并切换 TensorFlow、JAX 或 PyTorch 后端。
Hugging Face Blog精选AI 评分6161 Hugging Face 在 Inference Endpoints 和 Spaces 上开放 Google Cloud TPU
Hugging Face 宣布用户可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU v5e 加速 AI 应用。
推荐理由：Hugging Face 官方宣布接入 Google TPU，给出了实例配置和价格，读者可据此评估推理部署的成本选项。
Hugging Face BlogAI 评分4747 Hugging Face Dataset Search 推出四项新功能
Hugging Face 为 Dataset Hub 的 Dataset Search 推出四项新功能：按模态（文本、图像、音频、表格等）、按行数大小、按存储格式、按兼容库筛选。行数信息基于文件元数据，元数据缺失时按前 5GB 内容估算。这些筛选可与 Language、Tasks、Licenses 等现有过滤器组合使用。
Hugging Face BlogAI 评分2626 XLSCOUT 推出专利与 IP 专用嵌入模型 ParaEmbed 2.0，Hugging Face 专家团队提供支持
总部位于多伦多的知识产权 AI 公司 XLSCOUT 联合 Hugging Face Expert Support Program 推出专利嵌入模型 ParaEmbed 2.0，通过在专家精选的多领域专利数据上微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
OpenAI NewsAI 评分3232 Color Health 与 OpenAI 合作用 GPT-4o 推理改善癌症诊疗
Color Health 与 OpenAI 合作推出 Cancer Copilot 应用，利用 GPT-4o 识别缺失的诊断检查并生成个性化工作计划，帮助医护人员就癌症筛查和治疗做出循证决策，加速患者获得治疗的进程。
Hugging Face BlogAI 评分5353 Hugging Face 在 TRL 中发布 RLOO Trainer，为在线 RLHF 提供更轻量的 PPO 替代方案
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）在线 RLHF 训练器，作为 PPO 的替代方案。
OpenAI NewsAI 评分2424 OpenAI 深入解析 Voice Engine 的工作原理与安全研究
OpenAI 深入解析其文生语音模型 Voice Engine 的技术原理，并介绍围绕它开展的安全研究。文章探讨了该模型背后的技术机制。
Hugging Face BlogAI 评分3737 Hugging Face Embedding Container for Amazon SageMaker 正式发布
Hugging Face 宣布面向 Amazon SageMaker 的 Embedding Container 正式可用（GA），基于 Text Embedding Inference（TEI），支持在 SageMaker 上高效部署嵌入模型以构建 RAG 等生成式 AI 应用。
Mistral AI精选AI 评分6464 Mistral 在 la Plateforme 推出模型微调服务
Mistral 在 la Plateforme 推出模型定制能力，提供三条路径：开源微调 SDK mistral-finetune（基于 LoRA，可在自有基础设施微调全部开源模型）、平台无服务器微调服务（兼容 Mistral 7B 和 Mistral Small，后续数周将新增模型）以及面向特定客户、支持持续预训练的定制训练服务。
推荐理由：官方同时开放自托管微调 SDK、平台托管服务与定制训练三条路径，读者可据此对比选择适合自己的模型定制方式。
Mistral AIAI 评分1919 Mistral AI 微调黑客松 6 月 5 日开赛
Mistral AI 于 6 月 5 日至 30 日举办线上微调黑客松，参赛项目须使用其微调 API。前三名各获 2500 欧元 Mistral API 额度，部分参与者可申请 100 美元免费额度。参赛可个人或组队（最多 4 人），需提交代码链接、项目描述和不超过 2 分钟的视频，评分涵盖影响力、技术实现、创意与展示各占 25%。
Hugging Face BlogAI 评分5454 Cubzh 与 Gigax 联合推出 NPC-Playground，可在浏览器与 LLM 驱动的 NPC 互动
Cubzh 和 Gigax 联合 Hugging Face 发布 NPC-Playground，一个可在浏览器直接体验的 3D 演示，玩家可与 LLM 驱动的 NPC 对话互动。
OpenAI NewsAI 评分2727 OpenAI 推出 OpenAI for Education，面向高校提供平价 AI 方案
OpenAI 推出 OpenAI for Education，这是一项面向大学的经济实惠方案，帮助高校以负责任的方式将 AI 引入校园。该方案聚焦教育场景，降低院校部署 AI 的成本门槛。
OpenAI NewsAI 评分1414 OpenAI 推出面向非营利组织的 OpenAI for Nonprofits 计划
OpenAI 发布 OpenAI for Nonprofits 新计划，提升其工具对非营利组织的可及性。该计划为非营利组织使用 ChatGPT Team 和 Enterprise 提供折扣价格。
OpenAI NewsAI 评分2626 MavenAGI 基于 GPT-4 推出 AI 客服智能体
MavenAGI 推出一款基于 GPT-4 构建的 AI 客服智能体。Tripadvisor、Clickup 和 Rho 等公司已在使用该智能体，以节省时间并更好地服务客户。
Hugging Face BlogAI 评分5050 Hugging Face Inference Endpoints 支持 AWS Inferentia2 部署模型
Hugging Face 宣布 Inference Endpoints 新增 AWS Inferentia2（Inf2）实例支持，可将 Hub 上模型几步点击部署到 Inferentia2。
Hugging Face BlogAI 评分4949 Hugging Face 完成 AMD Instinct MI300 GPU 的一等公民级集成
Hugging Face 与 AMD 合作，将 AMD Instinct MI300 GPU 深度集成到 Hugging Face 平台，用户在 Azure ND MI300x V5 上使用 transformers 和 text-generation-inference 无需改代码。
Hugging Face BlogAI 评分4040 Hugging Face Spaces 推出 Dev Mode，可一键连接 VS Code 或 SSH
Hugging Face Spaces 推出 Dev Mode，用户可一键通过 VS Code 或 SSH 直连 Space 编辑代码，无需再用 git 推送本地更改，编辑后点“Refresh”即可测试。该功能目前处于 beta 阶段，仅面向 PRO 订阅用户开放，改动确认满意后可 commit 并 merge 持久保存。目前社区已创建超过 500,000 个 Spaces。
Hugging Face BlogAI 评分5858 Hugging Face 与 Dell 推出 Dell Enterprise Hub，简化本地部署和微调开源模型
Hugging Face 宣布推出 Dell Enterprise Hub（dell.huggingface.co），用于在 Dell 平台上便捷地本地训练和部署开源模型。
OpenAI NewsAI 评分1919 ChatGPT 的 5 个语音是如何选定的
OpenAI 与行业领先的选角和导演专业人士合作，从超过 400 份投稿中筛选，最终选定 ChatGPT 的 5 个语音。
OpenAI NewsAI 评分5050 ChatGPT 数据分析功能升级
OpenAI 改进了 ChatGPT 的数据分析功能，用户可与表格和图表交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Hugging Face BlogAI 评分5757 Hugging Face Transformers 推出 KV Cache 量化功能，支持更长文本生成
Hugging Face 在 Transformers 中新增 KV Cache 量化功能，通过降低缓存精度显著减少长上下文生成的内存占用，同时保持生成质量。
OpenAI NewsAI 评分2626 OpenAI 案例：打造 AI 驱动的 Canva Magic Studio
Canva 是一个视觉传播平台，每月有超过 175 million 人使用它制作演示文稿、视频、文档、网站和社交媒体图片等。世界上大多数知识工作者缺乏设计训练，Canva 凭借易用的界面、丰富的素材库和省时工具，让任何人都能创作出视觉效果出色的内容。
Hugging Face BlogAI 评分5050 Hugging Face 与 LangChain 联合推出合作伙伴包 langchain_huggingface
Hugging Face 与 LangChain 联合发布合作伙伴包 langchain_huggingface，由双方共同维护，旨在让 LangChain 用户更快用上 Hugging Face 生态的新功能。
Hugging Face BlogAI 评分3434 Hugging Face 推出 Open Arabic LLM Leaderboard 阿拉伯语大模型排行榜
Hugging Face 与 TII 推出 Open Arabic LLM Leaderboard（OALL），为阿拉伯语大模型提供专门的评测与比较平台，服务全球超 3.8 亿阿拉伯语使用者。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 Transformers Agents 2.0，Llama-3-70B 智能体登上 GAIA 排行榜第4
Hugging Face 发布 Transformers Agents 2.0，新增可基于过往观察迭代的 ReactCodeAgent 与 ReactJsonAgent，并支持社区智能体分享。
推荐理由：官方详解新 Agent 框架的设计原则与多智能体用例，并给出基准结果，开源模型表现可作选型参考。
Hugging Face BlogAI 评分2424 Hugging Face 企业版 Enterprise Hub 现已支持通过 AWS 账户订阅
Hugging Face 组织现在可通过 AWS Marketplace 使用 AWS 账户订阅升级到 Enterprise Hub，费用与公开定价一致，由 AWS 账户结算。
OpenAI NewsAI 评分5151 OpenAI 推出识别 AI 生成内容的新技术并加入 C2PA 指导委员会
OpenAI 推出新工具，帮助研究人员识别由其工具生成的内容，同时宣布加入内容来源与真实性联盟（C2PA）指导委员会，以推动行业标准。
OpenAI NewsAI 评分3535 OpenAI 谈 AI 时代的数据方法，并推出面向创作者的 Media Manager
ChatGPT 发布一年多后，OpenAI 阐述了其在 AI 时代的数据处理方法。公司同时推出 Media Manager，供创作者和内容所有者管理自己的内容，并介绍了未来方向。
OpenAI News精选AI 评分7272 OpenAI 推出 ChatGPT 和 Whisper API
OpenAI 宣布推出 ChatGPT 和 Whisper API。正文内容抓取失败，仅标题可用。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Open CoT Leaderboard 链式推理排行榜
Hugging Face 推出 Open CoT Leaderboard，追踪 LLM 生成有效链式推理的能力。榜单不评绝对准确率，而是计算有无 CoT 提示的准确率差值 Δ，以检验 CoT 对准确率的实际影响，并对训练数据污染更稳健。评测采用 LogiQA 和 LSAT 数据集（多数属于 AGIEval），任务以选择题形式呈现，目前已实现 Classic 和 Reflect 两种提示策略。
OpenAI NewsAI 评分2323 OpenAI 为 API 客户端推出更多企业级功能
OpenAI 面向 API 客户端推出更多企业级功能，包括更多安全特性与管控能力、Assistants API 更新，以及更好管理成本的工具。此次更新旨在加强对企业客户的支持。
Hugging Face BlogAI 评分2323 Ryght 借助 Hugging Face 专家支持赋能医疗与生命科学，正式发布 Ryght Preview
医疗与生命科学领域的生成式 AI 平台 Ryght 宣布正式发布 Ryght Preview，现已向所有用户公开。
Hugging Face BlogAI 评分5050 Hugging Face Hub 推出 Deploy on Google Cloud，可一键部署开源模型到 Vertex AI 和 GKE
Hugging Face 宣布在 Hub 上推出 Deploy on Google Cloud 集成，可将数千个基础模型通过 Vertex AI 或 GKE 部署到用户自己的 Google Cloud 账户中。
OpenAI NewsAI 评分2525 OpenAI 推出 fine-tuning API 改进并扩展自定义模型计划
OpenAI 为 fine-tuning API 新增多项功能，帮助开发者更精细地控制微调流程，同时宣布扩展自定义模型（custom models）计划的合作方式，为开发者提供更多基于 OpenAI 模型构建定制模型的选择。