Prover-Verifier Games 如何提升语言模型输出的可读性
OpenAI 探讨了 prover-verifier games（证明者-验证者博弈）如何提升语言模型输出的可读性。该方法使 AI 给出的解决方案更清晰、更易验证，对人类和机器而言都更值得信赖。
全部AI 动态
全部动态
今日 34 条OpenAI NewsAI 评分4444
Mistral AIAI 评分5454 Mistral AI 发布专注 STEM 的数学推理模型 Mathstral 7B 并开放权重
Mistral AI 发布 Mathstral，一个基于 Mistral 7B、面向 STEM 复杂多步推理的指令模型，与 Project Numina 合作产出，权重托管在 HuggingFace。
Mistral AI精选AI 评分6262 Mistral 发布 Mamba 架构编码模型 Codestral Mamba
Mistral AI 发布 Mamba 架构的 Codestral Mamba，在 Albert Gu 和 Tri Dao 协助下训练，具备线性时间推理和理论无限序列建模能力，已测试 256k token 的上下文检索，参数量 7,285,403,648。
推荐理由：官方介绍了 Mamba 架构在线性推理和长序列上的特点、部署方式与许可证差异，读者可据此评估本地编码助手的可行性。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布 SmolLM 小型模型系列，含 135M、360M 和 1.7B 三种规格
Hugging Face 发布 SmolLM 小型语言模型系列，提供 135M、360M 和 1.7B 三种参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：官方公开了小型模型的数据配比、训练细节和完整语料，同档评测结果与端侧部署信息都可查证，适合关心小模型训练的人参考。
Hugging Face BlogAI 评分5454 Hugging Face 团队讲解如何用 distilabel 构建 Argilla 2.0 聊天机器人
Hugging Face 团队发布教程，讲解如何用 distilabel 从 Argilla 2.0 技术文档合成三元组数据，微调 BAAI/bge-base-en-v1.5 嵌入模型（结合 TripletLoss 与 MatryoshkaLoss）。
Hugging Face Blog精选AI 评分6464 NuminaMath 7B TIR 如何夺得首届 AIMO 进步奖
Numina 与 Hugging Face 合作微调的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize，在私有测试集 50 题中解出 29 题。
推荐理由：原文由获奖团队完整给出两阶段微调、SC-TIR 推理和防过拟合验证的做法，方法可迁移到数学推理模型训练。
OpenAI NewsAI 评分4141 OpenAI 与洛斯阿拉莫斯国家实验室宣布研究合作
OpenAI 与洛斯阿拉莫斯国家实验室宣布建立研究合作关系，双方将共同开发安全评估方法，用于评估和衡量前沿模型相关的生物能力与风险。
Hugging Face BlogAI 评分4141 Hugging Face 在 Dataset Hub 上试验基于 Presidio 的 PII 自动检测
Hugging Face 正在 Dataset Hub 上试验一项新功能，使用开源 PII 检测工具 Presidio 自动生成数据集中个人身份信息（PII）的报告。报告可帮助开发者在训练前评估数据集的 PII 风险，也帮助数据集所有者在发布前验证其 PII 过滤流程。Hugging Face 还感谢法国 CNIL 在 GDPR 合规方面提供的指导。
Hugging Face Blog精选AI 评分6161 Hugging Face 教你用 TRL 的 DPO 微调视觉语言模型并减少幻觉
TRL 库现已支持对视觉语言模型做 DPO 偏好优化训练，官方博客以 Idefics2-8b 为例给出完整教程。
推荐理由：原文给出从数据格式化、显存估算到 LoRA 量化的完整 DPO 训练流程，读者可直接迁移到自己的 VLM 微调场景。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 KerasHub 集成上线，可直接加载 Transformers 库 300K+ 模型
Hugging Face 宣布 Transformers 与 KerasHub 采用共享模型保存格式，KerasHub 现可直接加载 Hub 上 346,268 个 Transformers 库模型。
推荐理由：官方宣布 Transformers 与 KerasHub 共享模型保存格式，KerasHub 用户可直接加载 Hub 上 300K+ 模型并切换 TensorFlow、JAX 或 PyTorch 后端。
Hugging Face Blog精选AI 评分6161 Hugging Face 在 Inference Endpoints 和 Spaces 上开放 Google Cloud TPU
Hugging Face 宣布用户可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU v5e 加速 AI 应用。
推荐理由：Hugging Face 官方宣布接入 Google TPU，给出了实例配置和价格，读者可据此评估推理部署的成本选项。
Hugging Face BlogAI 评分3535 Banque des Territoires（CDC 集团）× Polyconseil × Hugging Face：用主权数据方案助力法国大型环保计划 EduRénov
Banque des Territoires（CDC 集团）、Polyconseil 与 Hugging Face 于今年 1 月启动合作，为支持法国学校生态改造计划 EduRénov 构建基于 RAG 的主权数据方案，第一阶段已完成。
Hugging Face BlogAI 评分4747 Hugging Face Dataset Search 推出四项新功能
Hugging Face 为 Dataset Hub 的 Dataset Search 推出四项新功能：按模态（文本、图像、音频、表格等）、按行数大小、按存储格式、按兼容库筛选。行数信息基于文件元数据，元数据缺失时按前 5GB 内容估算。这些筛选可与 Language、Tasks、Licenses 等现有过滤器组合使用。
Hugging Face BlogAI 评分2828 如何在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 与 MILA 重构了多模态蛋白质语言模型 ProtST，并发布在 Hugging Face Hub 上，演示如何用 Intel Gaudi 2 加速器和 Optimum for Intel Gaudi 库进行推理与微调。
Hugging Face BlogAI 评分5757 Hugging Face 用 Transformers Agents 的 Code Agent 登顶 GAIA 基准
Hugging Face 报告其基于 Transformers Agents 构建的 ReactCodeAgent 在 GAIA 基准上取得佳绩：验证集得分 44.2%，排名第一，领先第二名 4 分；测试集得分 33.3%，排名第二，超过 Microsoft Autogen 的提交，并在最难的 Level 3 题目上拿到最佳平均分。
OpenAI News精选AI 评分6060 OpenAI 发布 CriticGPT，用 GPT-4 找出 GPT-4 的错误
OpenAI 发布基于 GPT-4 的模型 CriticGPT，它能对 ChatGPT 的回复撰写批评意见，帮助人类训练员在 RLHF 过程中发现错误。
推荐理由：基于 GPT-4 的 CriticGPT 为 ChatGPT 回复写批评意见，帮助人类训练员在 RLHF 中发现错误。
OpenAI NewsAI 评分2222 OpenAI 与 TIME 达成内容战略合作
OpenAI 与 TIME 达成战略合作，利用其 101 年档案内容增强模型回答，并提供指向 Time.com 报道的链接。
Hugging Face Blog精选AI 评分7878 Google 发布开源大语言模型 Gemma 2，Hugging Face 完成生态集成
Google 发布开源大语言模型 Gemma 2，提供 9B 和 27B 两种参数规模，各有 base 与 instruction-tuned 版本，已上架 Hugging Face Hub。
推荐理由：Hugging Face 官方介绍 Gemma 2 四个开放权重模型的技术细节与生态集成，并给出 transformers、TRL 微调和 Inference Endpoints 部署的可用方法。
Hugging Face BlogAI 评分2626 XLSCOUT 推出专利与 IP 专用嵌入模型 ParaEmbed 2.0，Hugging Face 专家团队提供支持
总部位于多伦多的知识产权 AI 公司 XLSCOUT 联合 Hugging Face Expert Support Program 推出专利嵌入模型 ParaEmbed 2.0，通过在专家精选的多领域专利数据上微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分4242 Hugging Face 伦理与社会通讯 #6：构建更好的 AI——数据质量的重要性
Hugging Face 伦理与社会通讯第 6 期探讨 AI 数据质量：Reddit 与 Google 的内容合作因 RAG 搜索引擎输出“披萨加胶水”等错误推荐而受挫，说明并非所有数据都同样优质。好数据的关键在于与任务匹配，需具备相关性、全面性、时效性并缓解偏见。文章还阐述高质量数据可提升模型性能、鲁棒性、效率与可复现性，并建议通过去重、内容过滤、人工反馈和数据治理框架来保障质量。
Hugging Face BlogAI 评分5252 Hugging Face 实操教程：微调 Florence-2 完成 DocVQA
Hugging Face 发布 Florence-2 微调教程。微软 2024 年 6 月发布的 Florence-2 有 0.2B 和 0.7B 两种规模，官方模型不含 VQA 能力。
OpenAI NewsAI 评分5252 OpenAI 收购 Rockset
OpenAI 官方宣布收购 Rockset。本次公告仅含标题，未提供更多交易细节。
OpenAI NewsAI 评分2222 OpenAI 通过网络安全资助计划赋能防御者
OpenAI 推出网络安全资助计划，支持网络安全领域的创新研究及 AI 技术在其中的应用。该计划面向防御者，旨在推动 AI 与网络安全的融合。
OpenAI NewsAI 评分4141 OpenAI 发布改进一致性模型训练的新技术
OpenAI 介绍了一致性模型训练的改进技术。一致性模型是一类新兴生成模型，无需对抗训练即可一步生成高质量数据样本。
OpenAI NewsAI 评分3232 OpenAI 的 Consistency Models 研究
Consistency Models 是 OpenAI 发布的一项生成模型研究，针对扩散模型的问题提出改进。扩散模型虽显著推进了图像、音频和视频生成，但其依赖的迭代采样过程导致生成速度慢。
OpenAI NewsAI 评分2525 OpenAI 提出面向真实世界不良内容检测的整体化方法
OpenAI 提出一种整体化方法，用于构建健壮且实用的自然语言分类系统，服务真实世界的内容审核场景。该方案聚焦undesired content（不良内容）检测的实际落地，兼顾系统稳健性与可用性。
Hugging Face BlogAI 评分3434 Data Is Better Together 回顾与展望：Hugging Face 与 Argilla 的开源数据共建计划
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划回顾了开源社区共建数据集的进展。
Hugging Face BlogAI 评分2424 Prezi 如何借助 Hugging Face Hub 与 Expert Support Program 加速多模态机器学习路线图
视觉演示软件公司 Prezi 加入了 Hugging Face Expert Support Program，由专属专家协助其将更小、更高效的开源模型整合进 ML 工作流，包括在管线中引入开源 re-ranker 模型，以比 LLM 更便宜、更快、更好地为演示文稿匹配图片与文本。
OpenAI NewsAI 评分2626 Paf 全公司采用 ChatGPT Enterprise，工程师用 custom GPTs 提升开发效率
Paf 在全公司采用 ChatGPT Enterprise，工程师每天使用 custom GPTs 加速日常开发任务，并将 ChatGPT Enterprise 集成到 grit:lab 编程学院（gritlab.ax），以 AI 增强的系统架构思维培养下一代软件开发者。目前 Paf 有 70% 的员工活跃使用 ChatGPT Enterprise，覆盖财务、HR、市场和客户支持等业务团队。
Hugging Face BlogAI 评分4949 BigCodeBench：HumanEval 的新一代继任者
Hugging Face 发布 BigCodeBench，用于在无污染的实际编程任务上评估大语言模型，定位为 HumanEval 的新一代继任者。
OpenAI NewsAI 评分3232 Color Health 与 OpenAI 合作用 GPT-4o 推理改善癌症诊疗
Color Health 与 OpenAI 合作推出 Cancer Copilot 应用，利用 GPT-4o 识别缺失的诊断检查并生成个性化工作计划，帮助医护人员就癌症筛查和治疗做出循证决策，加速患者获得治疗的进程。
OpenAI News精选AI 评分6767 OpenAI 任命美国陆军退役上将 Paul M. Nakasone 进入董事会
OpenAI 宣布任命美国陆军退役上将 Paul M. Nakasone 进入董事会，其将为不断扩大的董事会带来网络安全经验，并将加入董事会的安全与保障委员会。
推荐理由：官方宣布美国陆军退役上将 Paul M. Nakasone 加入董事会并进入安全与保障委员会，读者可据此关注其网络安全背景对公司安全方向的影响。
Hugging Face BlogAI 评分5757 Hugging Face Accelerate 如何统一 DeepSpeed 与 FSDP 的混合精度行为
Hugging Face 发布博客，解释通过 Accelerate 使用 DeepSpeed 与 PyTorch FSDP 训练 Mistral-7B 时结果不一致的原因：DeepSpeed 默认把主权重上转 fp32，而 FSDP 原生不强制上转。
Hugging Face BlogAI 评分5353 Hugging Face 在 TRL 中发布 RLOO Trainer，为在线 RLHF 提供更轻量的 PPO 替代方案
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）在线 RLHF 训练器，作为 PPO 的替代方案。
Hugging Face Blog精选AI 评分7272 Stable Diffusion 3 Medium 上线 Hugging Face Hub 并支持 Diffusers
Stable Diffusion 3 Medium（2B 参数）现已在 Hugging Face Hub 开放，可通过 🧨 Diffusers 使用，并附 DreamBooth 与 LoRA 训练脚本。
推荐理由：Hugging Face 官方讲解了 SD3 的 MMDiT 架构与 Diffusers 用法，附内存与性能优化数据，可直接迁移到自己的推理和微调流程。
OpenAI News精选AI 评分7979 OpenAI 与 Apple 宣布合作，将 ChatGPT 整合进 Apple 体验
OpenAI 与 Apple 宣布建立合作关系，将 ChatGPT 整合到 Apple 体验中。本次为官方简短公告，未提供更多整合细节。
推荐理由：原文出自 OpenAI 官方公告，说明合作双方和整合方向，可作为了解两家公司合作基本事实的入口。
OpenAI NewsAI 评分5757 OpenAI 任命 Sarah Friar 为 CFO、Kevin Weil 为 CPO
OpenAI 宣布迎来两位高管：Sarah Friar 出任 CFO，Kevin Weil 出任 CPO。
OpenAI NewsAI 评分2424 OpenAI 深入解析 Voice Engine 的工作原理与安全研究
OpenAI 深入解析其文生语音模型 Voice Engine 的技术原理，并介绍围绕它开展的安全研究。文章探讨了该模型背后的技术机制。
Hugging Face BlogAI 评分2424 Hugging Face 解析 Transformers 文档为何需要重新设计
Hugging Face 解释为何要重新设计 Transformers 文档：内容随文本之外的模态、LLM 与优化时代增量堆积，显得杂乱难导航。改版将面向开发者，转向 code-first 和解决方案导向，并以灵活有机的结构取代僵化的 Diátaxis 分类，通过整合而非追加内容来统一文档体验。
Hugging Face BlogAI 评分3737 Hugging Face Embedding Container for Amazon SageMaker 正式发布
Hugging Face 宣布面向 Amazon SageMaker 的 Embedding Container 正式可用（GA），基于 Text Embedding Inference（TEI），支持在 SageMaker 上高效部署嵌入模型以构建 RAG 等生成式 AI 应用。