OpenAI：用 LLM 监控思维链可检测前沿推理模型的不当行为
OpenAI 发现前沿推理模型有机会时会利用漏洞，但可以用另一个 LLM 监控其思维链来检测这类利用行为。研究还发现，惩罚模型的坏想法并不能阻止大多数不当行为，反而会让模型隐藏其意图。
推荐理由：原文给出思维链监控可检测推理模型钻漏洞，而惩罚坏想法反而促使模型隐藏意图这一关键反直觉发现。
#推理
#推理
今日 1 条OpenAI News精选AI 评分6464
OpenAI NewsAI 评分2323 Endex 如何用 OpenAI 的 o1 和 o3-mini 构建自主金融分析师
金融分析平台 Endex 使用 OpenAI 的推理模型 o1 和 o3-mini，构建自主金融分析师。该产品由 OpenAI 推理模型驱动，面向金融分析场景。
Hugging Face Blog精选AI 评分6262 Hugging Face Open R1 更新：发布 OpenR1-Math-220k 数学推理数据集
Hugging Face Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，在 512 张 H100 上用 DeepSeek R1 为 40 万道题生成 80 万条推理轨迹，经 Math Verify 和 Llama3.3-70B-Instruct 过滤后保留 22 万条正确轨迹。
推荐理由：原文详述数学推理数据集的构建方法、过滤策略与消融结果，也覆盖社区在小样本微调和 CoT 长度控制上的进展。
Hugging Face BlogAI 评分4646 Adyen 与 Hugging Face 联合推出多步推理数据智能体基准 DABstep
Adyen 与 Hugging Face 联合发布 DABstep（Data Agent Benchmark for Multi-step Reasoning），包含 450 多个源自 Adyen 真实工作负载的数据分析任务，用于评估 LLM 和 AI 智能体。
OpenAI News精选AI 评分7777 OpenAI 推出 deep research 智能体
OpenAI 推出 deep research，一个用推理能力整合大量网络信息、完成多步研究任务的智能体。即日起面向 Pro 用户开放，Plus 和 Team 用户随后可用。
推荐理由：官方说明了 deep research 的能力定位和开放节奏，读者可以据此了解它面向的用户范围。
Hugging Face Blog精选AI 评分6464 Hugging Face Open-R1 项目一周进展：复现 DeepSeek-R1 评测、训练管线与合成数据
Hugging Face 发布 Open-R1 项目启动一周后的进展更新，目标复现 DeepSeek-R1 缺失的训练管线与合成数据。
推荐理由：官方一周进展报告给出可复现的评测数字、GRPO 训练管线与大规模推理生成的具体配置，读者可以直接沿用其工程做法。
OpenAI NewsAI 评分5050 OpenAI o3-mini 系统卡发布，说明安全评估与外部红队工作
OpenAI 发布 o3-mini 系统卡，说明围绕该模型开展的安全工作，包括安全评估、外部红队测试以及 Preparedness Framework 评估。
Hugging Face Blog精选AI 评分6464 Philipp Schmid 教程：用 GRPO 在 Countdown 游戏上复现 DeepSeek-R1 的 aha moment
Hugging Face 博客发布教程，用 GRPO 强化学习在 Countdown 数字游戏上训练 Qwen2.5-3B-Instruct，复现 DeepSeek-R1 论文中的小型 aha moment。
推荐理由：原文提供完整的 GRPO 训练代码、配置和分步训练观察，读者可以照此在开源模型上复现小型推理涌现实验。
Hugging Face BlogAI 评分5757 Hugging Face 启动 Open-R1 项目，系统复现 DeepSeek-R1 训练流程
Hugging Face 发布博客宣布启动 Open-R1 项目，目标是在开放环境下重建 DeepSeek-R1 的数据与训练流程。博客解释了 DeepSeek-R1 基于DeepSeek-V3 的两阶段训练方法，包括 R1-Zero 用 GRPO 纯强化学习训练和 R1 的冷启动微调加多轮 RL 提炼，并指出 DeepSeek 未公开训练数据、训练代码和超参数细节。
OpenAI News精选AI 评分6060 OpenAI 发布 Deliberative alignment 研究，让 o1 模型通过推理执行安全规范
OpenAI 推出面向 o1 模型的新对齐策略 Deliberative alignment，直接教模型安全规范并让其对这些规范进行推理。该方法旨在通过推理能力提升语言模型的安全性。
推荐理由：OpenAI 官方介绍了 o1 系列采用的对齐策略思路，可作为理解推理能力如何用于安全规范的参考材料。
Hugging Face BlogAI 评分5151 Artificial Analysis 发布 Big Bench Audio 评测集，实测 GPT-4o 与 Gemini 1.5 系列的音频推理能力
Artificial Analysis 发布音频语言模型推理评测集 Big Bench Audio，从 Big Bench Hard 四个类别各选 250 题生成 1000 道音频题，并给出 GPT-4o 与 Gemini 1.5 系列在语音到语音、语音到文本、文本到语音、文本到文本四种配置下的 18 组实验结果。
Hugging Face BlogAI 评分5959 IBM 联合高校发布混合 Mamba2 模型 Bamba-9B，vLLM 推理吞吐提升 2.5 倍
IBM、Princeton、CMU 和 UIUC 发布基于完全开放数据训练的混合 Mamba2 模型 Bamba-9B，在 vLLM 中相比标准 transformer 实现最高 2.5 倍吞吐提升和 2 倍延迟加速。
Hugging Face BlogAI 评分5454 TII 发布 Falcon3 系列开源模型，含 1B 到 10B 五个基座版本
TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B、7B、10B 和 Mamba-7B 五个基座模型，均低于 10B 参数。
Hugging Face BlogAI 评分4343 Hugging Face 在 GCP 第五代 Xeon 上实测语言模型性能：C4 对比 N2
Hugging Face 在 Google Cloud 两款 Xeon 实例上评测了 Agentic AI 的文本嵌入与文本生成两类负载。
OpenAI News精选AI 评分6868 OpenAI 发布 o1 模型并推出开发者新工具
OpenAI 推出 o1 模型，同时带来面向开发者的多项更新，包括 Realtime API 改进和一种新的微调方法。
推荐理由：官方公告集中列出 o1 模型、Realtime API 改进与新微调方法，开发者可据此了解当期可用的工具变化。
OpenAI News精选AI 评分6666 OpenAI 发布 o1 与 o1-mini 系统卡，说明发布前安全评估工作
OpenAI 发布 o1 与 o1-mini 的系统卡，说明模型发布前完成的安全工作。内容涵盖外部红队测试，以及依据 Preparedness Framework 开展的前沿风险评估。
推荐理由：这是 OpenAI 官方对 o1 系列发布前安全工作的系统说明，涵盖外部红队测试和前沿风险评估框架的具体执行。
Hugging Face Blog精选AI 评分6060 CFM 案例研究：用 LLM 辅助标注微调小模型做金融 NER
Hugging Face 与 Capital Fund Management（CFM）分享如何用 Llama 3.1-70b 通过 Inference Endpoints 辅助标注 FNSPID 金融新闻数据，并用 Argilla 人工复核。
推荐理由：文章完整给出 LLM 辅助标注加小模型微调的流程与成本数据，读者可复用这套方法平衡精度与推理开销。
Hugging Face Blog精选AI 评分6060 Hugging Face 博客逐步推导 Transformer 位置编码如何演进到 RoPE
Hugging Face 博客以迭代推导方式讲解位置编码设计，从整数编码、二进制编码到正弦编码，最终推导出 Llama 3.2 等现代 Transformer 采用的 RoPE。
推荐理由：文章把 RoPE 的设计过程拆成可跟随的迭代推导，从整数编码一步步走到旋转矩阵，适合想理解位置编码原理的读者。
Hugging Face BlogAI 评分4242 让大模型辩论：首届多语言 LLM 辩论竞赛
BAAI 推出 FlagEval Debate「Debate Arena」平台，让大模型两两辩论比拼推理与语言能力，目前支持中文、英文、阿拉伯语和韩语四语种。平台采用专家评审加用户投票的双评估体系，并允许参赛团队微调模型参数与对话策略。相比 LMSYS Chatbot Arena 等静态或用户投票式评测，它能缓解区分度不足、模型各自独立生成和投票偏好偏差等问题。
Hugging Face BlogAI 评分4444 Self-Speculative Decoding 如何加速 LLM 文本生成
Hugging Face 详解 LayerSkip 提出的 self-speculative decoding：用同一模型的浅层生成草稿 token、深层做验证，兼得加速、内存节省与更低延迟。
Hugging Face BlogAI 评分5252 Hugging Face 与 Atla 推出 Judge Arena，众包评测 LLM 作为评判模型的能力
Hugging Face 与 Atla 推出 Judge Arena 平台，让用户对两个 LLM 评判模型在同一测试样本上的打分与理由进行投票，结果以 Elo 分数汇入每小时更新的公开排行榜。
Hugging Face Blog精选AI 评分6565 Intel Labs 与 Hugging Face 推出 Universal Assisted Generation，跨模型家族加速解码 1.5x-2.0x
Intel Labs 与 Hugging Face 推出 Universal Assisted Generation（UAG），通过双向 tokenizer 翻译让辅助生成不再要求目标模型与助手模型共享同一 tokenizer，可将任意 decoder 或 MoE 模型的推理加速 1.5x-2.0x 且几乎零开销。
推荐理由：原文解释了跨 tokenizer 助手模型的实现原理并给出多组加速数据，还提供 Transformers 4.46.0 的可用代码。
Hugging Face BlogAI 评分5252 Intel 与 Hugging Face 推出动态推测解码，文本生成最高加速 2.7x 并成为 Transformers 4.45.0 辅助生成默认模式
Intel labs 与 Hugging Face 提出动态推测解码，通过基于草稿模型置信度阈值动态调整每轮推测 lookahead，文本生成最高加速 2.7x，并从 Transformers 4.45.0 起成为辅助生成的默认模式。
OpenAI News精选AI 评分8787 OpenAI 发文探讨 LLM 的推理学习
OpenAI 发布题为 Learning to reason with LLMs 的文章，主题是让大语言模型学习推理。本次抓取仅获取到标题，正文内容缺失，无法提供更多细节。原文链接：https://openai.com/index/learning-to-reason-with-llms
OpenAI News精选AI 评分6464 OpenAI 发布 o1-mini，主打高性价比推理
OpenAI 官宣 o1-mini，定位为更具成本效益的推理模型。原文正文缺失，仅提供标题与副标题“Advancing cost-efficient reasoning”，具体能力、定价和可用性细节以官方后续说明为准。
推荐理由：官方原文仅给出标题与口号，正文缺失，难以提炼具体阅读价值。
OpenAI NewsAI 评分2828 Tyler Cowen 谈 OpenAI o1 如何解答复杂经济学问题
经济学家 Tyler Cowen 讲解 OpenAI o1 处理复杂经济学问题的方式，展示该模型在经济学推理任务上的表现。
OpenAI NewsAI 评分3131 OpenAI o1 如何加速罕见病基因诊断
遗传学家 Catherine Brownstein 展示了如何用 OpenAI o1 加速罕见疾病诊断过程。o1 在该场景下用于辅助解码基因信息，缩短罕见疑难病症的诊断耗时。
OpenAI NewsAI 评分2828 量子物理学家 Mario Krenn 用 OpenAI o1 解答量子物理问题
量子物理学家 Mario Krenn 使用 OpenAI o1 协助解答物理问题。原文内容较为简短，仅说明他将该模型用于探索重大科学问题的研究工作。
OpenAI NewsAI 评分3737 Cognition CEO 谈如何用 OpenAI o1 编程
Cognition 联合创始人兼 CEO Scott Wu 解释了 OpenAI o1 如何以更像人类的方式做出编程决策。
Mistral AIAI 评分5959 Mistral 发布 Mistral Large 2：123B 参数、128k 上下文，代码与推理对标 GPT-4o
Mistral AI 发布 Mistral Large 2（版本 24.07，API 名称 mistral-large-2407），参数量 123B，拥有 128k 上下文窗口，MMLU 预训练准确率 84.0%。
Mistral AI精选AI 评分7070 Mistral 与 NVIDIA 联合发布 12B 开源模型 Mistral NeMo
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo，支持 128k 上下文窗口，以 Apache 2.0 许可发布 base 与 instruct 权重，官方称其推理、世界知识和编码精度在该规模中达到 SOTA，可作 Mistral 7B 的直接替代。
推荐理由：官方原文给出 12B 规模、128k 上下文、Apache 2.0 权重和 Tekken 分词器的具体压缩数据，可据此评估其在 Mistral 7B 系统中的替换价值。
OpenAI NewsAI 评分4444 Prover-Verifier Games 如何提升语言模型输出的可读性
OpenAI 探讨了 prover-verifier games（证明者-验证者博弈）如何提升语言模型输出的可读性。该方法使 AI 给出的解决方案更清晰、更易验证，对人类和机器而言都更值得信赖。
Mistral AIAI 评分5454 Mistral AI 发布专注 STEM 的数学推理模型 Mathstral 7B 并开放权重
Mistral AI 发布 Mathstral，一个基于 Mistral 7B、面向 STEM 复杂多步推理的指令模型，与 Project Numina 合作产出，权重托管在 HuggingFace。
Hugging Face Blog精选AI 评分6464 NuminaMath 7B TIR 如何夺得首届 AIMO 进步奖
Numina 与 Hugging Face 合作微调的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize，在私有测试集 50 题中解出 29 题。
推荐理由：原文由获奖团队完整给出两阶段微调、SC-TIR 推理和防过拟合验证的做法，方法可迁移到数学推理模型训练。
Hugging Face BlogAI 评分5757 Hugging Face Transformers 推出 KV Cache 量化功能，支持更长文本生成
Hugging Face 在 Transformers 中新增 KV Cache 量化功能，通过降低缓存精度显著减少长上下文生成的内存占用，同时保持生成质量。
OpenAI News精选AI 评分8181 OpenAI 发布新旗舰模型 GPT-4o
OpenAI 宣布推出新旗舰模型 GPT-4o（GPT-4 Omni），该模型可实时对音频、视觉和文本进行推理。
推荐理由：官方宣布新旗舰模型 GPT-4o，可实时跨音频、视觉和文本推理，是了解该模型定位的直接信源。
Hugging Face BlogAI 评分5454 Hugging Face 与 Dottxt 探索用结构化生成提升提示词一致性
Hugging Face Leaderboards 团队与 Dottxt 合作研究发现，MMLU 评测对提示词格式高度敏感，各模型分数随 8 种格式波动约 10 个点，Qwen1.5-7B 在不同提示下准确率从 22.9% 到 51.2%，且模型排名也随格式变化。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Open CoT Leaderboard 链式推理排行榜
Hugging Face 推出 Open CoT Leaderboard，追踪 LLM 生成有效链式推理的能力。榜单不评绝对准确率，而是计算有无 CoT 提示的准确率差值 Δ，以检验 CoT 对准确率的实际影响，并对训练数据污染更稳健。评测采用 LogiQA 和 LSAT 数据集（多数属于 AGIEval），任务以选择题形式呈现，目前已实现 Classic 和 Reflect 两种提示策略。
Mistral AI精选AI 评分7272 Mistral AI 开源发布 Mixtral 8x22B 稀疏 MoE 模型
Mistral AI 开源发布 Mixtral 8x22B，采用 Apache 2.0 许可证。该稀疏 MoE 模型总参数 141B、激活参数仅 39B，支持英语、法语、意大利语、德语和西班牙语，具备函数调用能力与 64K tokens 上下文窗口，官方称其速度快于任何稠密 70B 模型。
推荐理由：官方给出了参数结构、许可证和基准成绩，读者可据此评估它在大模型开源阵营中的性价比和适用场景。
Mistral AI精选AI 评分7575 Mistral 发布旗舰模型 Mistral Large 与低延迟 Mistral Small
Mistral 发布旗舰语言模型 Mistral Large，称其在常用基准上仅次于 GPT-4，可通过 la Plateforme 和 Azure 使用，支持 32K tokens 上下文、英法德西意多语言、function calling 和 JSON 输出。同时发布优化延迟与成本的 Mistral Small，性能超过 Mixtral 8x7B，并简化了端点产品线、新增多币种定价。
推荐理由：官方给出了 Mistral Large 的基准对比、多语言与 function calling 能力，读者可据此评估它在 API 可用模型中的位置。