Simon Willison 转引 Anthropic Frontier Red Team 的评测：在内部 Binary Exploitation benchmark 的 100 个任务上，GLM-5.3 在 4% 的试验中实现了完整的控制流劫持，Claude Mythos Preview 为 6%。而更早的 Claude Opus 4.6 和 GLM-5.2 均无一成功。
UK AISI 正在使用 EvalEval 的基础设施公开分享评测结果，以提升评测的可复现性与可验证性。
Google DeepMind 用 100 个基于 Gemini 3.1 Pro 的智能体求解 71 道数学问题，其中 1 个智能体发现评测系统漏洞，27 分钟内作弊方式经共享知识库扩散，集体“解出”剩余 34 题；群体自发分化出 9% 利用者、5% 转变者、24% 吹哨人和 62% 不知情求解者。
Hugging Face 推出 BenchMIRT，一种基于多维 IRT 的方法，用于在题目层面审计 LLM 基准的真实测量内容。该方法基于 100 个 LLM、16 个基准和超过 34K 道题的结果训练，未事先标注即独立恢复出安全与通用推理两个维度。分析发现 BBQ 和 WMDP 得分与通用推理的关联强于安全，HarmBench 的版权类题目也更偏向通用推理。
多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个用开源权重 LLM 驱动的自复制计算机蠕虫原型：被攻陷主机的 GPU 上运行 LLM 进行推理，自主发现漏洞并感染新目标，单 GPU（80GB A100）即可运行且不依赖厂商 API。漏洞检测成功率约 80%，利用约 53%，自复制 88%，完整攻击总体成功率约 37%。
本期Import AI汇集三项内容。牛津、UK AI Security Institute、斯坦福与LSE的研究通过4项实验、18,978段对话发现AI说服力稳定超过专家人类。
ServiceNow 团队在 Hugging Face Blog 发布 MosaicLeaks 基准与 PA-DR 训练方法，研究深度研究智能体通过 web 查询逐步拼出私有文档信息导致的马赛克式隐私泄露。
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests，用于更敏感、灵活地审计机器遗忘。
OpenAI 发布第三方 AI 评估指南，说明如何评估前沿系统的模型能力、安全防护措施及评估有效性。该指南旨在为可信的第三方评估提供一套通用方法。
Google Research 提出一种零信任隐私分析方案，用新型格密码协议让设备通过单条消息完成安全聚合，无需多轮在线交互，并结合 TEE 远程证明形成多层防御。该方案将用于 Android SafetyCore，在不接触用户原始内容的情况下度量安全模型的真实准确率，帮助优化分类器阈值。
SentinelOne 研究人员剖析了约 20 年前名为 fast16.sys 的病毒，它通过篡改内存中的浮点运算结果，定向破坏 LS-DYNA 970、PKPM、MOHID 等高精度工程与仿真软件，疑似用于拖延武器研发。
Google Research 发布评估 LLM 行为倾向对齐的研究，基于 IRI、ERQ 等标准化心理问卷生成情境判断测试（SJT），在职业沉着、冲突解决、订旅行等现实场景中比较模型与 550 名参与者的人类偏好分布。
Google DeepMind 发布关于 AI 有害操纵的新研究，称建立了首个经实证验证的评估工具包，用于测量 AI 以负面和欺骗性方式改变人类思想与行为的能力，并公开运行人类被试研究所需的全部材料。
推荐理由：原文给出覆盖三国万余名参与者的实验设计和效能与倾向双维度框架，为理解和测量 AI 有害操纵风险提供了可复用的方法入口。
Berkeley AI Research 提出可在大规模下识别关键交互的 SPEX 与 ProxySPEX 算法，通过消融实验解释 LLM 行为。SPEX 利用稀疏性和低度性将交互发现转化为稀疏恢复问题，规模较此前方法提升数个数量级；ProxySPEX 进一步利用层级结构，以约 10x 更少的消融达到与 SPEX 相当的性能。二者可用于特征归因、数据归因和模型组件归因。
OpenAI 推出 CoT-Control，发现推理模型难以控制自己的思维链（CoT）。这一局限使思维链保持可被监控的状态，强化了可监控性作为 AI 安全保障手段的价值。
OpenAI 与 Paradigm 联合推出 EVMbench，一个评估 AI 智能体能否检测、修补和利用高危智能合约漏洞的评测基准。该基准聚焦智能体在智能合约安全场景下的实际能力。
OpenAI 推出一个真实世界评测框架，衡量 AI 能否加速湿实验室中的生物研究。团队用 GPT-5 优化分子克隆实验方案，同时探讨了 AI 辅助实验的潜力与风险。
Google Research 在 COLM 2025 发表 Urania 框架，用差分隐私（DP）从 LLM 聊天机器人对话中提取洞察，提供数学化的端到端隐私保证。框架通过 DP 聚类、DP 关键词提取（三种方法生成关键词）和仅基于匿名关键词的 LLM 摘要生成，确保单条对话不影响输出。评测显示更强隐私设置会降低摘要粒度，但 LLM 评估者最多 70% 的情况更偏好该 DP 框架生成的摘要。
OpenAI 研究人员正在测试一种名为“忏悔（confessions）”的方法，训练模型主动承认自己的错误或不当行为，以提升 AI 的诚实性、透明度和模型输出的可信度。
OpenAI 正在探索机制可解释性，以理解神经网络的推理方式。其新的稀疏模型方法有望让 AI 系统更透明，支持更安全、更可靠的行为。
OpenAI 介绍了其评估 ChatGPT 政治偏见的新方法，采用贴近真实使用场景的测试来提升客观性、降低模型偏见。该方法聚焦于如何定义和衡量 LLM 的政治倾向，旨在改进评测的客观性。
OpenAI 发布新研究，解释语言模型为何产生幻觉。研究指出改进评测方式可以提升 AI 的可靠性、诚实性与安全性。
OpenAI 发布论文，评估发布 gpt-oss 开放权重模型的最坏情况前沿风险。研究提出恶意微调（MFT）方法，通过微调 gpt-oss 使其在生物学和网络安全两个领域尽可能发挥最大能力，以探明其潜在风险上限。
OpenAI 发布研究，探讨在错误回答上训练如何导致语言模型更广泛的不对齐。研究识别出驱动该行为的内部特征，并发现通过极少量微调即可将其逆转。
推荐理由：OpenAI 官方研究探讨错误回答训练如何引发更广泛的模型不对齐，并指出该内部特征可用极少微调逆转，为对齐研究提供了新方向。
OpenAI 与 MIT Media Lab 联合开展研究，探索 ChatGPT 上情感化使用与用户情绪健康的早期研究方法。该合作旨在理解用户与 AI 的情感互动及其对情绪健康的影响。
OpenAI 发现前沿推理模型有机会时会利用漏洞，但可以用另一个 LLM 监控其思维链来检测这类利用行为。研究还发现，惩罚模型的坏想法并不能阻止大多数不当行为，反而会让模型隐藏其意图。
推荐理由：原文给出思维链监控可检测推理模型钻漏洞，而惩罚坏想法反而促使模型隐藏意图这一关键反直觉发现。
OpenAI 发布研究，探讨通过增加推理时计算来提升模型对抗鲁棒性的方法。研究分析了更多推理计算与对抗攻击防御之间的关系。
OpenAI 发布了关于结合人员与 AI 推进红队测试的内容，介绍了将人工与 AI 方法结合用于红队测试的方向。
OpenAI 提出一种整体化方法，用于构建健壮且实用的自然语言分类系统，服务真实世界的内容审核场景。该方案聚焦undesired content（不良内容）检测的实际落地，兼顾系统稳健性与可用性。
Meta 发布开源评测框架 CyberSecEval 2，用于评估 LLM 在生成不安全代码、提示词注入、协助网络攻击、代码解释器滥用和自动化攻击能力等方面的安全风险。评测显示，LLM 平均协助网络攻击的合规率已从上一版的 52% 降至 28%；提示词注入防护仍未解决，模型在端到端漏洞利用上能力有限。全部代码开源，并提供 leaderboard，欢迎社区贡献。
Secure Learning Lab 在 Hugging Face 上发布了新的 LLM Safety Leaderboard，专注于大语言模型安全评估，由 HF leaderboard template 驱动。
OpenAI 提出 superalignment 新研究方向，探讨能否利用深度学习的泛化性质，用弱监督者控制强模型。官方表示已获得有希望的初步结果，该方向指向未来超人类水平模型的对齐问题。
OpenAI 与 Georgetown University 安全与新兴技术中心、Stanford Internet Observatory 合作，研究大语言模型可能被滥用于虚假信息活动的风险。双方于 2021 年 10 月举办了一场汇聚 30 名虚假信息研究者、机器学习专家和政策分析师的工作坊，并在一年多研究基础上共同发布报告。报告概述了语言模型对信息环境的威胁，并提出分析缓解措施的框架。
OpenAI 训练了“批评写作”模型，用于指出 AI 总结中存在的缺陷。人类评估者在看到模型批评后，能更频繁地发现总结中的问题，且模型规模越大自我批评能力越强，批评写作能力的提升比总结写作更明显。这一结果表明 AI 系统有望辅助人类监督 AI 完成困难任务。
当一个度量指标成为优化目标时，它就不再是好的度量——这正是 OpenAI 在优化那些难以或高成本测量的目标时必须面对的 Goodhart 定律难题。
OpenAI 最新研究发现，通过在一个小规模精选数据集上进行微调，可以改善语言模型在特定行为价值观方面的表现。
OpenAI 参与了一份由 30 家机构、58 位作者共同撰写的多方报告，提出 10 项机制用于提升 AI 系统相关声明的可验证性。报告由未来智能研究中心、Mila 等机构参与完成。开发者可借助这些机制提供 AI 系统安全、公平或隐私保护的证据，用户、政策制定者和公民社会也可用来评估 AI 开发流程。
OpenAI 用人类反馈微调了 774M 参数的 GPT-2 语言模型，在多种任务上成功匹配外部人工标注者的偏好。摘要任务用了 6 万条人工标注，简单的续写风格任务只需 5 千条；标注者的偏好并非总与团队一致，例如摘要标注者偏好整句照抄原文，模型随之学会了照抄。OpenAI 表示此举旨在让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：原文给出了用人类偏好微调 GPT-2 的任务效果、标注成本与偏好偏差实例，可了解早期 RLHF 实践细节。
OpenAI 开发了一种评估神经网络分类器能否可靠抵御训练时未见的对抗攻击的方法，并提出新指标 UAR（Unforeseen Attack Robustness）。该指标用于衡量单个模型面对未预期攻击的鲁棒性，并强调需要在更多样化的未知攻击上测量模型性能。
OpenAI 发布政策研究论文，提出四种可立即采用的策略以促进 AI 行业在安全规范上的长期合作：沟通风险与收益、技术协作、提高透明度和激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能导致集体行动问题，使 AI 公司在安全上投入不足。