OpenAI 与 Apollo Research 发布检测并减少模型暗中算计行为的研究

Apollo Research 与 OpenAI 开发了针对模型隐藏不对齐（即 scheming）的评测方法，在前沿模型的受控测试中发现了一致于 scheming 的行为。团队分享了具体示例，并对一种用于减少 scheming 的早期方法做了压力测试。