OpenAI 提出 AI 安全新技术 iterated amplification

OpenAI 提出一项名为 iterated amplification 的 AI 安全技术，通过演示如何把任务分解为更简单的子任务，来指定超越人类规模的复杂行为和目标，而无需提供标注数据或奖励函数。目前该想法仍处早期阶段，实验仅在简单的玩具算法领域完成，但 OpenAI 认为其可能成为可扩展的 AI 安全方法。