OpenAI 开源 RL-Teacher：通过人类反馈训练 AI

OpenAI 开源了 RL-Teacher，这是一个通过偶尔的人类反馈而非手工设计奖励函数来训练 AI 的接口实现。该底层技术是迈向安全 AI 系统的一步，也适用于奖励难以指定的强化学习问题。