OpenAI 构建可稳定欺骗神经网络的对抗图像
OpenAI 制造出在多尺度、多视角下仍能稳定欺骗神经网络分类器的对抗图像。这一结果回应了此前关于自动驾驶汽车因采集多尺度、多角度图像而难以被恶意欺骗的说法。
#OpenAI
#OpenAI
今日 9 条OpenAI NewsAI 评分5050
OpenAI NewsAI 评分5454 OpenAI 开源基于 MuJoCo 的高性能 Python 机器人仿真库
OpenAI 开源一个用于机器人仿真的高性能 Python 库，基于 MuJoCo 引擎构建。该库来自 OpenAI 过去一年在机器人研究中的积累。
OpenAI News精选AI 评分8383 OpenAI 与 DeepMind 合作提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，无需人类编写目标函数，通过让人类判断两个候选行为哪个更好来推断人类意图。背景是复杂目标用简单代理函数表达偏差可能引发危险行为，该方法旨在减少这一安全风险。
推荐理由：OpenAI 与 DeepMind 安全团队合作的算法通过人类两两偏好比较来推断目标，省去手写目标函数，是安全对齐方向的早期基础工作。
OpenAI NewsAI 评分3030 OpenAI 探讨多智能体环境：学习合作、竞争与沟通
OpenAI 认为多智能体竞争环境是通往 AGI 的垫脚石。这类环境具备两大优势：环境难度天然随对手水平形成课程，若对手是自我克隆则完全匹配自身水平；同时不存在稳定均衡，智能体始终面临变聪明的压力。这与传统环境体验迥异，仍需更多研究。
OpenAI NewsAI 评分4646 OpenAI 开源 Baselines 强化学习算法：首批发布 DQN 及其三个变体
OpenAI 开源了 Baselines 项目，旨在复现性能与已发表结果持平的强化学习算法。首批发布包含 DQN 及其三个变体，其余算法将在随后几个月内陆续放出。
OpenAI News精选AI 评分6464 OpenAI 展示完全在仿真中训练、看一次即可学会新任务的机器人系统
OpenAI 发布一套完全在仿真中训练、部署到实体机器人上的机器人系统。该系统只需观看任务演示一次即可学会新任务。
OpenAI NewsAI 评分3838 OpenAI 发布开源机器人仿真软件 Roboschool
OpenAI 发布 Roboschool，一款用于机器人仿真的开源软件，并与 OpenAI Gym 集成。
OpenAI News精选AI 评分6262 OpenAI 发布无监督情感神经元，仅凭预测下一字符学得情感表示
OpenAI 开发了一个无监督系统，仅在 Amazon 评论文本上训练预测下一个字符，却学到了优秀的情感表示。方法无需情感标注数据。
推荐理由：原文说明模型仅靠预测 Amazon 评论下一字符就学到优秀情感表示，展示了无监督表征的潜力。
OpenAI NewsAI 评分1414 OpenAI 推出物理世界垃圾检测 AI
OpenAI 打造了全球首个完全在仿真环境中训练、并部署到实体机器人上的垃圾检测 AI。该系统实现了从模拟训练到物理世界的落地应用。
OpenAI News精选AI 评分6767 OpenAI 提出进化策略可作为强化学习的可扩展替代方案
OpenAI 发现进化策略（ES）这一已有数十年历史的优化技术在 Atari、MuJoCo 等现代 RL 基准上可媲美标准强化学习，同时克服了 RL 的诸多不便。
推荐理由：原文指出进化策略在 Atari 和 MuJoCo 基准上可与标准 RL 相当，并避开 RL 的诸多不便。
OpenAI NewsAI 评分4343 OpenAI 支持 ML 期刊 Distill 上线
OpenAI 宣布支持机器学习期刊 Distill 的上线。Distill 是一种新型期刊，旨在以优质的方式传播机器学习研究成果，无论这些成果是新研究还是已有成果。
OpenAI NewsAI 评分3636 OpenAI 研究：智能体自学开发出自己的语言
OpenAI 发布新研究，让 AI 智能体发展出自己的语言进行通信。这项研究展示了智能体在训练过程中自主形成交流方式的能力。
OpenAI NewsAI 评分5151 OpenAI 研究多智能体群体中有根基的组合式语言的涌现
OpenAI 发布论文《Emergence of grounded compositional language in multi-agent populations》，研究多智能体群体中有根基的组合式语言如何涌现。正文抓取失败，仅标题可用，具体方法与结果以原文为准。
OpenAI NewsAI 评分3434 OpenAI 解析对抗样本如何攻击机器学习
对抗样本是攻击者刻意构造的输入，能让机器学习模型出错，类似机器的“视觉错觉”。文章展示了对抗样本在不同媒介上的工作方式，并讨论了防御这类攻击之所以困难的原因。
OpenAI NewsAI 评分1414 OpenAI 团队更新：规模已达 45 人
OpenAI 团队规模已达 45 人。团队正推动 AI 能力前沿，包括验证新想法、构建新软件系统，以及在机器人上部署机器学习。
OpenAI NewsAI 评分1919 真实环境中的错误奖励函数：强化学习的一种失效模式
OpenAI 探讨强化学习算法中的一种失效模式：奖励函数设定错误（reward misspecification）会让算法以出人意料、违反直觉的方式出错。文章指出，这类问题源于奖励函数与设计者真实意图的偏差，是强化学习在真实场景中部署时需要面对的挑战。
OpenAI NewsAI 评分5151 OpenAI 发布 Universe：用游戏、网站和应用训练与衡量 AI 通用智能
OpenAI 发布 Universe，一个用于测量和训练 AI 通用智能的软件平台。它覆盖全球的各类游戏、网站和其他应用程序，作为 AI 智能体的训练与评估环境。
OpenAI NewsAI 评分3939 OpenAI 与 Microsoft 合作将大规模实验迁移至 Azure
OpenAI 宣布与 Microsoft 合作，将大部分大规模实验转到 Azure 上运行。
OpenAI NewsAI 评分1212 OpenAI 举办首次机器学习自组织会议
OpenAI 上周在办公室举办首次机器学习自组织会议，共有一百五十多名 AI 从业者参加。原文仅披露该会议的举办时间与参会规模，未提供更多议程细节。
OpenAI NewsAI 评分1616 OpenAI 谈深度学习基础设施建设
OpenAI 发文指出，深度学习是一门经验科学，团队基础设施的质量会对研究进展起到乘数效应。文章同时提到，如今的开源生态让任何人都有可能搭建优秀的深度学习基础设施。
OpenAI NewsAI 评分66 OpenAI 机器学习 Unconference 最新信息发布
OpenAI 发布机器学习 Unconference（非会议）的最新信息，相关内容已上线 Unconference wiki，并将定期更新，为参会者提供更多资讯。
OpenAI NewsAI 评分66 OpenAI「Special projects」项目介绍
OpenAI 推出 Special projects 项目，强调有影响力的科学研究需要选择正确的问题——不仅要有意思，其解决方案还要真正重要。
OpenAI NewsAI 评分4343 OpenAI 联合发布论文《Concrete Problems in AI Safety》，探讨 AI 安全具体问题
OpenAI 与 Berkeley、Stanford 研究者共同署名，参与 Google Brain 研究人员主导的论文《Concrete Problems in AI Safety》。论文探讨了确保现代机器学习系统按预期运行的多个研究问题。
OpenAI NewsAI 评分2121 OpenAI 技术目标
OpenAI 的使命是构建安全的 AI，并确保 AI 的收益尽可能广泛而均匀地分配给各方。这篇文章阐述了 OpenAI 的总体技术目标方向。
OpenAI NewsAI 评分2222 OpenAI 发布关于生成式模型的四个项目介绍
OpenAI 介绍了四个围绕生成式模型开展的项目，生成式模型是机器学习中无监督学习的一个分支。文章同时讲解了生成式模型是什么、为何重要以及未来可能的发展方向。
OpenAI NewsAI 评分1414 OpenAI 团队更新：欢迎新成员加入（仍在招聘）
OpenAI 发布团队更新，宣布欢迎最新一批团队成员加入，并表示公司仍在持续招聘中。
OpenAI News精选AI 评分6464 OpenAI 发布 OpenAI Gym 公开测试版
OpenAI 发布 OpenAI Gym 公开测试版，这是一个用于开发和比较强化学习（RL）算法的工具包。它包含不断扩充的环境套件（从仿真机器人到 Atari 游戏），并提供用于比较和复现结果的网站。
推荐理由：官方发布强化学习工具包 Gym 公测版，含环境套件与结果比较复现平台，适合关注 RL 工作流的读者了解其定位。
OpenAI NewsAI 评分1111 OpenAI 欢迎新成员加入
OpenAI 宣布团队新增两位成员，欢迎 Pieter 和 Shivon 加入。
OpenAI NewsAI 评分1616 OpenAI 团队扩充：新成员加入，仍在招聘
OpenAI 宣布过去几个月有多位新成员加入团队，并仍在持续招聘中。
OpenAI News精选AI 评分8383 OpenAI 宣布成立，定位非营利人工智能研究公司
OpenAI 宣布成立，是一家非营利人工智能研究公司。其目标是以前瞻造福全人类的方式推进数字智能，不受产生财务回报的需求约束，从而更专注于对人类的正面影响。
推荐理由：原文是 OpenAI 成立的官方说明，明确了非营利定位和不以财务回报为约束的研究目标。