Perceiver IO：可扩展的全注意力模型，可处理任意模态
Hugging Face 将 Perceiver IO 加入 Transformers 库，这是首个能处理文本、图像、音频、视频、点云等多种模态及其组合的 Transformer 神经网络。该模型在 256 或 512 个 latent 变量上执行自注意力，使计算量与输入大小呈线性关系而非平方依赖。官方提供了预测光流和图像分类的 Spaces 示例及多个 notebook。
#模型发布
#模型发布
今日 2 条Hugging Face BlogAI 评分4747
OpenAI News精选AI 评分7777 OpenAI 发布 CLIP：连接文本与图像的神经网络
OpenAI 发布神经网络 CLIP，可从自然语言监督中高效学习视觉概念。只需提供待识别视觉类别名称，即可应用于任何视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 官方介绍 CLIP 如何用自然语言监督学习视觉概念，零样本思路可与 GPT 系列对照理解。
OpenAI News精选AI 评分7777 OpenAI 发布 DALL·E：从文本描述生成图像
OpenAI 训练了名为 DALL·E 的神经网络，可从文本描述生成图像，覆盖自然语言可表达的广泛概念。
推荐理由：原文说明 DALL·E 能根据自然语言文本描述生成图像，是文本生成图像方向的早期代表工作。
OpenAI News精选AI 评分6363 OpenAI 发布 Jukebox 神经网络，可生成多种风格音乐与初阶人声
OpenAI 推出 Jukebox，一个能以原始音频形式生成多种流派和艺术家风格音乐、包括初阶演唱的神经网络。官方同时发布了模型权重和代码，并提供探索生成样本的工具。
推荐理由：原文说明了模型能以原始音频生成多风格歌曲并开源权重与代码，读者可自行探索生成样本。
OpenAI News精选AI 评分7878 OpenAI 发布 GPT-2 最大版本 1.5B 参数模型
OpenAI 发布 GPT-2 分阶段计划的最终模型，即最大版本 1.5B 参数，同时放出代码和模型权重以帮助检测 GPT-2 的输出。OpenAI 表示虽自 8 月以来已有更大模型出现，仍按原计划完成完整的分阶段发布流程，为社区提供负责任发布的测试案例。
推荐理由：原文交代了 GPT-2 1.5B 作为分阶段发布最终版的开放决策与考量，读者可以了解负责任发布实践的完整案例。
OpenAI News精选AI 评分6363 OpenAI 发布 774M 参数 GPT-2 模型并公开发布规范经验
OpenAI 在 2 月发布 124M、5 月分阶段发布 355M 之后，发布 774M 参数的 GPT-2 语言模型。同时发布一份开源法律协议，便于机构间建立模型共享合作，并发布技术报告，总结与 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 官方复盘分阶段释放 774M GPT-2 的决策过程，可了解滥用风险评估如何影响模型发布策略。
OpenAI NewsAI 评分3838 OpenAI 发布 MuseNet：可生成 10 种乐器演奏、融合多种风格的 4 分钟乐曲
OpenAI 推出深度神经网络 MuseNet，能生成 10 种不同乐器演奏的 4 分钟乐曲，风格可从乡村音乐跨越到 Mozart 和 Beatles。MuseNet 并未显式编写音乐知识，而是通过在数十万 MIDI 文件上预测下一个 token，自行学会和声、节奏与风格规律。它与 GPT-2 采用相同的大规模 Transformer 无监督通用技术。
OpenAI News精选AI 评分7878 OpenAI Five 在直播中连胜两局击败 Dota 2 世界冠军 OG
OpenAI Five 在周末决赛中连胜两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI。OpenAI Five 和 DeepMind 的 AlphaStar 此前都曾私下战胜过职业选手但输掉过公开职业比赛，这也是 AI 首次在直播中战胜电竞职业选手。
推荐理由：作者本人披露了此前直播对局的失利背景，可帮读者理解这次公开战胜世界冠军与以往私下对局的差别。
OpenAI News精选AI 评分8181 OpenAI 训练大规模无监督语言模型，无需任务特定训练即可完成多任务
OpenAI 训练了一个大规模无监督语言模型，能生成连贯段落文本，在多项语言建模基准上达到当时最优表现。该模型无需任务特定训练即可完成基础阅读理解、机器翻译、问答和摘要任务。
推荐理由：OpenAI 自述该无监督语言模型在多项基准上达到 SOTA 并零样本完成多任务，可作为了解无任务特定训练能力的背景材料。
OpenAI NewsAI 评分5252 OpenAI Five 开始在 Dota 2 中战胜业余人类队伍
OpenAI 宣布其由五个神经网络组成的系统 OpenAI Five，已开始在 Dota 2 中击败业余人类队伍。
OpenAI News精选AI 评分7878 OpenAI 发布基于 Transformer 与无监督预训练的语言理解系统
OpenAI 宣布以可扩展、任务无关的系统在多项多样化语言任务上取得 SOTA 结果，并开放发布该系统。方法结合 Transformer 与无监督预训练两个已有思路，团队认为结果证明了监督学习搭配无监督预训练的有效性，希望推动在更大更多样数据集上的进一步研究。
推荐理由：原文给出无监督预训练加 Transformer 的方法组合和多任务 SOTA 结果，可帮读者理解预训练思路的实际成效。
OpenAI News精选AI 评分6464 OpenAI 展示完全在仿真中训练、看一次即可学会新任务的机器人系统
OpenAI 发布一套完全在仿真中训练、部署到实体机器人上的机器人系统。该系统只需观看任务演示一次即可学会新任务。