OpenAI 谈其 AI 安全方法
OpenAI 阐述其 AI 安全方法，强调安全地构建、部署和使用 AI 系统对实现其使命至关重要。原文仅简要表态，未提及具体模型、版本或技术细节。
#OpenAI
#OpenAI
今日 10 条OpenAI NewsAI 评分1111
Hugging Face BlogAI 评分5252 Hugging Face 讲解如何在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Hugging Face 发布教程，演示多种技术在 Sapphire Rapids CPU 上加速 Stable Diffusion 推理。
OpenAI NewsAI 评分4949 OpenAI 复盘 3 月 20 日 ChatGPT 故障：原因、处理与技术细节
OpenAI 发布 3 月 20 日 ChatGPT 故障的调查结果，说明了问题起因、已采取的补救措施，以及该 bug 的技术细节。
OpenAI News精选AI 评分7474 ChatGPT 推出插件初步支持
OpenAI 宣布在 ChatGPT 中实现插件的初步支持。插件是专为语言模型设计、以安全为核心原则的工具，可帮助 ChatGPT 获取最新信息、运行计算或使用第三方服务。
推荐理由：原文来自 OpenAI 官方，说明了插件的三类能力定位和安全原则，可帮助读者理解 ChatGPT 能力边界的扩展方向。
OpenAI News精选AI 评分6767 OpenAI 论文：GPTs are GPTs，初探大语言模型对劳动力市场的潜在影响
OpenAI 发布论文 GPTs are GPTs，初步评估大语言模型对美国劳动力市场的潜在影响。因抓取失败仅有标题，具体结论以原文为准。
OpenAI NewsAI 评分5252 OpenAI 介绍 Be My Eyes 用 GPT-4 提升视觉无障碍体验
OpenAI 发文介绍 Be My Eyes 应用使用 GPT-4 改善视觉无障碍体验。正文仅给出核心信息，未提供更多细节。
OpenAI NewsAI 评分2626 冰岛如何用 GPT-4 保护本土语言
冰岛正使用 OpenAI 的 GPT-4 来保护冰岛语。这一合作旨在让这门使用人数较少的语言在 AI 时代得以传承和延续。
OpenAI NewsAI 评分3333 Khan Academy 试点 GPT-4 赋能虚拟课堂教学
Khan Academy 通过一个有限的试点项目探索 GPT-4 在教育领域的应用潜力，将 GPT-4 引入虚拟课堂教学场景。
OpenAI NewsAI 评分3232 GPT-4 助力 Duolingo 补齐关键语言学习短板
OpenAI 的 GPT-4 被 Duolingo 用于深化其语言学习对话体验。借助 GPT-4，Duolingo 弥补了语言学习中的关键缺口，为学习者提供更深入的对话练习。
OpenAI News精选AI 评分9494 OpenAI 发布多模态大模型 GPT-4
OpenAI 发布 GPT-4，称其为扩大深度学习规模的最新里程碑。GPT-4 是一个大型多模态模型，接受图像和文本输入、输出文本；虽然许多真实场景下仍不及人类，但在多项专业和学术基准上表现出人类水平性能。
推荐理由：官方原文明确 GPT-4 接受图像和文本输入，并在多项专业与学术基准上达到人类水平表现，可据此了解其能力定位。
OpenAI News精选AI 评分9292 OpenAI 发布 GPT-4
OpenAI 发布 GPT-4。该模型可在创意和技术写作任务上生成、编辑并与用户迭代，例如创作歌曲、撰写剧本或学习用户的写作风格。
推荐理由：官方宣布 GPT-4 发布，说明其在创意与技术写作任务上的生成、编辑和迭代能力，可作为了解该模型基础能力的入口。
OpenAI NewsAI 评分4545 OpenAI 发布《Planning for AGI and beyond》：规划 AGI 及其未来
OpenAI 发文阐述其对 AGI 及其后续发展的规划。OpenAI 的使命是确保通用人工智能——即普遍比人类更聪明的 AI 系统——造福全人类。
OpenAI NewsAI 评分3636 OpenAI 发布模型行为规范：阐述 ChatGPT 行为的塑造方式与公众参与决策计划
OpenAI 澄清了 ChatGPT 行为的塑造方式，并公布改进计划，包括允许用户进行更多自定义，以及在相关决策中引入更多公众意见。
Hugging Face BlogAI 评分4949 生成故事：AI 辅助游戏开发系列 #5 —— 用 ChatGPT 写游戏剧情
Hugging Face 的 AI 游戏开发系列第五篇用 ChatGPT 为一个 5 天开发周期内的农场游戏生成故事内容，流程包括生成故事摘要、多轮精炼、撰写并扩展游戏内物品描述。文章指出语言模型易复刻《星露谷物语》等既有故事、长内容质量漂移并陷入重复，且直接使用生成内容可能带来法律、伦理和商业风险，建议将其用于头脑风暴、人工撰写最终内容。
OpenAI News精选AI 评分6767 OpenAI 推出 ChatGPT Plus 试点订阅计划
OpenAI 宣布为 ChatGPT 推出试点订阅计划 ChatGPT Plus。ChatGPT 是可对话、回答追问并能纠正错误假设的会话式 AI。
推荐理由：OpenAI 官方宣布 ChatGPT 试点订阅计划上线，可作为该商业化路径的起点记录。
OpenAI NewsAI 评分4848 OpenAI 推出用于识别 AI 生成文本的新分类器
OpenAI 推出一款新分类器，用于区分 AI 生成的文本与人类撰写的文本。
OpenAI NewsAI 评分2020 OpenAI 与 Microsoft 延长合作关系
OpenAI 宣布与 Microsoft 延长双方的合作关系。
OpenAI NewsAI 评分4848 OpenAI 联合 Georgetown 与 Stanford 研究大语言模型在虚假信息活动中的潜在滥用及风险缓解
OpenAI 与 Georgetown University 安全与新兴技术中心、Stanford Internet Observatory 合作，研究大语言模型可能被滥用于虚假信息活动的风险。双方于 2021 年 10 月举办了一场汇聚 30 名虚假信息研究者、机器学习专家和政策分析师的工作坊，并在一年多研究基础上共同发布报告。报告概述了语言模型对信息环境的威胁，并提出分析缓解措施的框架。
Hugging Face BlogAI 评分3333 AI 游戏开发：5 天做一个农场游戏（二）：用 ChatGPT 做游戏设计
这是 Hugging Face「AI for Game Development」系列第 2 部分，讲如何用 ChatGPT 辅助游戏设计：作者让 ChatGPT 以专业游戏设计师身份给出农场游戏的关键功能建议（作物多样性、进度系统、动态环境、社交多人、故事主题），并在 5 天开发周期内对前两点做了 gray-box 实现。
OpenAI NewsAI 评分1717 OpenAI 用 GPT-3 从客户反馈中快速提炼细致洞察
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的方法。该应用可对大量客户评论进行分类和总结，帮助企业更快理解用户需求并改进产品。
OpenAI NewsAI 评分1717 微调 GPT-3 以规模化视频创作
OpenAI 通过微调 GPT-3 来驱动并规模化"全托管"视频创作服务。微调后的模型用于提升自动化视频生成的能力与可扩展性。
OpenAI NewsAI 评分1111 OpenAI 用 GPT-3 打造下一代 AI 驱动角色
OpenAI 使用 GPT-3 创建下一代 AI 驱动的角色。这一应用展示了 GPT-3 在生成式角色创作方面的能力，为 AI 驱动角色的发展提供了新方向。
OpenAI NewsAI 评分66 持续学习的力量
Lilian Weng 在 OpenAI 从事应用 AI 研究工作。
Hugging Face Blog精选AI 评分6161 CLIPSeg 零样本图像分割教程：用 Hugging Face Transformers 实现文本与图像提示分割
Hugging Face 发布教程，讲解如何用 🤗 transformers 运行零样本分割模型 CLIPSeg。
推荐理由：教程讲清了 CLIPSeg 的零样本分割原理、文本与图像两种提示用法及低分辨率局限，并给出在 Segments.ai 上精修标注的完整流程。
OpenAI NewsAI 评分3333 OpenAI 发布全新升级的 embedding 模型
OpenAI 发布新一代 embedding 模型（嵌入向量模型），能力更强、成本更低、使用更简单。该模型面向文本嵌入场景，可用于语义搜索、检索等任务。
Hugging Face Blog精选AI 评分6464 Hugging Face 图解 RLHF：用人类反馈强化学习微调语言模型的完整流程
Hugging Face 发布长文图解 RLHF，将其拆为预训练语言模型、训练奖励模型、用 PPO 微调三个核心步骤。文中说明人类偏好采用排序而非直接打分以降低噪声，奖励函数含 KL 惩罚以防止策略偏离初始模型，并介绍 TRL、TRLX、RL4LMs 等开源工具及代表性论文，同时指出人类标注成本高、标注者分歧等局限。
推荐理由：这篇官方长文把 RLHF 拆解为预训练、奖励模型和 PPO 微调三步，并梳理开源工具与关键论文，适合建立完整认知。
OpenAI NewsAI 评分1212 OpenAI 超算团队工程师 Christian Gibson：探索后端系统的细节
Christian Gibson 是 OpenAI 超级计算团队的工程师，其工作聚焦于发现后端系统中的细微之处。
OpenAI News精选AI 评分8989 OpenAI 发布对话式模型 ChatGPT
OpenAI 训练了名为 ChatGPT 的对话式交互模型。对话格式使其能回答追问、承认错误、挑战错误前提，并拒绝不当请求。
推荐理由：这是 ChatGPT 的原始发布说明，对话格式带来的追问与纠错能力至今仍是理解其产品形态的起点。
OpenAI News精选AI 评分6262 OpenAI 开放 DALL·E API 公测
OpenAI 宣布 DALL·E API 进入公开测试，开发者即日起可以开始用它构建应用。
推荐理由：OpenAI 官方宣布 DALL·E API 进入公测，开发者可直接调用，适合想把它接入应用的开发者了解入口。
OpenAI NewsAI 评分5757 OpenAI 宣布 DALL·E 取消候补名单，新用户可直接使用
OpenAI 宣布 DALL·E 取消候补名单，新用户可以立即开始创作。官方称部署中积累的经验和安全系统的改进使更大范围的开放成为可能。
OpenAI News精选AI 评分8484 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源名为 Whisper 的神经网络，该模型在英文语音识别上的鲁棒性和准确率接近人类水平。
推荐理由：OpenAI 官方宣布开源 Whisper，读者可以据此了解其在英文语音识别上的准确性与鲁棒性水平。
OpenAI News精选AI 评分7272 DALL·E 推出 outpainting 图像外扩功能
OpenAI 为 DALL·E 推出 outpainting 功能，可在原始图像之外继续生成内容，支持任意尺寸的图像扩展，帮助用户延展画面、讲述更完整的故事。
推荐理由：原文说明 DALL·E 的 outpainting 可让图像扩展到任意尺寸，读者可以据此判断它在图像创作流程中的用途。
OpenAI NewsAI 评分4545 OpenAI 的对齐研究方法
OpenAI 正在改进其 AI 系统从人类反馈中学习以及协助人类评估 AI 的能力。其目标是构建一个足够对齐的 AI 系统，用它来帮助解决其他所有对齐问题。
OpenAI NewsAI 评分3737 OpenAI 推出全新升级的内容审核工具 Moderation endpoint
OpenAI 推出全新升级的内容审核工具 Moderation endpoint，是对此前 content filter 的改进。该工具即日起面向 OpenAI API 开发者免费提供。
OpenAI News精选AI 评分7272 OpenAI 向等待名单开放 DALL·E beta
OpenAI 宣布 DALL·E 进入 beta，未来几周将从等待名单中邀请 100 万人使用。用户每月可获得补充的免费 credits，并可按 115 次生成 15 美元的价格购买额外 credits。
推荐理由：官方公布了 DALL·E beta 的邀请规模和免费加付费的信用点定价方式，有助于了解早期图像生成产品的获取门槛。
OpenAI NewsAI 评分3939 OpenAI 新技术降低 DALL·E 2 偏差并提升安全性
OpenAI 实施了一项新技术，使 DALL·E 生成的人物图像更准确地反映世界人口的多样性，以此减少偏差、提升安全性。
OpenAI NewsAI 评分2424 DALL·E 2：拓展创作力
在 DALL·E 2 研究预览阶段，来自 118 个国家和地区的 3000 多名艺术家已将 DALL·E 融入自己的创作流程。这些早期体验的艺术家帮助 OpenAI 发现了 DALL·E 的新用途，并在功能决策中发挥了重要作用。
OpenAI NewsAI 评分3535 OpenAI 公布 DALL·E 2 预训练缓解措施
OpenAI 公布为 DALL·E 2 设置的多项防护措施，以降低强大图像生成模型带来的风险。这些 guardrails 用于防止生成图像违反其内容政策，从而让 DALL·E 2 能面向更广泛的受众开放。
OpenAI News精选AI 评分6464 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 发布 VPT（Video PreTraining）方法，利用大规模无标注人类 Minecraft 游玩视频加少量标注承包商数据训练神经网络。经微调后模型可制作钻石工具，该任务熟练人类通常需超过 20 分钟（约 24,000 个操作），模型使用键鼠原生人类接口，被视为迈向通用计算机使用智能体的一步。
推荐理由：原文介绍了用少量标注数据加大规模无标注视频预训练的思路，对理解视频数据训练智能体方法有参考价值。
OpenAI NewsAI 评分4949 OpenAI 训练批评写作模型，帮助人类发现 AI 总结中的缺陷
OpenAI 训练了“批评写作”模型，用于指出 AI 总结中存在的缺陷。人类评估者在看到模型批评后，能更频繁地发现总结中的问题，且模型规模越大自我批评能力越强，批评写作能力的提升比总结写作更明显。这一结果表明 AI 系统有望辅助人类监督 AI 完成困难任务。