Khan Academy 试点 GPT-4 赋能虚拟课堂教学
Khan Academy 通过一个有限的试点项目探索 GPT-4 在教育领域的应用潜力,将 GPT-4 引入虚拟课堂教学场景。
Khan Academy 通过一个有限的试点项目探索 GPT-4 在教育领域的应用潜力,将 GPT-4 引入虚拟课堂教学场景。
OpenAI 的 GPT-4 被 Duolingo 用于深化其语言学习对话体验。借助 GPT-4,Duolingo 弥补了语言学习中的关键缺口,为学习者提供更深入的对话练习。
Hugging Face 发布 Diffusers for Mac 1.1,这是一款基于 Core ML 的开源原生 Mac 文生图应用,文生图速度最高可提升至两倍。
Hugging Face 发布 🤗 PEFT 库,集成于 Transformers 与 Accelerate,支持 LoRA、Prefix Tuning、P-Tuning、Prompt Tuning 等参数高效微调方法。
推荐理由:官方介绍 PEFT 库的原理与用法,读者可以据此了解只用少量可训练参数微调大模型的可行路径。
Hugging Face 宣布微软亚洲研究院的 SpeechT5 已在 🤗 Transformers 中可用,官方 checkpoint 发布在 Hub 上。
Hugging Face 推出开源工具 AI vs. AI,托管在 Spaces 上,通过持续对战和 ELO 排名(初始分 1200,胜方 +10 / 负方 -10)对多智能体强化学习模型做相对评估。
OpenAI 宣布为 ChatGPT 推出试点订阅计划 ChatGPT Plus。ChatGPT 是可对话、回答追问并能纠正错误假设的会话式 AI。
推荐理由:OpenAI 官方宣布 ChatGPT 试点订阅计划上线,可作为该商业化路径的起点记录。
OpenAI 推出一款新分类器,用于区分 AI 生成的文本与人类撰写的文本。
Hugging Face 过去一年在计算机视觉领域持续投入,Hub 上现已支持 8 个核心视觉任务、超过 3000 个模型和 100 多个数据集,每个任务至少提供 10 个模型检查点。
Hugging Face 与 PaddlePaddle 达成开源合作,PaddleNLP 将率先接入,其各模态模型库将逐步集成到 Hub 上。
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的方法。该应用可对大量客户评论进行分类和总结,帮助企业更快理解用户需求并改进产品。
OpenAI 通过微调 GPT-3 来驱动并规模化"全托管"视频创作服务。微调后的模型用于提升自动化视频生成的能力与可扩展性。
OpenAI 使用 GPT-3 创建下一代 AI 驱动的角色。这一应用展示了 GPT-3 在生成式角色创作方面的能力,为 AI 驱动角色的发展提供了新方向。
Hugging Face 发布 Model Card Creator 工具、更新版模型卡模板及指南手册,让用户无需编程即可创建模型卡。本次发布还包括标注版模板、Hugging Face 内部用户研究,以及模型文档现状的文献综述。团队未来计划将 Evaluate on the Hub 等工具的自动评估结果导入模型卡工作流。
借助新发布的 Bumblebee 库——纯 Elixir 实现的 Hugging Face Transformers,GPT2 到 Stable Diffusion 等神经网络模型已可在 Elixir 中运行。
OpenAI 训练了名为 ChatGPT 的对话式交互模型。对话格式使其能回答追问、承认错误、挑战错误前提,并拒绝不当请求。
推荐理由:这是 ChatGPT 的原始发布说明,对话格式带来的追问与纠错能力至今仍是理解其产品形态的起点。
中科大与 Microsoft 开发的 VQ-Diffusion 是一个条件潜在扩散模型,其加噪与去噪过程在由离散向量组成的量化潜在空间上进行,现可通过 🧨 Diffusers 加载 microsoft/vq-diffusion-ithq 管线几行代码运行,支持 FP16 权重。
Hugging Face 梳理了在其 Hub 上部署模型的多种推理方案:免费试用的 Inference Widget 和 Inference API,以及面向生产环境的 Inference Endpoints 和 Spaces。
Hugging Face 与 arXiv 合作,在 arXivLabs 上集成 Hugging Face Spaces 的 Demos 标签,读者可在论文页面直接找到社区或作者创建的开源 demo。
OpenAI 宣布 DALL·E API 进入公开测试,开发者即日起可以开始用它构建应用。
推荐理由:OpenAI 官方宣布 DALL·E API 进入公测,开发者可直接调用,适合想把它接入应用的开发者了解入口。
Hugging Face Hub 正式支持为模型或数据集生成 DOI(数字对象标识符),用户可在仓库设置中直接生成,他人通过页面上的“Cite this model/dataset”按钮引用。DOI 由 Hugging Face 与 DataCite 合作提供,绑定元数据并生成永久链接;模型或数据集发布新版本时可更新 DOI,旧版 DOI 随之失效。
Hugging Face 的 Evaluation on the Hub 功能升级,任何 Hub 上的 causal language model 现在都能免代码进行零样本分类评估,由 AutoTrain 驱动且免费。
OpenAI 宣布 DALL·E 取消候补名单,新用户可以立即开始创作。官方称部署中积累的经验和安全系统的改进使更大范围的开放成为可能。
Hugging Face 联合 Intel Labs 和 UKP Lab 发布 SetFit,一个无需提示词的少样本文本分类框架。每类仅需 8 个标注样本即可在 Customer Reviews 数据集上媲美用全量 3k 样本微调的 RoBERTa Large;在 RAFT 基准上 355M 参数的 SetFit 超过 PET 和 GPT-3。
推荐理由:官方详解 SetFit 的原理、训练成本和 RAFT 实测数据,并附可复现的训练代码,方便直接上手做少样本分类。
Hugging Face 发布 diffusers 0.3,为 Stable Diffusion 新增图像到图像生成、Textual Inversion(3-5 张样本即可训练并分享概念,社区已贡献超 200 个概念)和实验性 inpainting 管线。
推荐理由:官方梳理 diffusers 0.3 的图生图、Textual Inversion、低显存优化等新能力,读者可以据此判断扩散模型工具链的可用性变化。
OpenAI 为 DALL·E 推出 outpainting 功能,可在原始图像之外继续生成内容,支持任意尺寸的图像扩展,帮助用户延展画面、讲述更完整的故事。
推荐理由:原文说明 DALL·E 的 outpainting 可让图像扩展到任意尺寸,读者可以据此判断它在图像创作流程中的用途。
Hugging Face 发布新库 Skops,让用户将 scikit-learn 模型托管到 Hugging Face Hub 并创建模型卡。
OpenAI 推出全新升级的内容审核工具 Moderation endpoint,是对此前 content filter 的改进。该工具即日起面向 OpenAI API 开发者免费提供。
Hugging Face 推出 Private Hub(PH),为从研究到生产的机器学习全流程提供一套安全合规的统一工具。
Hugging Face 为 🤗 Datasets 库新增音频与图像数据集的文档,包括更新后的 Quickstart 和按模态划分的专属指南。Quickstart 提供 PyTorch 或 TensorFlow 的端到端加载与处理示例,并引入 to_tf_dataset 函数将数据集转换为 tf.data.Dataset。
OpenAI 宣布 DALL·E 进入 beta,未来几周将从等待名单中邀请 100 万人使用。用户每月可获得补充的免费 credits,并可按 115 次生成 15 美元的价格购买额外 credits。
推荐理由:官方公布了 DALL·E beta 的邀请规模和免费加付费的信用点定价方式,有助于了解早期图像生成产品的获取门槛。
OpenAI 实施了一项新技术,使 DALL·E 生成的人物图像更准确地反映世界人口的多样性,以此减少偏差、提升安全性。
在 DALL·E 2 研究预览阶段,来自 118 个国家和地区的 3000 多名艺术家已将 DALL·E 融入自己的创作流程。这些早期体验的艺术家帮助 OpenAI 发现了 DALL·E 的新用途,并在功能决策中发挥了重要作用。
OpenAI 公布为 DALL·E 2 设置的多项防护措施,以降低强大图像生成模型带来的风险。这些 guardrails 用于防止生成图像违反其内容政策,从而让 DALL·E 2 能面向更广泛的受众开放。
Hugging Face 推出 Evaluation on the Hub,由 AutoTrain 驱动,无需写任何代码即可在 Hub 上用任意数据集和指标评估任意模型。团队已评估数百个模型,并通过 Pull Request 将验证结果写入模型卡元数据。提交界面和排行榜基于 Hugging Face Spaces 构建,支持为任务找最佳模型、在新数据集上跑基线等场景。
Graphcore 与 Hugging Face 扩展开源库 Hugging Face Optimum,为 Graphcore IPU 优化的 Transformer 模型现已覆盖 NLP、语音和计算机视觉,共 10 个模型,附 IPU 配置文件和即用的预训练与微调权重。
Hugging Face 宣布在 Hub 上线 pull requests 和 discussions 功能,所有模型、数据集和 Spaces 仓库的 Community 标签页均可用。任何社区成员都能参与讨论和贡献,PR 不使用 fork,而是把自定义 ref 分支直接存放在源仓库,整体比 GitHub 的 PR 和 Issues 更简化,面向 ML 仓库场景优化。
推荐理由:官方介绍 Hub 新增 pull requests 和 discussions 的用法与底层机制,读者可了解其与 GitHub PR 的差异及协作方式。
OpenAI Codex 现已通过 OpenAI API 为 70 个不同应用提供支持,覆盖多种使用场景。
OpenAI 更新 DALL·E 2 研究预览:早期用户已生成超过 300 万张图片,并帮助改进了安全流程。OpenAI 将开始从等待名单中每周新增最多 1,000 名用户。
Hugging Face 发布 Gradio 3.0,这是 Gradio 库的全面重设计。新版本基于 Svelte 重建前端,页面加载更快、载荷更小,改进了 Dataframe 等组件并新增 Gallery、TabbedInterface;同时推出底层 Blocks API,支持自定义布局、多步数据流和根据用户输入改变组件属性或可见性。
推荐理由:官方介绍了 Gradio 3.0 的前端重设计和新 Blocks API 能力,想用 Python 构建自定义 ML 演示界面的读者可以了解能做什么。