跳到正文

全部动态

今日 7 条
5月9日周二
  1. OpenAI News63

    OpenAI 用 GPT-4 自动解释大语言模型中的神经元并发布 GPT-2 数据集

    OpenAI 使用 GPT-4 自动为大语言模型中神经元的行为撰写解释并进行评分,并发布了涵盖 GPT-2 每个神经元的解释与评分数据集。OpenAI 说明这些解释并不完美。

    推荐理由:OpenAI 用 GPT-4 自动解释并评分 GPT-2 神经元行为并开源数据,为可解释性研究提供了可复用的方法思路。

5月8日周一
  1. Hugging Face Blog61

    Hugging Face 深入解析文本生成视频模型的现状与实践

    Hugging Face 发布博客,梳理文本生成视频模型从 GAN、Transformer 到扩散模型的演进脉络,并对比文本生成图像任务解释其在计算成本、数据集和视频描述上的挑战。

    推荐理由:系统梳理了文本生成视频模型的技术演进、数据集挑战与代表工作,并给出 Diffusers 上的可复用代码与演示入口。

5月4日周四
5月1日周一
4月27日周四
  1. Hugging Face Blog61

    Hugging Face 教程:用 TensorFlow 和 TPU 从零训练 RoBERTa 语言模型

    Hugging Face 发布端到端教程,演示用 TensorFlow 和 TPU 在 WikiText (v1) 数据集上从零训练 RoBERTa base 模型,涵盖训练 Unigram tokenizer、生成 TFRecord 分片上传 GCS、以及用 TPUStrategy 进行数据并行训练。

    推荐理由:原文给出从 tokenizer 训练到 TPU 训练的完整流程与代码,读者可据此把 TensorFlow 训练管线迁移到 TPU。

4月26日周三
  1. Hugging Face Blog65

    如何在免费版 Google Colab 上用 🧨 diffusers 运行 DeepFloyd IF 文生图模型

    Hugging Face 官方博客演示用 🧨 diffusers 在免费版 Google Colab(13GB CPU 内存、T4 15GB 显存)上运行 DeepFloyd 的开源文生图模型 IF,并支持图像变化和局部重绘。

    推荐理由:官方博客给出在 13GB 内存免费 Colab 上跑通 40GB 参数 IF 的完整低显存方案,含可复用的代码和量化技巧。

4月25日周二
4月24日周一
4月21日周五
  1. Hugging Face Blog49

    如何在 Hugging Face Space 中托管 Unity 游戏

    Hugging Face Spaces 除了用于机器学习 demo,也可以托管可玩的 Unity 游戏。教程共 11 步:用 Static HTML 模板创建 Space 并用 Git 克隆,将 Unity 项目 Build Target 切换为 WebGL,压缩格式设为 Disabled,构建后把文件复制到仓库,用 Git-LFS 跟踪 Build/* 大文件后推送即可。

4月17日周一
4月14日周五
4月12日周三
  1. Hugging Face Blog26

    Hugging Face 携手 Substra 打造隐私保护 AI:联邦学习入门 Space

    Hugging Face 与开源联邦学习框架 Substra 合作创建了一个 Space,演示如何在数据不出本地的前提下训练模型。联邦学习只传输模型权重,多来源数据训练的模型在验证数据上几乎总优于单一来源模型。Substra 已在乳腺癌研究等真实场景落地,并曾支撑 MELLODDY 项目中 10 家药企共享全球最大的小分子活性数据集。

4月11日周二
4月6日周四
4月5日周三
3月30日周四
  1. Hugging Face Blog28

    Hugging Face 伦理与社会通讯 #3:Hugging Face 的伦理开放之道

    Hugging Face 阐述其在开放机器学习中的伦理实践:通过逐案分析风险、识别高风险模型,在开放开发与风险控制之间寻求平衡。平台已推出 flagging 举报功能、模型卡文档、“Not For All Audiences” 标签,并推广 RAIL 开放责任许可(如 BLOOM、BigCode),同时基于社区 Spaces 总结出 6 个伦理分类标签。

3月28日周二
3月27日周一
  1. Hugging Face Blog42

    如何用 Hugging Face 和 Flower 进行联邦学习

    这是一篇教程,讲解如何用 Flower 框架结合 Hugging Face,在多个客户端上对预训练模型 distilBERT 做联邦微调,完成 IMDB 影评正负情感分类任务。各客户端在本地训练模型并只上传参数,由服务器按预定义策略聚合,无需共享数据。教程还提供可在 Google Colab 中用 flwr['simulation'] 模拟联邦环境的 notebook。

3月24日周五
3月23日周四
  1. OpenAI News74

    ChatGPT 推出插件初步支持

    OpenAI 宣布在 ChatGPT 中实现插件的初步支持。插件是专为语言模型设计、以安全为核心原则的工具,可帮助 ChatGPT 获取最新信息、运行计算或使用第三方服务。

    推荐理由:原文来自 OpenAI 官方,说明了插件的三类能力定位和安全原则,可帮助读者理解 ChatGPT 能力边界的扩展方向。

3月17日周五
3月14日周二
  1. OpenAI News94

    OpenAI 发布多模态大模型 GPT-4

    OpenAI 发布 GPT-4,称其为扩大深度学习规模的最新里程碑。GPT-4 是一个大型多模态模型,接受图像和文本输入、输出文本;虽然许多真实场景下仍不及人类,但在多项专业和学术基准上表现出人类水平性能。

    推荐理由:官方原文明确 GPT-4 接受图像和文本输入,并在多项专业与学术基准上达到人类水平表现,可据此了解其能力定位。

  2. OpenAI News92

    OpenAI 发布 GPT-4

    OpenAI 发布 GPT-4。该模型可在创意和技术写作任务上生成、编辑并与用户迭代,例如创作歌曲、撰写剧本或学习用户的写作风格。

    推荐理由:官方宣布 GPT-4 发布,说明其在创意与技术写作任务上的生成、编辑和迭代能力,可作为了解该模型基础能力的入口。

3月10日周五
3月9日周四
  1. Hugging Face Blog70

    Hugging Face 发布 trl 与 peft 集成,在 24GB 消费级 GPU 上用 RLHF 微调 20B 模型

    Hugging Face 官方发布 trl 与 peft 的集成,让用户能以更低成本用强化学习微调大语言模型。通过 8-bit 加载(LLM.int8)、低秩适配器以及用 disable_adapters 复用同一模型获取参考与主动 logits,作者在 24GB NVIDIA 4090 上验证了微调 20B gpt-neox 生成正面影评的完整流程,并指出训练速度和多卡扩展是下一步方向。

    推荐理由:原文给出 trl 与 peft 集成的完整微调流程和显存拆解,读者可以照此在单张 24GB GPU 上复现大模型 RLHF 训练。

3月6日周一
3月3日周五
  1. Hugging Face Blog76

    Hugging Face Diffusers 上手 ControlNet:用边缘图和姿态图控制 Stable Diffusion 生成

    Hugging Face 发布教程,介绍如何在 Diffusers 中通过 StableDiffusionControlNetPipeline 使用 ControlNet,支持 canny 边缘、OpenPose 姿态等 8 种空间条件控制 Stable Diffusion 生成,并可组合多个条件或与 DreamBooth 微调结合。

    推荐理由:原文给出 ControlNet 在 Diffusers 中的完整用法和加速省显存配置,读者可以照搬代码在 Colab 上复现同样的生成效果。

3月2日周四

最多提供 50 页,更早的内容请使用搜索或主题页。