跳到正文

全部动态

今日 8 条
5月6日周五
4月25日周一
4月13日周三
3月28日周一
1月25日周二
1月21日周五
1月13日周四
12月14日周二
12月2日周四
11月30日周二
11月29日周一
11月18日周四
9月14日周二
8月10日周二
7月28日周三
  1. OpenAI News62

    OpenAI 开源 Triton 1.0:让研究者无需 CUDA 经验即可编写高效 GPU 代码

    OpenAI 发布开源的类 Python 编程语言 Triton 1.0,供编写神经网络 GPU 代码。没有 CUDA 经验的研究者也能写出高效 GPU 代码,多数情况下效率与专家产出相当。

    推荐理由:原文说明无 CUDA 经验的研究者也能用它写出接近专家水平的 GPU 代码,可据此评估对研究工作流的影响。

7月13日周二
7月8日周四
6月28日周一
4月16日周五
  1. Hugging Face Blog61

    Hugging Face 发布 Accelerate 库,五行代码让 PyTorch 训练脚本适配任意分布式设备

    Hugging Face 发布开源库 Accelerate,用户只需在标准 PyTorch 训练脚本中添加约五行代码,即可在多 GPU、TPU、混合精度等任意分布式环境下运行,且保留对训练循环的完全控制。

    推荐理由:原文给出在标准 PyTorch 脚本上加约五行代码即可迁移多 GPU、TPU 和混合精度的具体做法,可与手写 DistributedDataParallel 对比参考。

3月25日周四
3月23日周二
9月10日周四
6月11日周四
4月14日周二
11月21日周四
5月23日周四
3月4日周一
7月30日周一
7月25日周三
6月22日周五
5月25日周五
4月5日周四
2月26日周一
12月6日周三
  1. OpenAI News48

    OpenAI 发布块稀疏 GPU 内核

    OpenAI 发布了针对块稀疏权重网络这一少有人探索的神经网络架构的高度优化 GPU 内核。根据所选稀疏度,这些内核可比 cuBLAS 或 cuSPARSE 快数个数量级。OpenAI 已用它们在文本情感分析和文本、图像生成建模上取得 SOTA 结果。

8月18日周五
8月3日周四
7月20日周四
  1. OpenAI News64

    OpenAI 发布强化学习算法 Proximal Policy Optimization(PPO)

    OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization(PPO),性能与当时最先进方法相当或更好,同时实现和调参更简单。凭借易用性和良好表现,PPO 已成为 OpenAI 的默认强化学习算法。

    推荐理由:原文点出了 PPO 性能与实现简洁度的平衡,读者可以了解它为何成为 OpenAI 的默认强化学习算法。

6月28日周三
5月24日周三
5月16日周二