跳到正文
热点事件持续更新

AllenAI 发布 Olmo-core 3 开源万亿参数 MoE 训练框架

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月1日,AllenAI 通过 Hugging Face Blog 发布开源训练框架 Olmo-core 3。该框架重新设计了 MoE 训练系统,目标是将 MoE 训练扩展到万亿参数规模。官方基准测试显示,在 512 块 NVIDIA B300 GPU 上运行 1.2 万亿总参数的模型时,达到 858 TFLOP/s/GPU 的性能;新训练栈相比旧的 FSDP 实现吞吐提升约 2.7 倍;此外,MXFP8 精度使吞吐比 BF16 提高约 21%。目前事件为框架发布消息,尚无后续进展报道。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. Hugging Face Blog
    AllenAI 发布 Olmo-core 3:面向万亿参数 MoE 的开源训练框架

    AllenAI 发布开源训练框架 Olmo-core 3, redesigned MoE 训练系统,目标是将 MoE 训练扩展到万亿参数规模。基准测试显示,在 512 块 NVIDIA B300 GPU 上运行 1.2 万亿总参数模型达到 858 TFLOP/s/GPU,新栈比旧 FSDP 实现吞吐高约 2.7 倍;MXFP8 使吞吐比 BF16 提高约 21%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。