OpenAI 将 Kubernetes 集群扩展至 7,500 节点

OpenAI 将 Kubernetes 集群扩展到 7,500 个节点，构建了可扩展的基础设施。该基础设施支持 GPT-3、CLIP、DALL·E 等大模型的训练，也服务于神经语言模型 Scaling Laws 等小规模快速迭代研究。