跳到正文
原文
Hugging Face Blog·· 2023-06-29AI 评分32

加速视觉语言模型:BridgeTower 在 Habana Gaudi2 上的性能实测

Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2

AI 导读

Hugging Face 在 Habana Gaudi2 上对 866M 参数的视觉语言模型 BridgeTower Large 进行微调加速。基于 Optimum Habana v1.7,配合硬件加速数据加载,Gaudi2 微调速度达到 A100 的 2.5 倍、H100 的 1.4 倍,吞吐最高达 768.7 samples/s。这些数据加载优化技术同样适用于其他受数据加载瓶颈约束的视觉模型。

来源:Hugging Face Blog · huggingface.co