跳到正文
原文
Hugging Face Blog·· 2023-04-26AI 评分49

Databricks 携手 Hugging Face:大语言模型训练与微调最高提速 40%

Databricks ❤️ Hugging Face: up to 40% faster training and tuning of Large Language Models

AI 导读

Databricks 向 Hugging Face 代码库提交首个官方贡献:Datasets 新增 from_spark 函数,可将 Apache Spark dataframe 直接转为 Hugging Face Dataset,免去先写 Parquet 再重新加载的繁琐流程。16GB 数据集的处理时间从 22 分钟降至 12 分钟,缩短超过 40%。

来源:Hugging Face Blog · huggingface.co