Hugging Face Blog·· 2023-04-26AI 评分49
Databricks 携手 Hugging Face:大语言模型训练与微调最高提速 40%
Databricks ❤️ Hugging Face: up to 40% faster training and tuning of Large Language Models
AI 导读
Databricks 向 Hugging Face 代码库提交首个官方贡献:Datasets 新增 from_spark 函数,可将 Apache Spark dataframe 直接转为 Hugging Face Dataset,免去先写 Parquet 再重新加载的繁琐流程。16GB 数据集的处理时间从 22 分钟降至 12 分钟,缩短超过 40%。
来源:Hugging Face Blog · huggingface.co