Hugging Face Blog·· 2023-08-08精选AI 评分65
Hugging Face 发布 Swift Transformers:在 Apple 设备上运行端侧 LLM
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布 swift-transformers 等 alpha 工具,帮助 Swift 开发者在 Apple 设备上用 Core ML 运行 Llama 2 等语言模型。
推荐理由
官方一手发布了在 Apple 设备上跑 LLM 的 Swift 工具链,并给出 Core ML 转换、优化和已知坑的实操经验。
来源:Hugging Face Blog · huggingface.co