Hugging Face Blog·· 2024-05-22AI 评分50
Hugging Face Inference Endpoints 支持 AWS Inferentia2 部署模型
Deploy models on AWS Inferentia2 from Hugging Face
AI 导读
Hugging Face 宣布 Inference Endpoints 新增 AWS Inferentia2（Inf2）实例支持，可将 Hub 上模型几步点击部署到 Inferentia2。
来源：Hugging Face Blog · huggingface.co