Hugging Face Blog·· 2024-04-02AI 评分37
Hugging Face 携手 Cloudflare Workers AI 推出 Serverless GPU 推理部署
Bringing serverless GPU inference to Hugging Face users
AI 导读
Hugging Face Hub 推出 Deploy on Cloudflare Workers AI 集成,将 Llama 2 7B、Gemma、Mistral 等热门开源模型以 serverless API 形式部署在 Cloudflare 边缘数据中心的 GPU 上,采用按请求付费模式。
来源:Hugging Face Blog · huggingface.co