跳到正文
原文
Hugging Face Blog·· 2024-04-02AI 评分37

Hugging Face 携手 Cloudflare Workers AI 推出 Serverless GPU 推理部署

Bringing serverless GPU inference to Hugging Face users

AI 导读

Hugging Face Hub 推出 Deploy on Cloudflare Workers AI 集成,将 Llama 2 7B、Gemma、Mistral 等热门开源模型以 serverless API 形式部署在 Cloudflare 边缘数据中心的 GPU 上,采用按请求付费模式。

来源:Hugging Face Blog · huggingface.co