跳到正文
原文
Hugging Face Blog·· 2024-02-08精选AI 评分63

Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API

From OpenAI to Open LLMs with Messages API on Hugging Face

AI 导读

Hugging Face 在 TGI 1.4.0 版本和 Inference Endpoints 中推出 Messages API,兼容 OpenAI Chat Completion API,用户可无缝从 OpenAI 模型切换到开源 LLM。

推荐理由

原文给出 TGI Messages API 的兼容范围、参数限制和从 OpenAI 迁移到开源模型的具体做法,方便评估改造成本。

来源:Hugging Face Blog · huggingface.co