Hugging Face·· 2024-02-08精选AI 评分70
Hugging Face 推出 Messages API：TGI 与推理端点支持兼容 OpenAI 接口
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 在 Text Generation Inference（TGI 1.4.0 起）及 Inference Endpoints 中推出 Messages API，实现对 OpenAI Chat Completion API 的兼容。
推荐理由
原文展示了如何通过兼容协议将代码平滑切至开源模型，为工程团队降低了模型迁移与自建部署的适配成本。
来源：Hugging Face · huggingface.co