Hugging Face 推出 LLM 推理端点部署服务

Hugging Face 宣布推出 LLM 推理端点部署服务，允许用户通过 API 调用部署在 Hugging Face 基础设施上的大语言模型。该服务支持多种模型，提供自动缩放、负载均衡和按需付费功能，旨在简化 LLM 的部署和推理流程。用户可以选择不同的 GPU 配置，并享受低延迟推理。