ONNX Runtime 加速超13万Hugging Face模型

Hugging Face 宣布与 ONNX Runtime 合作，已优化超过13万个模型，使其在推理时获得显著加速。该优化覆盖了自然语言处理、计算机视觉、语音等多个领域的模型，用户可通过 Hugging Face 的 Optimum 库轻松导出和运行 ONNX 格式模型。实测显示，部分模型在 CPU 和 GPU 上推理速度提升可达2-5倍，且无需额外硬件。此举旨在降低 AI 模型部署门槛，提升生产环境效率。