Optimum+ONNX Runtime 加速 Hugging Face 模型训练

Hugging Face 发布 Optimum 与 ONNX Runtime 的集成方案，旨在加速模型训练。该方案通过 ONNX Runtime 优化训练图，支持混合精度训练、梯度检查点等技术，可显著提升训练速度并降低显存占用。目前支持 PyTorch 模型，兼容 Hugging Face Transformers 和 Diffusers 库。用户可通过 Optimum 库的 ORTTrainer 接口轻松启用，无需大幅修改代码。实测在多个模型上训练速度提升 20%-50%，显存节省最高达 30%。该工具已开源，提供详细文档和示例。