BridgeTower视觉语言模型在Habana Gaudi2上加速

Hugging Face 博客宣布，BridgeTower 视觉语言模型在 Habana Gaudi2 处理器上实现了显著加速。BridgeTower 是一种结合视觉和语言信息的模型，通过引入桥接层来增强多模态融合。在 Gaudi2 上，该模型的推理速度相比传统 GPU 提升了数倍，具体性能数据包括：在图像描述任务中，延迟降低 40% 以上；在视觉问答任务中，吞吐量提高 3 倍。这一优化得益于 Habana 的 SynapseAI 软件栈与 Hugging Face Optimum 库的深度集成，开发者可通过 Optimum Habana 轻松部署。该成果为多模态 AI 应用提供了更高效的硬件选择。