腾讯发布WeMM-Embedding多模态嵌入模型，9B版本刷新SOTA

通用多模态嵌入正成为现代AI系统的核心组件，它使异构内容能够在共享空间中得到表示，应用于检索、推荐、分类及智能体系统等场景。本报告中，我们介绍了WeMM-Embedding，一个支持文本、图像、视频、视觉文档以及任意交错多模态输入，并具备灵活输出维度的通用多模态嵌入模型系列。该系列包含2B、4B和9B三种规模变体，并采用两阶段训练：先是大规模多模态对齐阶段，随后是利用精选数据、细粒度相关性监督和跨尺度知识迁移的优化阶段。在广泛评估中，WeMM-Embedding在多个公开基准上取得了领先性能。值得注意的是，2B变体在MMEB-v2上已超越此前领先的8B开源基线，而9B变体进一步实现了80.6的整体得分，创下新的最优水平。WeMM-Embedding在微信应用中也展现出强大的实际性能，在包含26个任务的内部基准上取得了显著提升，并在14项在线A/B测试中表现出一致的改进。它已大规模部署于推荐和搜索应用中，包括微信视频号、公众号、朋友圈和电商服务。我们已发布模型权重和代码，以促进未来研究，详见https://github.com/Tencent/WeMM-Embedding。