腾讯微信WeMM-Embedding：多模态嵌入技术报告

腾讯微信团队开发的 WeMM-Embedding，这是一系列专门用于处理多模态数据的通用嵌入模型。该系列模型涵盖 2B、4B 和 9B 三种参数规模，能够将文本、图像、视频及混合内容转化为统一的数学向量，以支持搜索、推荐和智能体系统。研发团队采用了两阶段训练法，先通过数亿条数据实现大规模对齐，再利用精选数据和知识蒸馏技术进行精细化提升。实验结果显示，该系列模型在 MMEB-v2 等多个权威榜单上刷新了世界纪录，性能超越了包括谷歌 Gemini 在内的众多开源和闭源模型。目前，WeMM-Embedding 已在微信视频号、公众号及搜一搜等实际场景中大规模部署，显著提升了内容匹配的精准度。