
IT之家11月12日消息,腾讯开源官方公众号今日宣布:来自腾讯微信团队的KaLM-Embedding开源模型再创全球新纪录。在最新发布的MTEB多语言通用Embedding模型权威评测中,新一代通用Embedding模型KaLM-Embedding-Gemma3-12B-2511综合成绩全球第一。

在涵盖全球1038种语言、共计131项任务的权威多语言评测体系MTEB中,KaLM-Embedding-Gemma3-12B-2511综合得分分别达到72.32(MeanTask)与62.51(MeanTaskType),获全球第一。
据腾讯开源介绍,在大模型技术快速发展的背景下,语义理解能力成为人工智能系统落地的关键。Embedding模型作为实现语义编码的核心技术,通过将文本转化为高维向量,支持非结构化内容可度量、可检索的特性,为上层应用提供基础支撑。
在RAG(检索增强生成)等主流架构中,Embedding模型能够从海量知识库中精准检索语义相关信息,动态构建高质量上下文,有效提升大模型生成结果的准确性与可靠性,抑制“幻觉”现象。
此外,Embedding技术还应用于文本分类、语义匹配、信息聚类、搜索推荐、多语言理解等多个领域,成为现代AI系统中不可或缺的语义基础组件。
IT之家附KaLM-Embedding-Gemma3-12B-2511核心亮点如下:
模型规模:参数量提升至120亿(12B),是当前MTEB榜单上最大规模的Embedding模型之一,显著增强了模型的表示能力与泛化性能。
跨语言能力:在多语言语义对齐方面实现显著优化,支持更精准的跨语种语义理解与检索任务。
数据质量:基于经过深度清洗与筛选的大规模高质量语料进行训练,有效提升语义表示的一致性与可靠性。
训练策略:采用多阶段对比学习、Embedding蒸馏和模型参数融合等技术,进一步提升模型多维度能力表现与综合性能。
维度嵌套:支持多种向量维度选择,涵盖3840、2048、1024、512、256、128及64等多个层级,满足不同场景下的高效应用需求。
百亿参数模型KaLM-Embedding获取、技术论文等如下:
开源协议:采用MIT许可证,支持商业用途,助力技术广泛传播与应用。
专业炒股配资网站提示:文章来自网络,不代表本站观点。