# IBM开源多语言嵌入模型Granite R2：以97M参数刷新检索质量纪录
4 min read
IBM发布Granite Embedding Multilingual R2，基于ModernBERT架构，提供97M和311M两个版本，支持200+语言和32K上下文，MTEB多语言检索性能领先，开源Apache 2.0许可证。
/ tags/ 模型
# EMO：让MoE模型的专家模块从数据中自然涌现
4 min read
Allen AI发布EMO，一种全新的混合专家模型预训练方法，通过端到端训练让专家模块从数据中自动形成语义分组，仅用12.5%的专家即可达到近完整模型性能。
# IBM 开源 Granite Embedding R2：多语言检索的新标杆，小模型也能处理 32K 上下文
4 min read
IBM 发布两款基于 ModernBERT 的多语言嵌入模型，覆盖 200+ 语言，支持 32K 上下文，97M 参数版本在 MTEB 多语言检索上超越所有同类开源模型，Apache 2.0 许可降低了企业应用门槛。
# EMO：让 MoE 模型的专家真正模块化，仅用 12.5% 参数即可保持性能
4 min read
艾伦人工智能研究院发布 EMO 预训练方法，使混合专家模型中的专家自动形成语义模块，无需人工定义领域。仅用 12.5% 的专家即可达到接近全模型性能，为稀疏激活的实用化开辟新路。
# Granite 4.1 深度解析：IBM 如何用数据精炼在 8B 模型上击败 32B MoE
4 min read
IBM 发布了 Granite 4.1 系列小模型（3B/8B/30B），通过五阶段预训练、精细数据筛选和多阶段强化学习，8B 版本性能超越此前 32B MoE 模型，全部开源。本文深入拆解其训练技术和关键设计。
# EMO：一种让混合专家模型自动涌现模块化组织的新范式
4 min read
Allen AI 发布 EMO 模型，通过端到端预训练使专家自动聚类为语义模块，无需人工标签。仅激活 12.5% 的专家即可保留近乎全模型性能，为高效推理和领域适配开辟新路径。