# 从单一缩放到三定律:AWS 构建基础模型训练与推理的新基石
5 min read
AI 缩放定律从预训练扩展到后训练和推理,AWS 开源架构应对新挑战。
AI 缩放定律从预训练扩展到后训练和推理,AWS 开源架构应对新挑战。
IBM 发布 Granite 4.1 系列模型,8B 参数量超越此前 32B MoE 模型,数据工程和强化学习是关键。
AI2 发布 EMO 模型,通过端到端预训练让混合专家模型自动形成模块化结构,仅用 12.5%专家即可保持近全模型性能。
传统的大模型缩放法则已从单一预训练曲线演变为预训练、后训练和测试时计算三轴并进,这推动了对耦合加速、高带宽网络和分布式存储的融合基础设施需求。AWS基于开源组件的架构分析提供了清晰的设计蓝图。
传统MoE专家往往专注于低级词汇模式而非高层能力。EMO通过端到端预训练使专家自动形成可组合的领域群组,仅用12.5%的专家即可保持近全模型性能,为高效任务特化开辟新路。
IBM发布Granite 4.1系列模型(3B/8B/30B),详细披露了五阶段预训练、长上下文扩展至512K、基于GRPO的强化学习等关键方法,8B模型超越此前32B MoE。