# 从单一缩放到三定律:AWS解读大模型训练与推理基础设施新范式
4 min read
传统的大模型缩放法则已从单一预训练曲线演变为预训练、后训练和测试时计算三轴并进,这推动了对耦合加速、高带宽网络和分布式存储的融合基础设施需求。AWS基于开源组件的架构分析提供了清晰的设计蓝图。
传统的大模型缩放法则已从单一预训练曲线演变为预训练、后训练和测试时计算三轴并进,这推动了对耦合加速、高带宽网络和分布式存储的融合基础设施需求。AWS基于开源组件的架构分析提供了清晰的设计蓝图。
ServiceNow团队在将RL训练从vLLM V0迁移到V1时发现,后端logprob计算方式的微小差异导致训练指标偏移。通过修复四个关键问题实现后端行为匹配后,目标级创新才得以安全进行。
传统MoE专家往往专注于低级词汇模式而非高层能力。EMO通过端到端预训练使专家自动形成可组合的领域群组,仅用12.5%的专家即可保持近全模型性能,为高效任务特化开辟新路。
MachinaCheck是一个多智能体AI系统,通过上传STEP文件快速生成制造可行性报告,并完全在AMD MI300X上本地运行,确保客户知识产权不离开企业基础设施。
IBM发布Granite 4.1系列模型(3B/8B/30B),详细披露了五阶段预训练、长上下文扩展至512K、基于GRPO的强化学习等关键方法,8B模型超越此前32B MoE。
艾伦人工智能研究所发布EMO模型,通过端到端预训练让混合专家结构从数据中涌现,仅用12.5%的专家即可接近全模型性能,改变了传统MoE中专家混杂的局面。