# 从vLLM V0到V1迁移:强化学习训练中推理引擎的正确性关键
5 min read
ServiceNow AI团队在将vLLM从V0升级到V1时,发现rollout logprobs的语义不一致会严重破坏RL训练动态,通过修复四项关键问题实现了后端行为匹配。
ServiceNow AI团队在将vLLM从V0升级到V1时,发现rollout logprobs的语义不一致会严重破坏RL训练动态,通过修复四项关键问题实现了后端行为匹配。
为了应对benchmaxxing(针对基准测试的过度优化),Open ASR排行榜新增由Appen和DataoceanAI提供的高质量私有英语ASR数据集,默认不参与平均WER计算,但提供可选项以提升评测的真实性。
NVIDIA发布Nemotron 3 Nano Omni,一个融合文本、图像、视频和音频的全模态理解模型,采用混合Mamba-Transformer MoE架构,在文档理解、视频理解等多项基准上取得领先,同时提供最高9倍的吞吐量提升。
ServiceNow AI团队在将RL训练从vLLM V0迁移到V1时发现四类关键差异,修复后训练曲线完全对齐。文章揭示了强化学习系统中推理与训练一致性的重要性。
NVIDIA发布Nemotron 3 Nano Omni,采用混合Mamba-Transformer MoE架构,支持文本、图像、视频、音频的长上下文理解,在多项基准上领先。
IBM开源Granite 4.1系列(3B/8B/30B),通过五阶段预训练、数据质量筛选和强化学习,实现8B模型超越32B MoE。详细技术文档公开。