# 从vLLM V0到V1迁移:强化学习训练中推理引擎的正确性关键
5 min read
ServiceNow AI团队在将vLLM从V0升级到V1时,发现rollout logprobs的语义不一致会严重破坏RL训练动态,通过修复四项关键问题实现了后端行为匹配。
ServiceNow AI团队在将vLLM从V0升级到V1时,发现rollout logprobs的语义不一致会严重破坏RL训练动态,通过修复四项关键问题实现了后端行为匹配。
NVIDIA发布Nemotron 3 Nano Omni,一个融合文本、图像、视频和音频的全模态理解模型,采用混合Mamba-Transformer MoE架构,在文档理解、视频理解等多项基准上取得领先,同时提供最高9倍的吞吐量提升。
NVIDIA发布Nemotron 3 Nano Omni,采用混合Mamba-Transformer MoE架构,支持文本、图像、视频、音频的长上下文理解,在多项基准上领先。
IBM开源Granite 4.1系列(3B/8B/30B),通过五阶段预训练、数据质量筛选和强化学习,实现8B模型超越32B MoE。详细技术文档公开。
NVIDIA发布Nemotron 3 Nano Omni,支持文本、图像、视频和音频理解,在文档、视频和语音基准上取得领先,推理速度比竞品快9倍。
IBM发布Granite 4.1系列小语言模型(3B/8B/30B),通过五阶段预训练、严格数据筛选和强化学习,8B模型性能超越此前32B MoE模型。