# TRL 实现 Delta 权重同步：将万亿参数模型的传输量从 TB 级降至 MB 级
4 min read
HuggingFace TRL 库新增 Delta 权重同步功能，利用稀疏 safetensors 文件仅传输变化的参数，将 Qwen3-0.6B 的每步负载从 1.2GB 降至 20-35 MB，并支持通过 Hub Bucket 实现跨节点训练。
/ tags/ 开源
# PyTorch Profiling 入门指南：从矩阵乘法到 CUDA 内核
4 min read
HuggingFace 推出《Profiling in PyTorch》系列，本文为第一部分，手把手教你使用 torch.profiler 分析最简单的矩阵乘法与偏置加法操作，逐步解读 CPU 与 GPU 轨迹，并揭示 torch.compile 带来的变化。
# 将万亿参数模型的同步开销从TB降至MB：TRL中的Delta权重同步创新
6 min read
异步强化学习训练中，每步需传输完整模型权重。TRL团队发现相邻优化步间99%的bf16权重完全一致，于是通过稀疏safetensors文件将Qwen3-0.6B的同步负载从1.2GB降至20-35MB，并利用Hugging Face Bucket实现跨机器的零配置传输。
# 速度之光：NVIDIA 发布 Nemotron-Labs 扩散语言模型，非自回归生成迈入实用化
5 min read
NVIDIA 推出 Nemotron-Labs Diffusion 系列模型（3B/8B/14B），采用扩散语言模型架构实现多令牌并行生成与迭代精炼，在推理速度和纠错能力上突破自回归模型的局限，并发布配套代码与开源许可。
# 万亿参数模型的轻量同步：TRL 引入 Delta Weight Sync，异步RL每步开销从1TB降至20MB
5 min read
Hugging Face TRL库发布Delta Weight Sync机制，利用权重更新稀疏性，将异步强化学习中从训练器到推理引擎的模型同步开销降低约三个数量级，并可在无共享集群的条件下完成跨节点训练。
# PaddleOCR 3.5：拥抱Transformers生态，重塑文档AI基础设施
4 min read
PaddleOCR 3.5版本新增Transformers推理后端，使OCR与文档解析模型能原生运行在HuggingFace生态中，大幅降低RAG和文档AI应用的接入门槛。