Table of Contents
背景
2026年4月24日，DeepSeek 发布了 V4 系列模型，包含 DeepSeek-V4-Pro（1.6T 总参数，49B 激活）和 DeepSeek-V4-Flash（284B 总参数，13B 激活），两者均支持百万Token上下文窗口。尽管其基准测试分数并非所有领域都达到最高，但 DeepSeek 强调真正的创新在于为长上下文智能体任务设计的效率优化。在现实世界中，长期运行的AI智能体（如代码编写、多步浏览、终端会话）经常因上下文预算超标、KV缓存占满GPU或工具调用中途退化而失败，V4 专门针对这些痛点进行了架构层面的革新。
核心内容分析
DeepSeek V4 的核心效率提升来源于其混合注意力机制。它将注意力分为两种：压缩稀疏注意力（CSA）和混合交叉注意力（HCA）。CSA 通过 softmax 门控池化将 KV 条目沿序列维度压缩 4 倍，并使用轻量级索引器（FP4 精度、ReLU 评分多头点积）为每个查询选择 top-k 压缩块。这一设计继承了 V3.2 的稀疏注意力思想，但在块级别上运行，进一步减少了计算量。
具体数据上，在百万Token上下文中，DeepSeek-V4-Pro 的单Token推理 FLOPs 仅相当于 DeepSeek-V3.2 的 27%，KV缓存内存仅为其 10%；V4-Flash 更优，FLOPs 降至 10%，缓存降至 7%。与传统8头分组查询注意力（bf16 格式）相比，V4 的 KV 缓存大小仅为其约 2%。这使得在相同硬件上部署超长上下文推理成为可能。
除了架构，DeepSeek 还进行了针对智能体场景的后训练优化，例如强化学习中的长期奖励设计，让模型学会在长轨迹中保持一致性。这使其在 SWE-bench 等复杂软件工程任务中表现出色，能够在数千步的交互中维持对话上下文而不丢失关键信息。
行业影响与专业点评
DeepSeek V4 的发布为解决大模型在实际部署中的“长尾困境”提供了思路。以往，长上下文大模型往往因推理成本过高而无法在真实智能体任务中充分发挥潜力。V4 通过创新的 CSA 注意力机制，将 KV 缓存和计算量降低了整整一个数量级，使得百万Token不再是纸面规格，而成为可实际使用的资源。这对于需要长期记忆的对话系统、自动化代码调试、数据分析流水线等场景意义重大。此外，DeepSeek 选择开源两个不同规模的检查点，并公开详细的架构报告，有助于社区进一步探索低成本长上下文模型的设计。未来，随着类似架构的普及，AI 智能体有望在更复杂的现实任务中实现长时间自主运行，推动自动化水平迈上新台阶。
