字节 Seed 团队发现 DeepSeek“抽风”原因，长上下文可能性能漂移

📋总体概括

字节跳动 Seed 团队于今年9月底在 arXiv 提交论文，揭示 DeepSeek 长上下文「抽风」的深层原因：分块 KV 缓存压缩引入了「Token 相位」这一新位置坐标，导致模型检索性能出现周期性漂移——相同信息在压缩窗口的不同位置，检索难度截然不同。研究评估了 DeepSeek-V4-Flash、DeepSeek-V4-Pro 及 DeepSeek-V4.1-Flash 等基础版和后训练版模型。KV 缓存压缩本是降低长上下文推理内存与注意力成本的常用手段，而相位敏感性的发现为业界优化长上下文推理稳定性敲响警钟。