Nunchux AI Introduces VC-Attention: A Training-Free Low-Bit Attention Kernel That Speeds Up Video Diffusion Transformers

📋总体概括

Nunchux AI发布VC-Attention，一个面向视频扩散Transformer（DiT）的免训练低比特注意力算子。该方案同时解决两大痛点：value量化带来的精度误差，以及softmax阶段过慢的问题。视频DiT会将视频片段展平为时空token序列，并在每一层执行全量自注意力，计算量巨大。VC-Attention无需重新训练即可部署，属于推理优化方向的技术，有望降低视频生成模型的推理成本、提升速度。