NVIDIA GPU如何助力OpenAI GPT-6 Astra Ultrafast加速

📋总体概括

OpenAI推出GPT-6 Astra Ultrafast模式，基于NVIDIA Blackwell架构GPU运行，现已通过OpenAI API向开发者开放，并同时面向符合条件的ChatGPT Work与Codex用户。得益于OpenAI针对Blackwell架构能力所做的推理优化，Ultrafast模式的token生成速度最高可达Astra Standard模式的8倍，主打低延迟、高吞吐的极速推理体验。这一动作显示了OpenAI与NVIDIA在推理端深度协同的成果，也意味着高端AI推理性能正成为API竞争的新卖点，开发者可以直接调用更快的生成能力构建实时类应用。