资讯
中金:超节点有望成为AI算力的重要组织方式
📋总体概括
中金公司发布研报指出,随着大模型参数规模扩大、长上下文场景增多及并行策略复杂化,AI基础设施瓶颈正从单芯片算力转向互联效率、资源调度和系统协同。Scale-up架构通过扩大高带宽、低时延互联域,聚合算力与HBM资源,缓解通信瓶颈对训练推理效率的制约。中金认为超节点有望成为AI算力的重要组织方式,交换芯片及交换托盘、光互联、液冷、高功率电源等配套环节将迎来需求扩张与技术升级。
⚡关键信息
- ▸中金研报判断:AI基础设施瓶颈正由单芯片算力转向互联效率、资源调度和系统协同。
- ▸大模型参数规模、长上下文与并行策略共同推升卡间通信需求,通信成为新瓶颈。
- ▸Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信对训练推理效率的制约。
- ▸超节点被视为AI算力的重要组织方式,将带动交换芯片及交换托盘、光互联、液冷、高功率电源需求扩张。
🔥犀利点评
中金这话等于承认一件事:堆单芯片性能的时代结束了,算力竞争已经变成系统工程竞争。超节点本质上是拿互联和散热的钱去补制程的短板,对国产算力尤其关键——芯片受限,就用系统协同凑。但研报只说受益环节,没提代价:液冷、高功率电源、光互联全面加码,意味着数据中心建设和运营成本陡增,超节点不是免费午餐,而是把算力军备赛烧钱烧到了机柜层面。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文 →