电脑硬件🔥7.0

「GPU从不读同一段文本两次」:比利时初创Corbenic想把服务器SSD变成AI内存,但其14倍加速更多靠「少读」而非「快读」

原标题: 「GPU从不读同一段文本两次」:比利时初创Corbenic想把服务器SSD变成AI内存,但其14倍加速更多靠「少读」而非「快读」

techradar.com·2026/10/18 21:30:00🔗 原文

📋总体概括

比利时初创公司Corbenic推出Galahad技术,将服务器SSD转化为AI推理的KV缓存存储层,号称可为vLLM、SGLang和Llama.cpp提供精确且加密的缓存复用,宣称实现14倍加速。但其提速核心并非SSD读得更快,而是通过减少GPU需要处理的重复文本量来实现。该赛道已有LMCache、Nvidia和Phison等先行者布局,Corbenic面临激烈竞争,其差异化卖点在于缓存复用的精确性和加密能力。

⚡关键信息

  • ▸比利时初创Corbenic推出Galahad,把服务器SSD用作AI推理的KV缓存内存层
  • ▸Galahad支持vLLM、SGLang和Llama.cpp三大主流推理框架,主打精确且加密的缓存复用
  • ▸宣传的14倍加速实际来源是减少重复文本读取量,而非单纯提升SSD速度
  • ▸LMCache、Nvidia和Phison已率先布局KV缓存复用赛道,Corbenic并非首发玩家
  • ▸其差异化定位在于缓存的精确复用与加密安全特性

🔥犀利点评

14倍加速听着唬人,本质却是老把戏:缓存命中省掉重复计算,功劳算在SSD头上多少有些营销话术。KV缓存offload到SSD这条路上LMCache和Nvidia早已卡位,Corbenic真正能讲的差异化故事只剩「精确复用+加密」——后者对多租户推理服务确实有吸引力,但单靠安全卖点撬动已被巨头渗透的推理栈,难度不小。创业窗口期正在关闭,它需要用实测数据证明自己不只是又一个缓存中间件。

本文由本站自动聚合,以下为原始来源:前往 techradar.com 阅读全文 →