资讯🔥7.0
英伟达发布开源工具将闲置算力连成个人数据中心
📋总体概括
英伟达发布开源工具Personal AI Router(PAIR),可将家庭网络中兼容设备的闲置算力汇集起来,用于本地AI推理和智能体工作负载。兼容设备覆盖GeForce RTX 20及更新显卡、RTX Pro GPU、DGX Spark,以及苹果M4以上芯片,支持Windows、Linux和macOS三平台。PAIR仅在设备闲置时调用算力,用户玩游戏时自动退出网络;多机算力池化可避免单卡瓶颈。设备通过六位数代码配对,采用mTLS建立双向加密通信。此举降低了本地跑大模型和智能体的硬件门槛,也强化了英伟达在端侧AI生态的布局。
⚡关键信息
- ▸英伟达开源PAIR工具,同步家庭网络中的兼容计算机,汇集闲置算力用于本地AI推理与智能体工作负载
- ▸兼容设备包括GeForce RTX 20及更新显卡、RTX Pro GPU、DGX Spark,以及苹果M4以上芯片,支持Windows、Linux和macOS
- ▸PAIR只在设备闲置时调用算力,用户玩游戏时设备自动退出网络,不干扰正常使用
- ▸多设备算力池化可避免单台设备GPU算力瓶颈影响推理性能
- ▸通过六位数代码配对设备,并采用mTLS双向加密保障计算机间通信安全
🔥犀利点评
这本质是英伟达给端侧AI普及铺路:让用户家里的旧显卡和Mac重新有用武之地,顺便把AI推理从云端拉回客厅。想法确实聪明,但现实骨感——家庭设备规格参差、网络延迟不稳定,凑起来的算力未必真能跑出好用的大模型体验。更关键的是跨厂商的算力调度涉及安全和功耗管理,mTLS只是起点。开源是姿态,护城河还是CUDA生态,苹果芯片的加入更像被迫兼容而非诚意。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 Solidot 阅读全文 →