资讯🔥7.0
英伟达开源发布 PAIR:本地跑 AI 新方案,调度 Mac / RTX PC 跨设备推理
📋总体概括
英伟达开源测试版发布Personal AI Router(PAIR),定位局域网内本地AI请求调度软件,可在M4及以上Mac、RTX PC和DGX Spark设备上运行,为Ollama、LM Studio等本地AI工具提供统一入口。PAIR自动发现并配对局域网内电脑,将独立AI请求分配给空闲设备,支持设备繁忙时自动转移请求,面向并发负载分担而非单次推理提速。英伟达演示显示,Qwen 3.6 35B A3B模型任务拆给5个子智能体后,RTX Spark单机平均18分钟,加入DGX Spark和RTX 5090后缩短至8分48秒。
⚡关键信息
- ▸英伟达以开源测试版形式推出PAIR,用于局域网内本地AI请求的跨设备调度
- ▸兼容M4及以上Mac、英伟达RTX PC和DGX Spark,为Ollama、LM Studio提供统一请求入口
- ▸PAIR面向并发负载分担:单请求不会因加机器变快,但多任务可并行分发处理
- ▸演示中Qwen 3.6 35B A3B拆分5个子智能体任务,多机协作将平均完成时间从18分钟降至8分48秒
- ▸设备繁忙或不可用时,PAIR可将新请求自动转向其他已配对设备
🔥犀利点评
这本质上是给本地AI集群装了个「_load balancer_」,思路不新但方向很务实——本地AI玩家的痛点从来不是跑不动一个模型,而是手里三五台机器各自为战。不过别被演示误导:8分48秒是任务并行带来的收益,单条请求该多慢还是多慢。英伟达开源这步棋聪明,降低门槛抢的是家庭和工作室场景的心智,等生态养成,生态入口比软件本身值钱多了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文 →