TrueNAS 集中托管 Ollama 模型

📋总体概括

TrueNAS 社区展示了在 TrueNAS SCALE 上集中托管 Ollama 大语言模型的应用方案，通过应用/Apps 或虚拟化方式部署 Ollama，让 NAS 成为家庭或小型团队统一的本地 AI 推理中心，多台客户端设备可共享同一套模型库与算力。该方案利用 NAS 的大容量存储存放模型权重、降低重复下载成本，并探讨了 GPU 直通对推理性能的影响，是存储设备向 AI 基础设施延伸的典型实践。