在NAS中部署移动端显卡运行大模型

Reddit LocalLLaMA 社区近期出现了一项硬件改造案例：开发者成功将 NVIDIA RTX A3000M 12GB 和 A2000M 等移动端工作站显卡装入 NAS 设备，并用于运行大语言模型推理。该方案利用拆机显卡与转接方案，在功耗和空间受限的 NAS 环境下实现了大显存推理。对于预算有限的开发者而言，这种非标准硬件架构为私有化 AI 部署提供了一条低成本、省空间的新路径。