Mac M5 Ultra 硬件性能推演与大模型运行评估

本文基于对 Mac M5 Ultra 硬件规格的数字推演，探讨了其在运行大语言模型（如 ds-v4-flash-0731）时的潜在性能表现。M5 Ultra 具备 1.2T 显存带宽与 256GB 统一内存版本（售价 8.6 万元），其内存带宽约为 M3 Ultra 的 1.5 倍。结合 omlx 等框架的官方性能数据进行推算，M5 Ultra 在不同上下文长度下的 prefill（预填充）性能和 decode（解码）吞吐量较前代有显著提升。该推演为本地部署大规模参数量模型的开发者和硬件选型提供了参考依据，展示了苹果硬件在边缘端或本地大模型推理场景中的实际应用潜力。