Mac M5 Ultra 硬件推演与模型运行性能分析

结合苹果官方数据与 omlx 框架更新，对搭载 M5 Ultra 芯片的 Mac 进行性能推演。该硬件最高支持 256GB 统一内存，显存带宽达到 1.2TB/s。在运行 ds-v4-flash-0731 等大语言模型时，其 prefill 性能约为 M3 Ultra 的 4 倍，内存带宽提升近 50%。在 1K 到 128K 的不同上下文长度测试中，无论 prefill 还是 decode 阶段，吞吐量和处理速度均有大幅改善。这为本地部署大模型和高内存端侧设备的开发者提供了实际性能参考。