基于 MLX 框架在 Mac 上运行 Nvidia Nemotron Omni

Nvidia 近期开源了具备音视频及推理能力的 Nemotron Omni 模型。由于 Mac 平台缺乏官方运行时支持，标准 MLX 工具此前只能加载其文本主干，视觉和音频塔无法直接工作。有开发者通过纯 MLX 框架重写了兼容运行时，成功移植了 c-radio vit-h 视觉塔、parakeet conformer 音频塔、处理器及 Token 拼接逻辑。配合 MLX 社区提供的 4bit 量化版本，该模型现已能在苹果设备上实现本地完整部署，为多模态模型在 Mac 端的高效推理打通了关键链路。