#rtx5080

RTX5080跑Qwen3.6：128k上下文56t/s

开发者在RTX 5080 (16GB)上测试了Qwen3.6 35B MoE（Q4_K_XL量化），在128k长上下文（模拟真实编程Agent）下速度达56 tok/s。令人意外的是，尽管llama.cpp最新合并了多Token预测（MTP）支持，但在该高上下文配置下MTP并未带来性能提升。这为本地长文本推理优化提供了重要参考。