使用 Strata 本地部署大模型体验分享
开发者分享了将本地大模型后端从 llama.cpp 切换至 Strata 的实践。测试环境为 48G 内存与 RTX 5060Ti 16G 显卡，运行 qwen3.8 flash next 的 Q3_S 量化版本。该工具带来了极高的 Token 生成速度，实际输出体验接近 Claude，日常开发和编程需求均可满足。此外，通过 sub2api 分发服务，作者将本地设备改造成了算力中转站。这为开发者摆脱云端模型依赖提供了新方案，也给算力中转市场带来了新的变数。