AiNews
⚡ 速览 🧠 模型
返回首页
V2EX

Qwen支持Prompt缓存,实测命中率达90%

近日,有开发者在 V2EX 社区反馈,阿里通义千问(Qwen)已上线类似于 DeepSeek 的 Prompt Caching(提示词缓存)技术。在实际使用 Coding Plan 套餐(涉及 Qwen Plus 等模型)进行编程辅助时,提示词缓存命中率竟然高达 90%。 这一技术的应用对开发者具有重要意义: 1. **大幅降本增效**:Prompt 缓存能避免重复计算相同的上下文(如大型代码库或历史对话),显著降低 API 调用的 Token 成本并减少首字延迟(TTFT)。 2. **加速大模型普及**:随着 Qwen 等主流大模型跟进缓存技术,AI 辅助编程的算力成本大幅下降,社区纷纷猜测未来相关的 AI 编码套餐可能会向公众提供更低的准入门槛或更优惠的资费。 这表明“缓存技术”已成为大模型厂商优化长文本体验、打赢价格战的标配技术。

获取每日 AI 情报与羊毛福利

加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。

立即加入

相关阅读