AiNews
⚡ 速览 🧠 模型
返回首页
LINUX DO

开源记忆化LLM网关Kiyomizu发布

Kiyomizu 是一款新开源的“记忆化 LLM 网关”项目,旨在打造更具拟人化和情感连接的 AI 伴侣体验。开发者因不满传统“酒馆”类角色扮演(RP)工具的局限性,开发了这款支持双向互动、能“互相破甲”的 AI 伙伴网关。在技术实现与部署上,Kiyomizu 采用 Java 开发,提供 Fat JAR 文件,支持“一次编写,到处运行”,用户只需通过 `java -jar` 命令即可在本地 8787 端口快速部署。该网关的核心功能包括:内置安全密码设置,以及针对 Anthropic Claude 模型的特化缓存控制(Prompt Caching)。这一优化能显著降低长文本对话和角色扮演场景下的 Token 消耗与延迟,提升交互流畅度。该项目为 AI 伴侣开发和 LLM 提示词缓存优化提供了实用的开源解决方案。

获取每日 AI 情报与羊毛福利

加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。

立即加入

相关阅读