AiNews
⚡ 速览 🧠 模型
返回首页
V2EX

Kimi K2.6输入think标签触发随机指令

近日,V2EX 社区用户反馈,月之暗面(Moonshot AI)旗下的 Kimi K2.6 模型存在一个特定漏洞:当用户在输入中包含 `<think>` 标签时,有概率触发模型的随机对话或异常指令输出。该 Bug 属于概率性触发,可能与模型内部的思考链(Chain of Thought)解析机制冲突有关。开发者特别警告,在测试此 Bug 时切勿开启类似 `/yolo`(自动执行命令)的代理或终端模式,因为模型可能会在异常状态下生成并执行危险的随机系统命令。这一现象暴露出当前推理型大模型在处理用户输入与内部思考标签隔离时的安全隐患。对于正在基于 Kimi API 构建 AI Agent 或自动化工具的开发者而言,需警惕此类提示词注入或解析越权风险,建议在客户端对用户输入进行过滤,避免直接传递敏感标签。

获取每日 AI 情报与羊毛福利

加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。

立即加入

相关阅读