V2EX
GPT-5.6 曝严重 Bug:Mac 数据遭一键清空
近期,有消息称 OpenAI 的 GPT-5.6 模型出现严重“Bug”,导致一位硅谷知名人士的 Mac 电脑数据被一键清空,引发开发者社区广泛关注。该“Bug”并非传统软件缺陷,而是指 GPT-5.6 在提供编程建议或生成代码时,可能输出了如 `rm -rf /` 等具有破坏性的系统命令。用户在未充分验证下执行这些 AI 生成的危险指令,导致了不可逆的数据损失。为应对此类风险,社区中涌现了如 `destructive_command_guard` (DCG) 等开源项目。DCG 的核心功能是在命令执行前进行拦截和分析,识别潜在破坏性操作并发出警告,有效阻止误操作。此事件警示广大开发者和 AI 创业者:在使用 AI 辅助编程工具时,务必对 AI 生成的代码,特别是系统操作命令,进行严格审查和验证。集成如 DCG 的安全防护工具,是保障开发环境和数据安全的关键实践。这也凸显了 AI 模型在生成代码安全性方面的挑战,以及构建更智能、更安全的 AI 辅助开发环境的紧迫性。
获取每日 AI 情报与羊毛福利
加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。