V2EX
Anthropic 威胁情报报告:警惕大模型生物误用风险
Anthropic 最新前沿模型威胁情报显示,生物误用成为核心安全挑战。报告指出,多起涉及基孔肯雅病毒、禽流感气溶胶、正痘病毒及毒液肽图谱的高危申请,被伪装成“治疗、减毒或疫苗”等两用工作,成功绕过了基于关键词的常规大模型分类器。Anthropic 强调,仅靠拦截露骨提问远远不够,行业必须建立机构信号认证、数据留存审计以及可信访问通道,以应对复杂的提示词包装与多级转售中继风险。
获取每日 AI 情报与羊毛福利
加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。