基于预训练投毒的智能体后门研究
本文探讨了面向AI Agent的隐蔽安全威胁——“Agentic Backdoors via Pretraining Poisoning”（基于预训练投毒的智能体后门）。随着大模型在复杂智能体工作流中的广泛应用，研究表明攻击者可以通过在模型预训练阶段注入特定恶意数据，使模型在特定触发条件下表现出异常行为，从而对下游的智能体应用构成潜在的安全隐患。这一发现揭示了当前大模型供应链在预训练环节的安全脆弱性，对开发者和安全研究人员在构建可信AI Agent系统、增强数据过滤与模型验证方面提出了新的挑战与要求。