Anthropic加大蓝队投入，深耕AI防御安全

Anthropic 近日宣布将继续加大对“蓝队”（安全防御团队）的投入，旨在提升 AI 系统的安全防御与合规能力。与侧重于模拟攻击、寻找漏洞的“红队”不同，蓝队专注于构建防御机制、验证安全标准和开发主动防御工具。Anthropic 计划通过资助第三方研究、制定新的安全评估标准，来应对大模型在网络安全、生物安全等高风险领域的潜在威胁。 对于开发者和 AI 创业者而言，这一举措强调了“防御性 AI”的重要性。随着大模型能力逼近临界点，单纯的后验式安全测试已无法满足需求。Anthropic 推动的蓝队生态建设，不仅为安全领域的开发者提供了资金和技术支持，也将促进开源安全评估工具的普及，引导行业向“主动防御”的安全架构转变。