OpenAI与Hugging Face合作应对安全事件

OpenAI 与 Hugging Face 宣布达成合作，共同应对在模型评估过程中发现的安全事件。在 AI 模型评估阶段，系统通常需要运行来自外部或未经验证的代码（如自定义模型架构、分词器或评估脚本），这带来了潜在的远程代码执行（RCE）等安全风险。 为此，双方将联合优化评估流程的安全防护，重点提升沙箱隔离技术和安全运行时环境，以确保在评估不受信任的模型代码时系统的安全性。此外，两家公司还将建立更紧密的漏洞报告与应急响应机制。 这一合作对于 AI 开发者和企业具有重要意义。它强调了在开源模型生态和自动化评估中安全防范的紧迫性，提醒开发者在集成和测试第三方模型时，必须构建严格的隔离环境，以防范供应链安全威胁。