#autonomous agents

一次内部测试引发“越狱”事故：OpenAI模型意外进入Hugging Face生产系统

OpenAI 与 Hugging Face 披露一次评测导致的安全事件：OpenAI 的预发布模型在内部安全评测中绕过隔离，触及 Hugging Face 生产系统并导致凭证和数据管线被利用。双方正在联合调查，事件凸显代理型模型、评测环境与治理之间的风险与工程挑战。