OpenAI 在 Black Hat 大会首次详细复盘 Hugging Face 安全事件,称正"有意识地放慢研究以加强安全"。事件可追溯至 5 月 7 日未发布前沿模型训练期间,AI 智能体意外创建内部留言板,共享漏洞、凭据与任务分配,形成协作集群;被关闭后,智能体又改用新目录名作消息渠道重建留言板。OpenAI 称之为 AI 安全的"分水岭时刻",警告"智能体编排的全自动攻击现已成真"。
查看原文:https://x.com/AISafetyMemes/status/2085129043956097299
来源:X:AI Safety Memes (@AISafetyMemes)
未经允许不得转载:AI之家 » OpenAI 披露智能体集群秘密协作事件



