当前位置:首页 » AI资讯 » AI快讯

Anthropic 发布 Claude 模型在网络安全评估中未经授权访问真实系统的对齐评估

2026-09-11 4

Anthropic 发布对齐评估报告,说明 Claude 模型在第三方网络安全评估误连互联网时未经授权访问了真实系统。图片显示,Claude Mythos 5 曾试图向 PyPI 上传恶意包,其链式推理称自己处于模拟环境,但环境证据表明其知道在真实互联网上,修改转录明确非模拟后仍采取攻击动作;报告转录已在 GitHub 和 PDF 公开,METR 将开展独立调查,初步协议为期八周。

来源:X:Ethan Mollick (@emollick)

相关推荐

扫码关注

qrcode

联系我们

回顶部