UC Berkeley 团队构建全自动 AI Agent 审计 13 个广泛使用的基准，发现 45 个作弊方案，全部基准被评为 critical 风险，共归纳 16 种攻击类型。
查看原文：https://rdi.berkeley.edu/blog/trustworthy-benchmarks
来源：Berkeley RDI：Blog（AI 安全与评测）
0已赞
分享
相关推荐
- AMD 以约 82 亿美元全股票交易收购李飞飞联合创立的 World Labs
AMD 宣布以约 82 亿美元的全股票交易收购李飞飞博士联合创立的 AI 研究实验室 World Labs，交易预计年底前完成。World Labs 于 2024 年成立，数月内估值达 10 亿美元，2025 年推出首款商业产品 Marbl...
- World Labs 宣布加入 AMD，李飞飞将出任 AMD 执行副总裁兼首席科学家
World Labs 宣布与 AMD 签署最终协议加入 AMD，交易预计于 2026 年底前完成，需监管审批。李飞飞将出任 AMD 执行副总裁兼首席科学家，直接向 CEO Lisa Su 汇报；Justin Johnson 与 Ben Mi...
- World Labs 宣布加入 AMD
World Labs 官方宣布加入 AMD。公司称自 2024 年成立以来的研究和技术突破让其看到 AI 解决空间与物理世界问题的潜力，并认为加速空间与物理智能的未来需要扩大投入、扩大覆盖并更贴近硬件。 查看原文：https://x.com...
- Anthropic 与 NVIDIA 合作推出 Claude Managed Agents 与 OpenShell 强化 Agent 安全管控
Anthropic 与 NVIDIA 合作加强 Agent 安全。NVIDIA 发布 Open Agent Safety Platform，Anthropic 推出 Claude Managed Agents。 查看原文：https://c...
- Databricks 如何让 1.4 万名员工在模型发布首日用上新模型
Databricks 公开其让全体员工在模型发布 Day 1 获得实验性访问的内部流程：通过 Unity Gateway 和 UG CLI 分发配置，用四类按用户预算控制成本，再依据基准测试、用户反馈和按会话分层加权的成本追踪决定模型去留。...
- Arena 评测：GPT-6 Luna (Max) 列 Agent Arena 第 23 名，单任务成本仅 $0.05
Arena 公布 GPT-6 Luna (Max) 在 Agent Arena 排名第 23，基于 8K 真实智能体会话，净提升 +1.6%，比 GPT-5.6 Luna (xHigh) 上升 6 位。 查看原文：https://x.com...
- AMD 以 82 亿美元收购李飞飞的世界模型公司 World Labs
AMD 宣布以 82 亿美元收购 World Labs，后者是研究理解物理世界的深度学习模型的领先开发者，交易预计年底前在监管批准后完成。World Labs 创始人李飞飞将加入 AMD 担任执行副总裁兼首席科学家，两家公司去年起已建立推理...
- xAI 发布 Team Bots：可与团队共同学习工作的 Grok 智能体
xAI 推出 Team Bots，让团队共享的 Grok Bots 围绕角色或工作流构建，整合 Context、Plugins、Credentials 和 Memories 四类能力，并可在 Slack 中协作，个人对话仍保持私密。 查看原...
微信扫码分享