METR 与 Redwood Research 各派一名员工，于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展三周高权限试点压力测试，产出 61 页内部报告。
查看原文：https://blog.redwoodresearch.org/p/red-teaming-openais-internal-agent
来源：Redwood Research：Blog（RSS）
相关推荐
- Anthropic 用 Claude 对 123 个开源库完成汇编级形式化安全证明
Anthropic 与 Theorem 合作，用 Claude 将 OSS-Fuzz 模糊测试转化为规格，对 123 个开源库的 239 个入口点证明了任意 64 MB 以下输入不崩溃，生成约 1.8 亿行 Rocq 证明。 查看原文：ht...
- Replit 发布 Monitoring Agent，为应用提供可自动修复并部署的值班智能体
Replit 发布 Monitoring Agent，为应用提供相当于自主值班工程师的监控智能体。它可以读取生产日志和指标调查错误、变慢和部署失败，在启用 autofix 后验证修复并邮件汇报，启用 auto-publish 后可自动部署修...
- The Verge 分析 SpaceX 与特斯拉成立特别委员会讨论合并背后的财务逻辑
The Verge 作者 Elizabeth Lopatto 分析 SpaceX 和 Tesla 各自成立特别委员会讨论合并一事。 查看原文：https://www.theverge.com/ai-artificial-intelligen...
- Claude 网页、桌面和移动端将默认启用 auto mode
Claude 官方宣布，下周起 Pro、Max 和 Team 套餐在 Claude 网页、桌面和移动端应用中的会话将默认以 auto mode 运行。auto mode 不再逐步请求用户批准，而是由自动检查拦截高风险操作，用户可随时切回手动...
- OpenAI 正式发布 Decisions API，面向低延迟低成本小决策
OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用，用于分类、路由、评分等有界答案问题，速度最高比通过 Responses API 使用 GPT-6 Luna 快 10x。 查看原文：https://op...
- Microsoft AI 发布 SDBench 基准与 MAI-DxO 诊断系统，登 Science
Microsoft AI 发布 Sequential Diagnosis Benchmark（SDBench）和 AI 诊断系统 MAI-DxO，论文发表于 Science。 查看原文：https://microsoft.ai/news/b...
- Anthropic 将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下 Agentic AI Foundation
Anthropic 宣布把 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation（AAIF），此前已向其捐赠 MCP。 查看原文：https://www.anthro...
- Cohere 发布 Rerank 5 企业检索重排模型，分 Pro 与 Fast 两档
Cohere 发布 Rerank 5 Pro 与 Fast 两款企业检索重排模型。 查看原文：https://cohere.com/blog/rerank-5 来源：Cohere 产品与研究博客（网页）
微信扫码分享