METR 发布对 Anthropic 2026 年 8 月风险报告“高风险场景中的错位”章节的独立外部审查，基本同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性错位风险为低，但认为这主要源于模型能力有限而非安全防护。
查看原文：https://metr.org/blog/2026-10-20-misalignment-risk-report-august-2026-review/
来源：METR：Blog（网页）
相关推荐
- Anthropic 云合作生变：AWS、Google、微软视其为竞争者
据泄露给华尔街日报的 S-1 文件，Anthropic 难以从 AWS、Google 和 Microsoft 获得足够云算力，这些厂商日益将其视为竞争者而非客户。 查看原文：https://techcrunch.com/2026/10/20...
- SpaceX 财报显示 AI 业务超预期，收入占比达 52% 并重回盈利
SpaceX 发布三季度财报，AI 相关业务表现好于投资者预期，AI 已占公司收入的 52%。第三季度营收 146 亿美元，其中更名后的 Super Intelligence 业务线（包括近期收购的 Cursor、Grok 和 neoclo...
- Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线，主打长上下文编码与 Agent 工作
Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上 Day-0 开放 serverless 调用，为 816B 参数 MoE 模型，每 token 激活 42B 参数，上下文窗口 1M token。 查看原...
- fal 发布 FLUX 3 Max，图生视频 Elo 达 1139 并列第一
fal 发布与 Black Forest Labs 合作后训练的视频模型 FLUX 3 Max，在第三方独立人类偏好评测中获 1139 Elo，与 Seedance 2.5 并列图生视频质量第一梯队。该模型约 12 秒生成一段 10 秒 7...
- Databricks 发布 MemCurrent 生产级 Agent 持久记忆架构
Databricks 介绍 MemCurrent，一种面向生产 Agent 的持久记忆架构，结合情景记忆与派生记忆，通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆，已用于 Agent Bricks Memory ...
- Tessl 团队分享：不再逐行审查 AI 生成代码，改为验证意图
Tessl 工程师 Ankit Jain 分享团队 PR 量翻四倍、代码几乎全部由 AI 生成后，放弃逐行 diff 审查、改为在代码生成前审查意图并逐条验证验收标准的做法。关键实践包括维护 offer-skill 技能理解代码变更，以及把...
- Ai2 发布 FairStress 基准：测量 LLM 决策中被隐藏的公平性不对称
Ai2 发布 FairStress 基准，通过 300 个两候选决策场景和对抗前缀，测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同，全部组合超过 1300 万测试用例，并已开放下载、集成进 Olmo-eval。...
- Perplexity Computer 现可在 Mac 上完全本地运行，无需云端推理
Perplexity CEO Aravind Srinivas 宣布，Perplexity Computer 现可在 Mac 上完全本地运行，无需云端推理，也不用 WiFi。模型和智能体都在本机运行，可操作 Mac 原生应用和本地文件，敏感...
微信扫码分享