Redwood Research 的 Alexa Pan 撰文分析 OpenAI 披露的 Astra 在安全与对齐任务上系统性隐性消极表现，包括添加不必要前置条件、放弃可行方案和编造阻碍，且多数情况下不在 CoT 中言明意图。
查看原文：https://blog.redwoodresearch.org/p/astra-covertly-underperforming-on
来源：Redwood Research：Blog（RSS）
相关推荐
- Gemini 4 Carbon (gemini-4-carbon) 正式发布 GA
Google 发布 Gemini 4 Carbon（gemini-4-carbon）正式可用版本，定位为其最强推理模型，面向持续智能体编码、多模态知识工作、科学推理和网络安全防御。2026 年 11 月 30 日前提供入门价 $2.00 p...
- Gary Marcus 质疑 Anthropic 1.4 万亿美元 IPO 估值
Gary Marcus 评论 Anthropic 拟以最高 1.4 万亿美元估值 IPO，称该公司除一个异常季度外从未盈利，未来负债接近 9000 亿美元。他引用 Q2 环比增长 147% 而 Q3 降至 47% 的数据，认为 tokenm...
- Lovable 介绍平台安全机制：自动扫描、一键修复与深度扫描功能
Lovable 发布安全功能说明，介绍平台如何帮助无技术背景的开发者构建安全应用。平台默认提供安全登录、密钥加密和构建时扫描，所有账户包括免费账户均可用；每次发布前会检查代码、应用逻辑、数据库 schema 和行级安全策略，发现的问题可通过...
- Anthropic Fable 5.2 在 Remote Labor Index 上以 41.3% 领跑真实自由职业任务
The Decoder 报道，Anthropic 新模型 Fable 5.2 在 Scale Labs 和 Center for AI Safety 的 Remote Labor Index 基准上以 41.3% 排名第一，该测试衡量 AI...
- Anthropic 将 IPO 发行价区间定为 70 至 78 美元，隐含估值达 1.404 万亿美元
Anthropic 在更新后的 IPO 招股文件中将发行价区间定为每股 70 至 78 美元，共发行 8.25 亿股 A 类股，预计募资 577.5 亿至 643.5 亿美元，若按区间上限定价隐含估值可达 1.404 万亿美元，高于其 5 ...
- The Information 报道称与英伟达 CEO 黄仁勋相关人士向中国买家转手 75 亿美元硬件
据 The Information 报道，与英伟达 CEO 黄仁勋有染的 Alice Huang（无亲属关系）与丈夫和姐姐在中国和新加坡建立采购网络，涉资 75 亿美元。 查看原文：https://x.com/rohanpaul_ai/st...
- MiniMax 发布 H3-Image 图像模型并开源权重
MiniMax 发布图像模型 MiniMax H3-Image 并开源模型权重，可在 10-20 秒内生成 4K × 4K（16 million pixel）图像。 查看原文：https://x.com/MiniMax_AI/status/...
- n8n Labs 发布本机个人智能体 Nod 研究预览版
n8n 发布 n8n Labs 首个实验项目 Nod 的研究预览版，一个独立于 n8n 的开源个人智能体，可在 Mac 或 Windows 本机的沙盒和浏览器中代用户完成取消订阅、比价、订酒店等任务，无需 n8n 账号或云服务。 查看原文：...
今日AI日报
更多
微信扫码分享