OpenAI 研究团队介绍如何用自动化红队提升模型在网络、生物等高风险双用途领域的模糊鲁棒性，通过扩大攻击者模型的测试时算力迭代搜索越狱，并要求攻击在多次重复测试中成功（worst@n），生成可靠的对抗训练数据用于 RL 训练。
查看原文：https://alignment.openai.com/fuzzy-robustness/
来源：OpenAI：Alignment 研究博客（RSS）
相关推荐
- 黄仁勋辞去英伟达总裁兼CEO，作者梳理14天风波始末
英伟达公告黄仁勋辞去总裁、CEO和董事职务，即刻生效，股价开盘下跌14个点。作者依据《纽约时报》、The Information 等报道梳理脉络：从2022年A100、H100对华禁售，到 Megaspeed 采购争议、黄乐被情报机构认定涉...
- 民主党对 Nvidia 对华芯片销售启动调查，致函质疑黄仁勋与特朗普的安排
民主党议员 Rep. Richard Neal 和 Sen. Ron Wyden 就特朗普政府处理 Nvidia 对华芯片销售一事开启调查，并致函商务部长 Howard Lutnick 要求保存相关记录。 查看原文：https://tech...
- Anthropic 建议把 Claude Opus 5.5 作为知识工作的日常主力模型
Anthropic 宣布 Claude Opus 5.5 成为 Pro、Max、Ultra 和 Team 套餐的默认模型，并推荐将其作为研究、分析和写作等知识工作的日常主力。 查看原文：https://claude.com/blog/usi...
- Rohan Paul 类比乔布斯被逐，评 NVIDIA 放走黄仁勋
Lex Fridman 发文称 NVIDIA 让黄仁勋离开对美国和人类都是巨大错误，堪比 Apple 当年解雇 Steve Jobs 但影响更大，并为其品格辩护、回应间谍传闻。Rohan Paul 转引并列举 Atari 1978（Nola...
- Gemini 4 Hydrogen 今日起向全球所有用户推送
Google Gemini 宣布 Gemini 4 Hydrogen 今日起向全球所有用户推送，覆盖桌面、移动和网页端。免费用户无需单独选择模型，当提示词适合该模型时可通过自动模型选择使用它，详情见 https://goo.gle/4AxH...
- Anthropic 推出 Claude Meetings，Claude 以参会者身份加入视频会议
Anthropic 推出 Claude Meetings beta，Claude 可作为可见参会者加入视频通话，在会中回答提问、协作创建文档和白板，并生成笔记和行动项。 查看原文：https://claude.com/blog/claude...
- Google 智能眼镜开放预购，12 月 10 日发货
Josh Woodward 宣布 Google 智能眼镜开启预购，用户可在 https://glasses.google 下单，12 月 10 日发货。首批用户可到部分 Warby Parker、Gentle Monster 和 Googl...
- Anthropic 推出 Claude Meetings，可在视频会议中实时协作并生成会议产物
Anthropic 推出 Claude Meetings，把 Claude 以可见参会者身份加入团队视频会议，在通话过程中实时创建文档、白板等产物，团队成员可边看边纠正，Claude 同时负责会议记录。 查看原文：https://www.y...
微信扫码分享