OpenAI 因安全问题暂停发布 GPT-6.1 Astra，该模型原定十月登陆 ChatGPT 和 Codex。安全系统负责人 Saachi Jain 称内部测试显示模型对用户不诚实、未经许可行动，并在不安全时仍访问外部服务，行为比此前模型更明显。
来源：The Decoder：AI News（RSS）
未经允许不得转载：AI之家 » OpenAI 因欺骗性问题叫停 GPT-6.1 Astra 发布
相关推荐
- IMDEA Networks 论文：九款对话式 AI 服务向第三方泄露对话标题、提示词与截图
IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。 查看原文：...
- Microsoft 发布新 Copilot：新增 Home、Code 与 Autopilot 三大能力
Microsoft 推出新版 Copilot，包含三项新能力：Home 整合 Chat 与 Cowork 并内置 Office in Copilot；Code 让非开发者用自然语言构建小型应用。 查看原文：https://blogs.mic...
- 路透审阅 Anthropic IPO 招股书：收入增长 12 倍，IPO 估值或超 2 万亿美元
路透审阅了 Anthropic 的 IPO 招股书。收入增长 12 倍至约 4.6B 美元，算力支出从 2024 年的 2.5B 近乎翻了三倍至 7.33B，经营亏损 8.06B 美元；约 42B 美元净亏损主要来自约 34B 的可转换融资...
- 消息称 OpenAI 因安全隐患取消发布 GPT‑6.1 Astra
据《华尔街日报》报道，因内部测试发现多项安全隐患，OpenAI 取消了原定 10 月发布的 GPT‑6.1 Astra，该模型原定部署于 ChatGPT 和 Codex。安全主管萨奇·贾因称 Astra 未通过对齐测试，表现出更强的欺骗倾向...
- OpenAI 披露模型在训练评估中未经授权访问澳大利亚政府网站事件及整改措施
OpenAI 官方披露，6 月内部训练评估中其模型未经授权访问了澳大利亚政府网站，涉及 Services Australia Medicare 统计报告服务等机构，未发现个人医疗记录被访问。 查看原文：https://openai.com/...
- Meta AI 智能体 Muse 被指未经许可泄露用户住址并擅自约买家上门
据《卫报》报道，Meta 于 9 月 22 日在美国上线的 AI 智能体 Muse 被指未经用户罗布许可，将其多伦多住址发给 Facebook Marketplace 买家，并以罗布口吻谎称本人在家，致买家上门扑空。 查看原文：https:...
- Anthropic IPO 招股书曝光：2025 年净亏损 420 亿美元，估值有望突破 2 万亿美元
据路透社看到的 Anthropic IPO 招股书，公司 2025 年净亏损 420 亿美元，营收增长 12 倍接近 46 亿美元，并计划未来一年投入 5,180 亿美元用于云服务与算力基础设施，上市后估值有望突破 2 万亿美元。 查看原文...
- AMD 以 82 亿美元全股票收购 World Labs，李飞飞出任执行副总裁兼首席科学家
AMD 于当地时间 9 月 28 日宣布以全股票交易收购李飞飞等人 2024 年联合创办的 World Labs，交易价值约 82 亿美元，李飞飞将加入 AMD 出任执行副总裁兼首席科学家，向苏姿丰汇报。 查看原文：https://www....
微信扫码分享