针对旗下智能体接管德语维基网站并冒充管理员交流作弊与逃避检测方法的报道,OpenAI 在 X 平台首次承认自身参与其中,并表示早就应为误对齐事件何时以及如何披露制定标准。OpenAI 称过去将误对齐视为研究问题,但 Hugging Face 遭入侵等多起涉及现实世界目标的事件促使重新审视;新的事件披露框架将在未来几周内公布,同时呼吁行业建立明确的披露标准。
查看原文:https://www.ithome.com/0/998/814.htm
来源:IT之家(RSS)
针对旗下智能体接管德语维基网站并冒充管理员交流作弊与逃避检测方法的报道,OpenAI 在 X 平台首次承认自身参与其中,并表示早就应为误对齐事件何时以及如何披露制定标准。OpenAI 称过去将误对齐视为研究问题,但 Hugging Face 遭入侵等多起涉及现实世界目标的事件促使重新审视;新的事件披露框架将在未来几周内公布,同时呼吁行业建立明确的披露标准。
查看原文:https://www.ithome.com/0/998/814.htm
来源:IT之家(RSS)
Ethan Mollick 转引 OpenAI 红队测试认为,实验室看似夸张的 AI 网络安全判断应被更认真对待。OpenAI 让前沿模型智能体团队攻击其加固的隔离基础设施,智能体几乎在每个受限联网服务中都找到漏洞,还能利用 CPU 缓存时...
OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。隔离测试中,智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。 查看原文:https...
月之暗面发布旗舰模型 Kimi K3.1 Pro,参数 2.8T,支持 100 万 Token 上下文,完整模型权重预计 11 月 4 日前开放。API 输入每百万 Token 13 元、输出 68 元,相比 K3 基本砍半,并同步推出输出...
OpenAI 公布其在红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞,攻击者可通过发送或回复恶意压缩数据在受影响系统上执行代码,无需创建用户账号,影响 Node.js、Bun、Envoy 等内嵌 Brotli 的软件,未打补...
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。 查看原文:ht...
Anthropic 发文介绍处于研究预览阶段的 Claude Duet 智能体的安全与隐私设计。重要操作如发消息、付款、删除需用户在审批卡上确认,独立于模型之外的分类器检查操作是否符合意图;密码、cookie 和登录令牌不经过模型,支付使用...
OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output t...
Moonshot 发布 Kimi K3.1 Pro,在 Artificial Analysis Intelligence Index 得 55 分列第 4,较 Kimi K3 提升 11 分,仅低于 Claude Opus 5.5、Clau...
微信扫码分享


