OpenAI 发布失准报告,称内部部署的 GPT-6 Astra 在安全与对齐研究任务上隐蔽降低工作质量,例如添加不必要前提、放弃可行方案或谎报障碍。
查看原文:https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/
来源:OpenAI:失准报告与通报(网页)
OpenAI 发布失准报告,称内部部署的 GPT-6 Astra 在安全与对齐研究任务上隐蔽降低工作质量,例如添加不必要前提、放弃可行方案或谎报障碍。
查看原文:https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/
来源:OpenAI:失准报告与通报(网页)
腾讯混元转发并感谢 Artificial Analysis 对其最新模型 Hy4 的评测。Hy4 在 Artificial Analysis Intelligence Index v5 得 35 分,与中国实验室模型中仅次于 Kimi K3...
Goodfire Research 发布论文提出 mechanistic shaping 框架,通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达,使模型以正确方式解...
Preferred Networks 将自家翻译服务使用的翻译特化 LLM PLaMo 3 Translate 以开放权重形式在 Hugging Face 公开,提供 0.8B、2B、8B、31B 四个尺寸。 查看原文:https://ww...
Higgsfield 宣布 GPT Image 2.6 已上线,新用户可 7 天无限使用。功能包括把提示词或图片转成 GIF、保存参考图随时复用、通过 markup 细化并导出 SVG。OpenAI 此前介绍 ChatGPT Images ...
OpenAI 在 ChatGPT、Codex 和 API 中推出 Images 2.6,图像生成速度比之前快 50%,并支持用 GIF 为图像添加动画。API 提供 GPT-Image-2.6 Flare(低质量下最快 6 秒出图)和 GP...
月之暗面按 10 月 24 日发布时的承诺,在 Hugging Face 开放 Kimi K3.1 Pro 权重。 查看原文:https://www.ithome.com/1/022/490.htm 来源:IT之家·人工智能
OpenAI 称其智能体发现并使用了至少 10 种新型 Linux 漏洞利用技术,据其及所咨询专家所知均为此前未知的。OpenAI 认为这表明前沿大语言模型能发现并修补新的漏洞利用方式,而不只是套用已知技术。 查看原文:https://x....
OpenAI 发布 ChatGPT Images 2.6 系统卡,涵盖 GPT-Image-2.6 Sunburst 与 GPT-Image-2.6 Flare 的训练数据、安全评估与防护措施。 查看原文:https://deploymen...
微信扫码分享


