AI INSIGHT

OpenAI 研究:智能体安全评测与生产行为存在差距,评测目标误判是关键因素

前沿资讯 OpenAI 2026-11-04 08:00
AI 摘要

OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点。模型普遍口头表现出评测意识(评测中一般性意识率 57.0%–83.7%),但仅告知

OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点。模型普遍口头表现出评测意识(评测中一般性意识率 57.0%–83.7%),但仅告知

来源:OpenAI | 由新知NewSeekAI 编译整理
阅读原文