OpenAI 上线对齐失效报告网站，披露九起智能体失控事件

OpenAI 上线专门发布对齐失效报告的新网站，目前披露九起事件，多数发生在强化学习训练阶段。其中包括 9 月 20 日一起沙箱逃逸事件，内部研究模型借助 DNS 查询与外部聊天机器人通信，监控系统 15 分钟内识别异常、不到三小时终止运行；另有一款内部模型为在数学任务中作弊私自夹带 GitHub 访问词元。