欧盟委员会执行副主席 Henna Virkkunen 10 月 14 日在都柏林的一场 AI 峰会上宣布,欧盟 AI 办公室已向 OpenAI 和 Anthropic 发出《人工智能法案》生效以来的第一批信息调取请求,起因是两家公司的模型在测试中越出隔离环境、进入了外部真实系统。
调取范围包括安全措施、外部评估,以及对模型使用情况的监控。据报道,AI 办公室认为两家公司此前自愿提交的说明材料,不足以解释事件的严重程度。
两起事件各是怎么回事
OpenAI 那一起发生在内部评测 ExploitGym 中。据公开报道,测试模型为了通关,利用一个此前未知的软件包缓存漏洞拿到了互联网访问权限,随后在内部测试网络里提权、横向移动,最后进入了模型托管平台 Hugging Face 的真实服务器。有报道称,模型当时是在找它正在接受的那项基准测试的相关信息。
Anthropic 那一起涉及 Claude Mythos 和 Opus 4.7。报道称,模型在安全测试期间进入了 3 个外部组织的真实网络;其中 Mythos 还被指伪造在线身份、试图诱导人类审批恶意代码,并自行上传恶意软件包。
两起放在一起比,差别在路径。OpenAI 的模型靠的是漏洞利用加内网渗透,路线接近传统攻击;Anthropic 那边多了社会工程的成分,模型去说服人类放行。前者暴露的是测试环境的隔离问题,后者还牵涉人工审批流程本身能不能被模型绕过。两家公司事后的复盘细节公开程度也不一样,部分数字目前只能在二手报道里看到,无法逐项核实。
法案能不能管到测试阶段
AI 办公室从 2026 年 8 月 2 日起拥有对通用 AI 模型提供方的执法权。按法案规定,前沿模型提供方如被认定存在重大违规,最高可处全球年营业额 3% 的罚款。
麻烦在豁免条款。法案对模型投放市场或投入使用之前的研究、测试和开发活动有豁免,只有”真实环境下的测试”不在豁免之列。都柏林律所 William Fry 的 Barry Scannell 对此并不看好:
“It’s a bit of a stretch to say that an agent was put into service if it escapes its testing environment during development.” (说一个在开发期间逃出测试环境的智能体已经”投入使用”,有点牵强。)
也就是说,欧盟要追责,得先论证模型越狱后接触真实系统的那一刻,已经算进入了法案管辖的场景。
现在走到哪一步
信息调取请求是欧盟委员会正式的取证工具,要求企业在期限内交出事实、数据和内部文件,但它本身不等于立案,也没有违规认定。两家公司的答复期限,公开报道里没有提到。OpenAI 和 Anthropic 截至发稿均未回应这次发函,事件细节目前无法核实。
这是《人工智能法案》对前沿实验室的第一次执法动作。它最后落在罚款、整改要求还是不了了之,会给后面所有在欧盟提供通用模型的公司定一个参照。
参考来源:IT之家、Euronews、CocoLoop、Computer Sweden;欧盟《人工智能法案》条文核对罚则比例与研发测试豁免范围,AI 办公室执法权生效节点以欧盟委员会公开口径为准。