开放员工级外部监督 Anthropic豪掷30亿筑牢AI安全防线

Anthropic正式向外部评估团队开放等同内部员工级别的系统访问权限，直接用于排查旗下大模型的潜在失控风险。非营利机构METR已派驻团队入驻其办公场地，可直接调取硬件设备与内部核心系统的相关数据，双方约定Anthropic无权否决METR的风险分析报告，仅能申请删减特定敏感类信息。METR全程不收取Anthropic任何费用，资金全部来自个人捐赠、慈善组织以及英国人工智能安全研究所这类官方机构，完全保持评估独立性。

这背后Anthropic还拉通了埃森哲、SecureBio两家专业机构补全安全测试版图，三方各自承诺至少投入10亿美元搭建全链路AI安全防护体系，其中SecureBio专门负责核查化学与生物武器相关的特殊风险。技术上这套完全独立于企业内部的外部监督机制，相当于把大模型安全的核心环节直接放到公众视野下，直接拉高了头部AI厂商的安全合规门槛。