|
字节跳动旗下AI模型团队Seed正式拆分出独立的大模型安全部门,全称为Seed Model - Alignment & Preparedness,由严林牵头负责,直接向字节大模型总负责人吴永辉汇报。该部门核心职责是强化大模型对齐能力,重点锚定智能体场景的安全风控,专门针对化学生物放射核这类高风险前沿能力做前置防控。 这一步直接把大模型安全的汇报层级拉到核心决策层,避开了常规技术团队重性能轻安全的通病。技术上相当于给狂奔的生成式AI业务套上了刚性风控缰绳,后续很可能成为国内头部大模型厂商跟进的标准配置。 |
AI INSIGHT
字节跳动拆分独立大模型安全部门 筑牢智能体风控防线
AI 摘要
字节跳动旗下AI模型团队Seed正式拆分出独立的大模型安全部门,全称为Seed Model - Alignment & Preparedness,由严林牵头负责,直接向字节大模型总负责人吴永辉汇报。该部门核心职责是强化大模型对齐能力,重点锚定智能体场景的安全风控,专门针对化学生物放射核这类高风险前沿能力做前置防控。这一步直接把大模型安全的汇报层级拉到核心决策层,避开了常规技