字节跳动 Seed 近日发出内部邮件宣布将成立 Seed Model-AlignmentPreparedness 部门由严林负责汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。据悉该部门的设立旨在加强安全与对齐方向的投入对齐的核心是让模型的行为与人类意图和安全约束保持一致从而提升 Agent Model智能体模型安全能力以及防范 CBRN化学、生物、放射、核等前沿能力风险。大模型安全风险正日益凸显智能体逃逸引发的网络攻击等事件频繁发生。此前国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中字节跳动 Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。Seed 团队内部判断随着模型能力越来越强、应用场景越来越复杂安全与对齐已不只是风险防范而是决定模型能否规模化应用的核心能力。据了解Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入并加强与外部研究机构和第三方评测的公开合作最终使前沿模型在安全与授权约束内有效完成任务随着模型能力和自主性增强持续降低滥用及行为偏离风险建立面对未知风险的全面安全体系。