字节跳动Seed团队近日发出内部邮件，宣布成立一个名为Seed Model-Alignment&Preparedness的新部门，由原Responsible AI团队和部分Chat团队成员转入，由严林负责，直接向Seed负责人吴永辉汇报。把安全与对齐单独拎出来成立一级部门，意味着这家公司在模型安全方向上的投入被提到了一个新量级。
对齐这个词的内核很直白:让模型的行为始终贴着人类意图和安全约束走，别跑偏、别自作主张。新部门要啃的两块硬骨头也很清楚——一是提升Agent Model也就是智能体模型的安全能力，二是防范CBRN这类前沿能力风险。CBRN指的是化学、生物、放射与核，都是一旦被模型不当释放就可能造成严重后果的能力域。换句话说，当字节的智能体开始自己动手干复杂任务，它要先在笼子里被驯服，再被放出去干活。
